专栏首页量子位重大里程碑:顶级科学家达成23条人工智能发展原则!

重大里程碑:顶级科学家达成23条人工智能发展原则!

作者 | 量子位 李林

今天AI领域都在谈论一件事。DeepMind表示,很自豪成为Asilomar人工智能原则的签署者,这是一个AI和伦理方面的重大进步。而硅谷钢铁侠伊隆-马斯克指出,顶级的AI研究人员在人工智能发展方面达成一致:开发对人类有益的人工智能。

这个原则在今年的Asilomar大会上达成。细节如下:

研究问题

1)研究目标

AI研究的目标,不是创造不受指导的智能,而是创造有益人类的智能。

2)研究资助

对人工智能的投资,应确保相关研发是有益人类的,包括计算机科学,经济学,法律,伦理和社会研究中的棘手问题,例如:

如何使未来的AI系统足够强大,不会发生故障或被黑客入侵? 如何通过自动化实现社会繁荣,同时维护人类的资源和目的? 如何推动法律制度更公平、更有效率,跟上AI的步伐,以及管理与AI相关的风险? AI应该与什么样的价值观相一致,它应该具有什么法律和伦理地位?

3)科学政策链接

AI研究人员和决策者之间应该建设性和健康的交流。

4)研究文化

应该在AI的研究人员和开发人员中培养合作,信任和透明的文化。

5)竞争避免

开发AI系统的团队应积极合作,以避免削减安全标准。

伦理和价值观

6)安全

AI系统在其整个使用寿命期内应安全可靠,并在可行的情况下可验证。

7)故障透明度

如果一个AI系统造成损害,应该能够确定原因。

8)司法透明度

任何自主系统参与司法决策都应提供令人满意的解释,并由人类权利机构审核。

9)责任

设计师和建设者,是先进人工智能系统的使用、滥用和行动道德意义上的利益相关者,他们有责任也有机会去塑造这些意义。

10)价值取向

设计高度自治的人工智能系统时,应该使它们的目标和行为,在整个运营过程中与人类价值观保持一致。

11)人类价值观

人工智能系统的设计和操作应符合人类尊严、权利、自由和文化多样性的理想。

12)个人隐私

人们应该有权访问,管理和控制他们产生的数据,因为AI系统有能力分析和利用这些数据。

13)自由和隐私

AI对个人数据的应用不得不合理地限制人们的真实或感知的自由。

14)共享利益

AI技术应该使尽可能多的人受益。

15)共享繁荣

AI创造的经济繁荣应该广泛分享,以惠及全人类。

16)人类控制

人类应该选择如何以及是否将决定权委派给人工智能系统,以完成人类选择的目标。

17)非颠覆

控制高度先进的人工智能系统所赋予的权力,它应尊重和改善而不是颠覆社会健康所依赖的社会和公民进程。

18)AI武器竞赛

应该避免进行致命自主武器的军备竞赛。

长期问题

19)能力注意

因为没有共识,我们应该避免关于未来人工智能能力上限的强烈假设。

20)重要性

高级AI可以代表地球上生命历史的深刻变化,应该通过相应的关怀和资源进行规划和管理。

21)风险

人工智能系统造成的风险,特别是灾难性或存在性风险,必须根据其预期影响进行规划和缓解的努力。

22)递归自我完善

被设计成以递归方式进行自我完善或自我复制,并可能导致快速提高质量或数量的AI系统,须采取严格的安全和控制措施。

23)公益

超级智能只应当为广泛共享的伦理理想,为了全人类的利益而不是一个国家或组织而服务。

本文分享自微信公众号 - 量子位(QbitAI),作者:李林

原文出处及转载信息见文内详细说明,如有侵权,请联系 yunjia_community@tencent.com 删除。

原始发表时间:2017-01-31

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

我来说两句

0 条评论
登录 后参与评论

相关文章

  • 日不落帝国下一个统领全球的领域:人工智能的伦理道德? | 附报告

    而当这样一个消息传到大西洋彼岸的英国,上议院的老爷们不仅为AI所造成的伦理问题困扰,还中二的发现了自己在人工智能浪潮中的历史使命:不是写论文或者搞算法,而是引领...

    量子位
  • 谷歌AI乳腺癌检测超过人类,LeCun质疑引起讨论,但平胸妹子可能不适用

    Google Health开发的AI系统实现了新的突破:在乳腺癌筛查上的准确性大大超过放射科医生。 最新的研究发表在Nature上,为AI进入临床诊断提供了有力...

    量子位
  • 5G+AI能带来什么新机遇?工业和学术界大咖带来一次深度剖析

    在刚刚落幕的2019爱奇艺世界·大会上,爱奇艺创始人CEO龚宇、爱奇艺首席技术官刘文峰等嘉宾在演讲中,多次提及人工智能等前沿技术带来的改变,创新技术成为一个非常...

    量子位
  • 一周AI看点 | 微软成立AI研究院挑战DeepMind 商汤科技4.1亿美元创AI行业融资纪录

    本期一周AI看点包括:技术前沿,行业,观点,应用以及投融资等方面。 技术前沿 ---- DeepMind研发全新AI系统 可让机器人自动躲避障碍物 谷歌负责人工...

    AI科技大本营
  • YY一下,扎克伯格做了一个什么样的AI家居助手?

    镁客网
  • 日不落帝国下一个统领全球的领域:人工智能的伦理道德? | 附报告

    而当这样一个消息传到大西洋彼岸的英国,上议院的老爷们不仅为AI所造成的伦理问题困扰,还中二的发现了自己在人工智能浪潮中的历史使命:不是写论文或者搞算法,而是引领...

    量子位
  • CB Insights百页AI报告|2017人工智能现状、创业图景与未

    AI 是新的电力——前百度首席科学家,Coursera联合创始人 Andrew Ng

    华章科技
  • 达沃斯群英纵论人工智能,核心观点汇总

    AI科技大本营按:一年一度的世界经济论坛年会(达沃斯论坛)已经召开了3天,该论坛历年均会聚集全球工商、政治、学术、媒体等领域的领袖人物,讨论世界所面临的最紧迫问...

    AI科技大本营
  • 为什么云计算如此重要:是从移动第一演进到AI第一的第一步

    目前,云计算仍处于起步阶段。多数大公司正在评估要转移多少人力物力到其中。它能把计算任务形成巨大的、集中式数据中心从而形成云,现有的大多数计算工作变成云将需要几年...

    静一
  • 现在,医疗 AI 发展的怎样了?

    几年前,《超能陆战队》热播的时候,暖男机器人大白俘获了许多迷妹的芳心,人人都想要个大白。而现在,这种 AI 医生可能不再是荧幕上的角色,而是真真正正地出现在了现...

    企鹅号小编

扫码关注云+社区

领取腾讯云代金券