23条阿西洛马人工智能原则

人工智能的发展引人注目，看到波士顿动力公司的机器人视频，也会增加人们对于人工智能发展的危机感。所以必须有规则限制人工智能的发展方向，不可以使其危害人类，所以制定了阿西洛马人工智能原则。

2017年1月，在加利福尼亚州阿西洛马举行的Beneficial AI会议上，近干名人工智能和机器人领域的专家,联合签署了阿西洛马人工智能23条原则，呼吁全世界在发展人工智能的同时严格遵守这些原则,共同保障人类未来的伦理、利益和安全。阿西洛马人工智能原则(Asilomar AI Principles)是著名的阿西莫夫的机器人三大法则的扩展版本。

这23条准则由“生命未来研究所”牵头制定出，旨在确保人类在新技术出现时能顺利规避其潜在的风险。其突出核心成员有Stephen Hawking和Elon Musk等。这个组织专注于由新技术和问题构成的潜在威胁，如人工智能、生物技术、核武器和气候变化等。

目前为止，已经有多达1273名人工智能 /机器人研究人员和其他领域2541人签署支持这些原则。

原则目前共23项，分为三大类，分别为：科研问题（Research Issues）、伦理和价值（Ethics and values）、更长期的问题（Longer-term Issues）。

Research Issues科研问题

1、研究目的：AI研究的目标，应该是创造有益(于人类)而不是不受(人类)控制的智能。

2、研究经费：投资AI应该有部份经费()用于研究如何确保有益地使用AI，包括计算机科学、经济学、法律、伦理以及社会研究中的棘手问题，比如：如何使未来的AI系统高度健全(“鲁棒性”)，让系统按我们的要求运行，而不会发生故障或遭黑客入侵?如何通过自动化提升我们的繁荣程度，同时维持人类的资源和意志?如何改进法制体系使其更公平和高效，能够跟得上AI的发展速度，并且能够控制AI带来的风险?AI应该归属于什么样的价值体系?它该具有何种法律和伦理地位?

3、科学与政策的联系：在AI研究者和政策制定者之间应该有建设性的、有益的交流。

4、科研文化：在AI研究者和开发者中应该培养一种合作、信任与透明的人文文化。

5、避免竞争：AI系统开发团队之间应该积极合作，以避免安全标准上的有机可乘。

Ethics and values伦理和价值

6、安全性：AI系统在它们整个运行过程中应该是安全和可靠的，而且其可应用性的和可行性应当接受验证。

7、故障透明性：如果一个AI系统造成了损害，那么造成损害的原因要能被确定。

8、司法透明性：任何自动系统参与的司法判决都应提供令人满意的司法解释以被相关领域的专家接受。

9、责任：高级AI系统的设计者和建造者，是AI使用、误用和行为所产生的道德影响的参与者，有责任和机会去塑造那些道德影响。

10、价值归属：高度自主的AI系统的设计，应该确保它们的目标和行为在整个运行中与人类的价值观相一致。

11、人类价值观：AI系统应该被设计和操作，以使其和人类尊严、权力、自由和文化多样性的理想相一致。

12、个人隐私：在给予AI系统以分析和使用数据的能力时，人们应该拥有权力去访问、管理和控制他们产生的数据。

13、自由和隐私：AI在个人数据上的应用不能充许无理由地剥夺人们真实的或人们能感受到的自由。

14、分享利益：AI科技应该惠及和服务尽可能多的人。

15、共同繁荣：由AI创造的经济繁荣应该被广泛地分享，惠及全人类。

16、人类控制：人类应该来选择如何和决定是否让AI系统去完成人类选择的目标。

17、非颠覆：高级AI被授予的权力应该尊重和改进健康的社会所依赖的社会和公民秩序，而不是颠覆。

18、AI军备竞赛：致命的自动化武器的装备竞赛应该被避免。

Longer-term Issues更长期的问题

19、能力警惕：我们应该避免关于未来AI能力上限的过高假设，但这一点还没有达成共识。

20、重要性：高级AI能够代表地球生命历史的一个深刻变化，人类应该有相应的关切和资源来进行计划和管理。

21、风险：AI系统造成的风险，特别是灾难性的或有关人类存亡的风险，必须有针对性地计划和努力减轻可预见的冲击。

22、递归的自我提升：被设计成可以迅速提升质量和数量的方式进行递归自我升级或自我复制AI系统，必须受制于严格的安全和控制标准。

23、公共利益：超级智能的开发是为了服务广泛认可的伦理观念，并且是为了全人类的利益而不是一个国家和组织的利益。

如果喜欢我的文章，欢迎关注、点赞和转发，下面可以留言~~~