如何辨析超级人工AI的伦理道德

源SingularityHub译宋天祥

假如存在一套统一的道德准则,那么能否使AI学会这些准则从而避免对我们造成伤害?这是英国卫报最近在一个原创短片中所探讨的问题。

在影片中,AI的创作者寻求伦理学家的帮助希望能够建立一套道德准则,让AI学会并遵守。显然,这并不是一件简单的工作。

在某些复杂情形下,道德伦理问题往往没有明确的界限,人类目前也没有能将道德伦理转化为一套能够明确量化规则的能力。更甚者,是否存在这样的规则也是值得怀疑的,因为从不同的角度看待问题,道德伦理问题常常需要权衡各类不同因素。

那么,我们怎样才能将道德准则教授给AI呢?如何能有效避免AI带来巨大伤害甚至彻底毁灭我们呢?这个属于科幻小说中的主题,却成了近年来AI争论的流行话题。

人类已经开始尝试展开对该领域的研究。例如,成立于2015年末期的OpenAI获得十亿美元的资金用于学习如何构建安全和友好的AI。在今年早些时候,AI领域专家聚集在加利福利亚的Asilomar探讨在AI领域有益于人类社会发展的最佳实践。

人类对AI是否会存有种族主义或性别歧视问题,反映出人类的偏见。由于人工智能只能从现有的数据中学习,但很多情况下,这些数据近乎全部来源于人类自身。

工程师坚信道德问题可以被“解决”,而且必然存在一套“明确的道德伦理准则”,而哲学家却认为这样的法则是不可能存在的,因为“道德需要被解释”。这和影片反映出的情况一样。

影片中的谈话有一种压迫感,AI一边在倾听一边自动调整算法,并作出合理答复。AI最关键的特征之一就是它自身不断提高的复杂计算速度以及该速度的加速度也将不断提高。如电影中工程师所说,“智能飞速发展远超出我们的想象。”

在影片中可以看出,当AI提出按照人类的决策做决定时(AI的理念是仅从历史的宗教领袖身上学习),这种想法让工程师和哲学家都感到不安。如果人工智能比我们更优秀,我们自然希望它在道德上也比我们更好。或者如影片中哲学家的所述:“毫无疑问,我们不能依赖人类来为人类制定出一套道德准则。”

如果人类不能给AI教授伦理道德,它终将会自我学习,那么接下来会发生什么呢?AI可能会决定我们人类赋予它的,人类无法处理的可怕力量是被取代抑或是被接管。

-END-

译者 翟向洋

目前是一名研究生,主要研究方向是基于深度学习的大数据分析挖掘,平时爱开发小程序,做点小应用,同时译者还酷爱健身~~

了解如何加入我们

本文来自企鹅号 - 小象媒体

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏ATYUN订阅号

DeepMind将部分健康业务移交谷歌,包括其开发AI应用Stream的团队

Deepmind宣布,移动应用程序Streams背后的团队将加入谷歌,这一程序可以帮助医生和护士为患者提供更快,更好的护理。

9320
来自专栏罗超频道

老将陈彤加盟一点资讯,移动资讯战事升级至“人”

今天一早看到传言,小米副总裁、“门户元老”陈彤将加盟一点资讯担任总裁一职。这则消息在经历了“例行辟谣”之后,最终得到坐实,陈彤将加盟担任总裁一职,同时兼任凤凰网...

36070
来自专栏JAVA高级架构开发

程序员如何从技术岗转为技术管理层?

有一个非常有趣的现象:据说大部分的技术管理者,在其从程序员转为管理岗位的时候,都是在领导或公司的要求下,被动的推到管理岗位上的,并非是自己当初有强烈意愿、主动去...

30500
来自专栏罗超频道

为什么说明星是直播平台的伟哥?

知乎上有一个问题,关于最近花椒等直播平台纷纷邀请范冰冰等明星做直播这个现象,如何评价。 ? 事实上,许多直播平台都曾玩儿“明星营销战略”,比如小鲜肉TFBOY...

36650
来自专栏人称T客

SaaS Insights | 衡量SaaS初创公司成功的五个指标

T客汇官网:tikehui.com 撰文 | 徐婧欣 ? 不可否认,无论是企业软件还是客户软件,SaaS 模式已经成为一种常态。订阅的方式已经被人们接受,而且短...

394100
来自专栏大数据文摘

霍金:人工智能可能导致人类灭亡

30480
来自专栏罗超频道

达康书记加入“开号”行列,内容平台上演明星争夺战

今年中国娱乐业最大黑马非《人民的名义》莫属。收视率和播放量爆棚的同时,已成为一种现象级电视剧,这在中国娱乐业已多年未见。这部电视剧也让达康书记的扮演者吴刚意外走...

34240
来自专栏罗超频道

微博视听节目服务被叫停,内容平台的品质之争才刚开始?

今天广电总局要求新浪微博、ACFUN等关停视听节目服务,这一通知一出,微博股价盘前大跌7.43%,市值蒸发12亿美金。 ? 不过即便如此,微博市值依然超过150...

37290
来自专栏Java架构沉思录

码农晋升为技术管理者后,痛并快乐着的纠结内心

有一个非常有趣的现象:据说大部分的技术管理者,在其从程序员转为管理岗位的时候,都是在领导或公司的要求下,被动的推到管理岗位上的,并非是自己当初有强烈意愿、主动去...

12120
来自专栏镁客网

在Siri面前,我要竖起一根食指左右摇晃

9620

扫码关注云+社区

领取腾讯云代金券