【Nature社论】人工智能威胁论绝非耸人听闻

【新智元导读】Nature日前发表社论，认为人工智能威胁论并非无稽之谈。社论指出，人工智能的发展有可能威胁隐私权和异议权，过于依赖人工智能将产生网络安全隐患，目前无人机等自主进攻武器尚存伦理问题，最重要的是机械取代人之后生产力提高的收益不一定能全社会共享，因此可能导致不平等现象加深。社论最后强调，技术发展应当与科学研究同步，这样技术才不会走偏道路。

原文标题：Anticipatingartificial intelligence

原文来源：Nature532, 413 (28 April 2016) doi:10.1038/532413a

2016年1月，美国华盛顿特区的信息技术与创新基金会将年度“卢德奖”（Luddite Award，译注：也被称为阻碍科技进步奖）授予了“2015年因警告世人人工智能或将毁灭人类而搞得公众惶惶不安的一群科学家和知名人士”。

获奖者——如果可以这么说的话——包括创业家伊隆·马斯克和物理学家史蒂芬·霍金。

2015年1月，马斯克和霍金都签署了一份公开信，主张研究、监管和道德框架确保人工智能对人类有益，并且保证“我们的人工智能系统必须做我们想让它们做的事情”。这哪谈得上“惶惶不安”。

随着人工智能与机器人技术、云计算和精准制造逐渐融合，未来将会出现引爆点，届时重大技术改变极有可能迅速发生。至关重要的是，机器人视觉和听觉的发展，加上人工智能，使得机器人能更好地感知周围的环境。这可能导致智能机器人应用激增，包括那些机器人将与人密切配合的应用。

就连学界对人工智能的讨论都倾向于呈两极分化：怀疑论者和异想天开的未来学家。不过，最近也出现了一种中立的共识，那就是人工智能有望对社会产生深远影响。对那些持怀疑态度的人而言，这种进步几乎就在眼前，要知道谷歌、丰田、Facebook、微软等公司可是一起往人工智能和机器人研究里砸了几十亿美元，他们都认为人工智能和机器人是下一波盈利浪潮的前沿。加快研究的努力必须要附带保全措施，以免陷入这些强大技术的潜在误区。

加州大学伯克利分校的计算机科学家StuartRussell对高估技术进步深表怀疑，也以其怀疑观点著称。Russell确信现在是时候评估并减少隐患了。Russell表示，有些技术已经到了可能朝潜在有害的方向发展的水平。Russell也是马斯克和霍金签署的那封公开信的主要推手。

那么，危险是什么呢？机器和机器人在各方各面超越人类是不争的事实，而且它们的利益不一定和我们相一致。这种极端情况——你无法排除——最引人关注。但要是你以为所有的担忧都是关于这个的那可就错了。

先看更近的危险，在一些细分领域人工智能完成作业的表现已经强过人类。很少有人预计互联网或其他技术会为情报机关和执法机构进行大规模、常常不加区别的监视打开道路，对隐私权和异议权产生威胁。人工智能可能使这样的监视变得更为普遍、更加强大。

再来是智能城市、基础设施和工业变得过于依赖人工智能而出现的网络安全问题，更不用说无人机和其他自主进攻武器系统能让机器自己做出攸关人命决定的威胁。

人工智能的第一波浪潮已经开始悄无声息地溶入我们的生活，从语音识别、搜索引擎到图像分类。在自动驾驶汽车和健康医疗中的应用指日可待，随后的浪潮可能改变经济、科学和社会中的大片区域。这些能带来可观的利益——但谁是受益者呢？

从历史上看，农业自动化和工业自动化造成了大量就业岗位消失，引发了深刻的社会变化，包括快速的城市化进程。但通常而言在服务和高新技术产业会创造新的就业机会以弥补那些消失的岗位。

很多专家担心人工智能和机器人现已准备好取代一度被视为超越机器能力的技术岗位，但新的就业机会从何而来还不得而知。或许对永久性大规模失业和阶级、种族、性别不平等现象加深的恐惧非常现实。

如果生产力提高所带来的财富增值能够人人共享，那么一个依赖于人工智能的社会可能得出好的结果。但就目前而言，大多数这样的好处都集中在企业及其股东资本手中，包括臭名昭著的1%。（译注：此处指占领华尔街运动的政治口号“我们就是那99%的人”。）

技术的进步与稳定、资金充足的科学研究同步发展至关重要，因为研究能够预测技术进步可能造成的结果，也能考察可行的政治和经济改革方案，从而使那些被机械取代的人对社会做出贡献。如果这看起来是卢德主义观点，那就这样吧。