专栏首页新智元【Nature社论】人工智能威胁论绝非耸人听闻

【Nature社论】人工智能威胁论绝非耸人听闻

【新智元导读】Nature日前发表社论,认为人工智能威胁论并非无稽之谈。社论指出,人工智能的发展有可能威胁隐私权和异议权,过于依赖人工智能将产生网络安全隐患,目前无人机等自主进攻武器尚存伦理问题,最重要的是机械取代人之后生产力提高的收益不一定能全社会共享,因此可能导致不平等现象加深。社论最后强调,技术发展应当与科学研究同步,这样技术才不会走偏道路。

原文标题:Anticipatingartificial intelligence

原文来源:Nature532, 413 (28 April 2016) doi:10.1038/532413a

2016年1月,美国华盛顿特区的信息技术与创新基金会将年度“卢德奖”(Luddite Award,译注:也被称为阻碍科技进步奖)授予了“2015年因警告世人人工智能或将毁灭人类而搞得公众惶惶不安的一群科学家和知名人士”。

获奖者——如果可以这么说的话——包括创业家伊隆·马斯克和物理学家史蒂芬·霍金。

2015年1月,马斯克和霍金都签署了一份公开信,主张研究、监管和道德框架确保人工智能对人类有益,并且保证“我们的人工智能系统必须做我们想让它们做的事情”。这哪谈得上“惶惶不安”。

随着人工智能与机器人技术、云计算和精准制造逐渐融合,未来将会出现引爆点,届时重大技术改变极有可能迅速发生。至关重要的是,机器人视觉和听觉的发展,加上人工智能,使得机器人能更好地感知周围的环境。这可能导致智能机器人应用激增,包括那些机器人将与人密切配合的应用。

就连学界对人工智能的讨论都倾向于呈两极分化:怀疑论者和异想天开的未来学家。不过,最近也出现了一种中立的共识,那就是人工智能有望对社会产生深远影响。对那些持怀疑态度的人而言,这种进步几乎就在眼前,要知道谷歌、丰田、Facebook、微软等公司可是一起往人工智能和机器人研究里砸了几十亿美元,他们都认为人工智能和机器人是下一波盈利浪潮的前沿。加快研究的努力必须要附带保全措施,以免陷入这些强大技术的潜在误区。

加州大学伯克利分校的计算机科学家StuartRussell对高估技术进步深表怀疑,也以其怀疑观点著称。Russell确信现在是时候评估并减少隐患了。Russell表示,有些技术已经到了可能朝潜在有害的方向发展的水平。Russell也是马斯克和霍金签署的那封公开信的主要推手。

那么,危险是什么呢?机器和机器人在各方各面超越人类是不争的事实,而且它们的利益不一定和我们相一致。这种极端情况——你无法排除——最引人关注。但要是你以为所有的担忧都是关于这个的那可就错了。

先看更近的危险,在一些细分领域人工智能完成作业的表现已经强过人类。很少有人预计互联网或其他技术会为情报机关和执法机构进行大规模、常常不加区别的监视打开道路,对隐私权和异议权产生威胁。人工智能可能使这样的监视变得更为普遍、更加强大。

再来是智能城市、基础设施和工业变得过于依赖人工智能而出现的网络安全问题,更不用说无人机和其他自主进攻武器系统能让机器自己做出攸关人命决定的威胁。

人工智能的第一波浪潮已经开始悄无声息地溶入我们的生活,从语音识别、搜索引擎到图像分类。在自动驾驶汽车和健康医疗中的应用指日可待,随后的浪潮可能改变经济、科学和社会中的大片区域。这些能带来可观的利益——但谁是受益者呢?

从历史上看,农业自动化和工业自动化造成了大量就业岗位消失,引发了深刻的社会变化,包括快速的城市化进程。但通常而言在服务和高新技术产业会创造新的就业机会以弥补那些消失的岗位。

很多专家担心人工智能和机器人现已准备好取代一度被视为超越机器能力的技术岗位,但新的就业机会从何而来还不得而知。或许对永久性大规模失业和阶级、种族、性别不平等现象加深的恐惧非常现实。

如果生产力提高所带来的财富增值能够人人共享,那么一个依赖于人工智能的社会可能得出好的结果。但就目前而言,大多数这样的好处都集中在企业及其股东资本手中,包括臭名昭著的1%。(译注:此处指占领华尔街运动的政治口号“我们就是那99%的人”。)

技术的进步与稳定、资金充足的科学研究同步发展至关重要,因为研究能够预测技术进步可能造成的结果,也能考察可行的政治和经济改革方案,从而使那些被机械取代的人对社会做出贡献。如果这看起来是卢德主义观点,那就这样吧。

本文分享自微信公众号 - 新智元(AI_era)

原文出处及转载信息见文内详细说明,如有侵权,请联系 yunjia_community@tencent.com 删除。

原始发表时间:2016-04-29

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

我来说两句

0 条评论
登录 后参与评论

相关文章

  • 【荐书】科大讯飞刘庆峰:人工智能产业化的未来地图

    【新智元导读】人工智能是大潮将至,还是概念泡沫?吴霁虹教授出了一本思考人工智能商业化的书,科大讯飞董事长刘庆峰推荐。 人工智能正在全球范围内掀起不可遏制的产业浪...

    新智元
  • 中国发布《新一代人工智能治理原则》, 致力发展负责任的人工智能

    中国国家新一代人工智能治理专业委员会17日在北京发布《新一代人工智能治理原则——发展负责任的人工智能》,明确提出和谐友好、公平公正、包容共享、尊重隐私、安全可控...

    新智元
  • 郑南宁院士:勿忘历史教训,避免 AI 研究“落入一张日益浮夸的网”

    1 新智元原创 从10月20日起,新智元将在微信公众号(AI_era)上陆续发布2016世界人工智能大会经讲者确认后的演讲稿和PPT,敬请关注。另外,点击...

    新智元
  • 以后的以后-人工智能

    AI-它是研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门新的技术科学。 ? 人工智能是计算机科学的一个分支,它企图了解智能的实质,并生...

    企鹅号小编
  • 在人工智能的浪潮中,我们会失业吗?

    原作者 Hope Reese 编译 CDA 编译团队 本文为 CDA 数据分析师原创作品,转载需授权 担心机器人会比你更胜任你的工作吗?人工智能专家预测这种情...

    CDA数据分析师
  • 【图说】15张图表看清人工智能发展现状

    1.人工智能市场概览 2. 各类人工智能公司数量统计 上图展示了各类人工智能领域的公司数量,我们可以从中看出都有哪些类别占据了当前的市场主导地位。机器学习(应用...

    钱塘数据
  • 阿里A.I. Labs王刚:找到合适的应用场景是实现AI商业化的关键

    用户1737318
  • 2017中国人工智能产业发展分析报告

    作者:易观数据 2017 年的科技领域,人工智能仍然呼声商涨,其技术开始越来越多的应用到日常生活中的方方面。A1phaGo ZERO碾压A1phaGo,实现自我...

    钱塘数据
  • 人工智能会“抢”走人类工作吗?

    ? 本文为CDA数据分析原创作品,转载需授权 “随着人工智能的逐步发展,未来30年人类每天只需要工作4小时,每周只工作4天。有更多工作被抢走,一些能顺应潮流的...

    CDA数据分析师
  • Science:2030年,或将改变生活的5项人工智能技术

    大数据文摘

扫码关注云+社区

领取腾讯云代金券