人类难以监管AI的三个原因,马化腾老师钧鉴(附论文)

唐旭 编译自 Inverse 量子位出品 | 公众号 QbitAI

昨天马化腾在出席腾讯云未来大会时透露,端午期间他层短信回复广东省长:《人工智能可管可控可用,不用担心》。

然而要让AI能够对自己的行为负责,做起来可能没有说得那么容易。

最近,来自英国的三位研究者Sandra Wachter、Brent Mittelstadt和Luciano Floridi在《Science Robotics》发表了一篇论文,论文指出,对机器人进行监管是极为困难的,而随着人工智能的进一步普及,这也将成为一种越来越大的社会问题。

为什么机器人和AI将会难与管控?具体原因有三个:

问题之一:机器人和AI的多元性

关于在AI监管方面我们正在面临的问题,“随机暗网购物者”的出现便是一个例证。

2014年,一组来自瑞士的艺术家构建了一个AI,他们给了这个AI每周100比特币的预算,并对其进行编程,使得AI能够在Agora(一个暗网上的在线市场,购物者可以在上面购买到毒品以及其他一些违禁品)上随机购买商品。

最后,这个被命名为“随机暗网购物者”的AI买到了摇头丸、匈牙利护照、冒牌迪赛牛仔裤、带有隐蔽摄像头的棒球帽、开了洞能够存放现金的雪碧罐、香烟、耐克运动鞋以及一套指环王电子书……

因为非法购买行为,瑞士警察起初没收了这个机器人以及它所购买的物品,但后来又把东西还了回去(除了毒品)——而那些对此事负有责任的艺术家则并没有受到指控。

在这个案例中,尽管机器人有一个特定的目的,但造成其非法行为的初衷却是无害且偶然的,因此警方没有提出指控。

但不难想象,日后可能会有人带着更为不光彩的想法,利用AI做同样的事情。

这就是问题所在。“AI难以预测和多元化的特点让相关的法律编纂变得更为复杂,如果管得太宽,很可能会无形之中阻碍创新的步伐;而如果管得不够,极为有限的保护又会失去意义。”研究者们写道。

问题之二:透明度

利用神经网络来创建AI可以让它更好、更快地学习,但这么做意味着,你将不会明白AI为什么做出这些事情。

如今,为了让AI能够完成类似图像分析这种复杂任务,利用神经网络是一种非常成功的战略——然而,这种成功却让对AI行为的监管变得更为困难,因为这种“黑箱”正在越来越流行。

如果你不能看清“随机暗网购物者”在做的究竟是什么事情,那么判定其是否有害就变得几乎不可能了。

问题之三:结构

“不管包括在内的硬件、软件和数据如何混合在一起,对于公平性、透明度、可解释性和责任承担方面的关切都是平等的,它们起源相同,也应该被一起解决。”研究者们说。

我们更倾向于将机器人和AI视为不同的实体,但随着人脸识别这类软件越来越多地被机器人警察所应用,二者之间的界限正变得不再清晰。如果人脸识别软件带有种族主义偏见,我们就能创造出种族主义机器人警察,这意味着,我们将不得不对应用AI的机器人进行监管。

而如果AI也能建造AI——如同谷歌在今年I/O大会上展示的一样——事情将变得更为困难。

最后,要解决这一问题,需要极其精确的管控措施,以及能够对黑箱系统进行解释的方法,而这些我们目前都还未能做到。研究者们在报告中说:“民间关于机器人的法律决议也仍在努力确立更为严谨、准确的问责制度。”而随着AI的进一步铺开,问题将会变得更为严重。

想进一步查看上面提到的论文?可以在量子位微信公众号(QbitAI)后台回复:“监管”两个字。

原文发布于微信公众号 - 量子位(QbitAI)

原文发表时间:2017-06-22

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏PaddlePaddle

【AI资讯】深度学习的识别能力,不只“刷脸”?

亚马逊在2016年底发布了计算机视觉系统RekGoNeNe。此后不久,该公司开始向警方部门推广其作为打击犯罪的工具。近期,亚马逊和美国奥兰多警察局达成协商,此套...

883
来自专栏量子位

谁说Dota2赢了人类的AI太水?连比尔·盖茨都啧啧称赞了

963
来自专栏数据的力量

扁平化不等于组织效率

1805
来自专栏智能相对论

性侵犯如此猖獗,AI能提前将他们甄别吗?

从两位知名人士“亿友公益”创始人雷闯和“源头爱好者环境研究所”创始人冯永锋到被蒋方舟、易小荷站出来指认的章文,再到朱军。

952
来自专栏数据科学与人工智能

一个大学统计学教授推荐的统计学书单及书评

作者:李亚杰 陈樱 1 《女士品茶》 若说到统计学的科普书籍,这本书几乎是所有学过统计的人首推的一本。它不是一本女性读物,也不是一本介绍饮茶文化的书籍。如果只...

4673
来自专栏镁客网

iPhone X来临!从AI到AR, 终于看到苹果的又一次创新

1270
来自专栏镁客网

来自二维世界的忧愁:如何避免康康的悲剧再次重演?

1245
来自专栏企鹅号快讯

滑铁卢大学开发了一套AI工具,教泥瓦匠初学者搬砖诀窍

科技行者报道 来源:INSIDE SCIENCE 编译整理:科技行者 经验丰富的泥瓦匠通常具备老道的习惯性技巧和技术以减轻负载于身上的压力。然而,这些技巧并不总...

2007
来自专栏数据的力量

方法论:怎样练习一万小时

1002
来自专栏AI科技大本营的专栏

不要学人类以貌取人,AI须远离伪科学

光明的另一面,是黑暗。 就在人工智能为人们打开一扇无比美好的天窗时,阳光的照射,让屋子的背光面,蒙上一层阴影。 而这层阴影的始作俑者,可能并非名目张胆恐怖分子、...

3817

扫码关注云+社区

领取腾讯云代金券