人工智能时代的隐忧:“舒服至死”

今年2月,《纽约时报》英文网站发表了一篇文章,指出如今非常热门的人工智能(AI)应用人脸识别,针对不同种族的准确率差异巨大。其中,针对黑人女性的错误率高达21%~35%,而针对白人男性的错误率则低于1%。

文章引用了麻省理工学院媒体实验室研究员Joy Buolamwini与来自微软的科学家Timnit Gebru合作的一篇研究论文《性别图谱:商用性别分类技术中的种族准确率差异》中的数据,而其来源是微软、IBM和旷视三家公司的人脸识别API(应用程序编程接口)。

“人工智能系统确实可能存在偏见。”5月21日,在由北京大学法学院和北京大学出版社共同举行的“人工智能及社会角色”主题论坛上,微软全球执行副总裁、微软人工智能及微软研究事业部负责人、美国工程院院士沈向洋对此回应道。他表示,导致偏见的原因是系统使用的训练数据集主要源自白人,而黑人很少。

实际上,论坛当天的主题“人工智能及社会角色”是沈向洋与微软总裁及首席法务官施博德共同主持撰写、已在美国出版的《未来计算:人工智能及社会角色》一书的副标题。虽然人工智能已经成为微软目前发力的主要方向之一,但沈向洋坦言,AI近年来的迅猛发展,确实带来了一些困惑,例如偏见、透明和责任等等,我们需要对它所带来的正面和负面影响作深入的思考,并及时作好应对的准备。

而在《未来计算》这本即将由北京大学出版社正式出版发行的书中,沈向洋和他的同事分别从人工智能的未来,负责任地使用人工智能的原则、政策和法律,以及人工智能与职业和工作的未来等三个方面进行了深入剖析,并分享了微软对于人工智能技术发展,以及如何让人工智能等科学技术为社会创造更多福祉等问题的思考。

总结公众目前对人工智能兴起的态度,北京大学法学院副教授、北京大学法律人工智能实验室/研究中心副主任江溯将之归纳为两种观点,一种是“热情拥抱论”,另一种是“AI威胁论”。对此,北京大学哲学系教授何怀宏认为,如今人类把体力和智能都已经外包了,还仅剩下智慧。如果把智慧也外包出去,那么未来人类就很容易受摆布,因此应当保留独特性。特别是一旦可以媲美,甚至超越人类智慧的强人工智能出现的话,如果人类没有保留自身的独特性,就很容易滑入深渊,“舒服至死”。

谈及AI发展可能会对当下社会带来怎样严重的现实问题,北京大学计算机系主任黄铁军表示,“对此并不担心”。他认为,AI是人类与未来对接的唯一手段。其脱胎于人类,与人类存在连续性,“如果人类要向前演化,人工智能的出现将是‘早晚的事’”。

作者:计红梅 来源:中国科学报

本文转载自科学网

http://news.sciencenet.cn/htmlnews/2018/5/413143.shtm

-END-

原文发布于微信公众号 - 专知(Quan_Zhuanzhi)

原文发表时间:2018-05-25

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏机器人网

最新科技的厨房机器人无所不能,还要家庭煮妇干嘛

最开始是机器人吸尘器,现在是机器人厨房电器。机器人开始回归大众想象中的家庭助手,工业企业似乎也正在押注于利用这一兴趣作为一种可行的市场营销策略。 Rotima...

2926
来自专栏罗超频道

过儿童节的成年人们,你们知道孩子与科技相处的正确姿势吗?

“国际儿童节,为每年6月1日。为悼念1942年利迪策惨案和全世界战争中死难的儿童,反对虐杀和毒害儿童,保障儿童权利而设立。”在许多大小朋友都在发着红包、卖着萌过...

5946
来自专栏量子位

中国自动化学会平行智能专业委员会成立

2018年8月18日上午,中国自动化学会平行智能专业委员会成立大会在中国科学院自动化研究所报告厅隆重举行。

1535
来自专栏IT派

社交帝国的至暗时刻,Facebook“非死不可”?

北京时间2018年7月26日,Facebook发布2018财年第二季度未经审计财报。

911
来自专栏ATYUN订阅号

斯坦福大学提出以人为本的AI计划,建立以人为本的AI研究所

我们已经到了一个真正历史性的转折点:社会正在被技术更快,更深刻地重塑。许多人称它为第四次工业革命,由5G无线技术,3D打印技术和物联网技术推动。但越来越多的,最...

1032
来自专栏新智元

【苹果万亿市值】要怀念乔帮主,但也要警惕在AI时代掉队

【新智元导读】8月的第二天,苹果成为全球第一家市值达1万亿美元的科技公司,超过了荷兰、土耳其等国家的GDP。然而,1997年苹果濒临破产,其股票交易价格低于1美...

1124
来自专栏PPV课数据科学社区

【观点】大数据:追捧与反思

? “大数据”仿佛一下子闯进人们的生活。“可能就像电影《黑客帝国》一样,每一个元素,包括每一个房间,每一张床,每一张机票的check-in,每一部汽车的位置,...

3496
来自专栏VRPinea

这些过去MWC上出现的黑科技,不信你没使用过!

3646
来自专栏灯塔大数据

IBM如何利用大数据来帮助中心城市对抗空气污染?

? 据《赫芬顿邮报》网络版报道,过去的一年中,IBM 一直都在利用自家的数据分析平台 Green Horizons 来帮助北京对抗空气污染危机。大概蓝巨人是觉...

4707
来自专栏CDA数据分析师

机器人的崛起将导致人类失业?经济学家并不这么看

翻译/校对: Mika 本文为 CDA 数据分析师原创作品,转载需授权 观看更多国外公开课,点击"阅读原文" 近年来,人工智能和机器人得到了突飞猛进的发展。这导...

40011

扫码关注云+社区

领取腾讯云代金券