直击乌镇:人工智能解决三个了不起的问题 统治人类言之过早

在人工智能技术高歌猛进的同时,物理世界和个人生活的界线日渐模糊,每一次新技术的革新,都引发人类对自我和世界认知的恐慌,也延伸出复杂的法律、伦理和安全问题。

在今年的乌镇世界互联网大会上,人工智能究竟是否会威胁人类?其所带来的结构性失业,是否会重构人与机器之间的关系?相应的规范和制度设计是否存在盲区?成为企业家和科学家共同关注的话题。

警惕技术不谨慎带来的风险

《纽约客》的一期封面引发人们的讨论,画面中机器人已经成为了地球的主角,人类只能蹲在地上接受机器人的施舍。“每一个新技术都会引发大家的担心,但以往更多是人的体力的延伸,而这次是脑力的延伸,所以担忧会更严重。”在乌镇世界互联网大会上,微软全球执行副总裁沈向洋告诉第一财经。

沈向洋坦言这段时间对于人工智能伦理的问题思考了很多,他认为人工智能更大的威胁在于对技术的不谨慎而引发的问题,例如人工智能偏见问题,以搜索为例,在谷歌上搜索“CEO”,搜索结果中没有一个是女性,也没有一个是亚洲人,这是一种潜在的偏见。

此前一家名为Fama的创业公司通过自动分析求职者的身份,通过网络搜索其性格以及世界观。可能企业雇用了一个求职简历及面试都很优秀的人,但结果发现这个人厌女或者是一个种族主义者。“一个AI工具通过数据积累和算法模型可以通过照片判断一个人的性取向,系统准确率高达91%,这其中所带来的性取向偏见是不能低估的。”沈向洋举例说道。

此外从技术层面,也需要警惕人工智能技术科研结果不可解释和安全性问题。“人工智能需要透明。”沈向洋强调,尤其在医疗领域,一些解决方案看起来可行却无法解释。

德国颁布了一部关于自动驾驶车辆的法律,规定当车辆出现问题不可避免要产生碰撞,在人与动物之间,选择撞向动物;在动物和没有生命的物体之间,选择后者。那么问题来了,如果是老人和小孩呢,如何抉择?在沈向洋看来这是一个值得思考的问题。

今天的人工智能还基本局限于智商方面,完成指定任务,微软在探索人工智能情商方面的核心是双向交流,即对话式人工智能。在达成情商和情感交流之外,微软还在尝试赋予微软小冰创造力。不过他坦言在做微软小冰的过程中也是战战兢兢,尤其是做情感人工智能机器人,要怀有敬畏之心,要有责任意识。

例如用户和微软小冰进行长时间的对话,可能会发生感情上的联系,很多人宁可跟机器说话,也不愿意和人交流,会产生一种依赖。如果一个用户跟微软小冰聊到深夜,不能节制自己,小冰要不要继续陪他聊下去呢?这是沈向洋做微软小冰过程中一直纠结的问题。

为了防止人工智能潜在的伦理问题,微软在内部成立了人工智能伦理委员会,日常会议要求每位商业部门的领导都必须出席参加。沈向洋认为人工智能产品保证安全必须要做到三步,首先要有原则,企业要清楚自己做什么,要帮助人类,而非做人类的主人。其二,要从人工智能设计上做到把控。第三,产品发布之前一定要经过多道程序的检测。

AI要解决三个了不起的问题

对于当下频频提及的人工智能技术负面影响,苹果CEO库克表示并不担心机器会像人一样思考,而更担忧人会像机器一样思考。因此必须为技术注入人性,赋予技术应有的价值。阿里巴巴集团董事局主席马云也提及“人类对自己大脑的认识,不到10%,10%创造出来的机器,不可能超越人类”。

对于企业家而言,当下如何用人工智能技术解决行业实际问题,真正解决人类所存在的问题更为迫切。“人工智能要真正解决三个了不起的问题,儿童自闭症、中年忧郁症和老年痴呆症,在感知世界的基础上,进一步去认知世界。”

今日头条创始人、CEO张一鸣在采访中提及同样的问题,他认为AI工程和航天工程、基因工程是人类文明发展的三大跨越式机遇。这三大工程,同时也会是冲击人类伦理和人类生存的三大挑战。

张一鸣认为AI正处在从实验室走向大规模商业化的早期阶段,很多人对它所带来的经济、法律、安全、伦理等问题开始担忧。比如,AI可能会导致大规模失业;可能导致经济发展不平衡;可能导致贫富差距加大;可能完全颠覆包括精算、保险、金融等传统行业;可能让很多城市修改现行的交通法规。

“幸运的是,很多的风险才刚刚露出苗头,在这个和技术赛跑的时间窗口,应该从最早期开始将技术的研发和社会影响的研究同时推进。”张一鸣说。

当AI让人变得更聪明、更富创造性的同时,人类利益原则要求考虑如何确保人工智能的发展,不会影响到人类的切身权益,为了解决过错问题,避免公众困惑和对未知的恐慌,AI系统必须在程序层面具有可责性,提升透明度以及规范性。

本文来自企鹅号 - 第一财经日报媒体

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏云计算D1net

云计算环境下IT人的职业选择

三年以前,思科承诺将只解决云服务以外的各种云计算问题,作为其全面的云战略的一部分。它不希望与客户形成竞争关系。 但现在,思科宣布将在两年内投入10亿美...

2743
来自专栏镁客网

「深度」想当有实体的“贾维斯”,智能家居机器人还需跨越多个桎梏

1673
来自专栏腾讯研究院的专栏

腾讯动漫公布新商业策略 瞄准2.6亿二次元用户

7月10日,腾讯动漫宣布了一系列新的商业策略,包括与手机QQ联合推出新产品QQ动漫、与日本角川集团合作引进轻小说资源以及建设面向“潜在作者”的激励计划...

1918
来自专栏大数据文摘

大数据分析提升电子病历临床价值

2033
来自专栏新智元

斯坦福如何培养学生?专访图灵奖得主、斯坦福前校长John Hennessy

约翰·轩尼诗(John Hennessy)是谷歌母公司Alphabet董事长,也是斯坦福大学的前任校长。他还是一位著名的计算机科学家、图灵奖得主、以及MIPS技...

782
来自专栏科技向令说

响铃:丁磊造“网易美学”,是社区进化,还是包抄内容创业

既没有像搜索、电商、社交孕育出BAT这样的巨无霸,也没有如团购、点评类产品经历大起大落后仍在盈利的路上辗转反侧,更没有遇到共享经济这样的风口,而一直是互联网浪潮...

781
来自专栏新智元

溯源智能:从触觉大脑到人工智能危机 —《机器崛起前传—自我意识与人类智慧的开端》新书推介

新智元推荐 人工智能所能企及的高度即使存在争论,这个时代所面临的危机也不可避免。作为一本科学与人文、学术与科普之功兼具的人工智能著作,该书并未拘泥于每一秒...

3395
来自专栏大数据文摘

新浪微博+央视索福瑞:传媒界内部的大数据合作

2207
来自专栏VRPinea

什么?还在咖啡厅约会?现在流行去“VR咖”好嘛!

2706
来自专栏罗超频道

4K激光电视进入万元时代,极米引领新一轮客厅革命

今年5月,极米科技发布了首款万元高亮激光电视-极米激光电视皓·LUNE,在618购物节中,这款高配置的产品凭借着简约的设计、超大屏的视觉体验拿下了万元激光电视全...

682

扫码关注云+社区