直击乌镇:人工智能解决三个了不起的问题 统治人类言之过早

在人工智能技术高歌猛进的同时,物理世界和个人生活的界线日渐模糊,每一次新技术的革新,都引发人类对自我和世界认知的恐慌,也延伸出复杂的法律、伦理和安全问题。

在今年的乌镇世界互联网大会上,人工智能究竟是否会威胁人类?其所带来的结构性失业,是否会重构人与机器之间的关系?相应的规范和制度设计是否存在盲区?成为企业家和科学家共同关注的话题。

警惕技术不谨慎带来的风险

《纽约客》的一期封面引发人们的讨论,画面中机器人已经成为了地球的主角,人类只能蹲在地上接受机器人的施舍。“每一个新技术都会引发大家的担心,但以往更多是人的体力的延伸,而这次是脑力的延伸,所以担忧会更严重。”在乌镇世界互联网大会上,微软全球执行副总裁沈向洋告诉第一财经。

沈向洋坦言这段时间对于人工智能伦理的问题思考了很多,他认为人工智能更大的威胁在于对技术的不谨慎而引发的问题,例如人工智能偏见问题,以搜索为例,在谷歌上搜索“CEO”,搜索结果中没有一个是女性,也没有一个是亚洲人,这是一种潜在的偏见。

此前一家名为Fama的创业公司通过自动分析求职者的身份,通过网络搜索其性格以及世界观。可能企业雇用了一个求职简历及面试都很优秀的人,但结果发现这个人厌女或者是一个种族主义者。“一个AI工具通过数据积累和算法模型可以通过照片判断一个人的性取向,系统准确率高达91%,这其中所带来的性取向偏见是不能低估的。”沈向洋举例说道。

此外从技术层面,也需要警惕人工智能技术科研结果不可解释和安全性问题。“人工智能需要透明。”沈向洋强调,尤其在医疗领域,一些解决方案看起来可行却无法解释。

德国颁布了一部关于自动驾驶车辆的法律,规定当车辆出现问题不可避免要产生碰撞,在人与动物之间,选择撞向动物;在动物和没有生命的物体之间,选择后者。那么问题来了,如果是老人和小孩呢,如何抉择?在沈向洋看来这是一个值得思考的问题。

今天的人工智能还基本局限于智商方面,完成指定任务,微软在探索人工智能情商方面的核心是双向交流,即对话式人工智能。在达成情商和情感交流之外,微软还在尝试赋予微软小冰创造力。不过他坦言在做微软小冰的过程中也是战战兢兢,尤其是做情感人工智能机器人,要怀有敬畏之心,要有责任意识。

例如用户和微软小冰进行长时间的对话,可能会发生感情上的联系,很多人宁可跟机器说话,也不愿意和人交流,会产生一种依赖。如果一个用户跟微软小冰聊到深夜,不能节制自己,小冰要不要继续陪他聊下去呢?这是沈向洋做微软小冰过程中一直纠结的问题。

为了防止人工智能潜在的伦理问题,微软在内部成立了人工智能伦理委员会,日常会议要求每位商业部门的领导都必须出席参加。沈向洋认为人工智能产品保证安全必须要做到三步,首先要有原则,企业要清楚自己做什么,要帮助人类,而非做人类的主人。其二,要从人工智能设计上做到把控。第三,产品发布之前一定要经过多道程序的检测。

AI要解决三个了不起的问题

对于当下频频提及的人工智能技术负面影响,苹果CEO库克表示并不担心机器会像人一样思考,而更担忧人会像机器一样思考。因此必须为技术注入人性,赋予技术应有的价值。阿里巴巴集团董事局主席马云也提及“人类对自己大脑的认识,不到10%,10%创造出来的机器,不可能超越人类”。

对于企业家而言,当下如何用人工智能技术解决行业实际问题,真正解决人类所存在的问题更为迫切。“人工智能要真正解决三个了不起的问题,儿童自闭症、中年忧郁症和老年痴呆症,在感知世界的基础上,进一步去认知世界。”

今日头条创始人、CEO张一鸣在采访中提及同样的问题,他认为AI工程和航天工程、基因工程是人类文明发展的三大跨越式机遇。这三大工程,同时也会是冲击人类伦理和人类生存的三大挑战。

张一鸣认为AI正处在从实验室走向大规模商业化的早期阶段,很多人对它所带来的经济、法律、安全、伦理等问题开始担忧。比如,AI可能会导致大规模失业;可能导致经济发展不平衡;可能导致贫富差距加大;可能完全颠覆包括精算、保险、金融等传统行业;可能让很多城市修改现行的交通法规。

“幸运的是,很多的风险才刚刚露出苗头,在这个和技术赛跑的时间窗口,应该从最早期开始将技术的研发和社会影响的研究同时推进。”张一鸣说。

当AI让人变得更聪明、更富创造性的同时,人类利益原则要求考虑如何确保人工智能的发展,不会影响到人类的切身权益,为了解决过错问题,避免公众困惑和对未知的恐慌,AI系统必须在程序层面具有可责性,提升透明度以及规范性。

本文来自企鹅号 - 第一财经日报媒体

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏VRPinea

11.12 VR扫描:光学系统公司收购苹果Face ID供应商Finisar;美图秀秀推出“毒液”AR特效

光学系统公司II-VI 32亿美元收购苹果Face ID系统供应商Finisar

25610
来自专栏程序员的知识天地

阿里员工揭秘:很多程序员离职,在小公司当领导,只动嘴不动手!

阿里巴巴是中国知名的互联网公司,每个人或多或少的都从淘宝上购买的物品,自从1998年成立到现在,里面人才济济,里面的程序员不仅工资非常的高,不少程序员年收入竟然...

15120
来自专栏人工智能头条

人工智能将走向何方?有一场盛会或许能给你一些启示

12520
来自专栏MixLab科技+设计实验室

设计师该成为乙方,还是甲方?

先明确下本文的所谓的甲乙方: ---- 乙方,为甲方提供设计服务,满足甲方的各种需求。 甲方,根据自身产品,统筹各项资源,领导团队打磨品牌。 ---- 简单来说...

47080
来自专栏新智元

溯源智能:从触觉大脑到人工智能危机 —《机器崛起前传—自我意识与人类智慧的开端》新书推介

新智元推荐 人工智能所能企及的高度即使存在争论,这个时代所面临的危机也不可避免。作为一本科学与人文、学术与科普之功兼具的人工智能著作,该书并未拘泥于每一秒...

35450
来自专栏科技向令说

响铃:丁磊造“网易美学”,是社区进化,还是包抄内容创业

既没有像搜索、电商、社交孕育出BAT这样的巨无霸,也没有如团购、点评类产品经历大起大落后仍在盈利的路上辗转反侧,更没有遇到共享经济这样的风口,而一直是互联网浪潮...

10510
来自专栏VRPinea

CESA 2017开幕在即,又要有哪些“黑科技”霸占你的朋友圈了?

32060
来自专栏罗超频道

4K激光电视进入万元时代,极米引领新一轮客厅革命

今年5月,极米科技发布了首款万元高亮激光电视-极米激光电视皓·LUNE,在618购物节中,这款高配置的产品凭借着简约的设计、超大屏的视觉体验拿下了万元激光电视全...

9420
来自专栏云计算D1net

云计算环境下IT人的职业选择

三年以前,思科承诺将只解决云服务以外的各种云计算问题,作为其全面的云战略的一部分。它不希望与客户形成竞争关系。 但现在,思科宣布将在两年内投入10亿美...

30030
来自专栏AI科技大本营的专栏

网易有道周枫:AI就是打杂的

如果追溯网易做教育的根源,2008 年推出的有道词典或许是开辟新大陆的开始。尽管按网易有道 CEO 周枫的说法,有学习属性的工具产品在某种程度上也是教育产品,但...

9120

扫码关注云+社区

领取腾讯云代金券