直击乌镇:人工智能解决三个了不起的问题 统治人类言之过早

在人工智能技术高歌猛进的同时,物理世界和个人生活的界线日渐模糊,每一次新技术的革新,都引发人类对自我和世界认知的恐慌,也延伸出复杂的法律、伦理和安全问题。

在今年的乌镇世界互联网大会上,人工智能究竟是否会威胁人类?其所带来的结构性失业,是否会重构人与机器之间的关系?相应的规范和制度设计是否存在盲区?成为企业家和科学家共同关注的话题。

警惕技术不谨慎带来的风险

《纽约客》的一期封面引发人们的讨论,画面中机器人已经成为了地球的主角,人类只能蹲在地上接受机器人的施舍。“每一个新技术都会引发大家的担心,但以往更多是人的体力的延伸,而这次是脑力的延伸,所以担忧会更严重。”在乌镇世界互联网大会上,微软全球执行副总裁沈向洋告诉第一财经。

沈向洋坦言这段时间对于人工智能伦理的问题思考了很多,他认为人工智能更大的威胁在于对技术的不谨慎而引发的问题,例如人工智能偏见问题,以搜索为例,在谷歌上搜索“CEO”,搜索结果中没有一个是女性,也没有一个是亚洲人,这是一种潜在的偏见。

此前一家名为Fama的创业公司通过自动分析求职者的身份,通过网络搜索其性格以及世界观。可能企业雇用了一个求职简历及面试都很优秀的人,但结果发现这个人厌女或者是一个种族主义者。“一个AI工具通过数据积累和算法模型可以通过照片判断一个人的性取向,系统准确率高达91%,这其中所带来的性取向偏见是不能低估的。”沈向洋举例说道。

此外从技术层面,也需要警惕人工智能技术科研结果不可解释和安全性问题。“人工智能需要透明。”沈向洋强调,尤其在医疗领域,一些解决方案看起来可行却无法解释。

德国颁布了一部关于自动驾驶车辆的法律,规定当车辆出现问题不可避免要产生碰撞,在人与动物之间,选择撞向动物;在动物和没有生命的物体之间,选择后者。那么问题来了,如果是老人和小孩呢,如何抉择?在沈向洋看来这是一个值得思考的问题。

今天的人工智能还基本局限于智商方面,完成指定任务,微软在探索人工智能情商方面的核心是双向交流,即对话式人工智能。在达成情商和情感交流之外,微软还在尝试赋予微软小冰创造力。不过他坦言在做微软小冰的过程中也是战战兢兢,尤其是做情感人工智能机器人,要怀有敬畏之心,要有责任意识。

例如用户和微软小冰进行长时间的对话,可能会发生感情上的联系,很多人宁可跟机器说话,也不愿意和人交流,会产生一种依赖。如果一个用户跟微软小冰聊到深夜,不能节制自己,小冰要不要继续陪他聊下去呢?这是沈向洋做微软小冰过程中一直纠结的问题。

为了防止人工智能潜在的伦理问题,微软在内部成立了人工智能伦理委员会,日常会议要求每位商业部门的领导都必须出席参加。沈向洋认为人工智能产品保证安全必须要做到三步,首先要有原则,企业要清楚自己做什么,要帮助人类,而非做人类的主人。其二,要从人工智能设计上做到把控。第三,产品发布之前一定要经过多道程序的检测。

AI要解决三个了不起的问题

对于当下频频提及的人工智能技术负面影响,苹果CEO库克表示并不担心机器会像人一样思考,而更担忧人会像机器一样思考。因此必须为技术注入人性,赋予技术应有的价值。阿里巴巴集团董事局主席马云也提及“人类对自己大脑的认识,不到10%,10%创造出来的机器,不可能超越人类”。

对于企业家而言,当下如何用人工智能技术解决行业实际问题,真正解决人类所存在的问题更为迫切。“人工智能要真正解决三个了不起的问题,儿童自闭症、中年忧郁症和老年痴呆症,在感知世界的基础上,进一步去认知世界。”

今日头条创始人、CEO张一鸣在采访中提及同样的问题,他认为AI工程和航天工程、基因工程是人类文明发展的三大跨越式机遇。这三大工程,同时也会是冲击人类伦理和人类生存的三大挑战。

张一鸣认为AI正处在从实验室走向大规模商业化的早期阶段,很多人对它所带来的经济、法律、安全、伦理等问题开始担忧。比如,AI可能会导致大规模失业;可能导致经济发展不平衡;可能导致贫富差距加大;可能完全颠覆包括精算、保险、金融等传统行业;可能让很多城市修改现行的交通法规。

“幸运的是,很多的风险才刚刚露出苗头,在这个和技术赛跑的时间窗口,应该从最早期开始将技术的研发和社会影响的研究同时推进。”张一鸣说。

当AI让人变得更聪明、更富创造性的同时,人类利益原则要求考虑如何确保人工智能的发展,不会影响到人类的切身权益,为了解决过错问题,避免公众困惑和对未知的恐慌,AI系统必须在程序层面具有可责性,提升透明度以及规范性。

本文来自企鹅号 - 第一财经日报媒体

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏AI科技评论

深度丨李开复 6000 字长文,揭开 AI 创业的 10 个真相

“重仓”人工智能,是李开复和创新工场未来几年的方向。但是,他面临一个很重要的问题:现在的 AI 创业,核心是 AI 科学家,而“文能起笔安天下,武能上马定乾坤”...

3319
来自专栏AI科技大本营的专栏

中国AI专利申请量超美国,百度居国内首位

随着人工智能成为新一轮科技革命和产业变革的重要驱动力量,AI 成为科技企业研发重点,专利申请量也在逐年提升。

372
来自专栏AI科技大本营的专栏

AI一分钟|Google推出微信小程序;马斯克等抵制AI武器

近日据彭博社报道,一度保持神秘的无人驾驶汽车创业公司 Zoox,即将成功融资 5 亿美元(约合人民币 33.54 亿元),交易后估值将达到 32 亿美元(约合人...

802
来自专栏新智元

激辩!人工智能和理性伦理之争

总结:现在可能距离广泛采用人工智能软件那天还早,但是出现了一些在技术、监管和社会层面上不得不解决的问题。 “技术不好不坏,也不是中性的。” 这是1985年,一...

3585
来自专栏TEG云端专业号的专栏

一篇来自于腾讯技术派大咖的12年经验分享,值得珍藏!

1836
来自专栏灯塔大数据

大数据时代 学习可否赢得自由

扫二维码签到上课,喝杯咖啡的工夫选感兴趣的内容学学,然后进微信课堂跟老师同学们讨论…… 今后,上班族充电不用再老老实实坐回教室听课,而是每个人都有一套为自己量...

3515
来自专栏一对一直播

短视频APP开发:我想打造新闻资讯短视频APP

六十年代,新闻是人们看世界的唯一窗口,八十年代,看新闻是全家人的集体活动,现在,短视频成了人们的手中宝,新闻,不是年轻人的范儿。

570
来自专栏数据派THU

【独家】韩亦舜:大数据革命与新经济分析

本文长度为2200字,建议阅读5分钟 本讲座为清华大学数据科学研究院执行副院长韩亦舜于2016年7月14日在首届中国大数据应用大会上所做的题为《大数据革命与新经...

1877
来自专栏新智元

【4600万美元】自动驾驶新星Momenta获B轮融资,蔚来领投

【新智元导读】 自动驾驶初创公司 Momenta 今日宣布获得B轮4600万美元投资。Momenta成立于2016年9月,致力于打造自动驾驶大脑。核心技术包括基...

3146
来自专栏云计算D1net

联想亟待提升软实力 云是下一个金矿

悄然掌控联想云服务业务集团这一新兴的机构,让贺志强再次充满了创业的激情,在联想的15年间,作为CTO的他,创新无时无刻不写在脸上、心间,而云,是他的再一次创业,...

3245

扫码关注云+社区