牛津大学计算机系主任:如何把控人工智能

近年来,随着人工智能技术的快速发展,公众的担忧有所上升。最响亮的声音之一来自于已故的斯蒂芬·霍金教授,他认为人工智能可能会毁灭人类。那么,该如何看待人工智能的威胁?应该采取行动控制人工智能吗?是否要像对待核能和其他潜在危险的技术一样,制定法律甚至是国际条约来控制人工智能的发展?

回答这些问题之前,首先需要明确的是,人工智能的成就目前仍很有限。现在的人工智能系统能够执行20年前计算机不可能完成的任务。比如,现在全世界每天都有数以百万计的人在使用文本自动翻译工具;无人驾驶汽车即将问世,未来10年将出现在马路上;计算机现在比人更善于识别人脸等。尽管这些成就令人印象深刻,但人们还是不知道应该如何使机器具有意识和自我感知。因此,在可预见的未来,人工智能接管世界仍将是科幻小说的情节。当然这并不意味着我们可以高枕无忧。

人工智能系统越来越多地被用于做出决策,这对人们产生了直接影响。例如,银行发现人工智能系统善于预测潜在客户是否会成为优质客户——是否会按时还债等。他们可以通过使用大量的客户记录,来“培训”一个人工智能系统。一段时间后,这一系统将能够分析潜在客户的详细信息,从而预测其是否优质。对于银行来说,可以迅速而低廉地决定是否需要一个特定的客户。但对于客户自身而言,应该会感到担忧:如果银行的人工智能系统在某种程度上存在偏见怎么办?

这就是算法偏见。当前人工智能浪潮的一个特点是,系统无法像人那样,解释或合理化其所做的决定。所以,银行可能会使用人工智能系统来决定不与你做生意,但却不能给你解释原因。这公平吗?银行这样运作合乎道德吗?谁来对这个决定负责?

这些问题不容忽视。一种解决办法是,建议对人工智能技术的使用进行监管。我认为通过一般法律来管理人工智能的使用是不现实的,这似乎有点像试图通过立法来管理数学的使用。一个似乎正在被接受的办法是,如果软件做出了影响你的决定,那么你应该有权知道这个决定是如何做出的,使用了哪些和你有关的数据,标准是什么。我认为这比较合理。使人工智能可解释化和透明化,是当今这一领域面临的最大挑战之一。

在某些情况下,人工智能决策可能直接事关生死,比如在战场上使用人工智能系统。尽管目前还没有证据表明这种“致命性自主武器”已经被使用,但确实已经具备了可能性。过去5年来,人工智能领域的科学家们积极行动,希望政府认识到这一问题的严重性并做出应对。最近英国政府在一份报告中明确表示,永远不给人工智能系统伤害人的权力。

人工智能只是一种技术,就像任何技术一样,可以用来造福人类,也可能带来危害。条件反射式的立法,对于把控人工智能不太可能奏效。我们需要以负责和道德的方式使用人工智能,正如最近全球关于自主武器的讨论取得进展一样,国际社会需要应对解决人工智能带来的挑战。

(作者为英国牛津大学计算机系主任)

本文转载自科学网:

http://news.sciencenet.cn/htmlnews/2018/5/412244.shtm

-END-

专 · 知

原文发布于微信公众号 - 专知(Quan_Zhuanzhi)

原文发表时间:2018-05-16

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏镁客网

VR爆发,差的不只是一层窗户纸

1225
来自专栏云计算D1net

我们距离云还有多远?

在接受我们调查的4000多家中小企业中,51%的企业实际上还不知道云是什么 ,还没有听说过云;大约超过30%的企业听说过云计算;真正使用云的企业只有19%。 —...

41813
来自专栏人称T客

“AI+CRM”到底是噱头还是神油?

T客汇官网:tikehui.com 撰文 |方方 进入2017年,大数据应用解决方案逐步嵌入内容分析、深度学习等人工智能(AI)技术,使企业数字化转型面临更多机...

3925
来自专栏罗超频道

BAT大举入局,内容分发市场会成BAT的盘中餐吗?

日光之下,本无新事。2017年内容分发这个概念十分火爆,但从互联网诞生第一天起,内容分发之争就已开始,不论是昔日网景与微软争夺浏览器,还是雅虎所掀起的资讯革命,...

34311
来自专栏罗超频道

内容产业 BAT均已到齐,大家各有什么后手?

近日在一年一度的百度世界大会上,百度公布了内容生态战略,将以百家号为基础,打通内容生产、分发、变现三个环节。这是继李彦宏在Q1财报中首提内容战略、6月百度联盟峰...

2815
来自专栏PPV课数据科学社区

互联网金融出路在哪里?大数据用户挖掘告诉你

互联网金融盛极一时,背后却是烧钱做推广,用户转化低 中国传统金融覆盖面低,融资难、融资贵,资金配给效率相对低效,利润比较高,发展到现在已举步维艰,而移动互联网时...

3478
来自专栏数据猿

互联网金融出路在哪里?大数据用户挖掘告诉你

<数据猿导读> 中国传统金融覆盖面低,融资难、融资贵,资金配给效率相对低效,利润比较高,发展到现在已举步维艰,而移动互联网时代的到来以及与互联网+的有机融合发展...

3808
来自专栏程序员互动联盟

为什么说每个人都应该有台Mac电脑?

昨天跟一个朋友聊天,最近想买个电脑,让我给推荐款,我说国产的性价比都还可以作为开发用最好是cpu i5以上,内存至少也得8G了,网上一搜基本上一堆,推荐了半天最...

3495
来自专栏AI科技评论

动态 | 阿里全资收购中天微,加速Ali-NPU研发进程

AI 科技评论按:20 日上午,中兴通讯发布声明表示不能接受美国商务部对中兴的制裁,而全民关于中国芯的讨论依旧在持续。在这个关键的时间节点,阿里巴巴发布了关于芯...

1454
来自专栏BestSDK

Vungle SDK全球覆盖率超4万APP,年营收高达3亿美元

在经历全球迅猛扩展、客户势头强劲的一年之后,Vungle这个面向应用内视频广告的效果类广告平台今天宣布实现全球创记录增长,年度营收达3亿美元 (ARR),3亿美...

4597

扫码关注云+社区

领取腾讯云代金券