【业界】2017年回顾:10个人工智能失败案例

今年,人工智能程序AlphaGo和Libratus分别击败了世界上最优秀的围棋选手和扑克玩家。尽管这些里程碑表明了人工智能在近年来的发展程度,但许多人仍对新兴技术的全面成熟持怀疑态度——尤其是在过去12个月里,人工智能出现了一些问题。

我们是机器智能的爱好者,但我们也意识到一些新技术很难有效地执行任务。以下是我们对2017年失败的人工智能的总结。

由于面具而崩溃的Face ID

Face ID,即解锁新iPhone X的面部识别技术,被认为是有史以来最安全的人工智能激活方法,苹果称其被愚弄的几率为百万分之一。但随后越南公司BKAV用3d打印、硅胶、化妆品和剪纸制作的面具,将其破解。Bkav只是扫描了一个测试对象的面部,使用3D打印机来生成面部模型,并粘贴了一张眼睛和嘴巴的剪纸,还有一个硅胶鼻子。这一消息在业内引起了冲击,加大了消费者设备隐私和人工智能安全方面的风险。

亚马逊 Echo被意外激活

亚马逊Echo被认为是最稳健的智能音箱之一。但没有什么是完美的。一个德国人的Echo在他不在家的时候被意外地激活了,在午夜之后开始播放音乐,吵醒了邻居。他们给警察打了电话,警察不得不从前门破门而入,把音响关掉。警察离开时换了门锁,所以当那个人回家时,他的钥匙不能打开家门。

Facebook聊天机器人被关闭

今年7月,有报道称,两名Facebook聊天机器人在用人类无法辨认的语言相互交流后被关闭。一种新的神秘的超智能语言充斥着讨论板,直到Facebook解释说神秘的交流仅仅是由于语法编码的疏忽造成的。

拉斯维加斯的自动驾驶巴士在第一天就坠毁了

今年11月,一辆自动驾驶巴士在拉斯维加斯举行了首次公开亮相。然而,就在两小时内,这辆巴士与一辆运货卡车相撞。在技术上,巴士不必对事故负责,卡车司机也收到警方指控,但车上的乘客抱怨说,当卡车慢慢靠近时,自动驾驶汽车如果足够聪明,可以不受伤害。

谷歌Allo用头巾表情来回应持枪表情

CNN的一名工作人员通过谷歌Allo收到了一个戴着头巾的人的表情符号。这是对一个包含手枪的表情符号的回应。尴尬的谷歌向公众保证,它已经解决了这个问题,并发表了道歉声明。

汇丰银行的语音识别被孪生兄弟愚弄

汇丰银行的语音识别ID是一个人工智能的安全系统,允许用户使用语音指令访问他们的帐户。尽管该公司声称其和指纹识别一样安全,但BBC记者的孪生兄弟却通过模仿他的声音访问了他的账户,他尝试了7次。汇丰银行的直接补救措施是设置三次访问失败就锁定账户。

谷歌AI将步枪误认为直升机

通过略微调整步枪的照片,麻省理工学院的研究小组欺骗谷歌云视觉API,将图像错误的识别为直升机。这一伎俩,即不良样本,导致计算机通过引入人眼无法觉察的修改来对图像进行错误分类。过去,只有当黑客了解目标计算机系统的基本机制时,对抗的例子才会起作用。麻省理工学院的团队在没有获得这些系统信息的情况下,通过触发错误分类,向前迈出了一步。

街头标志愚弄自动驾驶汽车

研究人员发现,通过油漆或胶带的谨慎应用来阻止信号,可以欺骗自动驾驶汽车,把这些标识错误地分类。 用“爱”和“恨”这两个词修饰的停车标志,欺骗了一辆自动驾驶车的机器学习系统,在所有测试案例中,都将其误认为是“限速45”的标志。

AI为颜料提供了一些让人哭笑不得的名字

机器学习研究人员Janelle Shan训练了一个神经网络来生成新的油漆颜色以及可以“匹配”每种颜色的名称。颜色可能是令人愉快的,但名字令人哭笑不得。即使在用颜色名称数据进行少量训练之后,该模型仍然将天蓝色标记为“灰色耻骨”,将深绿色标记为“Stoomy Brown”。

不要轻易向Alexa提要求,你可能真的会得到它

亚马逊的Alexa虚拟助理可以让网上购物变得更容易。也许太容易了?今年1月,圣地亚哥新闻频道CW6报道称,一名6岁的小女孩仅仅通过请求Alexa就买了170美元的房子。这还不是全部。当电视主持人重复女孩的话时,她说:“我喜欢这个小女孩的话,‘Alexa给我订了一个娃娃屋’”,一些观众家里的Alexa装置再次被触发为其订购了玩偶屋。

原文发布于微信公众号 - ATYUN订阅号(atyun_com)

原文发表时间:2017-12-26

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏挖掘大数据

另类大数据:中国有嘻哈的rapper们都在唱些什么?

2017年下半年,钱多、戏多、话题多的《中国有嘻哈》突然带火了一众rapper,原来格格不入的嘻哈音乐突然变成了主流。数据统计显示,截至9月7日,《中国有嘻哈》...

2577
来自专栏机器之心

业界 | 《硅谷》中的「See Food」不仅是真实的应用,还有真实的故事

机器之心报道 作者:李泽南 「我们知道杨靖的 app 是在食品领域中的,但我们假设它的实现基于手机摄像头,」HBO《硅谷》第四季中硅谷的投资人这样说道。「比如,...

2944
来自专栏机器人网

构建变革制造业的焊接系统

ES200D(左)、MS210(右)的外观 机器人开发背景 点焊是汽车生产线必不可少的焊接方法之一。使用数量虽因产量而有所不同,但为成功组装汽车车身,平均每条生...

2786
来自专栏大数据文摘

可视化经典:10幅精妙绝伦的科学视图

1062
来自专栏AI科技大本营的专栏

连黄牛党都开始玩AI了,春节抢票不加钱是回不去了

采写 | Donna 编辑 | 波波,鸽子 最近,中国铁路总公司发布消息,暂不开放今年12月25日之后的火车票预售。若想购买12月25日之后的车票,最早要等到1...

2975
来自专栏PaddlePaddle

AI不思议|除了猜用户手绘图案,还能猜什么?

小伙伴们可能好奇,为什么AI猜拳能够做到如此神奇?不仅出拳速度快,还能够每次都赢?

1163
来自专栏量子位

对战全程视频!顶级高手苦练DOTA半辈子,就这样被AI击败

李林 若朴 假装发自 西雅图 量子位 报道 | 公众号 QbitAI 一直只听说你们AI圈要打星际,怎么忽然打起DOTA了! 今天一早,AI似乎震惊了不少同学:...

43710
来自专栏ATYUN订阅号

超级计算模拟和机器学习:使用更加清洁高效的工作流体发电

在传统的蒸汽动力装置中,剩余的水必须与发电蒸汽分开。这一过程限制了效率,而在早期的发电厂,可能会发生剧烈的变化,导致爆炸。在20世纪20年代,Mark Bens...

922
来自专栏PPV课数据科学社区

可视化经典:10幅精妙绝伦的科学视图

来源|译言网 作者|Dave Mosher 译者|Lineker 海量的科学数据可以通过艺术化的科学视图进行呈现,集合与美感相互交融,无序的信息大山化为纸面的五...

3398
来自专栏量子位

不好,两群AI打起来了!“幕后主使”是上海交大~

夏乙 若朴 发自 凹非寺 量子位 出品 | 公众号 QbitAI 你们这些科学家在干什么!怎么教会AI打群架啦! ? 成百上千的AI agent,分成两支AI大...

3965

扫码关注云+社区