2017年10个人工智能失败的例子

今年,人工智能项目AlphaGo和Libratus分别在围棋和扑克上完胜世界上最好的人类玩家。尽管这些里程碑显示了近几年人工智能取得的巨大进步,但许多人对新兴技术的整体成熟度持怀疑态度,尤其对过去12个月中出现的一些人工智能的失败产生失望。现在尽管我们大多人自然是机器智能的粉丝,但是我们也必须意识到一些新技术正在努力地有效地执行他们的任务,经常以人类不会犯错的方式出错。本文梳理了2017年度10个值得注意的人工智能失败的案例。

1、面具破解苹果公司的Face ID

Face ID是解锁新型iPhoneX的面部识别技术,被誉为迄今为止最安全的人工智能激活方法,苹果公司宣称被骗的几率为百万分之一。但随后越南公司BKAV使用由3D打印的塑料、硅胶、化妆品和镂空构成的价值150美元的面膜对其破解。 Bkav只是扫描一个测试对象的脸部,使用3D打印机生成一个脸部模型,并贴上剪纸眼睛和嘴巴和硅胶鼻子。这一破解事件给整个行业掀起了巨大的冲击,加大了消费者设备隐私的风险,更普遍的是人工智能设备的安全风险。

2、Amazon Echo 引得邻里报警

流行的Amazon Echo被认为是很强大的智能音响之一。但没有什么是完美的。一名德国男子的Echo在其不在家的时候被意外激活,并在午夜后开始响起音乐,吵醒了邻居。他们打电话报警,警察不得不打破前门,关闭了违规的音响。因为警察们还换了门锁,所以当这个人回来时,他发现他的钥匙不再工作。

3、Facebook 聊天机器人惨遭关闭

今年七月,广泛报道说两个Facebook聊天机器人以无法识别的语言相互沟通后被关闭。关于新的秘密超级智能语言的谣言一直在许多讨论区传播泛滥,直到Facebook后来澄清这种神秘的交流只是语法编码疏忽的结果方才作罢。

4、拉斯维加斯智能巴士首日开挂

一辆自动驾驶巴士在今年十一月在拉斯维加斯首次亮相,当时名流中的常驻魔术师佩恩 - 泰勒(Penn&Teller)也排队等候。然而在短短的两个小时内,这辆巴士就被一辆货车撞上了。尽管从技术上来说,这起事故并不是巴士的负责,而警方传讯了送货卡车司机,但是在这辆智能巴士上的乘客抱怨道,当卡车慢慢靠近的时,它不够智能而无法摆脱危险。

5、Google Allo使用头巾表情符号来回应枪支表情

美国有线电视新闻网(CNN)的工作人员通过Google Allo收到了一个戴头巾的人像的表情建议。原来这是由于包含手枪的表情符号引发的。尴尬的Google只得向公众保证,它已经解决了这个问题,并发表道歉。

6、双胞胎骗过汇丰语音ID的技术

汇丰银行(HSBC)的语音识别ID是一个以人工智能驱动的安全系统,允许用户通过语音命令访问他们的账户。尽管该公司声称它和指纹ID一样安全,但英国广播公司(BBC)的一名记者的双胞胎兄弟却能够通过模仿他的声音访问记者的账户。实验尝试了七次便得手。汇丰临时的解决办法就是确定账户锁定的阈值为三次失败尝试。

7、Google AI将步枪误判为直升机

通过微调步枪照片,麻省理工学院(MIT)的一个研究小组欺骗了Google Cloud Vision API,将其辨识为为直升机。这个技巧,即不良样本,会导致计算机通过引入人眼无法察觉的修改来对图像进行错误分类。过去,如果黑客知道目标计算机系统的基本机制,那么对抗的例子才会起作用。而麻省理工学院团队在没有获得这些系统信息的情况下,通过触发错误分类而向前迈进了一步。

8、路牌黑客技巧愚弄了自动驾驶汽车

研究人员发现,通过使用油漆或胶带小心制作交通停止标志,他们可以欺骗自动驾驶汽车对这些标志进行误分类。用“爱”和“憎恨”这两个词修饰的停车标志,欺骗了一辆自驾车的机器学习系统,在100%的测试用例中将其误认为是“限速45”的标志。

9、AI想象“Bank Butt”颜色的日落景色

机器学习研究人员Janelle Shan训练了一个神经网络,以产生新的油画颜色并对每种可以“匹配”颜色的名。尽管颜色可能赏心悦目,但名字却滑稽可笑。即使在用颜色名称数据进行少量训练之后,该模型仍然将天蓝色标记为“Gray Pubic”,将深绿色标记为“Stoomy Brown”。

10、向虚拟助手Alexa提问,可得小心谨慎

亚马逊Alexa的虚拟助理可以使网上购物更容易。也许是太容易了吧? 1月份,圣地亚哥新闻频道CW6报道说,一个六岁的女孩通过简单地向Alexa购买一个170美元的玩具屋。故事还没有结束。当播出的电视主持人重复了这个女孩的话,说:“我喜欢这个小女孩说,'Alexa请给我订个玩具屋',”结果一些收看节目的观众家里的Alexa设备再次触发订购玩偶屋。

原创声明,本文系作者授权云+社区发表,未经许可,不得转载。

如有侵权,请联系 yunjia_community@tencent.com 删除。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏企鹅号快讯

死亡不可避免,但何时死,人工智能或有发言权

中国有句老话,“阎王要你三更死,谁敢留你到五更”。死亡是生命必经的步骤,当它来临时,纵有亿万家财亦不能兑换生命。 ? 借用中医的老话,“药医不死病,医治有缘人”...

1908
来自专栏AI研习社

【AI 听】斯坦福 AI 算法辨别 Gay,30 秒发现九成肺癌乳腺,TensorFlow 新功能解锁……

主播 | 吴璇 选题 | 徐普 程炜 吴楚 后期 | 晋阳 本周关键词 斯坦福 AI 算法|农用机器人 医学影像识别|TensorFlow|今日头条人工智能 N...

2768
来自专栏大数据文摘

大数据遭遇数据净化难题

1946
来自专栏新智元

【白硕专栏】也谈类脑计算

随着人工智能的全面回潮,类脑计算火起来了。和上一次日本人忽悠五代机时的毫无准备相比,咱中国这次说起来也争气,科学家、企业和政府都早早做好了准备,信心满满整装待发...

2766
来自专栏大数据文摘

一位真正的科学思想家: 纪念人工智能之父Marvin Minsky教授

1826
来自专栏机器人网

韩国神人用Arduino微控制器,改造钢普拉成机器人能挥剑、会发光

来源:智慧机器人网 前有日本达人将近藤科学 KHR-3HV 机器人改装成 RX-93 ν 钢弹,如今也有韩国神人利用 Arduino 微控制器,展现绝佳创意将 ...

2716
来自专栏腾讯社交用户体验设计

[ISUX极选] 深圳最美摄影地

1414
来自专栏量子位

给无人车加个透视眼 | 斯坦福SCIL实验室最新Nature文章

拐角路口没有装凸面反光镜的话。 ? △ 别找凸面反光镜了……就是没有 老司机开车都得减速慢下来。 谁知道拐弯看不见的地方,会不会有人或小动物突然窜出来。 就更别...

2485
来自专栏量子位

机器狗get了撩妹传统技艺:像人类一样玩轮滑

波士顿动力那些踹不倒的机器狗、脚踩风火轮的机器人可谓是颠倒众生,迷死一片网友。 今天,瑞士传来最新消息,那里的科学家们在教机器狗学轮滑。 ? △ 就是这项运动 ...

3259
来自专栏机器人网

只需两个马达 自组装机器人可变身汽车人

迈克尔·贝执导的关于未来的电影中,汽车人半个前空翻就变形为直立机器战士。不过,就目前而言,这有点小儿科了。我们来看看自组装机器人的真容:一堆小磁立方体自如地在桌...

3319

扫码关注云+社区