【业界】2017年回顾:10个人工智能失败案例

今年,人工智能程序AlphaGo和Libratus分别击败了世界上最优秀的围棋选手和扑克玩家。尽管这些里程碑表明了人工智能在近年来的发展程度,但许多人仍对新兴技术的全面成熟持怀疑态度——尤其是在过去12个月里,人工智能出现了一些问题。

我们是机器智能的爱好者,但我们也意识到一些新技术很难有效地执行任务。以下是我们对2017年失败的人工智能的总结。

由于面具而崩溃的Face ID

Face ID,即解锁新iPhone X的面部识别技术,被认为是有史以来最安全的人工智能激活方法,苹果称其被愚弄的几率为百万分之一。但随后越南公司BKAV用3d打印、硅胶、化妆品和剪纸制作的面具,将其破解。Bkav只是扫描了一个测试对象的面部,使用3D打印机来生成面部模型,并粘贴了一张眼睛和嘴巴的剪纸,还有一个硅胶鼻子。这一消息在业内引起了冲击,加大了消费者设备隐私和人工智能安全方面的风险。

亚马逊 Echo被意外激活

亚马逊Echo被认为是最稳健的智能音箱之一。但没有什么是完美的。一个德国人的Echo在他不在家的时候被意外地激活了,在午夜之后开始播放音乐,吵醒了邻居。他们给警察打了电话,警察不得不从前门破门而入,把音响关掉。警察离开时换了门锁,所以当那个人回家时,他的钥匙不能打开家门。

Facebook聊天机器人被关闭

今年7月,有报道称,两名Facebook聊天机器人在用人类无法辨认的语言相互交流后被关闭。一种新的神秘的超智能语言充斥着讨论板,直到Facebook解释说神秘的交流仅仅是由于语法编码的疏忽造成的。

拉斯维加斯的自动驾驶巴士在第一天就坠毁了

今年11月,一辆自动驾驶巴士在拉斯维加斯举行了首次公开亮相。然而,就在两小时内,这辆巴士与一辆运货卡车相撞。在技术上,巴士不必对事故负责,卡车司机也收到警方指控,但车上的乘客抱怨说,当卡车慢慢靠近时,自动驾驶汽车如果足够聪明,可以不受伤害。

谷歌Allo用头巾表情来回应持枪表情

CNN的一名工作人员通过谷歌Allo收到了一个戴着头巾的人的表情符号。这是对一个包含手枪的表情符号的回应。尴尬的谷歌向公众保证,它已经解决了这个问题,并发表了道歉声明。

汇丰银行的语音识别被孪生兄弟愚弄

汇丰银行的语音识别ID是一个人工智能的安全系统,允许用户使用语音指令访问他们的帐户。尽管该公司声称其和指纹识别一样安全,但BBC记者的孪生兄弟却通过模仿他的声音访问了他的账户,他尝试了7次。汇丰银行的直接补救措施是设置三次访问失败就锁定账户。

谷歌AI将步枪误认为直升机

通过略微调整步枪的照片,麻省理工学院的研究小组欺骗谷歌云视觉API,将图像错误的识别为直升机。这一伎俩,即不良样本,导致计算机通过引入人眼无法觉察的修改来对图像进行错误分类。过去,只有当黑客了解目标计算机系统的基本机制时,对抗的例子才会起作用。麻省理工学院的团队在没有获得这些系统信息的情况下,通过触发错误分类,向前迈出了一步。

街头标志愚弄自动驾驶汽车

研究人员发现,通过油漆或胶带的谨慎应用来阻止信号,可以欺骗自动驾驶汽车,把这些标识错误地分类。 用“爱”和“恨”这两个词修饰的停车标志,欺骗了一辆自动驾驶车的机器学习系统,在所有测试案例中,都将其误认为是“限速45”的标志。

AI为颜料提供了一些让人哭笑不得的名字

机器学习研究人员Janelle Shan训练了一个神经网络来生成新的油漆颜色以及可以“匹配”每种颜色的名称。颜色可能是令人愉快的,但名字令人哭笑不得。即使在用颜色名称数据进行少量训练之后,该模型仍然将天蓝色标记为“灰色耻骨”,将深绿色标记为“Stoomy Brown”。

不要轻易向Alexa提要求,你可能真的会得到它

亚马逊的Alexa虚拟助理可以让网上购物变得更容易。也许太容易了?今年1月,圣地亚哥新闻频道CW6报道称,一名6岁的小女孩仅仅通过请求Alexa就买了170美元的房子。这还不是全部。当电视主持人重复女孩的话时,她说:“我喜欢这个小女孩的话,‘Alexa给我订了一个娃娃屋’”,一些观众家里的Alexa装置再次被触发为其订购了玩偶屋。

原文发布于微信公众号 - ATYUN订阅号(atyun_com)

原文发表时间:2017-12-26

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏C/C++基础

C#获取系统当前时间

ystem.DateTime currentTime=new System.DateTime(); 1.1 取当前年月日时分秒 currentTime=Sy...

1153
来自专栏张善友的专栏

Using sqlite with .NET

The other day I found that there is a .NET wrapper for sqlite. sqlite is a very ...

2278
来自专栏跟着阿笨一起玩NET

[C#]工具类—FTP上传下载

  不错的文章:http://www.cnblogs.com/greatverve/archive/2012/03/03/csharp-ftp.html

1171
来自专栏跟着阿笨一起玩NET

GB2312转换成UTF-8与utf_8转换成GB2312

1801
来自专栏海说

Java应用中常见的JDBC连接字符串(SQLite、MySQL、Oracle、Sybase、SQLServer、DB2)

Java应用中常见的JDBC连接字符串 Java应用中连接数据库是不可或缺的,于是便整理一些可能用到的JDBC的jar包及其相匹配的URL,以备日后查阅。 1)...

2720
来自专栏码匠的流水账

聊聊spring cloud的LoadBalancerAutoConfiguration

本文主要研究一下spring cloud的LoadBalancerAutoConfiguration

1022
来自专栏码匠的流水账

聊聊EurekaRibbonClientConfiguration

spring-cloud-netflix-eureka-client-2.0.0.RELEASE-sources.jar!/org/springframewor...

1161
来自专栏吴伟祥

Java Calendar 类的时间操作 原

Calendar 的 month 从 0 开始,也就是全年 12 个月由 0 ~ 11 进行表示。

773
来自专栏听雨堂

想修改CSS

      下载了一个“通用”的CSS文件,本来想偷懒的,结果发现有问题,就是它用的颜色是变量定义的,无法识别。我又找不到在哪里可以定义。 BODY{     ...

20410
来自专栏Pulsar-V

C#下各种获取时间的姿势

直接贴代码吧 DateTime dt = DateTime.Now; Label1.Text = dt.ToString();//2005-11-5 13:21...

3206

扫码关注云+社区