2017年AI领域的十大乌龙事件

今年,人工智能(AI)程序 AlphaGo 和 Libratus分别战胜了人类围棋和扑克界的最优秀选手。尽管这些里程碑式的成就,显示了近年来人工智能的巨大进步,但是依然有很多人对这项新兴技术的成熟性存有疑问–尤其是今年人工智能界发生的许多糗事。

新技术在出现之初,经常会犯一些人类不会犯的错误,这里就列举一些人工智能界2017年出现的比较引人瞩目的乌龙事件。

一张面具攻克苹果人脸识别事件

利用人脸识别技术来解锁iPhone X,被视为目前最安全的AI解锁方法,苹果公司宣称该方法出现错误的几率是百万分之一。越南一家名叫BKAV的公司,使用一个利用3D打印生成的价值150美元的塑料面具,再通过化妆术就攻克了这项技术。BKAV首先扫描被测试人员的面部,然后利用3D打印机产生面部模型,再在该模型上粘上纸剪的眼睛和嘴巴以及一个硅胶捏的鼻子。这个事件在业界激起轩然大波,提高对于消费设备隐私,以及AI技术安全的重视。

亚马逊的Echo智能音响引发报警事件

广受欢迎的亚马逊 Echo 是功能强大的智能音响。但是万事没有绝对。一个德国人不在家的时候,他的 Echo莫名其妙的打开了,开始在三更半夜大声播放音乐,并且惊扰了四邻。不堪其扰的邻居报了警,警察只能破门而入关闭了音响。

Facebook聊天机器人关机事件

今年七月,有件事备受关注,两个Facebook聊天机器人因以旁人看不懂的语言进行交流而被关闭。随后有关超智能语言的流言四起,Facebook不得不出来解释说这些神秘字符不过是语法编码的疏忽造成的。

拉斯维加斯自动驾驶巴士首秀撞车

今年11月的拉斯维加斯,一辆自动驾驶大巴在一片喧闹声中开始了她的首秀–魔术师Penn & Teller也在排队等候乘车的名人中。然而仅仅两个小时后,大巴就和一脸货车相撞。尽管在技术上,大巴对这次交通事故没有责任-但是乘客还是抱怨大巴不够智能,不能在卡车慢速接近的时候及时避开。

Google 即时通信工具Allo表情符号事件

一名CNN员工在使用Google Allo时发现,收到带头巾人的表情符号后,会自动回复一把手枪的符合。Google尴尬地解释说这个问题已经修复,并且发表声明进行道歉。

汇丰银行(HSBC)语音身份鉴别应用双胞胎事件

汇丰银行语音身份鉴别应用是采用AI技术的安全系统,可以帮组用户通过语音命令来访问各自的账户信息。尽管该银行声称该应用和指纹身份鉴别系统一样安全可靠。一名BBC记者的孪生兄弟,通过模仿记者的声音,经过七次尝试,最终进入了记者的账户。汇丰银行随后立即修改这个错误,把失败尝试的次数设置为三。

Google AI识“枪”为“机”事件

MIT的一个研究小组,通过对一张步枪照片进行简单调整,就骗过了Google的云视觉API,让其误认为直升机。这种方法,又称为“不利样本”,通过对图像进行人眼难以察觉的修改,来诱导计算机进行错误分类。在过去,只有攻击者知道目标计算机内部机理的情况下,不利样本才会有效。而MIT小组在不了解系统信息的情况,略施小计就引发的误分类。

修改道路标识欺骗自动驾驶汽车事件

研究者发现通过采用涂抹或者粘贴对“停止”标志进行仔细修改,可以让自动驾驶汽车对这些标志进行误判。把停止标志里的词改为“love”或者“hate”,可以欺骗自动驾驶汽车的机器学习系统,让其误以为是“限速45”标志,并且屡试不爽。

AI颜色命名事件

机器学习研究者 Janelle Shan训练一个神经网络来产生新的绘画颜色,并给每个颜色起个名字。颜色看起来赏心悦目,但是它们的名字确实千奇百怪。即使经过很少的训练,该模型依然将天蓝色标记为“灰色阴”,将暗绿色标记为“灰褐色”。

亚马逊虚拟助手Alexa购物事件

亚马逊虚拟助手Alexa可以帮组在线购物。但是有时候是不是过于热情了?在1月,圣迭戈新闻频道CW6报道称,一个6岁的小女孩只是告诉Alexa她想要个玩具屋,随后就“被订购”了 一个,价值170美元!这还不够,当电视里的主持人重复小女孩的话,说“我喜欢小女孩说‘Alexa 给我定一个玩具屋’”,一些观众家的Alexa “闻声而动“,忙不迭地下单给户主订购玩具屋!

本文分享自微信公众号 - CSDN技术头条(CSDN_Tech)

原文出处及转载信息见文内详细说明,如有侵权,请联系 yunjia_community@tencent.com 删除。

原始发表时间:2018-01-02

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏量子位

BAT人工智能生态时局图:全面战争爆发前夜

? 人工智能正在最关键的路口。 所谓的第四次工业革命,一定要结出实际的革命成果。广阔天地,谁能大有作为? 很多AI创业公司在各自的领域取得了突破,但具备强大的...

30880
来自专栏phodal

我的技术投资策略:如何决定学习哪一个新技术的?

软件开发不是一份稳定的工作:每年都会涌现一个又一个新的技术,每隔几年都会出现一些革命性的技术。尽管从代码、表现及差异上来看,新技术和旧的技术有一些概念上的相似,...

23090
来自专栏企鹅号快讯

AI时代,教育工作者必备的3大技能

来源:Getting Smart 作者:Raj Shah 智能观 编译 随着人工智能在各领域的应用,教育工作者已经可以预见教学方式的改变。 如果你是乐观主义者,...

18850
来自专栏企鹅号快讯

未来机器人大脑将获取互联网知识自我学习

所谓的“机器人大脑”就是一个大型计算系统,该系统可以学习所有公开、可用的互联网资源。为了能够成为家庭、办公室和工厂的好帮手,机器人需要学习和理解这个世界是如何运...

22550
来自专栏企鹅号快讯

NVIDIA把消费级显卡拒绝在数据中心门外

【IT168 评论】目前在全世界范围内有大约 3000 家人工智能公司,它们大部分都通过英伟达的平台来开发自己的业务。他们使用英伟达的 GPU 从而完成他们应用...

29170
来自专栏phodal

我的技术投资策略:如何决定学习哪一个新技术的?

软件开发不是一份稳定的工作:每年都会涌现一个又一个新的技术,每隔几年都会出现一些革命性的技术。尽管从代码、表现及差异上来看,新技术和旧的技术有一些概念上的相似,...

20090
来自专栏企鹅号快讯

漫话2017之科技那些事儿

科技 在这个波澜浮动忽明忽暗的时间长河里 一直不断地给予人类明亮与希望 前几天我们发布了 360搜索2017年度热搜榜 都有哪些科技圈的大事件上榜了呢 和360...

19670
来自专栏企鹅号快讯

企业技术展望:黑科技解放“黄金”劳动力

017年企业软件中机器学习的快速增长和吸收,这一趋势给不少人都留下了深刻的印象。2016年就已经有许多人都做出机器学习将在今年很有影响力的预测,创新的速度使其脱...

23380
来自专栏人工智能

深入机器学习系列12-高斯混合模型

高斯混合模型   现有的高斯模型有单高斯模型()和高斯混合模型()两种。从几何上讲,单高斯分布模型在二维空间上近似于椭圆,在三维空间上近似于椭球。在很多情况下,...

27690
来自专栏企鹅号快讯

机器人索菲亚:有学习创造力、同理心和同情心

今年,在沙特阿拉伯开创全球先例,将公民权发给一位人工智能机器人索菲亚(Sophia)。自此,能够与人类自在交谈的索菲亚颳起一阵旋风,有人对它的聪明对答鼓掌欢呼,...

22660

扫码关注云+社区

领取腾讯云代金券

年度创作总结 领取年终奖励