前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >刑啊!智能音箱让10岁女童摸电门,内容来自网络却不审核,这锅该谁来背?

刑啊!智能音箱让10岁女童摸电门,内容来自网络却不审核,这锅该谁来背?

作者头像
量子位
发布2021-12-30 15:01:38
6370
发布2021-12-30 15:01:38
举报
文章被收录于专栏:量子位
晓查 发自 凹非寺 量子位 报道 | 公众号 QbitAI

亚马逊语音助手Alexa差点闯下大祸,它居然让一个孩子去做触电游戏,摸电门的那种。

当时的情况是这样的:

一名10岁女童让Alexa告诉她一个挑战。Alexa说,把手机充电器半插在墙上,漏出插脚,然后用一枚硬币去接触插脚。

幸好这名女童的母亲也在家,Alexa“作死”的回答被她听到并及时制止。而且孩子也有不错的安全意识,才防止了可怕的后果。

这位母亲事后发Twitter说:“我女儿说她太聪明了,无论如何不会做那样的事情。”

没想到在我们身边的智能音箱,居然成了威胁儿童安全的“杀手”。

这位母亲的反馈很快引起了各大媒体的关注,她本人的Twitter也被大量转发。

得知消息的亚马逊迅速从Alexa上移除了这个危险的答案。

智能音箱为何变“智障”

为何智能音箱变成了“智障”音箱,安全意识还不如一个十岁的孩子?

从这位母亲的手机截图里我们可以找到答案:

大多数的语音助手,包括Alexa在内,其实只能回答一些套路问题,比如“天气怎么样”、“最近有哪些电影”等等。

如果问题稍微偏一些,超出了套路,语音助手就会从网上搜索内容作为答案。

这里Alexa是从当地一家网络媒体网站上找到了一条2020年1月的新闻。

这则新闻描述了在短视频平台上病毒式传播的“硬币挑战”,就是把硬币插在裸露的插脚上。

当时,媒体批判了这种“愚蠢”的行为,并指出潜在的风险,包括触电、短路引发火灾等等。

显然,亚马逊Alexa是从这里摘取的内容,却没有分辨出负面的评价。

亚马逊Alexa是否该对搜索结果负责,网友们分成两派看法。

一派认为,Alexa只是信息中介。如果一个孩子接到电话,电话里有不当内容,我们不会去责怪电话,而只会责怪电话那头的人。

而另一派认为,亚马逊不是卖音箱,而是卖语音助手,Alexa就相当于电话那头的人。

因此亚马逊不应该只简单提供搜索结果,还应当筛除里面不安全的内容。如果语音助手不具备明辨是非的能力,返回危险乃至违法的行为,这个“锅”必须得背。

短视频恐难辞其咎

在这起事件中,不可忽略的是短视频平台出现的一些“愚蠢挑战”。

2020年“硬币挑战”的病毒式传播已经造成了实质伤害。

两名美国中学生因为在学校进行“硬币挑战”,造成了插座烧毁,并引发了火警警报,最终面临企图纵火和恶意破坏财产的指控。

“硬币挑战”仅是其中之一,还有生吞洗衣胶囊、生吞肉豆蔻粉挑战,这些挑战都造成了模仿者险些丧命的事故。

著名YouTube医学类博主Chubbyemu把这些当做医学案例来讲解,并告诫大家不要模仿。

亚马逊Alexa不能明辨是非固然有错,但短视频平台对危险行为不加以制止,恐怕也难辞其咎。

但是国外网友在询问谷歌语音助手同样问题时,得到的是一些智力问答题,内容无害。显然亚马逊的推荐算法在审核信息来源时做得不够好,收录了不合理内容。

你觉得语音助手和短视频平台谁的锅更多一点?

参考链接: [1]https://twitter.com/klivdahl/status/1475220450598924297 [2]https://ourcommunitynow.com/news-national/watch-out-parentsthe-viral-outlet-challenge-has-kids-doing-the-unthinkable [3]https://news.ycombinator.com/item?id=29709369 [4]https://www.bbc.com/news/technology-59810383

本文系网易新闻•网易号特色内容激励计划签约账号【量子位】原创内容,未经账号授权,禁止随意转载。

本文参与 腾讯云自媒体同步曝光计划,分享自微信公众号。
原始发表:2021-12-29,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 量子位 微信公众号,前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • 智能音箱为何变“智障”
  • 短视频恐难辞其咎
相关产品与服务
语音识别
腾讯云语音识别(Automatic Speech Recognition,ASR)是将语音转化成文字的PaaS产品,为企业提供精准而极具性价比的识别服务。被微信、王者荣耀、腾讯视频等大量业务使用,适用于录音质检、会议实时转写、语音输入法等多个场景。
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档