专栏首页量子位苹果外包爆料:你手机里的Siri,听到了嘿嘿嘿的声音

苹果外包爆料:你手机里的Siri,听到了嘿嘿嘿的声音

郭一璞 发自 西四环 量子位 报道 | 公众号 QbitAI

你跟Siri的对话,不光会被录下来,还会被外包公司监听分析。

这就是今日曝出的苹果隐私大新闻。

据《卫报》得到的苹果外包公司员工爆料,这些包含Siri被误唤醒时的内容,都将被一一记录分析。

录下来的内容包括病人和医生私下沟通的病情、商业机密、毒品等非法交易,甚至可能还有和爱人“嘿嘿嘿”的录音。

而且,这些录音除了声音之外,还附带了用户数据,包括录音发生的位置、联系方式和app应用数据,这些用户数据本来是用来验证你对Siri下的命令有没有被成功执行的。

虽然各种苹果设备里可能都有Siri,但最容易被窃听的是智能音箱HomePod,以及Apple Watch,毕竟手表容易被误触。

随身携带的电子设备,可能记下你说的话、所处的地理位置,以及各种app使用记录,那恐怕对于苹果公司而言,你已经没有什么秘密了。

外包们听到了你的小秘密

收集到之后,这些数据就会被苹果发送到全球各地的外包公司,外包公司靠这些录音来评估Siri的服务质量。

因此,外包公司的人类员工们可以听到各种苹果用户的隐私。

“你肯定能听到医生和病人讨论病史,有时候你还能听到在汽车引擎的轰鸣声里有人似乎在讨论毒品交易,甚至你还会听到有人嘿嘿嘿的时候刚好就被录了音。”爆料的外包公司员工这样说。

当然,传到外包公司的数据里,有一些是用户的正常唤醒,有一些是Siri意外被唤醒。外包公司的领导们让听录音的员工把意外唤醒报告出来,但只是当成一个bug来汇报。如果员工听到类似犯罪、个人隐私等敏感的声音,他们是没有流程来处理这些数据的。

“我们一直被催着干活,尽快完成这些工作,唯一需要汇报的内容是你在哪里听出了技术问题,完全不需要汇报录音内容本身记录了什么。”

听别人的隐私信息,对外包公司员工来说也是十分尴尬的事情。

更严重的是,爆料的员工意识到,外包公司没有什么像样的审核制度,所有人都能轻轻松松接触到大量的数据。而且,想要分辨出录音中的说话人并不是一件困难的事,尤其是Siri意外被唤醒的时候,说话人的地址、名字这些信息都能拿到。

一旦这些外包公司中有人心怀不轨,查明录音主角后,借此作恶并非难事。

苹果诚实吗?

那么,苹果这种把包含误唤醒的录音拿给外包真人听的行为,到底合不合规范?

如果询问Siri:“你是不是一直在听?”Siri会回答:“我只在你跟我说话的时候听。”忽视了意外唤醒的可能。

在隐私文档中,苹果明确说了Siri的数据与用户使用其他苹果应用的数据无关,不会连接到其他应用数据上去,也不会和Apple ID联系起来。

并且Siri的官方网站也说明,Siri会在本地进行离线学习,个人信息也不会被买个广告商等组织,“而端到端隐私加密,确保了他人无法获取你设备之间同步的信息,就连 Apple 也不例外。”

重点来了,苹果的隐私网站上也写着:

在获得你明确同意的前提下,Apple 可通过分析你的 iCloud 使用情况和从你账户收集的数据,进一步改进 Siri 及其他智能功能。我们只会对已经过隐私保护强化技术处理的数据进行分析,这样可确保它们无法关联到你本人或者你的账户。

也就是说,进行分析的数据都是“经过隐私保护强化”的,不应当轻易地被人分辨出事主是谁。

至于拿到数据后分析的过程,苹果没有明确说过是真人在分析,还是机器在分析。

但是,就在今年的CES上,苹果还曾经为保护用户隐私打出宣言:“在iPhone里发生的,就只会留在iPhone上。”

这就尴尬了,很难说,苹果的隐私承诺里是否有猫腻。

针对《卫报》这篇报道,苹果也做出了回应:

Siri的一小部分请求被拿来做分析,以改善Siri的能力。用户的指令和他们的Apple ID无关。Siri的响应在安全设施中分析,所有审核人员都有义务遵守苹果严格的保密要求。只有不到每日Siri响应的1%被用于评估,而且这些录音通常只有几秒钟。

这样看来,借助外包公司雇佣真人听Siri的录音,苹果官方是承认的了。

翻车的不只苹果

让人类听智能助手的录音,苹果不是第一个翻车的。

今年4月,亚马逊就被爆出人工智能语音助手Alexa和用户的沟通都被录下来,亚马逊的员工会听到这些录音,借此来开发新的服务。

另外不久前,Google Assistant也被比利时公共广播公司VRT爆料说,有外包团队负责听智能助手的录音。而且虽然谷歌说只有0.2%的录音会被送去外包公司,但VRT发现,实际上录音没有脱敏,完全可以通过讨论的内容辨别出包括用户的地址、亲友姓名、感情生活之类的隐私信息。

对训练AI来说,标注数据集是逃不开的需要,但如果涉及用户隐私,则总会令人闻之色变。

AI助手厂商们,该行动起来了。

参考链接: 1、https://www.theguardian.com/technology/2019/jul/26/apple-contractors-regularly-hear-confidential-details-on-siri-recordings 2、https://www.apple.com/cn/privacy/approach-to-privacy/ 3、https://www.apple.com/cn/siri/

作者系网易新闻·网易号“各有态度”签约作者

本文分享自微信公众号 - 量子位(QbitAI),作者:关注前沿科技

原文出处及转载信息见文内详细说明,如有侵权,请联系 yunjia_community@tencent.com 删除。

原始发表时间:2019-07-27

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

我来说两句

0 条评论
登录 后参与评论

相关文章

  • 硬盘变身窃听器!无需改装,无需麦克风,参数被赞媲美CD | 密大&浙大黑科技

    你的手机可能在监听你,你的电脑可能泄露自己的数据,你的智能音箱也可能把你的悄悄话上传到千里之外。

    量子位
  • 这一次,MIT的科学家让谷歌AI把步枪误认成直升机

    安妮 编译整理 量子位 出品 | 公众号 QbitAI 这是什么? ? 熟悉枪械的盆友可能一眼就认出这是步枪,即使对枪种类不熟悉的同学也能认出这最可能是枪。 但...

    量子位
  • 视频网站Netflix说:以后俺们的顾客是AI,人类靠边站(???)

    问耕 编译自Quartz 量子位·QbitAI 出品 [手动黑人问号脸] 这届巴展怎么了,怎么这么爱谈人工智能,怎么这么爱语出惊人??? 继前日孙正义语出惊人之...

    量子位
  • Kali Linux Web渗透测试手册(第二版) - 3.8 - 使用Burp Suite的重放功能

    thr0cyte,Gr33k,花花,MrTools,R1ght0us,7089bAt

    用户1631416
  • 开源实时监控系统CAT 3.0发布:多语言客户端及多项性能提升

    CAT(Central Application Tracking),是美团点评基于 Java 开发的一套开源的分布式实时监控系统。美团点评基础架构部希望在基础存...

    美团技术团队
  • 24小时挖矿实验

    关于加密货币,我并不是这方面的专家,而且我了解这方面也比较晚。我也没有资格告诉你比特币是你能做的最好的投资,事实上,我对此持保留态度。我知道加密货币是“去中心化...

    Hans He
  • 24 小时加密货币挖矿实验

    原文地址:https://hackernoon.com/24-hours-of-crypto-mining-experiment-d9300f0ec0ac

    Tnecesoc
  • 基因组从头测序(de novo)相关软件

    回顾一下: 在使用aspera从SRA数据库得到二代测序的原始数据之后,我们使用ncbi的sratoolkit做过数据格式转化,然后使用fastqc做了质量分析...

    HUBU生信
  • Use bonnie++ to Test system IO speed[修正稿]

    http://www.eygle.com/unix/Use.Bonnie++.To.Test.IO.speed.htm

    数据和云01
  • 一分钟读懂兼容报告——行业对标数据助你定位产品状况

    ? 通过兼容测试服务,用户在拿到一份数据详细的兼容测试报告后,可以直观看到产品自身的兼容性问题,如安装失败、UI异常、闪退等现象。在上一期《一分钟读懂兼容测试...

    WeTest质量开放平台团队

扫码关注云+社区

领取腾讯云代金券

玩转腾讯云 有奖征文活动