首页
学习
活动
专区
工具
TVP
发布

便利、快乐与隐私何以兼得?AI的花式诈骗让人防不胜防

“ZAO”这款软件在8月31日登上了微博热搜前十,不到24小时后,还登上了苹果应用商店免费App下载排名榜首位。

但由于在最初的版本中,用户需要授权ZAO“在全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利……”被疑存在平台风险和隐私风险。

在用户协议条款引发大量争议后,AI换脸App“ZAO”更新了隐私协议以及用户协议。在新版协议中,此前颇受争议的“您同意或者确保实际权利人同意授予ZAO及其关联公司以及ZAO用户全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利”,以及“如果您把用户内容中的人脸换成您或其他人的脸,您同意或确保肖像权利人同意授予ZAO及其关联公司全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利”两段表述已经删去。

在新版协议中,ZAO表示用户上传的内容仅限用于“您提供上传/发布短视频以及利用技术对平台上的短视频进行局部修改生成新的短视频的服务,相关内容将严格按照相关法律法规的规定保留在ZAO上,除非为了改善ZAO为您提供的服务或另行取得您的再次同意,否则ZAO不会以任何形式或目的使用上述内容。”

在肖像权属问题上,ZAO在用户协议中强调,其为保证肖像权不被冒用,设置了真人验证环节。用户使用ZAO时,只有通过摄像头验证,才可以公开发布制作好的视频,若发布他人肖像制作的视频,则必须也请肖像权属人进行摄像头验证,或与已经验证好的用户加好友才可公开发布制作好的视频。

快乐与个人隐私如何兼得?

狂欢过后的冷静是网友开始担心个人隐私,“有手机号、有面部图像,通过技术合成,犯罪分子都可以替你和你的家人通话了。”这样的担心并非杞人忧天,此前,国外AI换脸算法deepfakes将明星脸无缝换到其它视频,毫无违和感,今年2月份,B站某用户,用杨幂的脸代替了某视频的主人公,引发热议和争议。

有网友称,“细思极恐,说不定自己哪天就成情色电影主角了。”不过平台App已经实现对用户上传照片的检测,如果是公众照片会被限制使用。

在智能手机普及的今天,隐私是一件几乎不存在的事情。连接的WiFi暴露了你的行踪,你在搜索引擎点击的链接和广告暴露了你的爱好,你在淘宝搜索的商品暴露了你的消费水平,然而若是不同意,程序便会立刻退出。

活在这个互联网时代,为了获取生活上的便利,你不得不让渡一些基本的隐私权,快乐、便利与隐私权,你优先选择哪一个呢?

在很长一段时间内,大家更愿意将目光聚焦在AI的技术进步上。比如“AI语音合成”,而最近关于AI的负面新闻着实有点多。不是“合成老板声音骗走173万”,就是“过度采集信息侵犯学生隐私”……这些事件给我们提了个醒:要提防AI的“花式诈骗”

难度系数一星:伪造邮件

钓鱼邮件,即黑客伪造官网发送邮件,其中携带恶意木马或虚假内容来窃取信息,早已经不是什么新鲜的攻击手段了。可是,如果邮件这一用途与人工智能相结合,使攻击者能够访问公司网络并说服员工授权转账,那带来的后果就会非常可怕了。

2017年,美国南俄勒冈大学就被诱骗向进行了190万美元的转账,他们认为自己的转账对象是负责建设学生娱乐中心的安德森建筑公司,实际上却转到了骗子的银行账户。该事件导致FBI向其他大学与机构发出了风险警告。而在此前,已经有78起类似的骗局发生,电缆制造商Leoni和科技公司 Ubiquiti Networks 之类的公司,曾被骗走了数亿美元。

这种商务电邮诈骗(BEC)到底是如何实现的呢?

首先,骗子很容易找出与机构有业务联系的工程项目公司,然后冒充既定厂商向机构财务部门发送支付账单,机构信以为真之后就会将后续的款项转账到骗子的银行账户,等意识到被骗的时候,通常已经追不回来了。

之所以能够达到如此逼真的效果,除了骗子会注册一个与官方类似的域名来假冒邮件地址之外,人工智能的参与也起到了非常大的帮助。

攻击者通过Twitter、LinkedIn、Facebook等社交媒体,就能够全面了解目标的业务往来信息,有些企业和机构的官网也会公开(暴露)自己的组织机构和管理人员,而年龄、性别、博文等等多维数据都可以被注入到机器学习训练模型之中。

比如一名高管在Twitter 上公开了他的日程、演讲计划、旅行计划等,系统就能分辨出他何时在参加会议或是在工作,从而调整攻击策略,然后借助AI语言模型生成连贯的令人信服的内容。最常见的是要求更改付款账户或是进行紧急付款,而高管人员正在假期或长途飞行时很难联系到本人,毫无防备的受害者很容易就会因“事态紧急”而选择听从号令。

由此产生的攻击能帮助攻击者绕过一些基于签名的检测系统,成功骗过当前的一些反垃圾邮件遥测技术。而且,它还能不断学习,如果攻击有效,信息就会被反馈到模型中,进一步提升未来攻击的准确性。失败的数据也会反馈回来,以便机器可以学习哪类信息是不奏效的。

由于不带有钓鱼页面或文件,因此这种骗局很难通过安全软件来进行甄别,地址和内容看起来都是“合法的”。如果掌握公司财务的是一个对技术近况不甚了了的“傻白甜”,结果可想而知……

难度系数二星:伪造笔迹

如果说提高警惕、仔细核验,邮件诈骗在很大概率上能够防范的话,那么AI伪造笔迹这种个性化特征,可能连极为熟悉你本人的亲朋都容易上当。

英国UCL大学研究人员就开发出了“My text in your hand writing”人工智能算法,能够分析一个人的字形及其特殊的书写方式,生成字形、字号、颜色、笔线纹理、垂直及水平间距等完全相同的笔迹,这是迄今为止对人类笔迹的最精确复制。

而早在2017年上海举行的GeekPwn2017国际安全极客大赛上,就有团队通过类似的笔迹模型写出了一张以假乱真的欠条。

这个自带书法笔迹深度学习系统的手臂 “DeepWritting”,首先从现场一位作家的真人笔迹中进行学习,掌握了作家笔迹的每一个细节和习惯,然后很快写下了一张欠条,即使是现场请来的专业笔迹鉴定师,也无法发现有任何与真迹不符的地方。换句话说,如果骗子利用该模型伪造一张欠条,法律上也难以判定它是假的。

随着AI生成算法能力的提升,未来想要靠专业鉴定师来识别出字迹的真伪,恐怕就不是一件容易的事了。

难度系数三星:机器人电话

机器人电话是AI语音合成技术一种比较广泛的应用。有些场景只是有点烦人,比如利用AI机器人进行推销,而有些手段就涉及到诈骗犯罪了,比如用虚假借口索取金钱或个人信息。由于电销机器人技术已经非常普及,几乎不需要高投入就能行骗,也导致此类骗局正在泛滥。

比如今年4月份郑州市公安局破获的一起诈骗,某公司就是先从网上购买AI机器人电话软件,由电话机器人自动操作,以每天1000-1500个的速度拨打客户电话,一旦有客户没有拒绝接听并表示感兴趣,这些声音甜美、说话热情的AI语音机器人就会记下该电话号码,然后由业务员主动添加该客户的微信吸引他们充值投资,一旦资金到账,就迅速拉黑对方。

2018年,美国联邦委员会还向四家在全美境内提供非法机器人呼叫电话投放服务的运营商发起了诉讼。这些公司会向人们推销虚假的能减免债务的服务,亦或是伪装成慈善机构欺骗大家捐赠汽车等财务,再把它们卖掉。还有的声称自己是谷歌的“数据服务代理”,诈骗小企业主支付数百美金来优化其搜索排名……

更让人无奈的是,目前除了用户主动进行“诈骗号码”标记之外,并没有其他能真正有效阻止非法机器人电话的方法。

难度系数四星:语音克隆

到了克隆级别,机器人不仅说话的声音达到了真人水准,甚至还能模仿真人的情感和语调,自动说出全新的语句。

文章开头提到的,AI伪装成母公司“老板”电话,讲出带有德国腔的英文,要求必须在一个小时之内给“匈牙利供应商”转账,成功骗走22万欧元,采用的就是语音克隆技术。

除了能够利用神经网络对原始音频进行建模和模仿之外,AI还能够分析本人的社交网络,很快掌握个性化的说话方式、与周围人的关系、兴趣爱好等等,从而模仿你与身边的人自然地交流。别说是工作伙伴了,就连亲妈,可能都听不出克隆出来的语音与本人有什么区别。

或许有一天,AI可以模仿我们给朋友写信、玩转社交媒体,替我们签名,甚至能够代替我们和亲朋好友聊天……这一切似乎很美好又有些可怕吧,是时候对人工智能提高警惕了!

当地时间周三,美国联邦贸易委员会(FTC)宣布,将对谷歌处以1.7亿美元罚款,理由是其视频平台YouTube涉嫌违反儿童隐私法。

在和解协议中,FTC和纽约总检察长指控谷歌向广告商推销YouTube平台,因为他们知道许多YouTube频道在年轻观众中深受欢迎。此外,该公司还跟踪儿童的观看历史,以便为他们提供广告,这违反了《儿童在线隐私保护法》(COPPA)。

这笔1.7亿美元的罚款是COPPA迄今开出的最大罚单,远超过TikTok(抖音海外版)母公司去年2月因违反该法而受到的惩罚。

和解协议还要求谷歌对其商业行为做出新的改变,比如要求内容创作者为面向年轻观众的内容贴上标签,停止收集明显针对未成年人的视频数据。目前还不清楚YouTube是如何定义针对未成年人内容的,但它在博客中表示,其算法将寻求给“强调儿童角色、主题、玩具或游戏”的内容贴上标签。

周三,YouTube在回应和解协议的博客文章中写道,“从四个月后开始,我们将把任何观看YouTube上儿童内容的人的数据视为来自孩子的数据,不管用户的年龄。这意味着,我们将把收集和使用儿童视频的数据限制在支持这项服务运营所需的范围内。”

YouTube还指出,像这样的儿童内容将不再提供评论和通知功能。该平台还将停止在此类内容上投放定向广告。

与谷歌达成和解,是FTC为纠正硅谷公司侵犯隐私的行为而做出的最新尝试。就在上个月,在剑桥分析公司(Cambridge Analytica)滥用数据丑闻发生后,FTC对Facebook侵犯隐私的行为进行了长达一年调查后,对其处以50亿美元的罚款。

相对于谷歌和YouTube获得的巨额利润而言,1.7亿美元罚款就像九牛一毛那样无足轻重。谷歌母公司Alphabet今年营收可能达到1610亿美元,YouTube也将创造200亿美元收入。

仅这一点就足以让FTC委员罗希特·乔普拉(Rohit Chopra)对和解协议感到沮丧。他在声明中写道:“金融惩罚必须有意义,否则将无法阻止不当行为。”乔普拉希望能对谷歌处以数亿美元的罚款。

COPPA的起草者、参议员埃德·马尔基(Ed Markey)也对FTC没有采取更多措施感到不满。他说:“FTC终止了这种做法,但没有采取足够的措施来落实新的关键问责规则,远远达不到让YouTube成为儿童安全健康场所的要求。”

FTC委员丽贝卡·凯利·斯劳特(Rebecca Kelly Slaughter)希望和解协议要求YouTube监管其儿童内容平台,而不是简单地要求视频制作者遵守规则。

YouTube确实承诺在与孩子们合作的方式上做出其他改变,包括承诺在未来三年内投入1亿美元,帮助视频制作者为孩子们创造合适的内容,让我们拭目以待吧!

编辑:北京三友

新闻来源:钛媒体、网易科技

原标题:裸奔在互联网时代;细思极恐,AI“花式诈骗”的N种方式;

YouTube收集未成年人数据 谷歌被FTC罚款1.7亿美元

  • 发表于:
  • 原文链接https://kuaibao.qq.com/s/20190906A0LR3I00?refer=cp_1026
  • 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 cloudcommunity@tencent.com 删除。

扫码

添加站长 进交流群

领取专属 10元无门槛券

私享最新 技术干货

扫码加入开发者社群
领券