世界上首起AI人工智能盗窃案，利用语音仿真软件盗窃24万美元

英国能源公司总经理相信他的老板在电话中下达命令，把24万美元电汇到匈牙利的一个账户上。

美国前总统奥巴马的假视频。

该公司的保险公司称，窃贼使用模仿语音的软件来模仿公司高管的讲话，并欺骗他的下属将数十万美元发送到一个秘密账户，这是一个值得注意的案例，一些研究人员称，这是世界上第一次公开报道的人工智能盗窃案。

法国保险巨头欧拉·赫尔墨斯(Euler Hermes)的代表表示，一家英国能源公司的董事总经理说，他在3月的一个星期五下午接到老板的电话，要求将逾24万美元电汇至匈牙利的一个账户。该公司拒绝透露该公司的名称。

这位总经理后来在一封电子邮件中指出，这个请求“相当奇怪”，但声音如此逼真，以至于他觉得自己别无选择，只能服从。

这种语音合成软件目前正由众多硅谷巨头和人工智能初创公司开发，能够复制人的声音的节奏和语调，并被用来制作令人信服的演讲。

像谷歌这样的科技巨头和诸如“超现实的声音克隆”这样的小公司帮助改进了产生的假货，并使这些工具更广泛地免费和无限制地使用。

这些合成音频和人工智能制作的视频被称为“深假”，加剧了人们对新技术如何侵蚀公众信任、增强罪犯权能、以及让传统通信-从商业交易、到家庭电话的担忧，而这些更容易受到电脑化操纵的影响。

一位安全专家说：“这一技术在10年前听起来是异乎寻常的，现在已经在任何有创造力的非专业罪犯的范围之内。”

这项技术的开发者指出了它的积极用途，称它可以帮助自动化电话系统人性化，并帮助人们保持沉默。

但其不受监管的增长也引发了人们对其欺诈、有针对性的黑客攻击和网络犯罪可能性的担忧。

赛门铁克网络安全公司(Symantec)的研究人员表示，他们发现至少有三起高管的声音被模仿来欺骗公司。

该公司拒绝透露受害公司的姓名，也不愿透露Euler Hermes案是否是其中之一，但指出其中一宗案件的损失总计达数百万美元。

该系统的工作方式是处理一个人的声音，并将其分解成语音或音节等成分，然后重新排列，形成具有类似语音模式、音调和音调的新短语。

例如，赖伯德宣传“世界上最现实的人造声音”，并允许任何人通过上传至少一分钟真实世界的演讲来创造一个模仿声音的“声音化身”。

在赛门铁克位于加州的研究实验室里，研究这种“对抗性攻击”的高级研究员saurabhshinte说，由于算法在处理数据和计算结果方面的突破，音频生成技术近年来取得了“变革”的进展。

他说，训练语音模拟工具以产生引人注目的模仿所需的录音演讲数量也在迅速减少。

除了技术的能力之外，窃贼还依靠古老的骗局战术来提高他们的效率，利用时间压力，比如即将到来的最后期限，或者社会压力，比如安抚老板的愿望，让听者不再怀疑。

在某些情况下，犯罪分子以公司会计或预算部门的财务为目标，知道他们可能有能力立即寄钱。

欧拉赫姆斯公司的代表说，该公司是一家德国能源公司的英国子公司，与执法部门联系，但尚未透露任何潜在嫌疑人的姓名。

这位受害董事总经理最初是在3月的一个星期五下午被打电话的，这个声音要求他紧急给匈牙利的一家供应商发电报，以帮助挽救公司的滞纳金。这位假老板向董事指名，并通过电子邮件发送财务细节。

Euler Hermes的发言人Antje Wolters说，这位董事和他的老板已经直接交谈了好几次，他指出电话没有被记录下来。

Euler Hermes的代表说，242，000美元通过匈牙利和墨西哥的账户输送，然后分散到其他地方。

保险公司说，目前还没有嫌疑人的名字，而且钱也不见了。

人工智能开发人员正致力于构建能够检测和打击假音频的系统，但模拟语音的技术正在迅速发展，如何保障公众隐私数据，将会是以后网络发展的重点。