集微网消息(文/Jimmy),据华尔街日报报道,今年3月,犯罪分子使用基于人工智能的软件模仿某公司首席执行官的声音,要求转账22万欧元(合24.3万美元)。网络犯罪专家称,这是一起不寻常的人工智能被用于黑客活动的案件。
报道称,一家英国能源公司的首席执行官被骗给一家匈牙利供应商电汇了22万欧元,因为他相信是老板让他这么做。但这家能源公司的保险公司裕利安宜集团(Euler Hermes Group SA)对《华尔街日报》说,一个配备人工智能设备的诈骗人员正在使用deepfake软件模仿这位高管的声音,要求他的下属在一小时内进行汇款。
裕利安宜公司的一位发言人后来告诉《华盛顿邮报》:“该软件不仅能够模仿声音,连音调、断句和德国口音都能模仿。电话里还附带了一封电子邮件,能源公司的首席执行官就答应了。”
在诈骗人员提出第二个要求后,这家能源公司的首席执行官给他真实的老板打了电话,结果发现他同时接通着两处电话,方才惊觉被骗了。裕利安宜拒绝透露这家能源公司或其德国母公司的名称。
《华盛顿邮报》称,这些钱现在已经没有了,已经通过匈牙利和墨西哥的账户转移到世界各地。
这种情况可能不是第一次发生。据《华盛顿邮报》报道,网络安全公司赛门铁克(Symantec)表示,他们已经遇到了至少三起deepfake语音欺诈案件。赛门铁克对《华盛顿邮报》表示,至少有一起案件造成了数百万美元的损失。这起案件似乎与裕利安宜确认的那起不同。
这种情况突显出人工智能研究令人担忧的本质,尤其是围绕着视频和音频的AI创造。虽然没有一家拥有大型、有能力的人工智能研究机构的公司公开开发deepfake视频软件,但一些公司正在音频领域加大研发力度。
谷歌备受争议的Duplex服务使用人工智能模仿真人的声音,这样它就可以代表用户打电话。一些规模较小的初创企业正在智能手机上免费提供类似的服务,有时涉及隐私和数据收集方面的问题。与此同时,科技公司和学术界的研究人员正试图开发deepfake检测软件。
Deepfake既然已经存在,在杜绝非法分子滥用其进行犯罪活动上,我们需要更好,更强大的工具来区分虚与实。(校对/Jurnan)
领取专属 10元无门槛券
私享最新 技术干货