美国立法者:人工智能生成的虚假视频可能成为安全威胁

AI生成的虚假视频是否对美国国家安全构成潜在威胁?

一群美国立法者这么认为。星期四,他们呼吁美国情报机构准备一份报告,评估该国如何停止“deepfake“在互联网上传播错误信息的技术。

美国代表亚当·希夫,斯蒂芬妮·墨菲,和卡洛斯·柯贝罗的一封信中写道:“我们非常担心恶意外国演员可能会很快部署深度伪造技术。”

令人担忧的是,外国政府总有一天会用数百万美元产生虚假视频或音频来欺骗数百万美国人。想象一下,一位美国政客被描绘为发表种族主义言论,并且这一剪辑在大选之前就已经传播开来。感谢今天的机器学习算法,一个坏的演员可能能够解决这个问题。这项技术已经可以克隆你的声音,将某人的脸与另一个人交换,并拍摄现有的镜头,并操纵主体的嘴唇说些别的话。

幸运的是 deepfake技术无法令人信服地制作出所有图像。尽管如此,立法者担心技术会成熟并最终落入坏人之手并带来毁灭性的影响。

“通过模糊事实和虚构之间的界限, deepfake 技术可能会破坏公众对录制图像和视频的信任,作为对现实的客观描绘,“他们的信中写道。

立法者致函国家情报局局长丹·科茨,后者警告国会,俄罗斯试图利用美国社交媒体在中期选举前传播错误信息。到目前为止,错误信息的努力一般仅限于炎症互联网模因和虚假账户的意见。但立法者正在呼吁美国情报机构审查是否已有任何外国政府试图使用deepfake 技术在美国传播错误信息。

他们还要求美国情报部门提出如何应对的建议 deepfake - 产生的内容以及国会是否需要以某种方式采取行动。立法者呼吁国家情报总监办公室在12月14日之前提交报告。

  • 发表于:
  • 原文链接https://www.pcmag.com/news/363750/us-lawmakers-ai-generated-fake-videos-may-be-a-security-thr
  • 如有侵权,请联系 yunjia_community@tencent.com 删除。

扫码关注云+社区

领取腾讯云代金券