OpenAI 重拳出击！大规模封禁涉嫌诈骗与虚假信息的 ChatGPT 账户

根据一份最新报告，OpenAI 已在全球范围内移除大量用户账户，因其怀疑人工智能工具 ChatGPT 被用于恶意目的。

OpenAI 在这份报告中指出，诈骗者正在利用 AI 增强其攻击手段，并列举了恶意行为者使用 AI 的趋势和特征，包括该公司成功阻止的一些案例。目前，ChatGPT 拥有超过 4 亿的每周活跃用户，并可在全球范围内免费访问。

在报告中，OpenAI 表示，它反复发现“威胁行为者同时使用 AI 执行多个任务，从调试代码到生成可在各类平台上发布的内容。”

AI 侦测与账户封禁

“虽然没有任何一个实体能够垄断侦测技术，但通过连接账户和行为模式，我们在某些情况下能够识别出此前未被报道的、看似不相关的活动之间的联系。”OpenAI 在报告中写道。

在 OpenAI 破获的多个案例中，该公司最近封禁了一个 ChatGPT 账户，该账户生成了一些贬低美国的新闻文章，并以某家中国公司的署名在拉丁美洲的主流新闻媒体上发表。

此外，该公司还封禁了一些据称来自朝鲜的账户，这些账户利用 AI 生成虚假的简历和在线个人资料，伪装成求职者，企图在西方公司找到工作机会。

在另一起案例中，OpenAI 发现了一组可能与柬埔寨有关的账户，这些账户利用 ChatGPT 翻译并生成评论，参与社交媒体和通讯平台（包括 X、Facebook 和 Instagram）上的“浪漫诱骗”诈骗网络。

该报告还列举了其他多个被阻止的案例，但并未具体说明总共移除了多少个账户，也未披露相关操作的具体时间范围。

OpenAI 对诈骗和欺诈行为的立场

尽管 OpenAI 在打击 ChatGPT 的恶意使用方面采取了积极措施，该公司也再次强调不会容忍其技术被滥用。

“OpenAI 的政策严格禁止将我们的工具输出内容用于欺诈或诈骗活动。通过对欺骗性就业计划的调查，我们识别并封禁了数十个账户。”OpenAI 在报告中写道。

通过与 Meta 等行业同行分享见解，OpenAI 希望提升“我们在检测、预防和应对此类威胁方面的整体能力，同时推动共享安全性的进步。”