首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

GPT“生成式钓鱼邮件”泛滥,研究人员建议“使用 AI 对付 AI”

IT之家 12 月 27 日消息,安全公司 Abnormal 日前发布报告,声称如今“AI 钓鱼邮件”愈发泛滥,许多黑客利用各种模型批量创建钓鱼邮件,之后使用脚本群发相关邮件,从而实施“高效率”网络诈骗活动。

该公司研究人员举例 WormGPT、FraudGPT 等“专为网络犯罪而生”的恶意 AI 工具,声称当下黑客已经将生成式 AI 融入到攻击策略中,因此用户也需要“以相同的方式做出反击”,利用 AI 过滤“可能由 AI 创建的钓鱼邮件”。

IT之家查询安全报告得知,传统的钓鱼邮件通常使用相同的域名,正文拥有固定模板格式,整体邮件内容和风格较为统一,因此相当容易被安全软件标记拦截。而黑客利用 AI 生成的钓鱼邮件乍眼看“相当独特”,甚至“每一篇都不一样”,因此难以被传统安全软件乃至人类所察觉。

▲ 使用 AI 生成的钓鱼邮件,图源 安全公司 Abnormal 发布的报告(下同)

据悉,研究人员在报告中介绍了一款名为 Giant Language Model Test Room(GLTR)的 AI 检测工具,该工具利用了“相关钓鱼邮件内容主要采用‘预测式’调用‘特定高概率单词’”的特点,从而精确识别 AI 钓鱼邮件。

研究人员声称,即使黑客让 AI“使用更为正式的措辞”创建邮件,但 GLTR 工具依然可以判断邮件中哪些部分“高概率由人工智能生成”。不过报告中同时指出,相关检测手法存在“误杀率”,100% 判断邮件内容是否由 AI 创建“几乎是不可能的”。

研究人员同时提到,AI 编写的内容中出现“语法和拼写错误”的概率相对人类反而更少,因此受害者更容易上当,当下“使用 AI 对付 AI”的方案反而更加有效。

  • 发表于:
  • 原文链接https://page.om.qq.com/page/O8oMnb_nipw8SuMfknIrh41Q0
  • 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 cloudcommunity@tencent.com 删除。

相关快讯

扫码

添加站长 进交流群

领取专属 10元无门槛券

私享最新 技术干货

扫码加入开发者社群
领券