人工智能使网络攻击变得更加聪明和危险

黑客可以通过使用ChatGPT等生成式人工智能工具获得很多好处。虽然这些工具还太年轻，无法以最少的人工输入来运行恶意活动，但它们可以用来以前所未有的方式增强人类运行的活动。

这是根据IBM 安全情报 X-Force 团队的最新分析得出的，该团队详细介绍了一项实验，他们将人类编写的网络钓鱼电子邮件与 ChatGPT 编写的钓鱼电子邮件进行比较。目标是查看哪封电子邮件的点击率更高，无论是电子邮件本身还是其中的恶意链接。

最终，人类编写的内容获胜，但以微弱优势获胜。结论是，人工智能在可信度和真实性方面超越人类内容只是时间问题，从而解决网络犯罪分子的所有辛苦工作。

情商

人类在情商、个性化和理解受害者日常挣扎等方面击败了人工智能。研究人员表示：“人类理解情感的方式是人工智能梦寐以求的。” “我们可以编织一些扣人心弦、听起来更现实的故事，让收件人更有可能点击恶意链接。”

在个性化方面，人们能够参考合法组织并为员工提供切实的优势，从而使电子邮件更有可能被打开。

最后，人类了解是什么让他们的目标变得可疑：“人类生成的网络钓鱼邮件的主题行简短而切题，而人工智能生成的网络钓鱼邮件的主题行极其冗长，甚至在员工打开邮件之前就可能引起怀疑。电子邮件。”

所有这些因素都可以通过最少的人工输入轻松调整，这使得人工智能的工作极其有价值。还值得注意的是，X-Force 团队可以使用生成式 AI 模型，在 5 分钟内根据五个提示编写一封令人信服的网络钓鱼电子邮件 - 手动编写此类电子邮件将需要团队大约 16 个小时。

“虽然 X-Force 尚未在当前的活动中大规模使用生成式 AI，但已观察到在各种宣传网络钓鱼功能的论坛上出售 WormGPT 等工具，这些工具是为不受限制或半限制的 LLM 构建的，这表明攻击者正在测试人工智能在网络钓鱼活动中的使用，”研究人员总结道。

“虽然即使是受限版本的生成式人工智能模型也可以通过简单的提示被诱骗进行网络钓鱼，但这些不受限制的版本可能会为攻击者在未来扩展复杂的网络钓鱼电子邮件提供更有效的方法。”