你的AI可能正在被“下毒”——国家安全部发出警告

你有没有遇到过这种情况：问AI一个问题，它一本正经地告诉你一个“标准答案”，结果你去查资料，发现根本不是那么回事。

除了因为AI“幻觉”，还可能是AI被人“下毒”了。

01

什么是AI“投毒”？

国家安全部最近发布了一篇文章，系统披露了AI“投毒”的隐蔽产业链。 他们用一类叫GEO（生成式引擎优化）的技术方法，借助专门的工具批量生成虚假内容，然后定向投放到网上。

简单来说，就是有人故意往AI的训练数据里掺假东西。就像往水源里下毒一样——水看起来还是透明的，但喝下去可能会生病。

02

它是怎么给AI“投毒”的？

把AI训练得聪明，需要喂它“食物”——也就是让它学习所有能获取的资料。因此，训练AI的时候，会让它自动从网上抓取信息。

那么，显而易见的危险来了：不会辨别真伪的AI，如果学习了网上充斥的某类“假信息”，就会把这些假信息当成“真知识”记住。

具体投毒过程大概是这样的：有人想抹黑某个国产品牌，就生成几万条“某某品牌质量很差”的帖子投放到网上。AI学多了，以后有人问“某某品牌怎么样”，它就会脱口而出“质量很差”——哪怕事实恰恰相反。

更可怕的是，这种攻击很难被发现。因为AI平时运行完全正常，只有遇到特定话题时才会输出 “中毒”后的假信息。

03

境外势力也用AI投毒？

是的！

国安部的文章特别提到， 境外的反华敌对势力可能通过这种渠道，批量输出虚假信息与政治谣言 ，歪曲事实，攻击我们的国家、抹黑党和政府。

这不是科幻小说，这是正在发生的事情。

04

不会坐以待毙

面对这种情况，国家已经出手了。我国出台了《生成式人工智能服务管理暂行办法》《人工智能安全治理框架》等法规，要求AI运营者核查语料来源、建立可追溯机制。

我们也有两件事能做：

1. 别完全相信AI给出的“唯一答案” 。AI只是工具，不是真理。重要的决定，最好自己再查证一下。
2. 看到可疑信息要举报 。如果你发现某个平台充斥着明显虚假的信息，要及时举报，因为，帮助传播，就是在给AI“投毒”提供泛滥的温床。

AI是工具，工具本身没有善恶。但使用工具的人有善有恶。用好AI、护好AI，这是我们这代人必须学会的事情。