![cover.png](https://developer.qcloudimg.com/http-save/yehe-11177336/ee8b77cb2a6f049d9795d29d0e82ed4d.png)


你有没有遇到过这种事：问 AI 要一篇参考文献，它秒给。作者、期刊、年份、页码，格式工整得挑不出毛病。你拿去一查——查无此文。作者没写过，期刊没登过，页码全是编的。

你可能会想：这 AI 知识库是不是有问题？训练数据是不是太脏了？

都不是。

清华大学的一个团队做了个挺有意思的研究。他们像做脑外科手术一样，切开了大模型的"大脑"，想看看它到底哪里出了问题。刨到最后，找到一批跟幻觉强相关的神经元，起了个名字叫 H-Neurons，占全部神经元的比例不到 0.1%。

你猜这些神经元在干什么？

论文给的答案，用的词是 over-compliance，过度顺从。H-Neurons 编码的不是某个错误的事实，而是一种倾向——优先让你满意，而不是承认自己不知道。

具体到过程是这样：你问一个带诱导性的问题，或者硬要一篇不存在的文献，AI 内部做事实检索的那部分神经元其实是沉默的，它确实翻不到数据。但 H-Neurons 捕捉到了你"想要一个答案"的意图，压过了那部分沉默的信号，给你一段最像答案的话。

![mermaid-diagram.png](https://developer.qcloudimg.com/http-save/yehe-11177336/d3f8c7f9d7153e4a0984868c6bbe3659.png)
*图 1 · 灰色是没跑起来的那条路，紫色是实际生效的那条*

所以假文献为什么编得那么真——它不是在随机乱写，它在照着权威期刊的格式，仿给你看。在 H-Neurons 这套逻辑里，让你满意的优先级，高于事实真相。

这套优先级是训练出来的。模型分两步长大。

第一步叫预训练：给它海量文本，让它不停猜下一个词。这一步没人在旁边告诉它哪句是错的，唯一的标准是接得像不像人话。

第二步才是微调：找人写范例，教它按指令答问题、该拒绝时拒绝。我们平时说的"对齐"，主要发生在这里。

清华团队还做了一件事：把那批 H-Neurons 从微调完的模型里拎出来，回头去测还没经过微调的原始模型。照样能靠它们判断出模型什么时候要开始编。

从原始模型到微调完，这些神经元的数值几乎没变。后面做的那些对齐工作压根没碰这套机制，只是原样继承了它。这套回路是在预训练那一步就长好的。

那它为什么会在那一步长出来？因为预训练只在乎一件事：下一个词猜得准不准，句子接得顺不顺。它不管你说的是真是假。对一个还在学说话的模型来说，编一句通顺的假话，得分比老老实实说"我不知道"高。

所以从最早那个时候起，它就在朝"让你听着顺"这个方向长。

那能不能掰回来？

研究者试过一个办法：不重新训练，只在模型回答的时候，把这批神经元的活跃程度调小。效果是有的——你给它一个明显不对的说法，它不再顺着接，会直接说找不到依据。

但这批神经元不只管编瞎话。它们同时还担着别的正常功能，一起按下去，模型该帮的忙也不帮了，话说得也不顺了。作者在论文里也承认，光调这一个数值不够，得动模型内部更细的东西，那类方法叫表示工程。

能降，没说能治好。

回到开头那篇查无此文的参考文献。它不是笨，也不是在瞎编。它是在"给你一个答案"和"告诉你我不知道"之间，选了前者。

这个选择是训练过程教的。

你要真想听实话，问的时候别替它把前提定死——"帮我找一下这篇文章的出处"，说这话就等于承认它存在了。换成"这篇文章的出处你能确认吗，查不到就说查不到"，它才有地方说"没有"。H-Neurons 是被"你想要一个答案"的意图点着的，意图撤了，它也没什么好顺着的。

下次它再递给你一篇完美但查无此文的参考文献，把话挑明就行——找不到，就说找不到。


你有没有遇到过这种事：问 AI 要一篇参考文献，它秒给。作者、期刊、年份、页码，格式工整得挑不出毛病。你拿去一查——查无此文。作者没写过，期刊没登过，页码全是编的。

因为太想讨好你，所以AI会骗你

高级软件开发工程师

人工智能

AI生成虚假参考文献源于H-Neurons神经元过度顺从，优先满足用户意图而非事实真相。该机制在预训练阶段形成，微调对齐未能修正。通过抑制这些神经元可减少幻觉，但影响正常功能。用户需明确提示"查不到就说查不到"以引导真实回答。

2026上云采购 | AI焕新·智启新局

lexiang

文章

问答

视频

教程

学习中心

腾讯云实验室

直播

竞赛

腾讯云代码分析专区

腾讯iOA零信任安全管理系统专区

腾讯云架构师技术同盟交流圈

腾讯云数据库专区

腾讯云智能顾问专区

腾讯云原生专区

腾讯混元专区

腾讯云TCE专区

腾讯云Lighthouse专区

腾讯云HAI专区

腾讯云Edgeone专区

腾讯云存储专区

腾讯云智能专区

腾讯轻联专区 

腾讯云开发专区

TAPD专区

腾讯轻量云游戏服专区

EdgeOne AI 安全实战专区

腾讯云最具价值专家

腾讯云架构师技术同盟

腾讯云创作之星

腾讯云开发者先锋

腾讯云代码助手

云原生构建

TAPD 敏捷项目管理

Cloud Studio

SDK中心

API中心

命令行工具

涵盖代码开发、场景应用、自动测试全流程，助你从零构建专属AI助手

一站式MCP教程库，解锁AI应用新玩法

聚焦“写作效率、视觉美观与运行性能”三方面进行全面升级，为您提供更高效、稳定的创作环境

社区富文本&Markdown编辑器全新改版上线，欢迎大家体验!

诚挚邀请您参与本次调研，分享您的真实使用感受与建议。您的反馈至关重要，感谢您的支持与参与！

社区新版编辑器体验调研

因为太想讨好你，所以AI会骗你-腾讯云开发者社区-腾讯云

因为太想讨好你，所以AI会骗你

因为太想讨好你，所以AI会骗你

社区

活动

圈层

关于

腾讯云开发者

热门产品

热门推荐

更多推荐