同一问题，安装防幻觉系统前后对比：

差距肉眼可见。前者 3 句话里至少 2 处不准确，后者每条都有信源、有限定词、有建议但不替用户做选择。

常见思路是加一句 prompt："请确认以上信息准确"。这是

——让同一个 AI 自己检查自己。

AI 检查自己时，用的是同一套推理逻辑。它相信自己写的每句话都是对的。

就像让一个学生自己批自己的卷子——他如果做错了选择题，自查时大概率会再次选同一个错误答案。因为他并不知道自己错了。

——换一个角色（Verifier），以批评者的视角，假设每句话都是错的，然后逐条找漏洞。

这个思路最早来自 MiniMax Mavis 的 Worker-Verifier 架构：Worker 负责生成，Verifier 以攻击姿态验证。我在 WorkBuddy 里用几行配置指令复现了这套机制。

我搭了一套完整的防幻觉规则，不是一条 prompt，而是一个系统。按深度递进：

AI 拿到的信息本身就有水分。第一步是给每条信息的来源打标签：

T1（可信）    ：官方文档、API 参考、一手公告
T2（待确认）  ：技术博客、社区讨论、新闻报道
T3（不可靠）  ：自媒体、聚合号、转载内容


实操中，T2/T3 来源的信息一律加限定词："据 XX 报道""官方公告未明确提及""该说法在社区存在争议"。

第 2 层：事实分级标注（输出侧）

生成内容后，关键断言必须标注置信度：

看到 ⚠️ 或 ❓ 标注的信息，就知道该去核实。看到 ✅ 的，心里有底。

第 3 层：红牌词清单（即时有毒短语）

有些措辞天然携带"过度自信"，看到就替换：

这条看似简单，实际上日常对话中 AI 80% 的幻觉问题都踩在这几类措辞上。

第 4 层：自生成事实校验（隐藏雷区）

最危险的不是网上查的信息，而是 

这类错误比网上查错信息更隐蔽，因为 AI 非常自信。

越觉得"简单/显然"的事，越要主动用工具验证。

实操规则：所有日期推算用 date 命令、所有数字计算跑代码、所有常识判断搜一下。不能凭感觉。

第 5 层：对抗式质检（兜底机制）

这是最后一道防线。在输出最终答案之前，切到一个"攻击模式"，从 6 个维度往死里挑毛病：

攻击维度 1 - 事实：哪条断言没有信源支撑？
攻击维度 2 - 数字：哪个数字可能是错的？（用工具验算）
攻击维度 3 - 逻辑：哪个推理链条可能断裂？
攻击维度 4 - 时效：哪条信息可能已经过时了？
攻击维度 5 - 歧义：哪里的措辞可能被误解？
攻击维度 6 - 自信：哪里的语气过于绝对，话不该说太满？


每个维度都假设它在说谎，需要自证清白。找到一个问题就修正，全部通过才输出。

四、实测数据：安装前后的差距

我在同一批对比任务上做了 A/B 测试：

准确率提升 17 个百分点，需纠正率降到原来的 1/5。代价是回答稍长——但这 50% 的增量都是信源引用和限定词，信息密度反而更高。

五、不限于 WorkBuddy：怎么移植到任何 AI 工具

这套体系的核心设计和工具无关。你可以在任何 AI 平台（ChatGPT、Claude、Gemini 等）复现：

WorkBuddy 的优势在于 Skills 机制天然支持这五层——一个 Skill 文件搞定，不需要每次复制粘贴 prompt。

你告诉 AI "必须查证"，它可能回答说"已查证"但实际上根本没查。所以触发词里要写死："查证 = 发起一次搜索 + 获取至少 2 个独立来源"，防止它口头应付。

我特意在规则里加了一条：不确定时直接说"我不确定，建议你核实"，禁止用"应该是对的"等模糊肯定。

这对用户来说可能不够"爽"——谁不喜欢 AI 自信满满？但从准确率角度，这句话的价值远大于一条模棱两可的猜测。

如果你让 AI 的 Verifier 模式写"请检查以下内容"，它大概率回复"看起来都没问题"。必须把措辞改成**"假设以下每条断言都是错的，找出证据证明它错在哪里"**。攻击性够强，质检才有效。

防幻觉不是一条 prompt、一个开关，而是一套需要分层设计的系统：

第 1 层 — 信源分级：进来的信息先过一遍水质
第 2 层 — 事实标注：出去的信息标清楚的还是猜的
第 3 层 — 红牌拦截：有毒措辞直接替换
第 4 层 — 自校验：自己算的概率最危险，必须验
第 5 层 — 对抗质检：换个身份，非要证明你错


前四层是"防火墙"，第五层是"安检员"。单独哪个都不够用，组合起来才能把准确率从 75% 拉到 90%+。

我把这套规则打包成了一个 WorkBuddy Skill 文件，触发词设成"核实、验证、防幻觉"，日常对话中自动调用。如果你也在用 WorkBuddy，照着第三节的配置抄一份就行。

如果不是 WorkBuddy 用户，挑前四层塞进任何 AI 工具的 system prompt 或者自定义指令里，效果是一样的——因为

WorkBuddy 防幻觉实战：我用"对抗式质检"让 AI 准确率翻倍

人工智能

安全

本文分享一套AI防幻觉系统，从信源分级到对抗式质检，5层防护体系提升AI回答准确率92%。包含红牌词拦截、自生成事实校验等实用技巧，适用于ChatGPT等各类AI工具。实测错误率降低80%，回答更严谨可靠。

防火墙

A/B测试

WorkBuddy 

ChatGPT

WorkBuddy企业版限时双倍 Credits 活动

workbuddy

文章

问答

视频

教程

学习中心

腾讯云实验室

直播

竞赛

腾讯云代码分析专区

腾讯iOA零信任安全管理系统专区

腾讯云架构师技术同盟交流圈

腾讯云数据库专区

腾讯云智能顾问专区

腾讯云原生专区

腾讯混元专区

腾讯云TCE专区

腾讯云Lighthouse专区

腾讯云HAI专区

腾讯云Edgeone专区

腾讯云存储专区

腾讯云智能专区

腾讯轻联专区 

腾讯云开发专区

TAPD专区

腾讯轻量云游戏服专区

EdgeOne AI 安全实战专区

腾讯云最具价值专家

腾讯云架构师技术同盟

腾讯云创作之星

腾讯云开发者先锋

腾讯云代码助手

云原生构建

TAPD 敏捷项目管理

Cloud Studio

SDK中心

API中心

命令行工具

涵盖代码开发、场景应用、自动测试全流程，助你从零构建专属AI助手

一站式MCP教程库，解锁AI应用新玩法

聚焦“写作效率、视觉美观与运行性能”三方面进行全面升级，为您提供更高效、稳定的创作环境

社区富文本&Markdown编辑器全新改版上线，欢迎大家体验!

诚挚邀请您参与本次调研，分享您的真实使用感受与建议。您的反馈至关重要，感谢您的支持与参与！

WorkBuddy 防幻觉实战：我用"对抗式质检"让 AI 准确率翻倍

WorkBuddy 防幻觉实战：我用"对抗式质检"让 AI 准确率翻倍

社区

活动

圈层

关于

腾讯云开发者

热门产品

热门推荐

更多推荐