首页
学习
活动
专区
圈层
工具
发布
技术百科首页 >AI 幻觉 >当前业界在解决 AI 幻觉问题上有哪些主流技术路线?

当前业界在解决 AI 幻觉问题上有哪些主流技术路线?

词条归属:AI 幻觉

1. 训练阶段干预

腾讯混元 Hy3 代表"考前复习"路线——推倒重建底层数据体系,通过严格的数据清洗和定向约束对齐,将整体幻觉率从 12.5% 降至 5.4%,推理延迟仅增加 7%。Factuality-aware DPO、CHAIR-DPO 等新型对齐方法将事实性奖励直接融入偏好优化过程。中科院合肥物质院团队提出的 RAG-CL 混合策略(检索增强加持续学习)在 Mistral-7B 模型中实现 96.5% 准确率和仅 1.1% 遗忘率。

2. 推理阶段增强

阿里通义千问代表"开卷考试"路线——上线"引证"核查机制,接入海量权威信源库,将事实类内容幻觉率显著降低。RAG 结合知识图谱的 GraphRAG 方案在企业级部署中将幻觉率降低 62%。多智能体辩论框架通过交叉验证从根源抑制幻觉,清华 MARCH 框架使 8B 模型达到顶级闭源模型水平。

3. 输出层防护

事实核查网关(Factuality Gate)在生成和输出之间加入验证层——用更小更便宜的模型将回答分解为原子声明并逐一核查,整个循环仅增加 300 至 800 毫秒延迟。保险理赔自动化提供商引入事实核查网关后将含幻觉的输出从 9% 降至 2.2%。结构化输出约束和 Schema 验证也成为标准配置。

4. 系统工程化方案

业界共识已从"寻找不幻觉的模型"转向"构建不幻觉的系统"。McKinsey 数据显示,AI 高绩效企业(占受访者的 5.5%)的核心特征是工作流重构(2.8 倍可能性)、Agent 规模化部署(近 3 倍)和人机协同纪律(65% 定义了人工验证流程)。四层防御体系成为标准实践:第一层 RAG 知识锚定,第二层提示词工程与结构化约束,第三层人工审核高风险输出,第四层持续评估与黄金数据集监控。

相关文章
后发而先至的腾讯混元大模型,到底有哪些技术亮点?
2023年的夏天已经结束了,但是,围绕AIGC大模型的关注热度,却丝毫没有衰退的意思。
鲜枣课堂
2023-10-20
2.1K0
为什么大模型幻觉无法根除?36页OpenAI论文深度解析根源、成因与缓解方案
幻觉是持续存在于最先进大模型中的一种固有行为模式,是当前模型训练与评估范式下的一个统计学上的必然产物。《知识增强大模型》明确指出幻觉是大模型的固有特性,它源于预训练阶段最小化损失函数的内在统计压力,同时主流的评估体系系统性地奖励了猜测行为,惩罚了不确定的表达。
走向未来
2025-09-26
1K0
DeepSeek高阶提示词编写思路-从原则到方法技能
在前面文章我曾经谈到过。在我们使用GPT的时候的,当时有一个标准的提示词模版,即:
人月聊IT
2025-06-24
3030
向量存储vs知识图谱:LLM记忆系统技术选型
LLM本质上是无状态的,如果你了解HTTP协议就很好理解这个概念,但是如果你没接触过这,那么可以理解成它们没有短期记忆能力,每次和LLM交互,都得把之前的对话重新喂给它。
deephub
2025-11-15
5790
当大模型陷入幻觉循环,如何用工程化给它“立规矩”?
最近,普林斯顿大学和加州大学伯克利分校发布的一项研究《Machine Bullshit》彻底火了。该研究受哲学家 Harry Frankfurt 启发,提出“机器胡扯”概念,用于描述大模型为达成目标而漠视真相的输出现象。
深度学习与Python
2025-07-29
5800
点击加载更多
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档
领券