太多了,根本学不完,往上疯传的清华大学DeepSeek手册,第五版来了。
《DeepSeek与AI幻觉》是由清华大学新闻与传播学院新媒体研究中心与人工智能学院联合团队撰写的一份专业报告,系统探讨了AI大模型DeepSeek的幻觉现象及其多维影响。该文档以学术与实践结合的方式,向普通人科普了AI幻觉是什么(一本正经地胡说八道),深入剖析AI幻觉的成因、评测方法及应对策略,并挖掘其潜在的创造力价值,为技术开发与用户应用提供了重要参考。
该报告既警示AI幻觉的风险(如信息污染、医疗误判),又倡导利用其创造力推动技术革新,为开发者与用户提供了平衡风险与价值的实用指南。
关注公众号,发送「清华5」获取清华文档第1-5篇合集
各章节内容主要如下:
1. 什么是AI幻觉
定义AI幻觉为模型生成与事实不符或逻辑断裂的内容,分为“事实性幻觉”(与现实不符)和“忠实性幻觉”(偏离用户意图),通过糖尿病与蜂蜜的案例直观说明其表现。
2. DeepSeek为什么会产生幻觉
从数据偏差、泛化困境、知识固化、意图误解四方面解析成因,结合金融案例(虚构商场推荐)与医疗案例(语音转录错误)揭示模型局限性。
3. AI幻觉评测
通过通用测试与事实性测试量化模型幻觉率(如DeepSeekV3事实性幻觉率达29.67%),并展示《水浒传》虚构事件、逻辑陷阱等评测案例,对比不同模型的性能差异。
4. 如何减缓AI幻觉
提出联网搜索、双AI验证、提示词工程三种用户应对策略,以及RAG框架、知识库集成等技术方案,结合《水浒传》问答案例说明交叉验证的有效性。
5. AI幻觉的创造力价值
展示幻觉在科学(蛋白质设计)、艺术(超现实游戏场景)、技术(自动驾驶优化)等领域的创新潜力,强调“理性与狂想共舞”的科研范式突破。
以下是文档的部分内容,全文38页: