首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

清华大学DeepSeek教程第五版《DeepSeek与AI幻觉》完整下载

清华大学DeepSeek教程第五版由清华大学双聘教授 @新媒沈阳团队撰写,主要围绕 AI 幻觉展开研究,以 DeepSeek 为例深入探讨其现象、成因、评测、应对策略及创造力价值。

AI 幻觉的定义:AI 幻觉指模型生成与事实不符、逻辑断裂或脱离上下文的内容,分为事实性幻觉(与现实事实不一致)和忠实性幻觉(与用户指令或上下文不一致) 。

产生 AI 幻觉的原因:包括数据偏差、泛化困境、知识固化、意图误解等。此外,音乐因具有主观性、抽象性和可感知性差异等特点,虽不存在传统意义上的幻觉,但也有逻辑断裂的歌词等潜在表现。

AI 幻觉评测:通过随机生成提示语和抽取事实性幻觉测试题进行人工判断标注与交叉验证。测试结果显示,不同模型幻觉率不同,如通用性测试中 DeepSeekV3 幻觉率为 2%、DeepSeekR1 为 3%;事实性测试中 DeepSeekV3 幻觉率达 29.67%、DeepSeekR1 为 22.33% 。推理能力与幻觉率存在双向作用机制,联网搜索、双 AI 验证、提示词工程等方法可降低幻觉率。

AI 幻觉的应对策略:普通用户可采用三角验证法,警惕 “过度合理” 的回答,理解并利用幻觉带来的创意灵感。具体方法包括联网搜索、双 AI 验证、提示词工程(知识边界限定、对抗性提示)等。技术层面可采用 RAG 框架、结合外部知识库、精细训练、开发评估工具等方案。

AI 幻觉的价值:在科学发现、文艺与设计、娱乐与游戏、技术创新等领域具有创造力价值。如助力蛋白质设计获诺贝尔化学奖,为游戏开发提供灵感,提升自动驾驶系统识别精度等。

需要的小伙伴可进入招文袋的公众号直接去拿(2月24日零点发布),或加入招文袋的知识星球社群即时下载,一起交流探讨学习,1—5版的文档和知识点都整理在内啦。

  • 发表于:
  • 原文链接https://page.om.qq.com/page/OsiayCJ23cFVT43cAgC1xsuA0
  • 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 cloudcommunity@tencent.com 删除。

相关快讯

扫码

添加站长 进交流群

领取专属 10元无门槛券

私享最新 技术干货

扫码加入开发者社群
领券