前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
圈层
工具
发布
首页
学习
活动
专区
圈层
工具
社区首页 >专栏 >吴恩达最新短课,知识很硬核,附中英字幕

吴恩达最新短课,知识很硬核,附中英字幕

原创
作者头像
统计学家
发布于 2023-12-06 03:37:10
发布于 2023-12-06 03:37:10
3630
举报

吴恩达最新短课,知识很硬核,附中英字幕

简介

大家好我是老章,吴恩达老师忠实粉丝

最近吴老师又限时免费开放了一个短课:《构建和评估高级 RAG 应用程序》

该课程由由 llama_index 和 truera_ai的 jerryjliu0和 datta_cs 教授主讲,门槛很低,有 Python 基础知识即可学习。

官网没有中文字幕,所以我用ai翻译并重新压制了中英文字幕版上传B站了

https://www.bilibili.com/video/BV1Cu4y1g7gG/

课程主题

本短课预计需要2个小时可以学完,内容包括:

  • 学习句子窗口检索等方法。
  • 了解评估最佳实践以简化流程,并迭代构建强大的系统。
  • 深入研究 RAG 三元组来评估LLM回答的相关性和真实性:上下文相关性、接地性和答案相关性。
  • 句子窗口检索和自动合并检索,不仅检索最相关的句子,还检索围绕该句子的句子窗口,以获得更高质量的上下文,将 RAG 管道的性能提高到基线以上。
  • 自动合并检索,将文档组织成分层树结构,其中每个父节点的文本在其子节点之间分割。根据子节点与用户查询的相关性,这可以让您更好地决定是否应将整个父节点作为上下文提供给 LLM。
  • 用于单独评估 RAG 关键步骤质量(上下文相关性、答案相关性、接地性)的评估方法,以便您可以执行错误分析,确定管道的哪一部分需要工作,并系统地调整组件。

课程配套完整的代码和视频讲解:

RAG是什么?

当前大模型的问题是其训练数据极其广泛,当我们让其完成特定领域的特定问题时,其回答可能存在事实不准确(幻觉)情况。针对特定问题进行微调可以一定程度上解决问题,但是成本高昂。检索增强生成(RAG)应运而生,RAG是为LLM提供来自外部知识源附加信息的概念,这使它们能够生成更准确和更符合上下文的答案,同时减少幻觉。

普通 RAG 工作流程如下图所示:

检索增强生成 (RAG) 工作流程,从用户查询到使用矢量数据库检索,再到提示填充并最终生成响应。

  1. 检索:用户查询用于从外部知识源检索相关上下文。为此,使用嵌入模型将用户查询嵌入到与向量数据库中的附加上下文相同的向量空间中。这允许执行相似性搜索,并返回矢量数据库中最接近的前 k 个数据对象。
  2. 增强:用户查询和检索到的附加上下文被填充到提示模板中。
  3. 生成:最后,检索增强提示被馈送到 LLM。

开发RAG应用有多种技术路线,这个课程使用了OpenAI嵌入模型在 Python 中实现 RAG 管道,使用TruLens做语言模型应用评估,LlamaIndex做编排。四个章节,配套完整代码,一步一步实现RAG 应用程序。

有志于从事大模型开发的同学,学起来吧。

原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。

如有侵权,请联系 cloudcommunity@tencent.com 删除。

原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。

如有侵权,请联系 cloudcommunity@tencent.com 删除。

评论
登录后参与评论
暂无评论
推荐阅读
编辑精选文章
换一批
从零开始优化 RAG 流程的终极指南,解决检索增强生成的核心挑战
首先,我们将 RAG 工作流程分为三个部分,以增强我们对 RAG 的理解,并优化每个部分以提高整体性能:
致Great
2025/02/22
4010
从零开始优化 RAG 流程的终极指南,解决检索增强生成的核心挑战
深入RAG工作流:检索生成的最佳实践
今天分享的是复旦大学和智能信息处理上海市重点实验室联合发表的一篇文章:实现检索增强生成(RAG)的最佳实践
AI研思录
2025/02/20
3190
深入RAG工作流:检索生成的最佳实践
【愚公系列】《AI Agent技术、应用与商业》004-Al Agent 的技术基础
在人工智能的广阔世界中,智能代理(AI Agent)作为一种重要的应用形态,发挥着越来越关键的作用。无论是在自动化客服、智能推荐,还是在复杂的决策支持系统中,智能代理都以其强大的功能和灵活的应用赢得了广泛关注。然而,支撑这些智能代理正常运作的技术基础是什么呢?
愚公搬代码
2025/03/14
1160
为何RAG应用在生产中难以成功?
RAG常常陷入一周出Demo、半年用不好的窘境。本文分享Meduim深度好文《Why RAG Applications Fail in Production[1]》探讨RAG应用程序常见的陷阱和成功部署的见解,以下为翻译全文。
AgenticAI
2025/03/18
560
为何RAG应用在生产中难以成功?
RAGulator:如何识别和缓解大模型所谓的“忠实幻觉”
RAGulator,一个轻量级的、用于检测RAG系统中语义上与上下文不符(OOC)的LLM生成文本的检测器
致Great
2024/11/23
950
RAGulator:如何识别和缓解大模型所谓的“忠实幻觉”
一文带你了解RAG(检索增强生成) | 概念理论介绍+ 代码实操(含源码)
针对大型语言模型效果不好的问题,之前人们主要关注大模型再训练、大模型微调、大模型的Prompt增强,但对于专有、快速更新的数据却并没有较好的解决方法,为此检索增强生成(RAG)的出现,弥合了LLM常识和专有数据之间的差距。
ShuYini
2023/12/21
39.9K77
一文带你了解RAG(检索增强生成) | 概念理论介绍+ 代码实操(含源码)
OpenAI主管Lilian Weng分享RAG对抗LLM幻觉策略
2024年7月7号,OpenAI安全团队负责人,Lilian Weng分享了一篇博客介绍了LLM中幻觉的由来、检测和对抗策略,分享给大家,以下为翻译全文。
AgenticAI
2025/03/18
900
OpenAI主管Lilian Weng分享RAG对抗LLM幻觉策略
RAG科普文!检索增强生成的技术全景解析
增强生成 (RAG) 是塑造应用生成式 AI 格局的关键技术。Lewis 等人在其开创性论文中提出了一个新概念面向知识密集型 NLP 任务的检索增强生成之后,RAG 迅速成为基石,提高了大型语言模型 (LLM) 输出的可靠性和可信度。
致Great
2025/02/15
5680
RAG科普文!检索增强生成的技术全景解析
同济大学发布最新检索增强(RAG)的LLM生成技术综述
摘要主要介绍了大型语言模型(LLMs)在实际应用中面临的挑战,比如幻觉、知识更新缓慢和答案缺乏透明度等问题,并提出了检索增强生成(Retrieval-Augmented Generation,RAG)作为一种解决方案。RAG通过从外部知识库检索相关信息来辅助大型语言模型回答问题,已经被证明能显著提高回答的准确性,减少模型产生的幻觉,尤其是在知识密集型任务中。
唐国梁Tommy
2023/12/21
16.8K0
同济大学发布最新检索增强(RAG)的LLM生成技术综述
评估与优化RAG指南:提高准确性与质量的最佳实践
本指南将教你如何评估一个 RAG 系统的准确性 和质量。你将学会通过测试搜索精度、召回率、上下文相关性和响应准确性来保持 RAG 系统的性能。
AgenticAI
2025/03/18
850
评估与优化RAG指南:提高准确性与质量的最佳实践
精彩手绘全解:RAG技术,从入门到精通
本文整理自IVAN ILIN发布于Towards AI的博客[1]。感谢作者的精彩讲解。
zenRRan
2024/01/12
2.5K0
精彩手绘全解:RAG技术,从入门到精通
RAG 2.0架构详解:构建端到端检索增强生成系统
关于检索增强生成(RAG)的文章已经有很多了,如果我们能创建出可训练的检索器,或者说整个RAG可以像微调大型语言模型(LLM)那样定制化的话,那肯定能够获得更好的结果。但是当前RAG的问题在于各个子模块之间并没有完全协调,就像一个缝合怪一样,虽然能够工作但各部分并不和谐,所以我们这里介绍RAG 2.0的概念来解决这个问题。
deephub
2024/04/26
1.8K0
RAG 2.0架构详解:构建端到端检索增强生成系统
使用Elasticsearch进行基于图的 RAG
检索增强生成(RAG)通过将大型语言模型(LLM)的输出与事实数据结合,提升其生成能力。然而,传统的基于文档的RAG存在一些局限,如上下文窗口狭窄和数据不连贯。一个有前景的解决方案是利用知识图谱,结构化地组织实体和关系,以实现更深入、更具上下文的检索。本文探讨了如何利用Elasticsearch高效地实现基于图的RAG,通过动态构建和修剪针对用户查询的知识子图,并将其线性化以供LLM使用,从而在不需要额外基础设施的情况下,实现可扩展性和精确性,为基于事实的AI应用开辟了新的可能性。
点火三周
2025/01/29
2180
使用Elasticsearch进行基于图的 RAG
RAG技术全解析:打造下一代智能问答系统
大型语言模型(LLM)已经取得了显著的成功,尽管它们仍然面临重大的限制,特别是在特定领域或知识密集型任务中,尤其是在处理超出其训练数据或需要当前信息的查询时,常会产生“幻觉”现象。为了克服这些挑战,检索增强生成(RAG)通过从外部知识库检索相关文档chunk并进行语义相似度计算,增强了LLM的功能。通过引用外部知识,RAG有效地减少了生成事实不正确内容的问题。RAG目前是基于LLM系统中最受欢迎的架构,有许多产品基于RAG构建,使RAG成为推动聊天机器人发展和增强LLM在现实世界应用适用性的关键技术。
用户9177072
2024/05/08
5260
RAG 技术综述
检索增强生成(Retrieval Augmented Generation,简称 RAG)向 LLM 提供了从特定数据源检索的信息,以此作为生成答案的基础。简而言之,RAG 结合了搜索和 LLM 的提示功能,在此基础上,模型根据搜索算法提供的信息,作为上下文来回答问题。这些查询和检索到的上下文会一并被注入到发送给 LLM 的提示中。
科技之歌
2024/02/01
1.6K0
RAG 技术综述
深度解析RAG技术在大模型时代的原理与实践
AI 日报_硅谷 “鲁迅” 怒怼马斯克_炮轰 AI 界 * 前 OpenAI 安全主管入职友商 Anthropic
可信AI进展
2024/06/03
2.6K0
关于RAG你不得不了解的17个技巧
这篇文章适合那些在过去一个月里刚刚构建了第一个LLM(大语言模型)应用程序,并开始考虑如何将其产品化的朋友们。我们将介绍17种技术,帮助你们避免在RAG开发过程中重复踩坑——毕竟,在同一个坑里跌倒两次,岂不是太浪费时间了?通过这些技巧,你们可以逐步优化大模型的技术方案,提升RAG在实际应用中的效果和稳定性。
致Great
2025/01/09
2350
关于RAG你不得不了解的17个技巧
一文带你全面了解 RAG 组件
检索增强生成 (RAG) 流程正在彻底改变我们与大型语言模型 (LLM) 的交互方式。RAG 不再仅仅依赖这些模型中预先训练的知识,而是让 LLM 能够实时访问和利用外部知识源,从而产生更准确、更相关、更有根据的响应。然而,构建有效的 RAG 系统并不是一个即插即用的操作;它是一个经历复杂选择的过程。
致Great
2024/12/29
2200
一文带你全面了解 RAG 组件
让知识图谱成为大模型的伴侣
大型语言模型(LLM)能够在短时间内生成非常流畅和连贯的文本,为人工智能的对话、创造性写作和其他广泛的应用开辟了新的可能性,然而,LLM也有着一些关键的局限性。它们的知识仅限于从训练数据中识别出的模式,这意味着缺乏对世界的真正理解。同时,推理能力也是有限的,不能进行逻辑推理或从多种数据源来融合事实。面对更复杂、更开放的问题时,回答开始变得荒谬或矛盾,美其名曰“幻觉”。
半吊子全栈工匠
2024/01/29
4560
让知识图谱成为大模型的伴侣
独家 | 进阶RAG-提升RAG效果
在我的上一篇博客中,我深入地介绍了RAG以及它是如何用LlamaIndex实现的。然而,RAG在回答问题时经常遇到许多挑战。在本博客中,我将解决这些挑战,更重要的是,我们将深入研究提高RAG性能的解决方案,使其可用于生产环境。
数据派THU
2024/06/28
6570
独家 | 进阶RAG-提升RAG效果
推荐阅读
相关推荐
从零开始优化 RAG 流程的终极指南,解决检索增强生成的核心挑战
更多 >
领券
社区富文本编辑器全新改版!诚邀体验~
全新交互,全新视觉,新增快捷键、悬浮工具栏、高亮块等功能并同时优化现有功能,全面提升创作效率和体验
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档
查看详情【社区公告】 技术创作特训营有奖征文