LLM大模型与AI应用的粘合剂。
LangChain是一个开源框架,旨在简化使用LLM构建端到端应用程序的过程,也是ReAct(reason+act)论文的落地实现。
2022年10月25日开源:
至今(2024-08-11)已有90K+ star:
种子轮一周1000万美金,A轮2500万美金,11个月里累计发布200多次,提交4000多次代码:
能力一览
模型 A
构造提示词 -> LLMs -> 模型生产结果 -> 结果处理 -> 最终结果
模型 B
构造提示词 -> LLMs -> 模型生产结果 -> 结果处理 -> 最终结果
模型 N...
构造提示词 -> LLMs -> 模型生产结果 -> 结果处理 -> 最终结果
+------------+ +------------------------+ +------------+
| | 输入 | +--------------+ | 输入 | |
| 用户输入 | -------------> | | prompt | | -------------> | LLMs |
| | | +--------------+ | | |
| | | | | |
| | 输出 | +--------------+ | 输出 | |
| | <------------- | | Output | | <------------- | |
+------------+ | | Parsers | | +------------+
| +--------------+ |
+------------------------+
Langchain I/O系统
提供目前市面上几乎所有 LLM 的通用接口,同时还提供 提示词 的管理和优化能力,也提供非常多的相关适用工具,以方便开发人员利用 LangChain 与 LLMs 进行交互。
LangChain 把提示词、LLM、结果解析封装成 Chain,并提供标准接口,以便允许不同Chain形成交互序列,为 AI 原生应用提供了端到端的 Chain。
检索增强生成式,一种解决预训练语料数据无法及时更新而带来的回答内容陈旧的方式。LangChain提供支持的Chain。
这些 Chain 会先和外部数据源交互以获得对应数据,再利用所获数据与 LLMs 交互。典型应用场景如:基于特定数据源的问答机器人。
对于一个任务,代理主要涉及让 LLMs 来对任务进行拆分、执行该行动、并观察执行结果,代理会重复执行这个过程,直到该任务完成为止。LangChain 为 代理 提供了标准接口,可供选择的代理及一些端到端的代理的示例。
chain 或 agent 调用之间的状态持久化。LangChain 为 内存 提供了标准接口并提供一系列的内存实现。
提供了非常多的评估能力,以更方便对 LLMs 进行评估。
原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。
如有侵权,请联系 cloudcommunity@tencent.com 删除。
原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。
如有侵权,请联系 cloudcommunity@tencent.com 删除。