首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

Langchain-Chatchat大语言模型本地知识库一键整合包

Langchain-Chatchat大语言模型本地知识库一键整合包

️Langchain-Chatchat是一种利用 langchain 思想实现的基于本地知识库的问答应用,目标期望建立一套对中文场景与开源模型支持友好、可离线运行的知识库问答解决方案。

Langchain-Chatchat建立了全流程可使用开源模型实现的本地知识库问答应用,使用基于 Streamlit 的 WebUI 进行操作。

Langchain-Chatchat实现原理如下图所示,过程包括加载文件 -> 读取文本 -> 文本分割 -> 文本向量化 -> 问句向量化 -> 在文本向量中匹配出与问句向量最相似的 top k个 -> 匹配出的文本作为上下文和问题一起添加到 prompt中 -> 提交给 LLM生成回答。

学术Fun将上述工具制作成一键启动包,内置chatglm3模型,点击即可使用,避免大家配置Python环境出现各种问题,下载地址: https://xueshu.fun/3278/,在此页面右侧区域点击下载!

注意电脑配置如下:

windows 10/11

8G显存以上英伟达显卡

下载压缩包下载地址: https://xueshu.fun/3278/,在此页面右侧区域点击下载!

解压,解压后,最好路径和我的保持一致,D:\AI\Langchain-ChatGLM,如下图所示,双击启动.exe文件运行

启动过程中,会联网更新streamlit包,包很小只有10几兆,更新streamlit包是防止有的同学没有解压到和我本地一致的目录,会出现streamlit命令找不到的错误,启动完成后浏览器会自动打开使用界面,如下所示,本地访问地127.0.0.1:8501

本地知识库使用

按照下图步骤,建立本地知识库

新建知识库名称,不支持中文

填写知识库简介

点击新建

上传知识库文件,支持格式如图中所示

点击添加文件到知识库

使用知识库问答

选择对话

选择知识库问题对话模式

选择刚刚建立的知识库名称

输入内容进行知识库对话,对话内容会从上传的知识库文件中索引

联网问答功能

还支持联网在线搜索问答,使用方式见下图:

  • 发表于:
  • 原文链接https://page.om.qq.com/page/OYGrX19a-geEjtTknrBzAG8w0
  • 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 cloudcommunity@tencent.com 删除。

扫码

添加站长 进交流群

领取专属 10元无门槛券

私享最新 技术干货

扫码加入开发者社群
领券