前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >智能问答再升级:快速部署FastGPT大语言模型的知识库系统

智能问答再升级:快速部署FastGPT大语言模型的知识库系统

原创
作者头像
快乐的小白
发布2024-03-01 12:12:15
1.1K1
发布2024-03-01 12:12:15
举报
文章被收录于专栏:小白开发小白开发小白开发

使用腾讯云轻量应用服务器部署大语言模型的知识库问答系统FastGPT

前言

  • 每次不管是找之前的开发文档还是某个框架的开发文档,都需要花点时间,无意间看到这个项目,瞬间感觉到可以为我所用。
  • 其他行业好像也可以进行使用,比如每天导入制好的表格数据,然后接入到机器人,其他人员就可以直接在群里进行提问,获取当天的报价或其他信息等。
  • 如果是小白的可以先看一下注意事项,然后再一步步看教程。

1.FastGPT介绍

  • FastGPT,一个遵循 Apache License 2.0 开源协议的智能问答系统。FastGPT 以其独特的 QA 结构和可视化工作流而闻名,旨在提高在大量数据场景中的问答准确性,并支持多种语言模型。可以在遵守开源协议的前提下,进行二次开发和发布,以满足特定需求。无论是针对客服问答场景还是其他应用场景,FastGPT 的无限扩展性和便于调试的特点可以给你的项目带来便利。FastGPT 可以成为您智能问答系统的理想选择。
  • 对于更详细的介绍,您可以去 FastGPT的官方文档,了解更多相关信息。

2.准备事项

3.部署教程

3.1 选择服务器环境,这里我选择Linux系统的centos环境,然后再自己安装宝塔面板,大家可以自行先安装一下。

PS:https://curl.qcloud.com/rnuXqlNU 这里可以挑选最新活动机,便宜实惠。

3.2 购买成功后,控制台旁边的消息里就会收到服务器的ip和密码信息。如果没有的话也可以去控制台里找到服务器然后充值密码。(服务器的端口记得去开一下,也就是防火墙)

3.3 获得密码了后,就可以点击上方图的登录按钮,进入腾讯云的OrcaTerm,然后进行宝塔服务器安装,大家跟着流程一直走,安装命令我放在下方了。

yum install -y wget && wget -O install.sh https://download.bt.cn/install/install_6.0.sh && sh install.sh ed8484bec

3.4 宝塔面板安装完成后,就会有面板的信息,记得复制然后留存,要不然后面还得进服务器去重置。

3.5 进入宝塔面板,我们就开始操作FastGPT的安装部署了,首先打开宝塔面板的左边栏的文件,然后找到一个位置用来存放FastGPT的部署文件等,这里我一般都喜欢在 /www 里来弄。

3.6 进入www文件夹后,点击菜单上的终端,准备开始进行操作了。

3.7 执行下方指令

mkdir fastgpt

cd fastgpt

curl -O https://raw.githubusercontent.com/labring/FastGPT/main/files/deploy/fastgpt/docker-compose.yml

curl -O https://raw.githubusercontent.com/labring/FastGPT/main/projects/app/data/config.json

openssl rand -base64 756 > ./mongodb.key

chmod 600 ./mongodb.key

chown 999:root ./mongodb.key

3.8 执行完了后,再创建一个浏览器标签,打开宝塔面板,进入刚才创建的文件里,然后编辑docker-compose.yml,拉到最底部有两个地方要注意,一个是后台密码,可以提前设置一个复杂密码,然后就是你的gpt的key。(国内应该是用不了,得用中转或代理吧)

3.9 编辑完了后,再回到刚才的终端窗口,继续往下走

docker-compose pull

docker-compose up -d

docker ps

docker exec -it mongo bash

mongo -u myname -p mypassword --authenticationDatabase admin

rs.initiate({
  _id: "rs0",
  members: [
    { _id: 0, host: "mongo:27017" }
  ]
})

rs.status()

rs0 状态,则代表运行成功,以上就是的FastGPT部署操作了。

5.简单操作

  • 太复杂的操作,我就不演示了,后面再出一期对接公众号或机器人的教程吧,先给大家演示下,比如导入微擎框架的开发文档,然后让机器人充当微擎开发文档客服。

5.1 部署完了后,我们进入后台,后台地址是IP+3000端口。(如果进不去的话,就说明服务器还是宝塔面板的防火墙端口没有开放),点击左边栏的知识库,然后创建一个知识库,然后保存并预览,就可以开始使用了。

5.2 进入刚刚创建好的知识库,然后点击右边的手动录入,手动插入一条数据,插入完成了后,再点击左边栏的应用,创建一个应用,然后进入应用,选择好模型和刚才创建好的知识库。

5.3 在右边就可以测试一下。

  • 以上就是简单的应用了一下这个知识库,更多的精彩和有趣的地方,需要大家自行摸索,后期会再出一个教程对接公众号或机器人,在飞书和企微,个微里进行知识问题和资料检索。

6.注意事项

  • 服务器的端口要开,应该是3000,服务器和宝塔的防火墙都需要开一下,要不然进不去。
  • gpt账号没有的话,可以百度一下,国内有很多中转站,或者实在不行可以自己部署一下开源的模型。
  • 输入部署指令一定要一条一条的去执行,别漏掉,更别跳过。
  • 如果要更改配置的话,改完了就进入创建的目录,进入终端执行下docker-compose down && docker-compose pull && docker-compose up -d

7.结语

  • 在这篇文章中,我们了解了如何使用腾讯云轻量应用服务器来部署 FastGPT 大语言模型的知识库问答系统。通过这篇教程,我们深入探讨了 FastGPT 的介绍、准备事项以及详细的部署教程。我们还了解了如何在服务器上安装宝塔面板,并通过它来部署 FastGPT。在完成部署后,我们还简单演示了如何使用这个知识库系统。
  • 通过这篇教程,我们不仅学会了如何部署 FastGPT,还了解了如何在实际应用中使用它,比如在群里进行提问获取信息等。同时,我们也强调了一些注意事项,例如服务器端口的设置、GPT账号的获取以及部署指令的正确执行方式。
  • 在未来,我们将继续探索更多有趣的应用场景,并分享更多关于 FastGPT 的教程,比如如何对接公众号或机器人,在不同平台进行知识问题和资料检索等。希望这篇教程能够帮助大家更好地理解和应用 FastGPT,同时也欢迎大家积极探索和分享更多有趣的应用方式。

原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。

如有侵权,请联系 cloudcommunity@tencent.com 删除。

原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。

如有侵权,请联系 cloudcommunity@tencent.com 删除。

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • 前言
  • 1.FastGPT介绍
  • 2.准备事项
  • 3.部署教程
  • 5.简单操作
  • 6.注意事项
  • 7.结语
相关产品与服务
容器服务
腾讯云容器服务(Tencent Kubernetes Engine, TKE)基于原生 kubernetes 提供以容器为核心的、高度可扩展的高性能容器管理服务,覆盖 Serverless、边缘计算、分布式云等多种业务部署场景,业内首创单个集群兼容多种计算节点的容器资源管理模式。同时产品作为云原生 Finops 领先布道者,主导开源项目Crane,全面助力客户实现资源优化、成本控制。
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档