前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
圈层
工具
发布
首页
学习
活动
专区
圈层
工具
社区首页 >专栏 >智能问答再升级:快速部署FastGPT大语言模型的知识库系统

智能问答再升级:快速部署FastGPT大语言模型的知识库系统

原创
作者头像
快乐的小白
发布于 2024-03-01 04:12:15
发布于 2024-03-01 04:12:15
4.3K1
举报
文章被收录于专栏:小白开发小白开发

使用腾讯云轻量应用服务器部署大语言模型的知识库问答系统FastGPT

前言

  • 每次不管是找之前的开发文档还是某个框架的开发文档,都需要花点时间,无意间看到这个项目,瞬间感觉到可以为我所用。
  • 其他行业好像也可以进行使用,比如每天导入制好的表格数据,然后接入到机器人,其他人员就可以直接在群里进行提问,获取当天的报价或其他信息等。
  • 如果是小白的可以先看一下注意事项,然后再一步步看教程。

1.FastGPT介绍

  • FastGPT,一个遵循 Apache License 2.0 开源协议的智能问答系统。FastGPT 以其独特的 QA 结构和可视化工作流而闻名,旨在提高在大量数据场景中的问答准确性,并支持多种语言模型。可以在遵守开源协议的前提下,进行二次开发和发布,以满足特定需求。无论是针对客服问答场景还是其他应用场景,FastGPT 的无限扩展性和便于调试的特点可以给你的项目带来便利。FastGPT 可以成为您智能问答系统的理想选择。
  • 对于更详细的介绍,您可以去 FastGPT的官方文档,了解更多相关信息。

2.准备事项

3.部署教程

3.1 选择服务器环境,这里我选择Linux系统的centos环境,然后再自己安装宝塔面板,大家可以自行先安装一下。

PS:https://curl.qcloud.com/rnuXqlNU 这里可以挑选最新活动机,便宜实惠。

3.2 购买成功后,控制台旁边的消息里就会收到服务器的ip和密码信息。如果没有的话也可以去控制台里找到服务器然后充值密码。(服务器的端口记得去开一下,也就是防火墙)

3.3 获得密码了后,就可以点击上方图的登录按钮,进入腾讯云的OrcaTerm,然后进行宝塔服务器安装,大家跟着流程一直走,安装命令我放在下方了。

代码语言:php
AI代码解释
复制
yum install -y wget && wget -O install.sh https://download.bt.cn/install/install_6.0.sh && sh install.sh ed8484bec

3.4 宝塔面板安装完成后,就会有面板的信息,记得复制然后留存,要不然后面还得进服务器去重置。

3.5 进入宝塔面板,我们就开始操作FastGPT的安装部署了,首先打开宝塔面板的左边栏的文件,然后找到一个位置用来存放FastGPT的部署文件等,这里我一般都喜欢在 /www 里来弄。

3.6 进入www文件夹后,点击菜单上的终端,准备开始进行操作了。

3.7 执行下方指令

代码语言:php
AI代码解释
复制
mkdir fastgpt

cd fastgpt

curl -O https://raw.githubusercontent.com/labring/FastGPT/main/files/deploy/fastgpt/docker-compose.yml

curl -O https://raw.githubusercontent.com/labring/FastGPT/main/projects/app/data/config.json

openssl rand -base64 756 > ./mongodb.key

chmod 600 ./mongodb.key

chown 999:root ./mongodb.key

3.8 执行完了后,再创建一个浏览器标签,打开宝塔面板,进入刚才创建的文件里,然后编辑docker-compose.yml,拉到最底部有两个地方要注意,一个是后台密码,可以提前设置一个复杂密码,然后就是你的gpt的key。(国内应该是用不了,得用中转或代理吧)

3.9 编辑完了后,再回到刚才的终端窗口,继续往下走

代码语言:php
AI代码解释
复制
docker-compose pull

docker-compose up -d

docker ps

docker exec -it mongo bash

mongo -u myname -p mypassword --authenticationDatabase admin

rs.initiate({
  _id: "rs0",
  members: [
    { _id: 0, host: "mongo:27017" }
  ]
})

rs.status()

rs0 状态,则代表运行成功,以上就是的FastGPT部署操作了。

5.简单操作

  • 太复杂的操作,我就不演示了,后面再出一期对接公众号或机器人的教程吧,先给大家演示下,比如导入微擎框架的开发文档,然后让机器人充当微擎开发文档客服。

5.1 部署完了后,我们进入后台,后台地址是IP+3000端口。(如果进不去的话,就说明服务器还是宝塔面板的防火墙端口没有开放),点击左边栏的知识库,然后创建一个知识库,然后保存并预览,就可以开始使用了。

5.2 进入刚刚创建好的知识库,然后点击右边的手动录入,手动插入一条数据,插入完成了后,再点击左边栏的应用,创建一个应用,然后进入应用,选择好模型和刚才创建好的知识库。

5.3 在右边就可以测试一下。

  • 以上就是简单的应用了一下这个知识库,更多的精彩和有趣的地方,需要大家自行摸索,后期会再出一个教程对接公众号或机器人,在飞书和企微,个微里进行知识问题和资料检索。

6.注意事项

  • 服务器的端口要开,应该是3000,服务器和宝塔的防火墙都需要开一下,要不然进不去。
  • gpt账号没有的话,可以百度一下,国内有很多中转站,或者实在不行可以自己部署一下开源的模型。
  • 输入部署指令一定要一条一条的去执行,别漏掉,更别跳过。
  • 如果要更改配置的话,改完了就进入创建的目录,进入终端执行下docker-compose down && docker-compose pull && docker-compose up -d

7.结语

  • 在这篇文章中,我们了解了如何使用腾讯云轻量应用服务器来部署 FastGPT 大语言模型的知识库问答系统。通过这篇教程,我们深入探讨了 FastGPT 的介绍、准备事项以及详细的部署教程。我们还了解了如何在服务器上安装宝塔面板,并通过它来部署 FastGPT。在完成部署后,我们还简单演示了如何使用这个知识库系统。
  • 通过这篇教程,我们不仅学会了如何部署 FastGPT,还了解了如何在实际应用中使用它,比如在群里进行提问获取信息等。同时,我们也强调了一些注意事项,例如服务器端口的设置、GPT账号的获取以及部署指令的正确执行方式。
  • 在未来,我们将继续探索更多有趣的应用场景,并分享更多关于 FastGPT 的教程,比如如何对接公众号或机器人,在不同平台进行知识问题和资料检索等。希望这篇教程能够帮助大家更好地理解和应用 FastGPT,同时也欢迎大家积极探索和分享更多有趣的应用方式。

原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。

如有侵权,请联系 cloudcommunity@tencent.com 删除。

原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。

如有侵权,请联系 cloudcommunity@tencent.com 删除。

评论
登录后参与评论
1 条评论
热度
最新
你好呀,我们进入后台,后台地址是IP+3000端口 无法访问,是什么原因啊
你好呀,我们进入后台,后台地址是IP+3000端口 无法访问,是什么原因啊
回复回复点赞举报
推荐阅读
大型语言模型智能应用Coze、Dify、FastGPT、MaxKB 对比,选择合适自己的LLM工具
Coze、Dify、FastGPT 和 MaxKB 都是旨在帮助用户构建基于大型语言模型 (LLM) 的智能应用的平台。它们各自拥有独特的功能和侧重点,以下是对它们的简要对比:
星哥玩云
2025/04/08
3000
大型语言模型智能应用Coze、Dify、FastGPT、MaxKB 对比,选择合适自己的LLM工具
推荐三个搭建专有知识库+大模型智能助手开源项目
“ 介绍三个开源项目Dify、FastGPT和LangChain-Chatchat。这些项目使用了各种前沿技术,具有模块化设计、易扩展性、Docker支持等特点,非常适合二次开发。无论是在应用中自动化任务,构建知识库,还是进行问答系统的搭建,都有着广泛的用途。”
技术人生黄勇
2024/07/19
6610
推荐三个搭建专有知识库+大模型智能助手开源项目
再见 Tailscale,介绍一款超牛逼的虚拟组网神器 NetBird
简要来说 NetBird 是一个配置简易的,基于 WireGuard 的 VPN。
米开朗基杨
2023/09/09
13.6K0
再见 Tailscale,介绍一款超牛逼的虚拟组网神器 NetBird
详解几种常见本地大模型个人知识库工具部署、微调及对比选型(1)
这几年,各种新技术、新产品层出不穷,其中,大模型(Large Language Models)作为AI领域的颠覆性创新,凭借其在语言生成、理解及多任务适应上的卓越表现,迅速点燃了科技界的热情。从阿尔法狗的胜利到GPT系列的横空出世,大模型不仅展现了人工智能前所未有的创造力与洞察力,也预示着智能化转型的新纪元。然而,大模型的潜力要真正转化为生产力,实现从实验室到现实世界的平稳着陆,还需跨越理论到实践的鸿沟。
zhouzhou的奇妙编程
2024/06/11
18.9K0
3分钟快速构建大语言模型AI知识库
FastGPT 是一个基于 LLM 大语言模型的知识库问答系统,提供开箱即用的数据处理、模型调用等能力。同时可以通过 Flow 可视化进行工作流编排,从而实现复杂的问答场景!
Tinywan
2023/11/27
1.6K1
3分钟快速构建大语言模型AI知识库
深度解锁AI私有知识库:用 DeepSeek 和 RAGFlow 打造企业级智能平台
时间过的真快呀,又是一周结束了,最近AI和机器人的热度越来越高,能看到相关话题的文章越来越多。我在想,作为一个普通打工仔,我们能做什么,除了不断问AI生成答案,然后问完解决完就扔在脑后?想必不是长久之计,所以将知识沉淀,搭建一个私人知识库,来辅助自己建立脑中的知识库才是最重要的,今天就来给大家介绍如何利用开源项目打造一款私有AI知识库!
希里安
2025/03/31
2200
深度解锁AI私有知识库:用 DeepSeek 和 RAGFlow 打造企业级智能平台
MaxKB ——一款基于 LLM 大语言模型的知识库问答系统
MaxKB 是一款基于 LLM 大语言模型的知识库问答系统。MaxKB = Max Knowledge Base,旨在成为企业的最强大脑。
山行AI
2024/04/30
6.4K0
MaxKB ——一款基于 LLM 大语言模型的知识库问答系统
RAG+AI工作流+Agent:LLM框架该如何选择,全面对比MaxKB、Dify、FastGPT、RagFlow、Anything-LLM,以及更多推荐
MaxKB = Max Knowledge Base,是一款基于 LLM 大语言模型的开源知识库问答系统,旨在成为企业的最强大脑。它能够帮助企业高效地管理知识,并提供智能问答功能。想象一下,你有一个虚拟助手,可以回答各种关于公司内部知识的问题,无论是政策、流程,还是技术文档,MaxKB 都能快速准确地给出答案:比如公司内网如何访问、如何提交视觉设计需求等等
汀丶人工智能
2024/08/05
11.1K0
RAG+AI工作流+Agent:LLM框架该如何选择,全面对比MaxKB、Dify、FastGPT、RagFlow、Anything-LLM,以及更多推荐
简洁优雅知识库 FastGPT 快速部署
它界面简洁美观,功能完备强大。本文将介绍如何基于 Docker 快速部署 FastGPT,该方案非常适合个人或者小型团队。
陆道峰
2024/07/25
9920
简洁优雅知识库 FastGPT 快速部署
NAS下搭建FastGpt,一个基于 LLM 大语言模型的知识库问答系统 - 熊猫不是猫QAQ
FastGPT是一个基于LLM大语言模型的知识库问答系统,提供开箱即用的数据处理、模型调用等能力。同时可以通过Flow可视化进行工作流编排,从而实现复杂的问答场景!该项目为群有提供,且他自己部署了一个,用着我感觉还不错,而且官方也有体验版本可以使用。感兴趣可以去看看:https://fastgpt.run/
熊猫不是猫
2023/08/16
1.1K0
NAS下搭建FastGpt,一个基于 LLM 大语言模型的知识库问答系统 - 熊猫不是猫QAQ
dify v0.15.3外挂ragflow知识库,保姆级教程来了!
上一次我们学习了如何部署ragflow,本次我们学习如何使用ragflow+dify搭建本地问答系统。
Datawhale
2025/04/02
6650
dify v0.15.3外挂ragflow知识库,保姆级教程来了!
FastGPT | 3分钟构建属于自己的AI智能助手
FastGPT 是一个基于 LLM 大语言模型的知识库问答系统,提供开箱即用的数据处理、模型调用等能力。同时可以通过 Flow 可视化进行工作流编排,从而实现复杂的问答场景!
AI uTools
2024/10/29
3420
FastGPT | 3分钟构建属于自己的AI智能助手
从零开始:腾讯云轻量应用服务器上部署MaxKB项目(基于LLM大语言模型的知识库问答系统)
MaxKB是基于LLM大语言模型的知识库问答系统,旨在成为企业的最强大脑。它支持开箱即用,无缝嵌入到第三方业务系统,并提供多模型支持,包括主流大模型和本地私有大模型,为用户提供智能问答交互体验和灵活性。
快乐的小白
2024/06/03
1.7K0
从零开始:腾讯云轻量应用服务器上部署MaxKB项目(基于LLM大语言模型的知识库问答系统)
基于开源MaxKB构建大语言模型的本地知识库系统
MaxKB是一款基于LLM(Large Language Model)大语言模型的知识库问答系统。MaxKB的产品命名内涵为“Max Knowledge Base”,为用户提供强大的学习能力和问答响应速度,致力于成为企业的最强大脑。
星哥玩云
2024/08/14
6150
【好玩儿的Docker项目】任何地方无障碍快速访问!ChatGPT Next Web——一键免费部署你的私人 ChatGPT 网页应用
今天来分享一个私人 ChatGPT 网页应用——ChatGPT Next Web,让你随时随地方便使用ChatGPT!
二十五画生
2023/04/17
6K0
【好玩儿的Docker项目】任何地方无障碍快速访问!ChatGPT Next Web——一键免费部署你的私人 ChatGPT 网页应用
【好玩儿的Docker项目】10分钟部署一个类似知乎的开源问答平台——Answer
Answer是一个类似知乎的开源问答社区。支持Docker部署,目前GitHub拥有5.4K的star。
二十五画生
2023/01/16
3.8K0
【好玩儿的Docker项目】10分钟部署一个类似知乎的开源问答平台——Answer
【开源项目推荐】——纯中文本地GPT知识库搭建项目.assets
又到了本周的开源项目推荐。近一年多的时间,人工智能迎来了大爆发。GPT相关的大模型的发展让很多领域都发生了巨大的变化。 但是虽然GPT的自然语言识别功能异常的强大,但回答给我们的知识内容并不尽如人意。那么,有没有可以在本地部署搭建的AI知识库项目呢? 今天为大家推荐的就是一个纯中文本地GPT知识库搭建项目,虽然刚刚开源不到半年的时间,标星已经达到了8.8K, 让我们一起来看看吧~
大数据流动
2024/01/17
3.3K0
【开源项目推荐】——纯中文本地GPT知识库搭建项目.assets
基于 AutoFlow 快速搭建基于 TiDB 向量搜索的本地知识库问答机器人
本文将详细介绍如何通过 PingCAP 开源项目 AutoFlow 实现快速搭建基于 TiDB 的本地知识库问答机器人。如果提前准备好 Docker、TiDB 环境,整个搭建过程估计在 10 分钟左右即可完成,无须开发任何代码。
PingCAP
2024/12/05
1520
基于 AutoFlow 快速搭建基于 TiDB 向量搜索的本地知识库问答机器人
【AI落地应用实战】大模型加速器2.0:基于 ChatDoc + TextIn ParseX+ACGE的RAG知识库问答系统
在当今数字化浪潮席卷各行业的时代,企业内部信息管理的难题愈发凸显,构建高效的知识库已成为企业发展的必然选择。
中杯可乐多加冰
2025/03/29
1150
媲美GPT4o!教你用智谱GLM-4-Plus在Fastgpt、Dify中构建知识库,并结合o1思维链和工具调用!
前段时间用 智谱GLM-4-Plus 模型结合FatGPT、Dify设置工作流时,我想把之前g1项目的思维链整合进来。
AI进修生
2024/12/02
7940
媲美GPT4o!教你用智谱GLM-4-Plus在Fastgpt、Dify中构建知识库,并结合o1思维链和工具调用!
推荐阅读
大型语言模型智能应用Coze、Dify、FastGPT、MaxKB 对比,选择合适自己的LLM工具
3000
推荐三个搭建专有知识库+大模型智能助手开源项目
6610
再见 Tailscale,介绍一款超牛逼的虚拟组网神器 NetBird
13.6K0
详解几种常见本地大模型个人知识库工具部署、微调及对比选型(1)
18.9K0
3分钟快速构建大语言模型AI知识库
1.6K1
深度解锁AI私有知识库:用 DeepSeek 和 RAGFlow 打造企业级智能平台
2200
MaxKB ——一款基于 LLM 大语言模型的知识库问答系统
6.4K0
RAG+AI工作流+Agent:LLM框架该如何选择,全面对比MaxKB、Dify、FastGPT、RagFlow、Anything-LLM,以及更多推荐
11.1K0
简洁优雅知识库 FastGPT 快速部署
9920
NAS下搭建FastGpt,一个基于 LLM 大语言模型的知识库问答系统 - 熊猫不是猫QAQ
1.1K0
dify v0.15.3外挂ragflow知识库,保姆级教程来了!
6650
FastGPT | 3分钟构建属于自己的AI智能助手
3420
从零开始:腾讯云轻量应用服务器上部署MaxKB项目(基于LLM大语言模型的知识库问答系统)
1.7K0
基于开源MaxKB构建大语言模型的本地知识库系统
6150
【好玩儿的Docker项目】任何地方无障碍快速访问!ChatGPT Next Web——一键免费部署你的私人 ChatGPT 网页应用
6K0
【好玩儿的Docker项目】10分钟部署一个类似知乎的开源问答平台——Answer
3.8K0
【开源项目推荐】——纯中文本地GPT知识库搭建项目.assets
3.3K0
基于 AutoFlow 快速搭建基于 TiDB 向量搜索的本地知识库问答机器人
1520
【AI落地应用实战】大模型加速器2.0:基于 ChatDoc + TextIn ParseX+ACGE的RAG知识库问答系统
1150
媲美GPT4o!教你用智谱GLM-4-Plus在Fastgpt、Dify中构建知识库,并结合o1思维链和工具调用!
7940
相关推荐
大型语言模型智能应用Coze、Dify、FastGPT、MaxKB 对比,选择合适自己的LLM工具
更多 >
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档