我建了一个DeepSeek交流群,里面会分享:
1,DeepSeek的本地部署安装的教程
2,使用技巧的教程;
3,搞副业案例。
有兴趣,添加下方微信,备注【学习】。
--
进入正题。
DeepSeek火了之后,很多知识库软件也顺势接入了对DeepSeek大模型的支持。
这让原本就好用的知识库软件更加智能更加平民化,可以说是如虎添翼。
之前,晓棠哥已经出了Anything、Cherry和RAGFlow构建知识库教程,有兴趣的可以查看往期文章。
今天,晓棠哥带来的教程是在Dify中接入DeepSeek,并构建个人知识库的教程。
教程一共有以下3个大步骤:
1,下载安装Docker;
2,下载并运行Dify;
3,在Dify上接入Deepseek,构建个人知识库。
01 下载安装Docker
下载Docker并安装的教程在之前的文章里面已经写过了,在这里就不重复了,点击下方链接即可直达教程:
02 下载并运行Dify
1,进入GitHub上的Dify仓库,选择下载ZIP文件;
仓库地址:
https://github.com/langgenius/dify
2,解压下载的压缩包,进入docker目录中;
3,进入docker目录后,找一个空白的地方单击鼠标右键,点击【在终端中打开】按钮;
4,在出来的命令行窗口中输入执行【复制环境配置文件】命令;
命令语句:cp .env.example .env
5,检查本机docker的Compose版本,输入下面命令检查
docker compose version
我电脑执行后显示的是2.34的版本。
6,根据上面的检查结果执行下面不同的启动命令
如果版本是 Docker Compose V2,使用以下命令:
docker compose up -d
如果版本是 Docker Compose V1,使用以下命令:
docker-compose up -d
我的是V2版本,所以执行第一条命令,执行后Docker就会开始构建镜像
这个时候可以起身活动活动,等它所有的进度条走完
等进度条走完之后,就会在这里显示一大堆绿色的started,当你看到这些的时候就说明已经构建完成并且启动了。
7,运行Docker命令检查以下启动是否成功,检查命令为:
docker compose ps
看到上面信息的时候,说明已经启动成功了!
03 在Dify上接入Deepseek模型
1,打开Dify页面,访问地址为:
http://localhost
2,在新页面中设置管理员账户,这个账户你需要记住,因为后面管理都是用这个账户,账户设置好之后会进入到登录页
3,输入账号密码进行登录,登录之后来到Dify的主界面
4,点击右上方个人头像,点击设置;
5,点击左边的【模型供应商】,添加ollama到模型列表,并点击添加模型;
6,分别按照下面两种方式,选择本地的DeepSeek模型和nomic向量模型;
添加DeepSeek模型,注意这里要添加你下载的模型名,主要是后面参数的区别,我是7b,所以写7b。
添加nomic向量模型。
以上两种模型的基础URL都填写:
http://host.docker.internal:11434
04 新建Dify知识库
2,点击上传文件;
3,导入完成后,点击下一步按钮;
4,在文本切割设置页面,所有的设置都保持默认,拉到最下面,看到已经选择了nomic向量模型,这时点击【保存并处理】按钮即可;
5,当你看到下面这两个提示,就代表你的知识库就创建成功了!
05 效果验证
1,点击【工作室】,点击左边卡片的【创建空白应用】;
3,跳转新页面后,点击点击刚才创建的聊天助手;
4,选择知识库,点击右边的添加按钮;
5,点击刚才新建的知识库,然后点击添加;
6,输入prompt系统级提示词;
7,在右边输入问题;
8,DeepSeek接受到问题后思索片刻,就会给出回答,如下:
可以看到,DeepSeek已经顺利读取到了知识库的内容给出了回答,并且在最下面还指出了引用的知识库文件。
06 写在最后
这个在本地部署Dify,并且接入本地DeepSeek的教程已经写得非常细致,跟着教程一步一步来,你也可以在本地部署Dify并接入DeepSeek。
当然,如果部署过程中实在遇到了问题,可以添加晓棠的微信获取帮助,扫一扫下方即可添加:
-- End --
--
我是AI晓棠哥,
我会每天分享关于AI的最佳实践。
关注我,你将更快利用AI来为工作生活提效。
领取专属 10元无门槛券
私享最新 技术干货