准备工作
参考《1Plane的AI模块》搭建1Plane
建议配置4C16G以上
安装Ollama
切换到“应用商店”,根据关键字查找Ollama:
点击Ollama的“安装”,设置相关信息,点击“确认”:
等待安装:
确保安装后的状态是“已启动”:
添加大模型
切换到AI--->“模型”界面:
点击“添加模型”,填写需要拉取到大模型:
点击“添加”,等待大模型拉取完成(约20分钟,视网络而定):
日志提示拉取大模型完毕:
大模型界面显示状态为“成功”:
参考:https://1panel.cn/docs/user_manual/ai/model/
对接CherryStudio
安装CherryStudio
参考《Cherry Studio搭建AI知识库》安装CherryStudio。
接入大模型
在CherryStudio的设置--->模型服务--->Ollama中,填写API地址,API密钥不用填:
如果是云主机,API地址填1Plane的公网地址,且要安全组中开放11434端口
点击管理:
管理界面会显示已经安装的大模型:
点击大模型的加号:
表示将此大模型添加到CherryStudio中:
点击“添加”按钮也可以添加大模型到cherrystudio中。
但是书写有要求,如拉取的是qwen2.5:3b,要写qwen2.5:latest:
测试大模型
点击助手,添加一个默认助手,选择Ollama中添加的大模型:
向它提问:
到此,使用1plane搭建ollama+cherry就完成了。
Tips:可以基于这个方案自建一个知识库