首页
学习
活动
专区
圈层
工具
发布

Ollama+CherryStudio(1Plane版)

准备工作

参考《1Plane的AI模块》搭建1Plane

建议配置4C16G以上

安装Ollama

切换到“应用商店”,根据关键字查找Ollama:

点击Ollama的“安装”,设置相关信息,点击“确认”:

等待安装:

确保安装后的状态是“已启动”:

添加大模型

切换到AI--->“模型”界面:

点击“添加模型”,填写需要拉取到大模型:

点击“添加”,等待大模型拉取完成(约20分钟,视网络而定):

日志提示拉取大模型完毕:

大模型界面显示状态为“成功”:

参考:https://1panel.cn/docs/user_manual/ai/model/

对接CherryStudio

安装CherryStudio

参考《Cherry Studio搭建AI知识库》安装CherryStudio。

接入大模型

在CherryStudio的设置--->模型服务--->Ollama中,填写API地址,API密钥不用填:

如果是云主机,API地址填1Plane的公网地址,且要安全组中开放11434端口

点击管理:

管理界面会显示已经安装的大模型:

点击大模型的加号:

表示将此大模型添加到CherryStudio中:

点击“添加”按钮也可以添加大模型到cherrystudio中。

但是书写有要求,如拉取的是qwen2.5:3b,要写qwen2.5:latest:

测试大模型

点击助手,添加一个默认助手,选择Ollama中添加的大模型:

向它提问:

到此,使用1plane搭建ollama+cherry就完成了。

Tips:可以基于这个方案自建一个知识库

  • 发表于:
  • 原文链接https://page.om.qq.com/page/OPu0PuJSpv62be0GdjjZ8XWg0
  • 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 cloudcommunity@tencent.com 删除。

相关快讯

领券