首页
学习
活动
专区
圈层
工具
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

deep seek手把手教程:个人在本地部署 30B 模型,接入微信自动聊天

DeepSeek 是中国人工智能企业深度求索推出的 AI 工具。其核心技术有独特的 DeepSeek - R1 - Zero 训练方法、采用 FP8 等技术的 DeepSeek - V3 架构等,还具备联网推理能力。

近期,DeepSeek 引发全球关注。它仅用较少资源就实现匹敌美国顶尖 AI 模型的效果,让美国科技界震动,导致英伟达股价暴跌,五角大楼对其态度矛盾,既担心数据安全,又认可其技术。在应用方面,使不少企业提高了客服、创作等工作效率。

因为是一个开源的人工智能工具,所以个人和企业可以在自己本地的主机上部署自己私有知识库的deep seek。

我们可以在本地部署一个自己私有的deepseek,然后链接我们的微信,让他成为一个帮助我们自动聊天的机器人。

本地部署 DeepSeek

安装 Ollama

:前往Ollama 官网下载 Windows 版本的 Ollama 工具进行安装。若想指定安装路径,可在命令行输入 “OllamaSetup.exe/DIR="D:\ollama"” 进行安装。

设置环境变量

:打开设置 - 高级系统设置 - 环境变量,找到 Path,双击进入编辑,将 C 盘的 Ollama 路径修改为指定目录。再添加一个新的用户变量 “OLLAMA_MODELS”,用于指定下载的模型储存位置。

下载模型

:根据电脑配置选择合适的 DeepSeek 模型,在命令行执行 “ollama run [模型名称]” 进行下载,如 “ollama run deepseek-r1:14b”。

部署 NGCBot 接入微信

下载项目

:访问NGCBot 项目地址,下载并解压。

安装微信版本

:解压后双击启动器打开项目,若提示微信版本不支持,需安装特定低版本的微信。

登录微信

:安装完成后,重新双击启动器打开 NGCBot,扫码登录微信,当启动器显示相关内容时,证明服务已初始化成功。

修改 NGCBot 配置

配置管理员 ID

:打开 NGCBot 项目根目录的 Config/Config.yaml 文件,修改超级管理员配置,填入管理员微信的 ID。

配置模型名称

:修改 localDeepSeek 下的 deepSeekmodel 中的模型名称,填写本地部署的 DeepSeek 模型名称。

保存并重启

:配置修改完成后保存文件,关闭并重新打开 NGCBot。

  • 发表于:
  • 原文链接https://page.om.qq.com/page/O0sW7pJZwh3AhVGgHjnNeg6g0
  • 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 cloudcommunity@tencent.com 删除。

扫码

添加站长 进交流群

领取专属 10元无门槛券

私享最新 技术干货

扫码加入开发者社群
领券