DeepSeek 是中国人工智能企业深度求索推出的 AI 工具。其核心技术有独特的 DeepSeek - R1 - Zero 训练方法、采用 FP8 等技术的 DeepSeek - V3 架构等,还具备联网推理能力。
近期,DeepSeek 引发全球关注。它仅用较少资源就实现匹敌美国顶尖 AI 模型的效果,让美国科技界震动,导致英伟达股价暴跌,五角大楼对其态度矛盾,既担心数据安全,又认可其技术。在应用方面,使不少企业提高了客服、创作等工作效率。
因为是一个开源的人工智能工具,所以个人和企业可以在自己本地的主机上部署自己私有知识库的deep seek。
我们可以在本地部署一个自己私有的deepseek,然后链接我们的微信,让他成为一个帮助我们自动聊天的机器人。
本地部署 DeepSeek
安装 Ollama
:前往Ollama 官网下载 Windows 版本的 Ollama 工具进行安装。若想指定安装路径,可在命令行输入 “OllamaSetup.exe/DIR="D:\ollama"” 进行安装。
设置环境变量
:打开设置 - 高级系统设置 - 环境变量,找到 Path,双击进入编辑,将 C 盘的 Ollama 路径修改为指定目录。再添加一个新的用户变量 “OLLAMA_MODELS”,用于指定下载的模型储存位置。
下载模型
:根据电脑配置选择合适的 DeepSeek 模型,在命令行执行 “ollama run [模型名称]” 进行下载,如 “ollama run deepseek-r1:14b”。
部署 NGCBot 接入微信
下载项目
:访问NGCBot 项目地址,下载并解压。
安装微信版本
:解压后双击启动器打开项目,若提示微信版本不支持,需安装特定低版本的微信。
登录微信
:安装完成后,重新双击启动器打开 NGCBot,扫码登录微信,当启动器显示相关内容时,证明服务已初始化成功。
修改 NGCBot 配置
配置管理员 ID
:打开 NGCBot 项目根目录的 Config/Config.yaml 文件,修改超级管理员配置,填入管理员微信的 ID。
配置模型名称
:修改 localDeepSeek 下的 deepSeekmodel 中的模型名称,填写本地部署的 DeepSeek 模型名称。
保存并重启
:配置修改完成后保存文件,关闭并重新打开 NGCBot。
领取专属 10元无门槛券
私享最新 技术干货