DeepSeek 系列模型,以其在自然语言处理与代码生成领域的卓越表现和创新架构,为开发者解锁了前所未有的潜力。然而,如何将这一强大能力融入实际应用,仍是许多开发者面临的重要挑战。
蓝耘元生代智算云平台与多种应用深度融合,助力用户不断突破 AI技术壁垒,大幅提升业务效率。目前元生代已支持在Chatbox、Dify、CherryStudio、AnythingLLM等第三方平台中调用模型服务API,为用户提供多场景下的便捷高效体验。下面手把手教你如何通过本地AnythingLLM客户端调用元生代DeepSeek-R1满血版API,构建本地知识库,打造出“智能大脑+专属智库”的黄金拍档。
AnythingLLM核心功能:
AnythingLLM是一款多功能AI应用程序,支持将PDF、TXT、DOCX等文档转化为语言模型可理解的上下文,用户可通过自然对话获取信息。它具备RAG、多模型适配及私有知识库管理功能,可创建AI代理执行网页浏览、代码运行等任务, 同时兼容多模态数据(文本、图像、音频)及Mac、Windows、Linux等操作系统,适用性强。
快速搭建指南:
步骤一:获取API秘钥和域名
1、注册并登录蓝耘元生代智算云平台(cloud.lanyun.net),点击【Maas平台】,进入【DeepSeek】模型服务平台。
2、在左侧导航栏中选择【API开放平台】,进入【立即接入】界面。
3、在【创建API KEY】中创建API KEY
4、在【选择接入方式】中,查看API接入文档,了解预置模型API相关信息,包括API服务接口路径(即模型的API域名与API调用模型名)。
Tips:
蓝耘元生代智算云平台上的预置DeepSeek-R1模型的API域名为:【https://maas-api.lanyun.net/v1】,API调用模型名为:【/maas/deepseek-ai/DeepSeek-R1】。
步骤二:安装并配置AnythingLLM
1、访问AnythingLLM官网,下载并安装客户端。
Tips:
用户根据本地电脑自行选择相应的安装包下载安装即可。
本实践中以 Windows 系统的 AnythingLLM 客户端为例,其他系统的客户端界面可能存在差异,以用户下载的版本界面为准。
2、启动AnythingLLM客户端,点击左下角设置图标,选择【人工智能供应商-LLM首选项】,LLM提供商选择【GenericOpenAI】,并配置相应的Base URL、API Key、Chat Model Name,点击【Save changes】即可。
3、返回界面,创建工作区,点击工作区旁的设置按钮,设置工作区调用的DeepSeek-R1模型。
4、在聊天设置中,设置工作区LLM提供者为:【GenericOpenAl】与工作区聊天模型为:【/maas/deepseek-ai/DeepSeek-R1】。
步骤三:使用大模型服务
完成步骤二中的蓝耘元生代DeepSeek-R1满血版API调用后,在AnythingLLM工作区中,输入问题即可生成对应答案。
步骤四:构建本地知识库管理
1、选择左上角工作区旁的上传按钮,将本地知识文件上传,选择全部文件,点击【Move to Workspace】上传文件,点击【Save and Embed】。
2、返回工作区,点击左上角工作区旁设置,选择聊天设置,在聊天模式中选择【查询】,点击【Update workspace】。
3、再次返回工作区,提问上传文档中的内容,即可得到相应答案。若点击【Show Citations】,可以看到DeepSeek参考的文档列表正是刚刚上传的文件。
以上步骤为搭建本地知识库的完整流程。通过AnythingLLM调用蓝耘元生代平台的DeepSeek-R1满血版API,并将本地知识库上传至AnythingLLM,即可让DeepSeek成功学习本地知识,最终通过文本对话的方式精准输出相关内容。
领取专属 10元无门槛券
私享最新 技术干货