部署DeepSeek模型,进群交流最in玩法!
立即加群
发布
社区首页 >专栏 >如何快速接入DeepSeek | 腾讯云HAI部署指南

如何快速接入DeepSeek | 腾讯云HAI部署指南

原创
作者头像
fanstuck
发布2025-02-08 17:22:14
发布2025-02-08 17:22:14
9880
举报

一、为什么要使用DeepSeek + 腾讯云HAI

近年来,随着大模型与多场景应用的蓬勃发展,AI工程师越来越需要快速、高效且低成本地部署和管理模型服务。腾讯云HAI(High-performance AI)平台是一个面向高性能计算与深度学习的综合解决方案,提供了 GPU/CPU 资源调度、自动化部署以及运维监控等功能;而 DeepSeek 则是一个帮助开发者快速搭建数据处理、模型训练与推理的智能化框架。将两者结合后,你可以更轻松地进行 AI 任务的全流程管理,比如数据处理、模型训练、自动化推理,以及持续迭代升级。

二、基础概念&服务介绍

  1. DeepSeek
    • 核心功能:模型训练与推理、数据可视化、任务调度等。
    • 设计目的:降低AI开发/部署的门槛,帮助工程师聚焦于具体业务逻辑,而非底层配置与运维。
    • 常见应用场景:人脸识别、目标检测、语音识别、自然语言处理(NLP)等。
  2. 腾讯云HAI平台
    • 平台特点:提供高性能计算资源(GPU、CPU 等),结合腾讯云成熟的容器调度体系及运维管理能力,便于 AI 开发者快速上线并管理模型服务。
    • 核心功能:容器化、自动扩缩容、可定制的任务调度,支持主流框架(TensorFlow、PyTorch、MXNet 等)的部署。
    • 适用场景:训练数据量大、推理性能要求高、希望自动化部署管理多版本模型的场景。

三、快速部署流程

在开始前,需要先完成以下准备工作:

  1. 注册腾讯云账号:如果还没有腾讯云账号,请访问腾讯云官网注册并完成实名认证。
  2. 开通HAI平台:进入腾讯云控制台,搜索“HAI”或者“HPC AI”,按照平台指引开通相关服务。部分功能可能需要提交申请或购买资源配额。
  3. 获取DeepSeek:可以通过官方文档或公共仓库(GitHub/Gitee 上)拉取 DeepSeek 的源代码或 Docker 镜像。若官方提供开放镜像,可以直接在 HAI 中使用镜像方式部署。

点击立即使用进入HAI的控制台,在控制台页面点击新建。

1. 新建应用

点击新建之后进入HAI服务创建页面。

我们在社区应用下可以找到 DeepSeek-R1 进行选择。这里HAI提供了DeepSeek-R1 1.5B及7B两种模型环境,能够满足用户快速部署和使用的需求。

2. 计费模式及算力方案

然后就是选择计费方式,这里我们就可以根据自己的需求选择计费模式。对于个人来说,可能不需要HAI 24H在线提供服务,因为HAI在关机的时候不会计费,所以按量计费比较合适。

在地域选择方面,有些区域支持学术加速能力。至于算力方案的选择上,对于DeepSeek-R1 1.5B和7B的模型,使用GPU基础型套餐就可以运行。如果想要DeepSeek实现更快的推理回答,就可以选择GPUT进阶型方案。

3. 安装

在经过上面简单的操作步骤之后,填写好我们实例名称、勾选协议,点击立即购买,就完成了在HAI上安装DeepSeek的整个过程。

DeepSeek使用

在点击购买之后,就会跳转到算力管理页面,就可以看到DeepSeek的HAI实例正在创建中。

选择 ChatbotUI,就会自动跳转ChatBot页面使用DeepSeek。可以看到访问chatbot,使用的是HAI实例的公网IP和6889端口。在上面选择社区应用的时候,我们就知道应用环境内置了DeepSeek-R1 1.5B和7B两个模型。

可以切换模型。

这样,我们就可以使用DeepSeek了。

下载模型

如果DeepSeek-R1 1.5B和7B无法满足你的需求,想要安装8B、14B的模型,我们可以通过JupterLab 连接实例,进行后台安装。

选择Terminal。

通过 ollama list 命令可以看到环境中预置的两个DeepSeek模型。

通过使用以下命令就可以安装其他模型。

代码语言:txt
复制
ollama run deepseek-r1:16b

通过本文的部署指南,你应该对在腾讯云HAI平台上快速接入并部署DeepSeek有了大致的认识与操作思路。实际生产环境中,由于项目需求及团队规模的不同,可能会对镜像制作、数据管理、安全合规等提出更多细化要求。建议在上手后,多结合自身业务实践,通过自动化脚本或平台服务将DeepSeek的功能与HAI平台的管理能力深度融合,从而进一步提升AI研发效率和稳定性。

有任何问题或意见,欢迎在相关社区或官方文档中查阅更多信息,也可以向腾讯云和DeepSeek官方团队寻求支持。祝你一切部署顺利,玩得开心!

原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。

如有侵权,请联系 cloudcommunity@tencent.com 删除。

原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。

如有侵权,请联系 cloudcommunity@tencent.com 删除。

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • 一、为什么要使用DeepSeek + 腾讯云HAI
  • 二、基础概念&服务介绍
  • 三、快速部署流程
    • 1. 新建应用
    • 2. 计费模式及算力方案
    • 3. 安装
      • DeepSeek使用
      • 下载模型
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档