使用腾讯云TI-ONE平台快速部署和体验 DeepSeek 系列模型

煦然

修改于 2025-02-05 14:55:13

5.8K00

代码可运行

运行总次数：0

代码可运行

文档来源——https://cloud.tencent.com/document/product/851/115962

总览

DeepSeek 是由深度求索公司推出的大语言模型。其中：

DeepSeek-V3 是在14.8万亿高质量 token 上完成预训练的一个强大的混合专家 (MoE) 语言模型，拥有6710亿参数。作为通用大语言模型，其在知识问答、内容生成、智能客服等领域表现出色。
DeepSeek-R1 是基于 DeepSeek-V3-Base 训练生成的高性能推理模型，在数学、代码生成和逻辑推断等复杂推理任务上表现优异。
DeepSeek-R1-Distill 是使用 DeepSeek-R1 生成的样本对开源模型进行微调得到的小模型，拥有更小参数规模，推理成本更低，基准测试同样表现出色。

本文将介绍如何通过腾讯云 TI 平台，快速部署 DeepSeek 系列模型。完成模型部署后，即可与模型进行对话体验；或以 API 形式进行调用，接入 AI 应用中。

支持的模型列表

腾讯云 TI 平台已上架 DeepSeek 全系模型，详见下表。

模型名称	参数量	激活参数量	上下文窗口	推理资源推荐
DeepSeek-V3	671B	37B	128K	多机分布式部署，节点数量：2个，单节点配置：HCCPNV6 机型
DeepSeek-R1	671B	37B	128k	多机分布式部署，节点数量：2个，单节点配置：HCCPNV6 机型
DeepSeek-R1-Distill-Qwen-1.5B	1.5B	-	-	12C44GB 1卡A10
DeepSeek-R1-Distill-Qwen-7B	7B	-	-	12C44GB 1卡A10
DeepSeek-R1-Distill-Llama-8B	8B	-	128K	12C44GB 1卡A10
DeepSeek-R1-Distill-Qwen-14B	14B	-	-	16C96G 1卡A100
DeepSeek-R1-Distill-Qwen-32B	32B	-	-	32C192G 2卡A100
DeepSeek-R1-Distill-Llama-70B	70B	-	128K	164C948G 8卡A100

备注：如需要使用 HCCPNV6 机型，请联系您所对接的腾讯云销售或售前架构师进行开通。

限时免费体验

平台限时免费开放 DeepSeek 模型的免部署在线体验，支持 DeepSeek-R1 和 DeepSeek-R1-Distill-Qwen-1.5B 两款模型，便于开发者直观比较“最大杯”和“最小杯”的性能差异。进入 DeepSeek 系列模型详情页面后，选择顶部“模型体验”的 Tab 即可进入在线对话体验页面。

对于其他模型，可按下方模型部署实践自主部署对应模型后体验。

模型部署实践

下文我们将选用尺寸相对最小的 DeepSeek-R1-Distill-Qwen-1.5B 模型进行部署实践。其他模型的操作流程类似，仅需注意算力资源的配置差异。

前置准备工作

模型：TI 平台已将 DeepSeek 模型内置在大模型广场中，您可直接选择模型并一键部署。
资源：1.5B 的 DeepSeek 模型对算力需求较小，单卡A10即可支持其推理服务。您有多种计费模式选择：
- 按量计费：对于仅需短时体验或所需算力较小的用户，机器来源推荐选用“从 TIONE 购买”，并选用“按量计费”模式。该模式无需提前准备算力。开始部署时，平台会自动分配资源并进行计费，本实践也将使用该模式进行展开。
- 包年包月：对于已购买 CVM 机器或需较大、稳定算力的用户，机器来源推荐选用“从 CVM 机器中选择”，并选择对应的资源组。该模式下需要您提前购买好 CVM 机器并添加至 TI 平台资源组，详细操作步骤请参考资源组管理。
- 请注意，如部署 DeepSeek R1、V3模型，需要使用 HCCPNV6 机型，该机型需联系您所对接的腾讯云销售或售前架构师进行开通。

步骤一：部署模型服务

登录腾讯云 TI 平台，在大模型广场页面，您可看到 TI 内置的开源大模型卡片。
单击进入“DeepSeek 系列模型”卡片，查看模型详细介绍。

3. 在模型详情页面，单击新建在线服务，跳转至“模型服务 > 在线服务 > 创建服务”页面配置部署参数。

4. 按页面提示填写配置信息，参考如下：

服务名称：输入您的自定义的服务名称。如：“demo-DeepSeek-R1-Distill-Qwen-1_5B”。
机器来源：支持“从 CVM 机器中选择”和“从 TIONE 平台购买”两种模式。本例采用“从 TIONE 平台购买-按量计费”。如果您已购买自己的 CVM 机器，可以选择模式“从 CVM 机器中选择”。如果您选择从“TIONE 平台购买”选项时无法选到您所需要的 GPU 机型，说明在 TI 平台中暂无该机型的库存，此时您须选择“从 CVM 机器中选择”，然后自行购买 CVM 机器并添加至 TI 平台资源组，详细操作步骤请参考资源组管理。
部署方式：选择“标准部署”。
服务实例：
- 模型来源：选择 “镜像”类型。
- 模型和运行环境：选择“内置大模型/DeepSeek 系列模型/DeepSeek-R1-Distill-Qwen-1.5B”。
- 算力规格：12C44GB A10*1，推理资源配置建议详见大模型推理所需资源指南。

5. 授权并同意《腾讯云 TI-ONE 训练平台服务协议》，单击底部启动服务，正式发起服务部署。

步骤二：体验模型效果

1. 服务部署完成后，在“模型服务 > 在线服务”页面的列表中，其状态将显示为“运行中”。DeepSeek-R1-Distill-Qwen-1.5B 模型的部署时长预计为1-2分钟。

2. 单击列表中的在线体验，进入模型快速体验页面。可通过前端页面直接提问，体验模型效果。

步骤三：调用模型推理 API

腾讯云 TI 平台在线服务模块内置了接口调用测试功能。此外，您还可以使用命令行等工具测试调用 API。测试完成后，您可以以 API 调用方式将模型接入 AI 应用。下文将对模型推理 API 的测试及接入进行示例说明。

方式一：使用 TI 平台内置工具测试 API 调用

1. 在“模型服务 > 在线服务”页面的列表中，单击刚部署的服务的名称，跳转到服务详情页。

2. 进入服务详情页的“服务调用”Tab，在页面底部可看到“接口信息”版块。

3. 在“接口信息”版块的输入框中，输入接口和请求信息，进行接口测试。

接口名：在上图中位置1处输入接口名，对话接口请填写 /v1/chat/completions。
- 备注：TI 平台为内置开源大模型配备的推理框架为 vLLM，兼容 OpenAI 接口规范，除对话接口以外的更多接口请参考 vLLM 官方文档。
请求体（Request Body）：在上图中位置 2 处输入请求体，Chat Completion 接口的请求体格式请参考下方代码（请注意，下方代码中的“model”字段值“ms-xxxxxxxx”仅为示例，请在您自己的请求体中替换为真实有效的值）：

{
    "model": "ms-xxxxxxxx",
    "messages":
    [
        {
            "role": "user",
            "content": "描述一下你对人工智能的理解。"
         }
    ]
}

对于“model”字段，请输入服务组 ID，即页面上方“调用地址”的最后一部分。可参考下图，红框中标记的字符串即为服务组 ID，可看到该字符串以“ms-”作为前缀：

对于“content”字段，请输入您想对模型提出的具体问题。

4. 完成信息输入后，单击发送请求，稍作等待，“请求响应”框中将显示模型返回的响应结果：

方式二：使用命令行工具测试 API 调用

1. 在上述的“接口信息”版块中，在下图位置1处输入接口名。输入完成后，单击位置2处的复制按钮，复制完整的 API 调用命令头。

2. 在命令头最后追加参数 -d'{REQ_BODY}'，得到完整命令。其中 {REQ_BODY} 为请求体，请按照上文中“使用平台在线测试功能调用 API”的第 3 点给出的格式填写。最终编写成的完整命令应如下方代码所示：

curl -X POST https://ms-xxxxxxxx-xxxxxxxx.gw.ap-shanghai.ti.tencentcs.com/ms-xxxxxxxx/v1/chat/completions  
-H 'Content-Type: application/json' 
-d'{
    "model": "ms-xxxxxxxx",
    "messages":     
    [        
        { 
            "role": "user",
            "content": "描述一下你对人工智能的理解。"
        }
    ]
}'

3. 将完整命令输入到已连接到公网的计算设备的命令行工具中并执行，命令行中将返回模型的输出。