部署DeepSeek模型,进群交流最in玩法!
立即加群
首页
学习
活动
专区
圈层
工具
发布
首页
学习
活动
专区
圈层
工具
社区首页 >专栏 >腾讯云 DeepSeek 系列模型部署HAI实战

腾讯云 DeepSeek 系列模型部署HAI实战

原创
作者头像
小马哥学JAVA
发布于 2025-03-23 07:30:00
发布于 2025-03-23 07:30:00
1820
举报

前言:

随着生成式人工智能技术的迅猛发展,大模型正从实验室走向产业落地,成为驱动数字化转型的新引擎。在这一技术浪潮中,国内头部云厂商加速布局AI基础设施与工具链建设,其中腾讯云凭借其Deepseek系列大模型与**高性能AI计算实例(HAI)**的深度整合,为开发者提供了从模型训练到应用落地的全栈解决方案。

操作过程:

第一步:跳转链接

https://cloud.tencent.com/act/pro/deepseek2025#HAI-CPU

购买一个体验版的HAI,用于本次部署HAI的必要条件;

第二步:点击立即购买

选择一个可以购买的资源,由于本次的资源是紧缺的,很多的套餐都已经购买了,所以说要选择一个可以购买的进行支付即可;

第三步:进行支付

支付成功:

选择已成功支付即可;

第四步:登录cnb.cool地址

登录成功:

第五步:跳转这个地址

https://cnb.cool/ai-awesome/deepseek

选择分支:

第六步:点击fork,进入云原生开发

注意点:这个环节与官方视频中的不一致的地方,需要先点击fork,然后页面才会刷新出来“云原生开发”的按钮

加载环境

加载成功之后,会显示如下图

选择WebIDE 打开即可

第七步:按照olloma的环境

按照之前,先查看环境是否存在ollama的环境,输入show info

可以看出来当前服务器内的没有安装任何东西的

执行ollama run $ds命令,按照大模型的docke环境

查看参数的

第八步:进行验证是否正常问答

通过这个回答,可以看出来,这个回答还是比较正常的,不承认自己很笨。哈哈哈。

服务操作:

第一步:查看正在执行的服务

如果服务不需要了,可以进行关闭操作;

第二步:进入云原生构建的解决

https://docs.cnb.cool/zh/open-api.html#api-fu-wu-di-zhi

第三步:添加令牌

第四步:创建令牌成功

总结:

整个的流程还是比较顺畅的,但是如果只是根据视频进行搭建还是会存在一定的问题,只有实际搭建的时候,才会发现一些问题,当然了搭建好了模型之后只是第一步,如何根据搭建的服务进行调用,才是最重要的,这个点后续会继续更新对应的文章进行介绍,毕竟现在搭建deepseek还是比较简单的,只不过自己的电脑一般都不符合条件,毕竟一个比较合适的模型还是比较大的,并且对于计算机的硬件要求比较高,如果搭建一个对外的接口更加的不合适了,腾讯云只需要一块钱就能搭建一个短期的服务还是非常划算的。

原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。

如有侵权,请联系 cloudcommunity@tencent.com 删除。

原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。

如有侵权,请联系 cloudcommunity@tencent.com 删除。

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • 前言:
  • 操作过程:
    • 第一步:跳转链接
    • 第二步:点击立即购买
    • 第三步:进行支付
    • 第四步:登录cnb.cool地址
    • 第五步:跳转这个地址
    • 第六步:点击fork,进入云原生开发
    • 第七步:按照olloma的环境
    • 第八步:进行验证是否正常问答
  • 服务操作:
    • 第一步:查看正在执行的服务
    • 第二步:进入云原生构建的解决
    • 第三步:添加令牌
    • 第四步:创建令牌成功
  • 总结:
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档
查看详情【社区公告】 技术创作特训营有奖征文