首页
学习
活动
专区
圈层
工具
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

飞腾平台力挺DeepSeek大模型,国产CPU性能直逼国际水平!

近日,飞腾平台宣布全面支持DeepSeek全系列大模型,这一举措涵盖了飞腾腾云S5000C与腾锐D3000处理器,广泛适用于数据中心及终端应用场景,展现出卓越的性能表现。

在DeepSeek-V3与R1版本面世后,飞腾迅速行动,在腾云S5000C与腾锐D3000平台上进行了详尽的本地部署验证,成功构建了一整套端到端的国产平台DeepSeek大模型智能计算环境。特别是在数据中心领域,腾云S5000C服务器与多款国产AI加速卡的协同工作,使得DeepSeek蒸馏版与全量版得以顺利部署。

据官方实际测试数据揭示,飞腾腾云S5000C配合8张国产AI加速卡使用时,DeepSeek-R1-Distill-Llama-70B版本的推理速度惊人,每秒可处理22个tokens,其本地部署的推理效率与海外同类产品旗鼓相当,整体性能达到了国外平台性能的约80%。DeepSeek R1 671B的完整版模型也已在由四台机器、32张AI加速卡组成的服务器集群上,通过分布式推理框架成功部署。

在用户终端层面,基于腾锐D3000处理器与银河麒麟V10操作系统的台式机,同样展现出了强大的本地部署能力。通过搭载DeepSeek-R1 7B蒸馏版模型及1张国产推理卡,这些台式机已具备了AI PC的功能,为用户提供了一个安全可靠的本地知识助手。

飞腾平台此番对DeepSeek全系列大模型的全面支持,不仅进一步拓宽了国产处理器在AI领域的应用范围,也为数据中心与终端用户带来了更为高效、智能的解决方案,标志着国产平台在AI技术领域的又一重大突破。

  • 发表于:
  • 原文链接https://page.om.qq.com/page/OiHe6yd6l8rhnm5sYfW13xzA0
  • 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 cloudcommunity@tencent.com 删除。

相关快讯

扫码

添加站长 进交流群

领取专属 10元无门槛券

私享最新 技术干货

扫码加入开发者社群
领券