首页
学习
活动
专区
圈层
工具
发布

DeepSeek在下一代人工智能模型中首次引入“稀疏注意力”机制

DeepSeek周一更新了一个实验性的人工智能模型,并称之为迈向新一代架构的中间步骤。

DeekSeek在Hugging Face上发布帖子,概述了DeepSeek-V3.1-Exp平台,并解释说该平台引入一种名为DeepSeek Sparse Attention的“稀疏注意力机制”,该公司还暗示正在与芯片制造商合作开发该模型。

今年早些时候,DeepSeek的R1模型以其精妙的算法震惊硅谷,如今该公司正致力于开发新产品。最新版本在V3.1的基础上,引入旨在探索和优化人工智能训练和运行的机制。该公司表示,此举的目的是对长文本的训练和推理效率进行探索性的优化和验证。

与其他AI初创公司一样,DeepSeek也试图通过降价来吸引用户。该公司称,将把开发者调用DeepSeek API的成本降低50%以上。

  • 发表于:
  • 原文链接https://page.om.qq.com/page/OobIPx6BTWmgIcICGaeDLf2A0
  • 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 cloudcommunity@tencent.com 删除。

相关快讯

领券