原粒半导体创始人方绍峡：大模型将催生边缘算力需求

据界面新闻 6 月 27 日报道，原粒半导体创始人兼 CEO 方绍峡在接受采访时表示，大模型的爆发首先带动的是训练，算力需求目前最紧俏也是这部分，英伟达目前在训练一侧是绝对的霸主。但当大模型训出来后，开放 API 响应广大网友们每天的各种请求，推理的算力价值就会被浮出水面。

方绍峡还表示，与云计算的数据中心架构相比，大模型在边缘端的智能计算是在一个已经训练好、有基本智能水平的模型基础上。当边缘端具备多模态大模型的离线学习进化能力时，本地模型将变成私人定制化的东西，数据也无需再往云端上传。这部分推理与训练微调过程主要依赖边缘多模态大模型 AI 算力。

据悉，原粒半导体是一家 AI Chiplet 供应商，公司正式成立于今年 4 月，创始团队来自国际半导体巨头，在 AI 芯片领域深耕多年。该公司目标是通过结合创新的多模态 AI 处理器技术与 Chiplet 设计方法，提供高能效、低成本的通用 AI Chiplet 组件。