首页
学习
活动
专区
圈层
工具
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

小鹏汽车:世界基座模型验证成功,将应用到AI汽车、AI机器人和飞行汽车上

在今日的AI分享会上,小鹏汽车相关负责人表示,自动驾驶本质上是复杂的AI问题,也是具身智能的第一步。

小鹏在端到端的一年里埋头赶路,训练算力提前达到了10EFlops,并做到国内首个自动驾驶万卡训练集群。小鹏的算力利用率最高达98%,常年在90%以上,车企第一。把算力“压榨”得非常极致。这样训练资源和实训已接近顶级AI公司。

为了真正让自动驾驶走向L3/L4甚至实现真正的无人驾驶,小鹏今年的重要任务就是换上车端大脑。小鹏通过基座模型知识蒸馏上车,突破车端模型参数量有限的问题,提升上限。

小鹏世界基座模型参数量是主流VLA模型的35倍。

小鹏世界基座模型分为三部分:Encoder,这部分是感知世界、理解世界;骨干,以LLM为骨干网络,结合驾驶状态认知进行推理,具备CoT连续推理能力。强化学习,让模型自我学习不断进化。只有这样才能让AI汽车处理训练中从未见过的场景。

小鹏基座模型还将应用到AI汽车,AI机器人和飞行汽车上。

为了研发世界基座模型,小鹏搭建了一座云端工厂。未来,在全球化环境下,面向未来千端千面的模型需求,快速生产模型。云端模型工厂代表着小鹏率先进入软件 3.0 时代。

从去年开始,小鹏搭建AI基建,建成万卡规模算力集群。集群利用率通常在90%以上;GPU SM 使用率,达到了一线AI企业的水位。小鹏云端工厂的迭代周期可以做到五天一次。每个单独车间的,可以做到一天两次(12小时左右)迭代。

小鹏同时重做了data infra,使数据上传规模提升了22倍,训练中的多模态数据读取和解码的数据带宽提升15倍。通过联合优化 GPU / CPU 以及网络 I/O,将模型训练的速度提升5倍。

Saling Law在AI领域已经得到验证,但在物理世界方面还有距离,通过大量的实验,小鹏验证了自动驾驶领域中Scaling law同样有效,目前已经通过后装算力,实现了大模型上车,跑通了实车验证。(三言科技)

  • 发表于:
  • 原文链接https://page.om.qq.com/page/OczBLwVvtRsV5hCZht4fkHHQ0
  • 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 cloudcommunity@tencent.com 删除。

相关快讯

扫码

添加站长 进交流群

领取专属 10元无门槛券

私享最新 技术干货

扫码加入开发者社群
领券