云端部署大参数基座模型负责复杂分析与"慢思考",端侧部署轻量化小模型负责快速响应与"快思考"。长安汽车构建了端云一体化协同体系,将 1.8B 等小模型部署在车端负责快速控制,通用基座模型部署在云端负责复杂语义理解与兜底。这种分工模式兼顾了响应速度与推理深度。
联邦学习框架允许多个端侧设备使用本地数据协同训练全局模型,原始数据始终保留在本地,仅上传加密的模型参数更新。百度智能云与面壁智能合作开发的分布式联邦学习平台,支持多终端数据本地训练、模型参数云端聚合,在医疗影像分析等场景中有效避免了敏感数据泄露。
随着 NPU 等专用 AI 芯片的普及,端侧算力持续提升,越来越多 AI 任务可在设备本地完成。面壁智能的端侧模型已在智能座舱、手机、无人机等多个领域实现规模化应用。2025 年被视为端侧 AI 落地元年,进入 2026 年后,端侧模型的部署速度持续加快,上下文管理与高频推理任务逐步向端侧迁移。
中国电信提出的端网云智能协同体系中,端侧提供算力、感知和个性化知识,网络提供泛在接入与资源智能编排调度能力,云侧提供五位一体的智能云网服务。通过端云 AI 能力协同与自主学习、端边云协同感知和智能调度,实现泛在分布的 AI 能力供给。