端云协同系统通常采用"设备层—边缘层—云端层"三级架构。设备层由传感器、执行器、智能终端等组成,负责原始数据采集与基础处理;边缘层部署网关或边缘服务器,承担多设备联动、就近推理与协同调度;云端层依托数据中心的大规模算力,完成复杂模型训练、知识更新和全局策略制定。
架构通过智能调度器,基于网络状态、设备负载、隐私等级等维度,动态决策任务在端侧与云侧的执行位置与策略。高频、低复杂度、隐私敏感的任务优先下沉至端侧处理;重推理、长生成、高算力需求的任务经调度后上云执行。这种精细化的任务分配机制实现了计算资源的实时最优分配。
端云协同不仅是从端到云的单向任务卸载,更形成了"有机循环"的能力增强体系。端侧小模型向云侧大模型反馈执行成效与场景数据,云端据此持续优化模型并下发更新,使端侧能力不断进化。这种闭环机制实现了数据资源的高效利用与服务鲁棒性的持续提升。
业界定义了三种主要协同模式:以云为中心的协同(云侧中心化),适用于算力密集型任务;以端为中心的协同(端侧中心化),适用于隐私敏感与超低延迟场景;端云双向协同,综合两者优势,实现任务的动态拆分与灵活编排。