首页
学习
活动
专区
圈层
工具
发布
技术百科首页 >端云协同 >端云协同如何实现端侧智能?

端云协同如何实现端侧智能?

词条归属:端云协同

1. 端侧 NPU 与专用 AI 芯片

NPU 作为神经网络处理器专门用于 AI 推理,相比 CPU/GPU 具有更高的能效比。高通、联发科等厂商持续推出集成高性能 NPU 的移动芯片,使手机端能够流畅运行数十亿参数的大模型。随着国产存算一体端侧 AI 芯片陆续完成流片,端侧算力将在功耗、算力与带宽层面进一步提升。

2. 轻量化模型部署

通过模型量化、剪枝和知识蒸馏等技术,将大模型压缩至适合端侧运行的规模。DeepEye 张量压缩神经网络可在终端设备实现高效视频理解;荣耀通过自研量化压缩技术使大模型在端侧流畅运行,并结合"两锁一芯"硬件加密确保模型安全。面壁智能的量产级多模态模型已部署至多家头部手机厂商的产品中。

3. 端侧感知与自主决策

端侧智能不仅限于模型推理,还包括对环境的多模态感知和自主决策能力。面壁智能搭载于吉利银河 M9 车型的座舱模型,无需依赖云端即可完成"感知—记忆—推理—执行"的完整闭环,可根据环境与乘客状态自动调节车窗、空调等功能,在车辆事故场景下还能完成状态识别、情绪安抚与理赔流程引导。

4. 端云协同的持续进化

端侧智能并非孤立存在,而是通过与云端的协同持续进化。端侧模型向云端反馈执行成效与场景数据,云端据此优化模型并下发更新。这种机制使得端侧设备能够在不更换硬件的前提下,通过软件更新不断提升智能水平,形成"越用越聪明"的良性循环。

相关文章
端边云协同:从云到边缘
SDX是Software Defined X 的缩写,即软件定义范式,强调的是软件的意义及系统的融合。我们可能需要特别关注物理系统和网络空间之间的关键边界、运营技术(OT)和信息技术(IT)之间的关键边界技术,在这些边界上,需要充分展开具有挑战性的文化和技术融合。数字转型的成功在很大程度上取决于这个复杂的融合过程。
半吊子全栈工匠
2023-02-24
2K0
边缘AI与端云协同架构
边缘AI将人工智能模型部署在边缘设备(如手机、传感器、嵌入式设备)上,实现本地实时处理;端云协同通过边缘与云计算的协作,平衡计算负载、隐私与延迟。典型应用包括智能家居、工业检测、自动驾驶等。
贺公子之数据科学与艺术
2026-01-20
8870
智能语音交互新纪元:如何选择支持端云协同的物联网平台?
gavin1024
2026-02-03
3110
端云协同推理:Split Learning实战
端云协同推理(Split Learning)逐渐成为研究和应用的热点这种创新的计算模式将深度学习模型的推理过程在终端设备(如智能手机、IoT设备)和云端之间进行划分,不仅提高了推理效率,还增强了数据隐私保护。
二一年冬末
2025-07-18
1.1K0
如何实现端到端网络切片?
3GPP将网络切片定义为5G 网络的主要功能之一,网络切片可看作是动态创建的逻辑端到端网络。在深入研究网络切片的概念之前,我们先简单回顾下 5G 的三大应用场景。 5G用例 移动规范开发的主要机构 3GPP 正在努力实现5G的三个基本用例: eMBB(增强移动宽带):指在现有移动宽带业务场景的基础上,对于用户体验等性能进一步提升,追求人与人之间极致的通信体验。 超可靠低延迟通信(URLLC):对关键任务通信的可靠性和延迟有严格要求的通信,其中包括自动驾驶汽车、远程手术或触觉互联网。 大规模机器类型通信(m
SDNLAB
2022-09-02
2.5K0
点击加载更多
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档
领券