AI芯片 - 预计至2025年将增长3倍

传统上人工智能训练与推理(training and ingerence)任务由云服务商通过巨型数据中心zhixing。近年来，半导体行业开始设计和制造即可以应用于数据中心，又可以执行边缘计算任务的人工智能芯片(AI Chip)，比如辅助驾驶(assisted driving）甚至是便携式MRI设备。

很多观察家认为未来5年人工智能芯片市场将迎来爆发。目前，人工智能芯片市场仍处于婴孩期(infancy)。

某机构预测，人工智能相关的芯片市场规模，将于2025年达到1290亿美元，是2018年439亿美元的三倍。

人工智能存储设备在2025年预计将在其中达到600亿美元，2019年为200亿美元，人工智能处理器在2025年将在其中达到680亿美元，2019年为320亿美元。

半导体代表着人工智能供应链的基础，提供了人工智能所需的最基本的计算能力和存储能力。

主要的人工智能供应商，如Intel和Nvidia倾向于在通用芯片架构上提供不同的人工智能相关的软件。比如Intel在2019财年宣布其人工智能相关营收达到了38亿美元。人工智能芯片正在快速成长和演化。

我们追踪了大约50家不同的人工智能芯片公司，预计未来逐步整合为10家左右(consolidate down to 10)。这些公司不同于传统的半导体公司，比如被Intel收购的Habana，以及其他人工智能芯片创业公司 -

• Halio
• Graphcore
• Cambricon
• Cerebras
• Kalray
• Novumind
• Thinci
• Gyrfalcon
• Syntiant
• Greenwaves
• Horizon Robotics
• Groq
• Wave Computing

一些创业公司采用不同的新的架构比如MPU(Microprocessors), MCU(microcontrollers), GPU(graphics processing units), DSP(digital signal processors), FPGA(field programmable gate arrays)。这意味着传统的芯片架构分类也在持续演进，其区别正日趋模糊。

MPU, DSP, MCU之间的差异性正日趋模糊，正在到来的是ASIC(application-specific integrated circuits)和SOC(system-on-chip)。随着芯片厂商越来越多的提供ASIC和SoC的Turnkey解决方案，算法是跑在GPU, CPU或DSP上的区别越来越小。

大量的人工智能工作需要消耗大量的能源(require enourmous of power）和高带宽volatile内存。为此，最新的技术常常将内存置于更接近于计算核心(conputational core)，通过为每个计算核心提供专用内存而支持计算并行(processing parallelism)。

另一项技术是将早期的数据处理放在内存中完成，称为PIM(processing into memory)。

第三项技术是应用最新的内存技术允许后端的(back-end)半导体集成，或者是volatile performance, non-volatile capability, huo fast input/output接口，或者是low pico-joule。

比如Halio的Hailo-8处理器使用了类似人脑的神经网络，大量应用于比如驾驶辅助，城市管理，安全机器人，零售，医学和工业自动化(driving assistance, city management, security, robotics, retail, medical and industrial automation)。芯片预计于2020年规模量产。

Hailo-8支持每秒高达26 tera operations，对比Nvidia 的Xavier处理器在执行图形分类任务(image classification tasks)，其仅仅是Xavier所消耗的功耗（30瓦特）的20分之一（1.5瓦特）。

传统的1-2-3级架构内存对于运行人工智能算法是不够的，因此新的处理器架构均是将内存尽可能的放到不同的计算单元附近，以提升深度学习的处理效率和能效。

对于人工智能需求的不断提升，使芯片厂商更多的聚焦于两种不同的路径，其一是使用灵活的平台可调整，快速演进适应动态的市场需求(adjust to dynamic market in rapid evolution)，其二，是专注于特定应用的协处理或ASIC（specific application with coprocessors and ASIC）。