魏少军教授在第24届IEEE欧洲测试技术年会上谈软件定义芯片Thinker

来源：内容来自「未来芯片技术高精尖创新中心」，谢谢。

近几天，第24届IEEE欧洲测试技术年会（ETS 2019）在德国巴登巴登举行，清华大学微纳电子系魏少军教授受邀在会议上做主旨报告。魏少军教授是欧洲测试技术年会迄今为止唯一来自中国大陆的主旨报告专家。

在题为《软件定义芯片：创新架构引领智能计算》（Software Defined Chips：An Innovative Architecture Leading to Intelligent Computing）的主旨报告中，魏少军介绍了软件定义芯片的内涵，阐述了如何通过架构创新实现软件对芯片功能进行实时动态定义的技术和方法。

近年来，魏少军教授带领清华大学团队通过软件定义芯片的架构创新，研发了Thinker系列人工智能芯片，其硬件功能能够随着软件功能的变化而动态实时变化，能够适应不同神经网络，具备高计算效率、高能量效率以及高灵活性。

2018年，在美国檀香山召开的2018 国际超大规模集成电路研讨会（2018 Symposia on VLSI Technology and Circuits，简称 VLSI）上，我国清华大学Thinker团队发表了两款极低功耗 AI 芯片（Thinker-II 和 Thinker-S）的相关论文，以及一种支持多种稀疏度网络和线上可调节功能的人工神经网络处理器STICKER。

之所以推出以上3款AI芯片，主要基于以下行业背景和需求：深度学习的突破性发展带动了机器视觉、语音识别以及自然语言处理等领域的进步，然而，由于深度神经网络巨大的存储开销和计算需求，功耗成为 Deploy AI Everywhere 的主要障碍，人工智能算法在移动设备、可穿戴设备和 IoT 设备中的广泛应用受到了制约。

为克服上述瓶颈，清华大学 Thinker 团队对神经网络低位宽量化方法、计算架构和电路实现进行了系统研究，提出了支持低位宽网络高能效计算的可重构架构，设计了神经网络通用计算芯片Thinker-II和语音识别芯片Thinker-S。Thinker-II 芯片运行在 200MHz 时，其功耗仅为10mW；Thinker-S芯片的最低功耗为141微瓦，其峰值能效达到90TOPs/W。这两款芯片有望在电池供电设备和自供能IoT设备中广泛应用。

Thinker-S

Thinker-S中设计了一种基于二值卷积神经网络和用户自适应的语音识别框架，同时利用语音信号处理的特点，提出了时域数据复用、近似计算和权值规整化等优化技术，大幅度优化了神经网络推理计算。Thinker-S 芯片采用 28nm 工艺，单次推理计算中每个神经元上消耗的能量最低仅为 2.46 皮焦。

Thinker-Ⅱ

该芯片中 设计了两种二值/三值卷积优化计算方法及硬件架构，大幅降低了算法复杂度、有效去除了冗余计算。此外，针对由稀疏化带来的负载不均衡问题，设计了层次化均衡调度机制，通过软硬件协同的两级任务调度，有效提升了资源利用率。Thinker-II 芯片采用 28nm 工艺，通过架构和电路级重构，支持神经网络通用计算。

STICKER神经网络加速器

通过动态配置人工智能芯片的运算和存储电路，实现了对不同稀疏度神经网络的自适应处理，大幅提升了人工智能加速芯片的能量效率。该论文作为人工智能处理器分会场的首篇论文，得到了本届VLSI技术委员会的高度认可，一同入选的论文还包含了IBM, Intel, Renesas等公司的相关工作。

据悉，STICKER是世界首款全面支持不同稀疏程度网络，且同时支持片上网络参数微调的神经网络加速芯片。通过片上自适应编码器、多模态计算单元以及多组相连存储架构技术，实现了针对不同稀疏程度神经网络的动态高效处理，大幅提升能量效率，并减少芯片面积。针对传统神经网络加速器无法片上调整网络参数以适应物联网应用场景中目标及环境多变的问题，首次使用了片上微调稀疏神经网络参数的技术，以极低的开销实现片上神经网络参数的自适应调整。相比于传统加速器，该工作极限能效高达62.1 TOPS/W（为目前有报道的8bit人工智能处理器的最高值）。

IEEE欧洲测试技术年会

IEEE欧洲测试技术年会（The IEEE European Test Symposium）是欧洲集成电路和电路系统领域最重要的年度学术会议之一，重点展示和讨论集成电路和系统的测试、可靠性、安全性和验证领域的科学成果、前沿技术、研究热点和发展趋势。大会今年吸引了250余名来自世界各地的学者参加。