AI芯片在5G中的机会

虽然也算是通信行业的老兵，但我也已经有段时间没有跟踪5G的最新进展了。之前我也看到一些AI和5G结合的讨论，当时感觉还有点遥远。不过最近的一些观察引发了我对这个问题的兴趣，也对AI芯片在5G中的机会进行了一些思考。5G从技术到生态是一个很大的话题，和AI结合的机会也非常多。能力所限，本文只从两个局部出发分享一些个人浅见。

•••

AI和5G的交点：MEC（Multi-access Edge Computing）

第一个吸引我注意的点是ARM发布Infrastructure IP品牌Neoverse时提到的一个目标场景。在这个场景中，大家可以看到5G和ML Accelerator同时出现。

ARM所描述的这个解决方案，针对Edge compute，也就是我们常说的边缘计算。如果我们进一步的研究，可以看到在5G中，一个非常重要的内容就是所谓的MEC。最早，MEC是Mobile Edge Computing的缩写；后来，在标准化组织ETSI中，叫法改变为Multi-access Edge Computing。两者基本概念相同，后者更强调除了蜂窝移动网络之外的接入方式，比如WiFi。下图是ETSI定义的MEC参考架构。

source: etsi.org

对于不熟悉标准语言的读者，这个图读起来比较困难。简单来说，MEC就是边缘计算的概念和移动网络结合的产物，主要是通信运营商提供边缘服务。出发点也很简单，就是尽量在离用户（终端设备）“近”（通信上的概念）的地方给用户提供服务。一个比较贴切的说法是“It’s like having a wireless supercomputer follow you wherever you go.”这样可以分担云端的压力，减少和云端大量传输数据的需求；更重要的是能够让终端设备以最低的延时获得服务。同样的服务，如果是在云端完成，需要经过很长的通信路径，时延和抖动都会很大。这对于某些场景来说是不能接受的，一个最好的例子就是车联网的应用。比如下图，如果要实现实时的路况分享，进而辅助汽车驾驶（包括辅助自动驾驶汽车对环境进行感知），则要求很低的延时，必须在最近的位置（比如通信基站）中进行处理和发送。一些观点认为V2X是自动驾驶最终能够真正实现的关键技术之一。

Source: nokia.com

在[2]里大家还可以看到一些其它MEC和车联网结合的例子。总得来说，需要高带宽和低延时的应用都是MEC的目标应用，AR/VR应用也是典型的例子。

MEC框架本身是独立于具体的接入技术的，4G，5G，WiFi都可以。但是，MEC，特别是和AI结合的智能化的MEC可以说对5G的成功至关重要。对于这个问题，[2]中有比较详细的讨论。从技术角度，AI和边缘计算对于5G网络架构的优化有重大意义，边缘计算结合5G特有的网络切片技术（Network Slicing）能让5G网络更好的提供满足多种服务质量的服务。而对于5G网络这种高度复杂的网络来说，AI可以在网络自组织，自优化，动态配置，资源管理，流量优化，成本控制等方面帮助运营商提高效率。从经济角度，目前通信运营商面对的一个重大问题是管道化问题，在5G上的巨大投资如何产生收益还带着一个巨大的问号。因此，运营商希望能够通过提供差异化的服务或者拓展新的业务来获得更高的利润。而MEC和AI是最有前景的方向。通过MEC和AI结合，运营商就有可能在网络设备（比如基站）“附近”提供更多服务，比如数据的智能处理等等。如果下图的愿景能够实现，运营商就有可能从这些新的服务中获得更高的利润。

source: nokia.com

到这里我们回到AI芯片的话题。在未来的5G网络中MEC设备的需求量应该是相当巨大的，MEC Server可能直接融合在网络设备中，比如基站（包括小基站）；也可能是独立的设备。我们看ARM的方案，既包括了5G/4G的基带处理，又包括多核CPU和网络加速功能。在此基础之上，主芯片还可以通过高速接口外接其它芯片，实现网络，存储，安全功能，以及AI功能。这些功能组合起来就可能实现MEC和基站的结合。当然这只是一种方案，相信未来的MEC方案会有多种形式。如果考虑到其它接入方式，未来的WiFi接入点或者Router等设备也可能增加Edge server的功能，同样有融合AI处理能力的需求。因此，就如同AI芯片和IP在云端和终端设备中越来越普遍，未来AI芯片或者IP在这些Edge设备当中也会有很多机会。

那么，下一个问题就是，Edge设备中的AI芯片或IP有什么特殊挑战？我认为一个关键的要求是Virtualization（虚拟化）。对于一个Edge Server来说，需要服务的用户需求是多种多样，且不断变化的，特别是考虑到IoT的环境。在这种情况下，如果不能够实现资源（比如AI运算资源）的虚拟化，就很难实现资源的合理应用和快速切换。其实，目前在云端，也有资源使用不均衡的情况，很多AI应用包括training和inference都存在很高的peak-to-average rate。而对于Edge Server来说这个情况会更加严重。此外，虚拟化还有很多的好处，比如便于业务的部署等等。因此虚拟化也是MEC架构中的一个关键技术。不过，要实现虚拟化，特别是专用硬件的虚拟化，并不是简单的事情。在Edge server中实现对延时敏感的业务的时候，目前常用的虚拟化方法的开销是无法接受的。总得来说，Edge Computing未来也会是AI芯片和IP的一个重要战场，对大家也会提出一些新的挑战，当然也意味着机会。

•••

AI实现5G基带处理

前一段时间，东南大学的尤肖虎教授等专家撰写了一篇文章“基于AI的5G技术——研究方向与范例”，“非常完整的梳理了AI技术在5G系统设计与优化方面富有发展前景的若干发展方向，并给出了有关5G网络优化、资源最优分配、5G物理层统一加速运算以及端到端物理层联合优化等若干典型范例”。其中，在“5G网络优化、资源最优分配”中使用AI技术是比较容易理解和期待的，因为这些复杂优化问题本质上就非常适合用AI方法来解决。但“5G物理层统一加速运算以及端到端物理层联合优化”这两个问题是否能用AI来解决就有比较大的疑问了。

有过相关经验的同学应该知道，目前无线通信基带处理（特别是物理层）芯片包括了非常复杂的算法链路，每个部分都经过了大量的研究和实践优化，基本已经达到了工程实现的极限。用AI方法来替代这种已经高度优化和专业化的硬件架构真能实现性能或效率上的优势吗？如上述文章所说“移动通信系统通常存在性能界(如香农容量限)，现有的方法经过精心设计已经可以充分逼近上述性能界。...这意味着，即使采用先进的AI学习技术，也无法超越这些经典算法。”“与经典的方法相比，AI学习算法的计算复杂度通常较高，如果不能带来性能上的明显提升，其本身显然不具备足够的竞争力。”这其实也是我的第一感觉，所以当时也没有太认真的思考这个问题。直到最近，我看到CEVA的5G基带信号处理方案中专门加入了AI processor（如下图），这个问题就显得越来越有趣了。

source: www.ceva-dsp.com

简单来说，在CEVA的方案中，使用了AI（神经网络）算法实现了5G NR中的CSI计算和上报功能，并使用专门的AI processor来支持相关的神经网络计算。感兴趣的同学可以看看他们的white paper：“PENTAG™ AI PROCESSOR FOR CSI REPORTING IN 5G NR - WHITE PAPER”。这里我就不讨论技术细节了。

在传统的基带处理当中，CSI计算有专门的算法，使用专门的硬件或者DSP来实现。在5G NR当中，由于复杂度的增加，传统算法的代价很高，反而不如通过训练一个神经网络实现的性能和效率更高。

虽然这只是整个基带信号处理的一小部分，但它出现在产品级的方案中，还是让我们有理由开一下脑洞。虽然目前使用AI方法还很难和传统方法在性能和实现效率（比如完成同样功能所需要的计算量，或芯片面积和功耗）上竞争，但如果真的能通过合理的神经网络设计和大量的训练，实现和传统方法有一定可比性的结构，那么可能会给这个领域带来很大的变化。

首先，目前的基带处理器设计，是非常复杂的工作，需要投入大量资源，还需要大量的现场测试来支持。因此，目前能设计5G NR基带处理器的公司可以说屈指可数，也都经过了多年的积累。但如果AI方法成功，那么我们可能就不再需要对各个计算模块进行细致的优化，而是端到端的直接“训练”完整的接收机。对于这种端到端的训练，输入数据可以直接使用现实环境的信号，预期的输出则可使用实际的发送信号，训练数据的获取并不是很困难。如果这条路能走通，基带处理器设计的门槛就会大大降低，算法用神经网络实现，硬件用AI处理器支持。

这样还带来另一个好处，硬件设计的问题转化为AI处理器设计问题，可以充分利用这个领域的技术革新（包括新架构，新器件等等）。而AI处理器的规则结构，要比目前的基带处理器的高度专用结构具有更好的灵活性和扩展性。

最后，传统的基带处理器为了简化问题采取了分层和分块的设计方法，因此也限制了端到端和跨层优化的可能。也许AI方法能够改变这种情况，发现新的优化机会。

以上讨论虽然有一定的“科幻”成分，但谁又能说AI一定不能在这个领域给我们带来惊喜呢。

•••

目前，大家做AI芯片主要是在几个比较拥挤的领域竞争。随着AI在更多领域的应用，未来的各种设备当中，AI处理所占的比例（或者芯片面积）会越来越大，我们也会发现更多的机会。

Reference:

[1].ETSI，“Multi-access Edge Computing (MEC); Study on MEC Support for V2X Use Cases”

[2]. Susan Welsh de Grimaldo, "AI + Edge Computing Essential in the 5G Era"

- END-

题图来自网络，版权归原作者所有

本文为个人兴趣之作，仅代表本人观点，与就职单位无关