SC 24超算大会的短距光互连展示：Ayar Labs/Avicena/Lightmatter

2024年超算大会(SC24)最近刚开完，油管上看到有科技博主拍了一些现场照片，有Ayar Labs、Avicena和Lightmatter的，信息也不多，只能从有限的照片里边看看热闹了。

一、Ayar Labs

Ayar Labs的官网上也有SC24的预告，先翻译一下。他们与富士通有限公司、英特尔、康宁公司、Altera等一起展示其技术在各种人工智能基础设施概念中的应用。

在Ayar Labs的展位上，将展示一个概念模型，该模型将Ayar Labs的光学I/O解决方案与富士通A64FX处理器集成在PRIMEHPC FX700机箱中，每个CPU集成两个TeraPHY™光学I/O芯片，代表高达16 Tbps的双向带宽。

除了展示的模型外，Ayar Labs和富士通还共同发表题为“满足下一代人工智能/高性能计算系统架构性能和总体拥有成本要求的新型基于光学的扩展结构”的演讲，讨论当前架构中的关键挑战和未来系统的要求，同时Ayar Labs将解释基于光学I/O的扩展结构如何提高这些系统的系统级性能并降低总体拥有成本。

在SC24上进行的其他演示和展示包括：

- 创新的人工智能系统架构工具：位的参观者可以看到Ayar Labs的光学I/O对扩展大型语言模型（LLM）推理的影响，在未来的GPT模型中，盈利能力可提高多达20倍，交互性可提高3 - 4倍。

- 利用光学FPGA推进人工智能：Ayar Labs、Altera和康宁合作开创了一种新的光学现场可编程门阵列（FPGA）解决方案。这个概念验证通过将Ayar Labs的TeraPHY™光学I/O芯片与康宁的玻璃波导模块集成到Altera的FPGA结构中，提供了4 Tbps的双向I/O数据传输。

- 4 Tbps In-Package 光I/O解决方案：SC24的嘉宾可以体验Ayar Labs由其SuperNova™光源驱动的4 Tbps光学I/O解决方案的现场演示。参观者可以亲眼看到在无需前向纠错（FEC）的情况下，以极低的延迟实现超高效的数据传输。

- 可拆卸光学连接器生态系统：Ayar Labs将重点介绍用于光学I/O的可拆卸光学连接器的最新进展，包括最新的英特尔可拆卸光子玻璃互连和Teramount TeraVERSE®可拆卸连接器。这些连接器使Ayar Labs用于人工智能的封装内光学I/O解决方案能够灵活、高效且具有成本效益地进行部署和维护。

底下就是现场展示的光IO照片了。图中有展示了两个SuperNova光源，Altera FPGA集成TeraPHY光IO chiplet，以及4个光IO，通过Corning的玻璃波导基板形成互连。

连接器方案展示了Intel Foundry和Teramount的两套方案，Intel的方案是Glass interposer，而Teramount是带反射镜硅基板的大容差表面耦合，都是专门给CPO/OIO应用开发的高密连接方案。

后边就是他们的外置光源展示，第二代SuperNova的光源从第一代的8波长×8光纤升级到了16波长×8光纤的128信道。

二、 Avicena基于μLED的LightBundle光互连

Avicena是基于MicroLED发射＋多模光纤＋CMOS Image Sensor接收搞的光互连方案，LED虽然速率不高，但胜在功耗低，可靠性高(-55℃到125℃)，密度大(50um pitch)。他们展出的这款1.6T 互连demo，带宽密度为1Tbps/mm，功耗仅有10W，多模光纤传10m，时延仅有6ns，能效说是＜1pJ/bit。分别展出了与HBM互连和GPU的互连。

三、LightMatter

Lightmatter的图片似乎都还是之前ppt展示的那些，一个是他们用于光互连的首个三维堆叠的光子引擎模块，也就是他们PASSAGE产品，核心是GF的光电集成工艺，跨reticle拼接的大芯片、片上的OCS网络以及先进3D封装技术(Amkor、台湾ASE合作)。另外就是他们更远期的光计算模块ENVISE，实现4核128×128脉动阵列的矩阵-向量模拟计算。