• 光半导体
新的

光子学与电子学的融合应用在哪些领域?人工智能数据中心的横向扩展、横向扩展、纵向扩展和纵向扩展。

  • このエントリーをはてなブックマークに追加

为什么现在需要光子学与电子学的融合

随着生成式人工智能的快速普及,数据中心处理的数据流量和计算量正爆炸性增长。大量GPU现在不断交换数据,随之而来的功耗和热量增加已成为一大挑战。为了提升处理性能,GPU之间必须以越来越高的速度和容量相互连接。
解决这些挑战的关键在于吸引越来越多的关注:光电聚变(光子学-电子融合)。这是一种将电子电路与光电路和光器件结合在一起——将它们靠近或集成为一个单元——以拓宽光通信应用范围的技术。通过利用电和光的各自优势,它实现了更快、更高容量且更节能的信息处理与通信。
特别是在数据中心,正在努力缩短连接光电转换段与半导体(如GPU和开关ASIC,网络设备中专用数据转发芯片)之间的高速电线,以减少信号损失和功耗。电信号传输时间越长,数据速率越高,信号丢失和功耗越高。这就是为什么用光替代电信号、缩短电线覆盖距离的兴趣日益增长。
缩短电气布线可以更容易限制功耗和信号衰减。这正是为什么将光的转换点不仅移到链路的远端,而且尽可能靠近半导体芯片是有效的。这样,光通信的覆盖范围逐步扩大。然而,并非所有东西都能一次性转换为光:通过光连接的目标会从“外部”——数据中心之间的链路——向内推进,即半导体封装的内部。

从连接距离和系统角色角度审视光子学与电子学的融合

人工智能基础设施中的连接可以围绕几个问题展开:连接距离、连接对象以及如何使连接的设备协同工作。例如,使多个GPU作为一个大型计算系统运行的连接,以及连接多个服务器以扩展计算范围的连接,都需要不同的通信速度、延迟和连接方式。

基于此,本文从每个连接的距离和目标以及它在系统中的作用的角度,探讨了横向扩展、向外扩展、向上扩展和向内扩展。

这些连接的范围涵盖芯片或封装内部、多个GPU之间的连接、数据中心内服务器与机架之间的连接,以及多个数据中心之间的连接。一般来说,连接距离随着从Scale In向Scale Across的推进而变长,但每种情况下所需的技术会根据连接的设备及其在系统中的角色而有所不同。(参考:https://www.marvell.com/solutions/data-center/scaling-ai-infrastructure.html)

此图解释了横向缩放、纵向缩放、纵向缩放和纵向缩放的连接距离和目标。

跨区域扩展:连接多个数据中心和区域

该图示说明了“横向扩展”(Scale Across)功能,该功能可实现多个数据中心

Scale Across的理念是超越单一数据中心或设施的界限,连接分布在多个站点的AI集群(由多个协调的GPU和服务器组成的计算系统),使整体协同运作,仿佛是一个单一的数据中心。这是一个预计数据中心分布与互联(DCI,数据中心互联)将不断增长的领域,并且根据连接距离可分为两种类型。

校园规模
:同一校园内或相对接近的多个数据中心之间的连接。
跨越长距离尺度
跨越大都市区或地区的数据中心之间的长距离连接。

在这两种情况下,由于多个站点的计算设施被作为一个整体使用,因此连接必须快速、高容量且低延迟。此类连接预计会使用适合距离和应用的插拔式收发器。

光收发器是一种通信模块,将从网络设备接收到的电信号转换为传输用的光信号,并将接收的光信号转换回电信号。可拆卸、可插拔的收发器被广泛应用于各种连接——不仅是数据中心之间,也包括机架之间以及数据中心内部交换机之间。如今,光收发器最广泛应用于数据中心内的Scale Out网络,并且根据距离和应用,预计也用于Scale Across的站点间连接。

可插拔光收发器的结构图

有关光收发器工作原理及最新趋势的详细说明,请参阅我们的相关文章:光收发器基础与最新趋势
Dexerials如何应对追求更高速度的挑战——以及采用哪些产品——将在另一篇文章《Dexerials面向光收发机规模化的产品》中详细介绍。

横向扩展:通过添加服务器和机架来扩展计算范围

该图展示了横向扩展,从而实现了机架间的通信。

Scale Out是将多台服务器——以及通过Scale Up构建的计算系统——联网以扩展数据中心内的计算范围的理念。由于处理分散在多个服务器之间,它既需要高效传输大量数据的通信能力,也需要保持通信延迟低的机制。
在Scale Out中,可插拔收发器被广泛用于服务器与机架之间的连接。然而,随着连接设备数量和所需容量的增加,连接交换机ASIC与前面板光学收发器的电气布线变得更长,信号损耗和功耗更容易增加。为了缩短这种布线,正在开发将光转换点靠近开关ASIC的技术。其中之一是CPO(共封光学),它将交换ASIC和光引擎集成在同一封装中。通过将用于电信号和光信号转换的光引擎放置在交换机ASIC附近,CPO缩短了高速电信号传输的距离。这意味着光通信正在扩展到传统依赖电气布线的短距离应用,CPO网络交换机的采用预计将增加。(新光学接口:新颖连接器设计与智能对准助力CPO时代 |功能 |2026年2月 |光子学光谱)

采用共封装光子器件 (CPO) 的产品开发也在稳步推进。博通公司发布了“Tomahawk 6 – Davisson”,这是一款 102.4 Tb/s 的交换机,它将交换机 ASIC 与光引擎集成在一起。(博通发布 Tomahawk® 6 – Davisson,业界首款采用共封装光子器件的 102.4-Tbps 以太网交换机)英伟达也发布了“Spectrum-X Ethernet Photonics”和“Quantum-X InfiniBand Photonics”,这两款产品均采用了 CPO 技术。(英伟达,面向智能人工智能的硅光子网络 | 英伟达)横向扩展涉及的组件以及 Dexerials 可提供的技术将在后续的专题文章中进行详细介绍。

扩展规模:连接多个GPU以作为一个大型计算系统运行

该图说明了托盘间通信的扩展过程。

扩展是指将多个GPU、XPU(计算半导体,包括GPU)、内存及其他组件高速连接,使其作为一个大型计算系统运行。这些连接的范围不仅限于单一服务器内部;它可以延伸到机架内部,甚至跨越多个机架。

铜质电线目前应用广泛,但随着人工智能规模的扩大,需要一次性传输的数据量不断增加,对功耗的要求也越来越高,仅靠铜线难以持续提升通信距离和速度。因此,缩短电线长度并利用光进行数据交换的技术正在蓬勃发展。

一种正在研究的未来配置方案是将产生光信号的光学引擎放置在GPU/XPU封装附近,并通过光连接GPU/XPU。其目标是缩短GPU/XPU之间的高速电线长度,并实现光连接。

开发也在推进,将光学互连(利用光连接设备和半导体的技术)引入Scale Up。Marvell推出了一款3D硅光子学光引擎,配备200 Gbps的电光接口,用于AI集群。(Marvell展示了业界首个200G三维硅光子引擎以扩展加速基础设施)NVIDIA宣布了“NVLink Fusion”项目,该项目连接多块GPU和定制半导体,合作伙伴包括联发科。(联发科 |NVLink Fusion |定制AI ASIC创新)Scale Up涉及的组件以及Dexerials可贡献的部分将在未来专门文章中详细介绍。

规模化:提升芯片和封装内部的处理性能

此图展示了 Scale-in,它在托盘内进行通信。

扩展集成是指在芯片、封装或单一计算设备内部提升处理性能和能效的理念。它以高密度连接GPU、高带宽内存(高带宽存储器——靠近GPU的高带宽存储器)和小芯片组(按功能划分的小型半导体芯片),实现高速数据交换。

目前电气布线占主导地位,但为了提升通信能力和降低功耗,也在研究引入光输入输出(利用光信号传输数据)在芯片间和芯片组之间。芯片越密集地并排堆叠或排列(芯片是从半导体晶圆切割而成的单个芯片),电气布线拥堵、信号损失和热量问题即使在近距离也越难。因此,正在探索将光引入封装内部的技术。其中一种方法为粒子在中间介体(芯片安装的基板)内提供光的通路,并通过这些材料传递光信号。内置此类光学布线的基板称为光子介质器,正在研究使用多种材料(如硅和玻璃)的配置。

将光 I/O 引入 Scale In 的技术仍然以研究和原型制作为中心,大规模生产的时间表尚不明确(截至 2026 年 7 月)。
英特尔发布了一款原型系统,该系统将光I/O芯片集成在与CPU相同的封装中,并能通过该芯片实际传输数据。未来,这项技术有望应用于与 CPU、GPU和其他芯片相同的封装中,实现电信号和光信号之间的转换。(英特尔展示首款完全集成的光I/O芯片 – 英特尔新闻中心)关于Scale In技术所涉及的组件以及Dexerials能够提供的服务,我们将在后续的专题文章中进行详细介绍。

摘要:通过连接距离和作用理解光子学与电子学的融合

正如我们所见,人工智能基础设施中的连接可以分为四种视角:扩展型,提升芯片和封装内部的处理性能;扩展型,使多个GPU作为一个大型计算系统运行;扩展型,增加服务器和机架以扩展计算范围;以及跨向扩展,连接多个数据中心和区域。每种方式在连接距离、目标以及系统中的角色上各不相同。它们不会依次替代;而是根据AI基础设施的配置和目的组合使用。

如今,光收发器主要用于数据中心的Scale Out,且在Scale Across中的应用预计也将进一步扩大。Scale Up and Scale In仍主要依赖电气连接,但技术发展正在推进,引入光互连和光I/O,以追求更高的通信容量、更低延迟和降低功耗。随着这一发展的推进,信号转化为光的点预计将越来越接近芯片。随着光通信范围更广,转换点更靠近芯片,实现挑战也随之变化——包括低损耗连接光的光学耦合技术、高精度结合不同材料和器件的异构集成技术,以及支持更高层次和密度的高密度封装技术(属于更广泛的先进封装领域)。Dexerials不仅致力于解决这些挑战,不仅通过将光转化为电能的光电二极管(高速光电二极管,PDs)和监测和控制光输出的PD来解决这些挑战,还通过工业胶水将元件精确固定,处理精细电气连接的各向异性导电薄膜(ACF)、控制光的方向和量的无机光学器件,以及新产品的开发。所有这些背后都有一个共同的理念:缩短电线覆盖的距离,以减少信号损失和功耗。

在日益突出的光子学-电子学融合领域,Dexerials 将继续致力于研发能够帮助工程师解决所面临挑战的技术。

有关此产品的更多信息,请单击此处
德克塞里尔

Dexerials 是一家材料制造商,生产对设备发展和下一代解决方案至关重要的材料。

我们将与世界各地的合作伙伴在电子元件、粘合材料和光学材料等领域创造新的价值。

查看所有产品