光子學與電子學的整合應用在哪些領域？人工智慧資料中心的橫向擴展、橫向擴展、縱向擴展和縱向擴展。

為什麼現在需要光子學與電子學的融合

隨著生成式人工智慧的快速普及，資料中心處理的資料流量與運算量正爆炸性成長。大量GPU持續交換資料，隨之而來的功耗與熱量增加已成為挑戰。為了提升處理效能，GPU必須以越來越高的速度與容量彼此連接。
解決這些挑戰的關鍵在於吸引日益增長的關注：光電融合（光子學-電子融合）。這是一種將電子電路與光學電路及光學元件結合——將它們緊密相連或整合為單一單元——以擴大光通訊應用範圍的技術。透過結合電與光的優勢，它使資訊處理與通訊更快、容量更高且更省電。
特別是在資料中心，正努力縮短連接光電轉換段與半導體（如 GPU 和交換式 ASIC，網路設備中專用資料轉發晶片）之間的高速電線，以減少訊號損失與功耗。電訊號傳輸時間越長且資料速率越高，越容易遭受訊號損失及更高的功耗。這也是為什麼越來越多人對用光取代電訊號並縮短電線的距離感興趣。
縮短電線能更容易限制功耗與訊號衰減。這正是為什麼將光轉換點不僅移至鏈路遠端，而是盡可能靠近半導體晶片，是有效的。如此一來，光通訊的覆蓋範圍逐步擴大。然而，並非所有東西都能同時轉換為光學：光線連接的目標會從「外部」——資料中心之間的連結——向內推進，也就是半導體封裝的內部。

從連結距離與系統角色角度檢視光子學與電子學的融合

人工智慧基礎設施中的連接可以圍繞著幾個問題：連接距離、連接物件以及如何使連接的設備協同工作。例如，使多個GPU作為一個大型運算系統運作的連接，以及連接多個伺服器以擴展運算範圍的連接，都需要不同的通訊速度、延遲和連接方式。

基於此，本文從每個連接的距離和目標以及它在系統中的作用的角度，探討了橫向擴展、向外擴展、向上擴展和向內擴展。

這些連接的範圍涵蓋晶片或封裝內部、多GPU間連結、資料中心內伺服器與機架間連結，甚至多個資料中心間的連結。一般而言，從Scale In向Scale Across的連接距離逐漸延長，但每種情況下所需的技術會依連接的裝置及其在系統中的角色而異。（參考資料：https://www.marvell.com/solutions/data-center/scaling-ai-infrastructure.html）

跨區域擴展：連接多個資料中心和區域

Scale Across 的概念是超越單一資料中心或設施的界限，連結分布於多個地點的 AI 叢集（由多個協調的 GPU 與伺服器組成的計算系統），使整體如同單一資料中心協同運作。這是資料中心（DCI，資料中心互連）分布與互連將成長的領域，且可依連接距離分為兩種類型。

校園規模
：同一校園內或相對接近的多個資料中心之間的連線。
長途尺度跨越
跨越大都市或地區的資料中心間的長距離連線。

在這兩種情況下，由於多個站點的運算設施被作為一個整體使用，因此連接必須快速、高容量且低延遲。此類連接預計會使用適合距離和應用的插拔式收發器。

光學收發器是一種通訊模組，將從網路設備接收的電訊號轉換為傳輸用的光訊號，並將接收的光訊號轉回電訊號。可拆卸且可插拔的收發器廣泛用於各種連線——不僅是資料中心間，也包括機架間以及資料中心內交換器之間。目前，光學收發器最廣泛用於資料中心內的 Scale Out 網路，並且根據距離與應用，預期也會用於 Scale Across 的站點對站點連接。

關於光學收發器的運作原理及最新趨勢的詳細說明，請參閱我們的相關文章：光收發器基礎與最新趨勢
Dexerials 如何應對追求更高速度的挑戰，以及推出哪些產品，將在另一篇文章《Dexerials 產品跨光學收發機擴展》中探討。

橫向擴展：透過新增伺服器和機架來擴展計算範圍

Scale Out 是指將多台伺服器及透過 Scale Up 建構的計算系統聯網，以擴展資料中心內的計算範圍。由於處理分散於多台伺服器，它需要有通訊能力以有效傳輸大量資料，並有機制保持通訊延遲低。
在 Scale Out 中，可插拔式收發器廣泛用於伺服器與機架間的連接。然而，隨著連接裝置數量與所需容量增加，連接開關 ASIC 與前面板光纖收發器的電線變得更長，導致訊號損失與功耗增加。為了縮短這種線路，正在開發將轉換點設在交換器 ASIC 附近。其中之一是 CPO（Co-Packaged Optics），將交換器 ASIC 與光引擎整合在同一封裝中。將用於電信號與光信號轉換的光引擎置於交換器 ASIC 附近，CPO 縮短了高速電信號必須傳輸的距離。這表示光通訊正擴展到傳統依賴電氣接線的短距離應用，CPO 網路交換器的採用預計將增加。(新光學介面：新穎連接器設計與智慧對齊助力 CPO 時代 |特色 |2026年2月 |光子學光譜)

採用共封裝光子元件 (CPO) 的產品開發也在穩步推進。博通公司發布了“Tomahawk 6 – Davisson”，這是一款 102.4 Tb/s 的交換機，它將交換機 ASIC 與光引擎整合在一起。 （博通發布 Tomahawk® 6 – Davisson，業界首款採用共封裝光子裝置的 102.4-Tbps 乙太網路交換器）英偉達也發布了“Spectrum-X Ethernet Photonics”和“Quantum-X InfiniBand Photonics”，這兩款產品均採用了 CPO 技術。 （英偉達，面向智慧人工智慧的矽光子網路 | 英偉達）橫向擴展涉及的組件以及 Dexerials 可提供的技術將在後續的專題文章中進行詳細介紹。

擴展規模：連接多個GPU以作為大型運算系統運行

Scale Up 是指將多個 GPU、XPU（計算半導體，包括 GPU）、記憶體及其他元件高速連接，使其作為一個大型運算系統運作。這些連接的範圍不限於單一伺服器內部;它可以延伸到機架內部，甚至跨越多個機架。

銅質電線目前應用廣泛，但隨著人工智慧規模的擴大，需要一次性傳輸的資料量不斷增加，對功耗的要求也越來越高，僅靠銅線難以持續提升通訊距離和速度。因此，縮短電線長度並利用光線進行資料交換的技術正在蓬勃發展。

一種正在研究的未來配置方案是將產生光訊號的光學引擎放置在GPU/XPU封裝附近，並透過光線連接GPU/XPU。其目標是縮短GPU/XPU之間的高速電線長度，並實現光連接。

開發也正朝向將光學互連（利用光連接設備與半導體的技術）引入 Scale Up。Marvell 發表了一款具備 200 Gbps 電光介面的 3D 矽光子學光學引擎，用於 AI 叢集。（Marvell 展示業界首款 200G 3D 矽光子引擎以擴展加速基礎設施）NVIDIA 宣布推出「NVLink Fusion」，該計畫連接多顆 GPU 與客製化半導體，合作夥伴包括聯發科。（聯發科 |NVLink 融合 |客製化 AI ASIC 創新）Scale Up 的相關元件，以及 Dexerial 能貢獻的部分，將在未來專文中詳述。

規模化：提升晶片和封裝內部的處理性能

縮放式整合是指在晶片、封裝或單一計算設備內提升處理效能與能效的概念。它能以高密度、高頻寬記憶體（高頻寬記憶體，靠近 GPU 的記憶體）和小晶片組（按功能細分的小型半導體晶片）等元件，在短距離內以高密度連接，實現高速資料交換。

目前以電線為主，但為了提升通訊能力並降低功耗，也在研究中引入光輸入輸出（利用光訊號進行資料輸入與輸出），在晶片間及晶片組間。晶片越密集地並排排列（晶片是從半導體晶圓切割而成的單一晶片），電線的擁擠、訊號損失與熱量問題即使在近距離也越明顯。因此，正在探索將光線引入封裝內部的技術。其中一種方法在介層（晶片安裝基板）內提供光的路徑，並透過這些結構傳遞光信號。內建此類光學接線的基板稱為光子介位器，目前正研究使用多種材料（如矽與玻璃）的配置。

將光 I/O 引入 Scale In 的技術仍然以研究和原型製作為中心，大規模生產的時間表尚不明確（截至 2026 年 7 月）。
英特爾發布了一款原型系統，將光I/O晶片整合在與CPU相同的封裝中，並能透過該晶片實際傳輸資料。未來，這項技術有望應用於與CPU、GPU和其他晶片相同的封裝中，實現電訊號和光訊號之間的轉換。 （英特爾展示首款完全整合的光I/O晶片 – 英特爾新聞中心）關於Scale In技術所涉及的組件以及Dexerials能夠提供的服務，我們將在後續的專題文章中進行詳細介紹。

摘要：透過連接距離與作用來理解光子學與電子學的融合

如我們所見，人工智慧基礎設施中的連接可以從四個方面進行組織：縱向擴展（Scale In），即提升晶片和封裝內部的處理性能；縱向擴展（Scale Up），即使多個GPU作為一個大型計算系統運行；橫向擴展（Scale Out），即增加伺服器和機架以擴展和計算範圍；以及橫向擴展（Scale Across），即連接多個數據中心區域。每種擴展方式在連接的距離、目標以及在系統中的作用方面都各不相同。它們並非按順序相互替代，而是根據人工智慧基礎設施的配置和用途組合使用。

目前，光收發器主要用於資料中心的 Scale Out，且在 Scale Across 中的應用預計也會擴大。擴大與擴展 In仍主要依賴電氣連接，但技術發展正逐步推進，引入光互連與光 I/O，以追求更高的通訊容量、更低延遲及降低功耗。隨著此發展推進，訊號轉換成光的點預計將越來越接近晶片。隨著光通訊範圍擴大且轉換點更接近晶片，實施挑戰也隨之改變——包括以低損耗連接光的光耦合技術、高精度結合不同材料與元件的異質整合技術，以及支援更高層次與密度的高密度封裝技術（屬於先進封裝領域的一部分）。Dexerials 不僅致力於解決這些挑戰，包括將光轉換為電能的光電二極體（高速光電二極體，PDs）及監控與控制光輸出的光電二極體，還透過工業用黏著劑精確固定元件、處理細微電氣連接的各向異性導電膜（ACF）、控制光線方向與量的無機光學裝置，以及新產品的開發。這一切背後有一個共同的想法：縮短電線的距離，以減少訊號損失與功耗。

在日益突出的光子學-電子學融合領域，Dexerials 將繼續致力於研發能夠幫助工程師解決所面臨挑戰的技術。