根據TrendForce最新高速互連市場研究，NVIDIA下世代的AI算力櫃架構顯示，未來GPU設計重心將轉向更高密度的晶片互連，和更高速的資料傳輸，機櫃內晶片互連(Scale-Up)及跨機櫃的大規模互連(Scale-Out)將成規劃資料中心的核心課題。使用銅纜的傳統電氣傳輸方案，受物理限制無法應對超大規模的資料搬運需求，光學傳輸方案因此獲得發展空間。TrendForce預估，CPO(共同封裝光學)在AI資料中心光通訊模組的滲透率將逐年成長，有機會於2030年達35%。
依照NVIDIA NVLink 6的傳輸通訊協定，定義單通道400G SerDes的極速，以及單顆GPU擁有3.6 TB/s的頻寬極限。在極端的高頻傳輸速率下，銅纜方案電訊號隨傳輸距離增加而衰退的情況加劇，導致可用距離被嚴格限縮在一公尺內。不過據Broadcom預測，透過SerDes技術持續突破物理極限，銅纜方案(Copper Cable)憑藉成本效益與低功耗特性，至2028年前都將是機櫃內的極短距互連主流選擇。
然而，當晶片互連規模放大，Scale-Up串聯規模從單一機櫃擴展至跨機櫃(如NVIDIA八組NVL72組成之576 GPU叢集)，銅纜方案將無法應付需求。此外，光學傳輸具備WDM(波分複用)技術，能利用多種波長在單一光纖內大幅提升傳輸密度，是銅纜傳輸無法企及的優勢。因此，各大雲端供應商(CSP)正攜手新創公司研發各項光學傳輸方案，為將來更大的頻寬需求作準備，也替CPO技術的滲透與成長前景奠定基礎。
產業龍頭深化布局，算力基礎建設對光學技術依賴將加深
觀察NVIDIA近年在CPO與矽光技術的策略，在半導體封裝端，NVIDIA透過TSMC COUPE 3D封裝技術，堆疊邏輯與矽光晶片，並利用矽光晶片上的200G PAM4微環調變器(MRM)，兼顧小體積與低功耗，提升光引擎的整體頻寬密度。
NVIDIA近日也宣布分別投資Lumentum與Coherent各20億美元，並簽署多年度採購承諾，與先進雷射、光學產品的優先供貨權。此舉顯示NVIDIA開始針對Scale-Up光互連的關鍵零組件預先做戰略儲備，將深度參與雷射與光學元件研發，意味未來的算力基礎設施將更依賴光學技術。
TrendForce預期，基於矽光與CPO的光互連技術，將率先導入在NVIDIA Rubin 世代機櫃間資料傳輸的Scale Out，並規劃將光互連整合至未來的Scale-up互連架構中，以實現更高的頻寬密度。據TrendForce估計，2026年用於AI資料中心的光通訊模組中，CPO滲透率僅約0.5%。隨著矽光與CPO封裝技術逐漸純熟，跨機櫃的Scale Up光互連資料傳輸最快將於Rubin Ultra或Feynman世代開始出現。在資料傳輸頻寬不斷提高的情況下，TrendForce預估至2030年左右，矽光CPO於AI資料中心的滲透率有機會達到35%水準。同時，新型態的光互連與Optical I/O等光學技術也可能陸續出現。
若有興趣進一步了解並購買TrendForce旗下半導體研究處相關報告與產業數據，請至https://www.trendforce.com.tw/research/dram查閱，或洽詢SR_MI@trendforce.com。
相關文章
相關報告
