本文由半導(dǎo)體產(chǎn)業(yè)縱橫（ID：ICVIEWS）編譯自technews

誰能率先突破傳輸效率與延遲的限制，誰就有機(jī)會在下一波AI競賽中奪得先機(jī)。

在人工智能（AI）、機(jī)器學(xué)習(xí)的推動下，全球數(shù)據(jù)流量正成倍增長，目前數(shù)據(jù)中心服務(wù)器與交換機(jī)之間的連線正從200G、400G快速邁向800G、1.6T，甚至可能進(jìn)入3.2T的時代。

市場調(diào)研機(jī)構(gòu)TrendForce預(yù)測，2023年400G以上的光收發(fā)模組全球出貨量為640萬個，2024年約2,040萬個，預(yù)計至2025年將超過3,190萬個，年增長率達(dá)56.5%。其中，AI服務(wù)器的需求持續(xù)推升800G及1.6T的成長，而傳統(tǒng)服務(wù)器也隨著規(guī)格升級，帶動400G光收發(fā)模組的需求。

另據(jù)機(jī)構(gòu)調(diào)查，2026年1.6T光模組需求將大幅超出預(yù)期，總出貨量預(yù)計高達(dá)1100萬支，主要動力來自NVIDIA與Google的強(qiáng)勁采購，以及Meta、微軟、AWS的部分需求。

光通信因?yàn)楦邘?、低損耗與長距離特性，逐漸成為機(jī)柜內(nèi)外互連的主要選擇方案，使得光收發(fā)模組成為數(shù)據(jù)中心互連的關(guān)鍵。TrendForce指出，未來AI服務(wù)器之間的數(shù)據(jù)傳輸，都需要大量的高速光收發(fā)模組，這些模組負(fù)責(zé)將電信號轉(zhuǎn)換為光信號，并通過光纖傳輸，以及將接收到的光信號轉(zhuǎn)換回電信號。

光收發(fā)模組、光通信和硅光子有何關(guān)系？

根據(jù)下圖的前兩個示意圖可知，目前市面上的可插拔光收發(fā)器傳輸速率可達(dá) 800G，下一階段的光引擎（ Optical Engine ，簡稱OE） 已經(jīng)可安裝在ASIC芯片封裝周圍，這稱為載板光學(xué)封裝（ On- Board Optics ，簡稱OBO），其傳輸能力可支援至1.6T。

目前業(yè)界希望走向“CPO”（Co-packaged Optics，共封裝光學(xué)），即光學(xué)元件與ASIC能共同封裝，通過這項技術(shù)實(shí)現(xiàn)超過3.2T、最高達(dá)12.8T的傳輸速度；而最終目標(biāo)則是達(dá)到“Optical I/O”（光學(xué)I/O），實(shí)現(xiàn)類似全光網(wǎng)絡(luò)的技術(shù)，推動傳輸速度超過12.8T。

如果仔細(xì)觀察上圖，可以發(fā)現(xiàn)作為黃色方塊的光通信模組（以前為可插拔形態(tài)）距離ASIC越來越近，這主要是為了縮短電信號的傳輸路徑，從而實(shí)現(xiàn)更高的帶寬。而硅光子制程技術(shù)，就是將光學(xué)元件整合到芯片上的技術(shù)。

光通信需求暴增，業(yè)界聚焦三種擴(kuò)展服務(wù)器架構(gòu)

由于AI應(yīng)用大爆發(fā)，對于高速光通信的需求急劇提升，目前服務(wù)器主要聚焦Scale Up（垂直擴(kuò)展）、Scale Out（水平擴(kuò)展）兩種擴(kuò)展方向，分別對應(yīng)不同的傳輸需求與技術(shù)挑戰(zhàn)，而近期NVIDIA又新宣布“ScaleAcross”這個概念，為業(yè)界增添一個思考方向。

Scale-Up

Scale-Up主要作為機(jī)柜內(nèi)高速互連（上圖黃色部分），傳輸距離通常在10公尺以內(nèi)，由于對延遲的要求極低，內(nèi)部仍主要采用“銅互連”（Copper Interconnects），避免光電轉(zhuǎn)換造成延遲與能耗。目前解決方案主要有NVIDIA的NVLink（封閉架構(gòu)）及AMD等其他公司主導(dǎo)的UALink（開放架構(gòu)）。

有趣的是，今年NVIDIA推出NVLink Fusion，首度開放NVLink技術(shù)給外部芯片廠商，將NVLink從單一服務(wù)器節(jié)點(diǎn)延伸至整個機(jī)柜級（Rack-Scale）架構(gòu)，不排除是為了因應(yīng)UALink的競爭。

另一個值得關(guān)注的是，原本主要專注于Scale-Out的博通，正嘗試通過“以太網(wǎng)”（Ethernet）進(jìn)軍Scale-Up市場。該公司近期推出多款可用于Scale-Up、符合SUE（Scale-Up Ethernet）標(biāo)準(zhǔn)的芯片，后續(xù)可以關(guān)注NVIDIA與博通在這方面的競爭。

Scale-Out

Scale-Out則是橫跨服務(wù)器的大規(guī)模并行運(yùn)算（上圖中藍(lán)色部分），用于解決數(shù)據(jù)高吞吐量問題并實(shí)現(xiàn)無限擴(kuò)充。這以“光通信”為主，主要的網(wǎng)絡(luò)互聯(lián)技術(shù)依靠InfiniBand或者以太網(wǎng)（Ethernet），也將帶動光通信模組市場。

InfiniBand和Ethernet又可以分成兩大陣營，前者較受NVIDIA 、微軟等大廠的青睞，而后者則以博通、 Google 、 AWS為主。

談到InfiniBand，不得不提領(lǐng)先廠商Mellanox，它在2019年被NVIDIA收購，是提供端到端Ethernet與InfiniBand智能互連解決方案的供應(yīng)商。而中國近期裁定NVIDIA違反反壟斷法，就是針對這起收購案。另一個關(guān)注點(diǎn)是，雖然NVIDIA推出許多InfiniBand產(chǎn)品，但也針對以太網(wǎng)推出相關(guān)產(chǎn)品如NVIDIA Spectrum-X，可以說是兩種市場兼吃。

作為另一大陣營如英特爾、AMD、博通等大廠于2023年7月集結(jié)組成“超以太網(wǎng)聯(lián)盟”（Ultra Ethernet Consortium ，簡稱UEC），合作發(fā)展改進(jìn)的以太網(wǎng)傳輸堆棧架構(gòu)，成為挑戰(zhàn)InfiniBand的力量之一。

TrendForce分析師儲于超認(rèn)為，Scale Out所帶動的光通信模組市場，正是未來數(shù)據(jù)傳輸?shù)暮诵膽?zhàn)場。

Scale-Across

作為新興的解決方案，NVIDIA近期提出“Scale-Across”的概念，即跨數(shù)據(jù)中心的“遠(yuǎn)距連接”，距離能超過數(shù)公里，并推出以以太網(wǎng)為基礎(chǔ)、串接多座數(shù)據(jù)中心的Spectrum-XGS以太網(wǎng)。

Spectrum-XGS以太網(wǎng)將作為AI運(yùn)算中Scale-Up和Scale-Out以外的第三大支柱，主要用來擴(kuò)展Spectrum-X以太網(wǎng)的極致效能與規(guī)模，可連接多個分散式數(shù)據(jù)中心。NVIDIA介紹，NVIDIA Spectrum-X以太網(wǎng)除了提供Scale-Out的架構(gòu)，連接整個集群、將多個分散式數(shù)據(jù)中心進(jìn)行互連，快速將大量數(shù)據(jù)集串流至AI模型，還可在數(shù)據(jù)中心內(nèi)協(xié)調(diào)GPU與GPU之間的通信。

換言之，這個解決方案結(jié)合Scale-Out與跨域擴(kuò)展，能根據(jù)跨域距離靈活調(diào)整負(fù)載平衡、動態(tài)調(diào)整算法，因此概念更類似“Scale-Across”。

NVIDIA創(chuàng)辦人暨執(zhí)行長黃仁勛表示，“我們在Scale-Up與Scale-Out能力之上，進(jìn)一步加入Scale-Across，把跨城市、跨國家乃至跨洲際的數(shù)據(jù)中心聯(lián)結(jié)起來，打造龐大的超級AI工廠?！?/p>

如果從目前產(chǎn)業(yè)走向來看，Scale-Up和Scale-Out都是必爭之地，可以看出NVIDIA和博通如何從對方手中奪取多一分領(lǐng)地。而NVIDIA新喊出的Scale-Across則是聚焦橫跨數(shù)公里乃至于數(shù)千公里的跨數(shù)據(jù)中心傳輸，有趣的是，博通也有推出相關(guān)的解決方案。

事實(shí)上，現(xiàn)在AI產(chǎn)業(yè)的競爭除了芯片間的競爭外，更是擴(kuò)大到系統(tǒng)間解決方案的競爭。

博通與NVIDIA的第一個交集就是“定制化AI芯片”（ASIC）。由于NVIDIA GPU價格高昂，包括Google、Meta、亞馬遜、微軟等云端服務(wù)供應(yīng)商（CSP）都在開發(fā)自家AI芯片，而博通的ASIC能力成為這些公司的首要選擇。

除了自研芯片的競爭外，另一個更關(guān)鍵技術(shù)是“網(wǎng)絡(luò)連接技術(shù)”，這也是博通與 NVIDIA 的第二個交集。

首先是在Scale-Up部分，在NVLink和CUDA這兩大護(hù)城河守護(hù)下，博通醞釀了多時，終于在今年推出最新的網(wǎng)絡(luò)交換機(jī)芯片Tomahawk Ultra（戰(zhàn)斧），有機(jī)會切入Scale-Up市場，目標(biāo)挑戰(zhàn)NVIDIA NVLink的主導(dǎo)地位。

Tomahawk Ultra是博通一直推動的“縱向擴(kuò)展以太網(wǎng)”（Scale-Up Ethernet，簡稱SUE）計劃的一部分，這個產(chǎn)品也被視為NVSwitch的替代方案。博通表示，Tomahawk Ultra一次可串聯(lián)的芯片數(shù)量是NVLink Switch的四倍，將交由臺積電5納米制程。

值得注意的是，博通雖然身為UALink聯(lián)盟成員之一，但它也積極推廣基于以太網(wǎng)SUE架構(gòu)，因此市場也相當(dāng)關(guān)注博通與UALink的競合關(guān)系，以及如何共同應(yīng)對NVLink這個大敵。

為了抵御博通強(qiáng)襲，NVIDIA今年也推出 NVFusion 解決方案，開放合作伙伴如聯(lián)發(fā)科、Marvell、Astera Labs等共研，并通過NVLink生態(tài)系打造客制化的AI芯片。外界認(rèn)為，這是為了鞏固生態(tài)系而進(jìn)行的半開放式合作，也給更多合作伙伴一些客制化空間與機(jī)會。

Scale-Out方面，主要由在以太網(wǎng)領(lǐng)域深耕已久的博通占據(jù)主導(dǎo)，近期最新推出的產(chǎn)品包括Tomahawk 6、Jericho4，以搶占Scale-Out和更遠(yuǎn)傳輸距離的商機(jī)。

而NVIDIA則推出許多Quantum InfiniBand交換機(jī)產(chǎn)品，以及Spectrum以太網(wǎng)交換平臺，加強(qiáng)更多面向的Scale-Out產(chǎn)品。雖然InfiniBand屬于開放架構(gòu)，但因產(chǎn)品生態(tài)環(huán)境主要仍由NVIDIA收購的Mellanox所主導(dǎo)，限制了客戶的選擇靈活性。

根據(jù)博通的相關(guān)數(shù)據(jù)，三款產(chǎn)品各自橫跨兩種不同的服務(wù)器擴(kuò)展架構(gòu)。

針對更長距離的跨數(shù)據(jù)中心擴(kuò)展的Scale-Across，目前還不確定博通和NVIDIA誰會領(lǐng)先，不過NVIDIA針對這一概念率先推出Spectrum-XGS，該解決方案通過新的網(wǎng)絡(luò)算法，來實(shí)現(xiàn)站點(diǎn)之間更遠(yuǎn)距離的數(shù)據(jù)有效移動，也可以作為現(xiàn)有Scale-Up和Scale-Out架構(gòu)的補(bǔ)充方案。

至于博通的Jericho4也符合Scale-Across的概念。博通指出，Tomahawk系列芯片能串聯(lián)單一數(shù)據(jù)中心內(nèi)的機(jī)柜，連接距離通常不超過一公里（約0.6英里），而Jericho4設(shè)備則能處理超過100公里的跨機(jī)房連接，維持無損RoCE傳輸，其數(shù)據(jù)處理能力約為前一代產(chǎn)品的四倍。

那么NVIDIA 和博通的CPO 解決方案？

隨著網(wǎng)絡(luò)傳輸戰(zhàn)場持續(xù)，相信在光網(wǎng)絡(luò)的競爭將會更加激烈，對此NVIDIA和博通都針對CPO光通訊找尋新解方，而臺積電、格羅方德也積極開發(fā)用于CPO的制程與解決方案。

NVIDIA的策略是以系統(tǒng)架構(gòu)為出發(fā)點(diǎn)，并將光學(xué)互連視為SoC的一部分，而非外掛式模組，并于今年 GTC正式發(fā)表Quantum-X Photonics InfiniBand交換器和Spectrum-X Photonics Ethernet交換器，前者將于年底推出，后者則于2026年問世。

兩個平臺均采用臺積電COUPE平臺，通過SoIC-X封裝技術(shù)將65納米的光子積體電路（PIC）與電子積體電路（EIC）整合。而這個策略出發(fā)點(diǎn)，是為了強(qiáng)調(diào)自家平臺整合，加強(qiáng)整體效益與規(guī)模擴(kuò)展。

博通的策略則專注于提供全方位解決方案，聚焦在供應(yīng)鏈的規(guī)模化運(yùn)作，供應(yīng)第三方客戶完整的模組化方案，幫助客戶應(yīng)用落地。博通也表示，公司之所以在CPO領(lǐng)域成功，是建立在深厚的半導(dǎo)體與光學(xué)技術(shù)整合能力之上。

博通目前推出第三代200G / lane CPO搶市。博通也表示，其 CPO產(chǎn)品采用3D芯片堆疊架構(gòu)， PIC同樣使用65納米， EIC則采用7納米制程。

由下圖可知，光收發(fā)模組由以下關(guān)鍵元件組成，如雷射光源（Laser Diode ）、光調(diào)變器（ Modulator ）、光感測器（ Photo Detector ）等。其中，雷射光源負(fù)責(zé)產(chǎn)生光信號，光調(diào)變器負(fù)責(zé)將電信號/數(shù)位信號轉(zhuǎn)成光信號，因?yàn)樯婕半姽廪D(zhuǎn)換，也可以說是決定單通道傳輸速度的關(guān)鍵。

在關(guān)鍵的光調(diào)變器上，NVIDIA選擇MRM （微環(huán)調(diào)變器， Micro-Ring Modulator ）。由于MRM尺寸較小，容易受誤差及溫度影響，也將是導(dǎo)入MRM的挑戰(zhàn)之一。

至于博通，則選擇使用技術(shù)較成熟的MZM調(diào)變器（馬赫–曾德爾調(diào)變器， Mach-Zehnder Modulator ），同時布局 MRM 技術(shù)，目前已經(jīng)通過3 納米制程試產(chǎn)，并以芯片堆疊方式，持續(xù)領(lǐng)導(dǎo)CPO 進(jìn)展。

目前在AI推論持續(xù)擴(kuò)張浪潮下，市場焦點(diǎn)已逐漸從“算力競賽”轉(zhuǎn)向“數(shù)據(jù)傳輸速度”，無論是博通主打的網(wǎng)絡(luò)與交換技術(shù)、NVIDIA推動的端到端解決方案，誰能率先突破傳輸效率與延遲的限制，誰就有機(jī)會在下一波AI競賽中奪得先機(jī)。

*聲明：本文系原作者創(chuàng)作。文章內(nèi)容系其個人觀點(diǎn)，我方轉(zhuǎn)載僅為分享與討論，不代表我方贊成或認(rèn)同，如有異議，請聯(lián)系后臺。