「光 I/O 」正在崛起，巨頭不想放過。
作者 | 美漪
兩天前，英偉達創始人黃仁勳在 CES 上釋出了公司一系列 AI 新產品和解決方案，為人工智慧的算力和應用落地提供更多「彈藥」。在抓緊生產現有架構的 AI 基建硬體時，這家巨頭早已經瞄準了下一代技術。
不久前，英偉達聯手老對手英特爾，投資了一家初創公司 Ayar Labs。新一輪 1.55 億美元的融資，也讓 Ayar Labs 成為晶片領域的新一家獨角獸公司。
這家公司是什麼來頭？為什麼能讓晶片三巨頭打破障礙聯合投資？
Ayar Labs 主攻光學互連解決方案，其解決方案能以 AI 運作的速度移動資料，以滿足客戶對可擴充套件、經濟高效的 AI 基礎設施的迫切需求。
對此，Ayar Labs 聯合創始人兼 CEO 馬克·韋德表示，「領先的 GPU 提供商 AMD 和英偉達以及半導體代工廠格芯、英特爾代工、臺積電，再加上 Advent、Light Street 和我們其他投資者的支援，凸顯了我們的光學 I/O 技術重新定義 AI 基礎設施未來的潛力。」
「光學 I/O」是什麼東西？Ayar Labs 又能解決快速發展的 AI 領域的什麼問題？
01
Ayar Labs 在 2015 年成立，總部位於加州聖何塞。
起初公司由四位 MIT 學生在 2015 年共同創立，其中 Mark Wade、Chen Sun 和 Vladimir Stojanovic，當時分別是 MIT 電子工程專業的博士生和訪問學者，目前分別擔任公司的 CTO、首席科學家和首席架構師。隨後，他們邀請了當時正在攻讀 MIT MBA 的 Alex Wright Gladstein 加入團隊，擔任 CEO。
現在，團隊由來自英特爾、IBM、美光、Penguin、麻省理工學院、伯克利和斯坦福的許多頂尖技術專家組成。
成立以來，Ayar Labs 一直深耕於光學互聯解決方案領域，市場戰略重點是解決光電子領域的大批次、高質量製造問題。
公司成立次年獲得了 2 百萬美元的種子輪融資，而最新一輪頂級晶片製造商的投資正是該公司技術走向成熟的標誌。新的資金將用於擴大晶片生產規模，促進生成式 AI、分解資料中心等的發展。
Ayar Labs 的發展歷程 | 圖片來源：Ayar Labs 官網
正如，Ayar Labs 執行長兼聯合創始人馬克·韋德，今年 10 月在採訪中表示「客戶已經在試用 Ayar Labs 的晶片，在過去的 18 個月裡，出貨超過 15,000 臺，這為我們在 2026 年年中至 2028 年年中的兩年重點視窗期實現批次生產奠定了基礎。」「我們預計月產量將達到數十萬到數百萬個，到 2028 年及以後，年產量有可能超過 1 億個。」
目前，Ayar Labs 的晶片由 GlobalFoundries（起初為 AMD 公司的製造部門，後來成為獨立公司）製造，並且已經與所有一級 CMOS 製造商建立了合作關係，與 GlobalFoundries、Applied Materials、臺積電、英特爾和英偉達等主要廠商建立了戰略合作關係，將光 I/O 解決方案整合到其製造產品中。
對此，Ayar Labs 曾官方宣佈，「我們正在建立一個強大的生態系統，其中包括重要的戰略技術和供應鏈合作伙伴。我們還積極參與多個行業和標準組織的活動，推動光學 I/O 晶片生態系統的發展。」
Ayar Labs 強大的生態系統 | 圖片來源：Ayar Labs 官網
02
隨著生成式 AI 模型的複雜性和規模指數級增長，對大型計算叢集的需求日益增加，這些算力設施通常需要連線數百甚至數萬個 GPU 及其他加速器，以提供 AI 所需的記憶體和計算資源。
然而，AI 基礎設施的擴充套件正面臨頻寬、延遲和功耗的挑戰，這些挑戰主要是由傳統基於銅的互連技術造成的瓶頸。在連線超過 1.5 米距離和 72 個 GPU 的機架時，傳統電互連技術尤其會遇到效能瓶頸和限制。
資料傳輸瓶頸限制了 GPU 的效能，導致投資收益遞減。具體來說，單個 GPU 的執行效率可達 80%，但擴充套件至 64 個 GPU 時可能降至 50%，進一步擴充套件至 256 個 GPU 時可能只有 30%。
這不僅降低了整體系統效率，而且嚴重阻礙了資料中心效能的全面提升，限制了 AI 技術的進步。
根據高盛最近釋出的報告預測，未來十年，AI 基礎設施支出預計將超過 1 萬億美元。這凸顯了對消除傳統互聯造成瓶頸的解決方案的迫切需求。
為了應對這一挑戰，Ayar Labs 推出了業界首個封裝內光 I/O 解決方案。
Ayar Labs 光 I/O 解決方案的創新之處在於其整體封裝設計。該設計允許光學模組直接與晶片整合，實現節點的大規模直連，有效克服了 I/O 密度、資料速率擴充套件和互聯功率效率的限制。
與傳統的可插拔光學器件和電氣 SerDes 互連方式相比，Ayar Labs 的光 I/O 解決方案可實現 5~10 倍的更高頻寬、4~8 倍的能效，並將延遲降低至 1/10，最大限度地提高 AI 基礎設施的計算效率和效能，同時降低成本、延遲和功耗，顯著提升 AI 應用的盈利指標。
對比傳統互連，Ayar Labs 的光 I/O 解決方案的優勢 | 圖片來源：Ayar Labs 官網
不僅如此，光 I/O 解決方案遵循 UCIe、CXL、CW-WDM MSA 等開放標準，並針對 AI 訓練和推理進行了最佳化，其強大的生態系統使其能夠順利地大規模整合到 AI 系統中，進而提升生成式 AI 應用的效能和效率。
Ayar Labs 的光 I/O 解決方案特別適用於下一代 AI 擴充套件架構，這種架構需要超高的頻寬和跨數百甚至數萬個 GPU 的連線 | 圖片來源：Ayar Labs 官網
03
Ayar Labs 的光 I/O 解決方案結合了兩項行業首創技術——TeraPHY 光學 I/O Chiplet 和 SuperNova 多波長光源。
TeraPHY 光學 I/O Chiple 是業界首款封裝內單片式光學 I/O 晶片。
它主要負責光電訊號之間的轉換和收發，是一種用於替代傳統的銅背板和可插拔光學通訊的小型化、低功耗、高吞吐量的解決方案。
它首次將矽光子技術與標準的 CMOS 製造工藝結合起來，將光學互聯與與電子 GPU 或 CPU 整合在同一封裝內，可以無縫整合到客戶的系統級封裝 (SiP) 架構中，使專用積體電路（ASICs）能跨越從毫米到千米的距離進行無縫通訊，最大限度地減少訊號損失和延遲，這對於分散式 AI 系統和雲計算環境格外有用。
這一創新元件包含了約 7000 萬個電晶體和 10,000 多個光學器件，主要包含了以下幾個模組：
Grating Coupler Fiber Coupling Array：負責光訊號的輸入輸出。
Optical Transceiver：主要負責進行光電訊號的調製轉換，主要由微環調製器（Micro-ring Modulators）和微環濾波器（Micro-ring Filter）組成，前者負責調製出所需的光訊號，後者負責處理接受的光訊號。值得一提的是，微環調製器正是 TeraPHY 的核心優勢，鑑於它成功解決了成功解決了溫度敏感性和訊號穩定性問題，實現了在 15-100°C 溫度範圍內準確輸出特定波長的光訊號；
AIB：負責和晶片之間的電訊號互聯；
Glue/Crossbar：是 Optical Transceiver 和 AIB 之間的連線橋樑。
TeraPHY 光學 I/O Chiplet 憑藉其模組化多埠設計，能夠支援 8 個光通道，等同於一個 x8 PCIe Gen5 鏈路，滿足生成式 AI 模型對大規模並行處理的需求。
其 4Tbps 的總雙向頻寬和每個埠 256Gbps 的高速傳輸能力，能夠迅速移動資料，加快 AI 模型的訓練和推理過程。而且，每隔幾年這一晶片頻寬或將翻倍。
5ns 的低延遲效能有助於提升資料處理速度，最佳化 AI 生成式體驗。此外，其低功耗特性（每位元不到 5pJ/b）有助於降低能源消耗，減少 AI 運營成本，同時減輕對環境的影響。
TeraPHY 光學 I/O Chiple 的核心特徵 | 圖片來源：Ayar Labs 官網
Ayar Labs 致力於透過技術創新，幫助客戶應對未來的挑戰。
舉例來說，為了應對行動網路邊緣的快速轉型需求，以及 AI 驅動服務的指數級增長，Ayar Labs 將 TeraPHY 光學 I/O 晶片和康寧獨特的內建光連線的玻璃波導模組結合在一起，開發了新一代 AI 光學解決方案。愛立信也加入了該合作，以開發其電信未來無線電。
這種全新的整合光學解決方案將為 AI 架構、6G、資料中心和其他計算密集型應用提供高密度、高性價比、低延遲、高能效的連線。
SuperNova 則是遠端光源獨立的雷射器，負責準確地發出多個波長的光子。
它可以被視為位於 ASIC 封裝外部某處的光電源，在實際部署中，SuperNova 與 TeraPHY 協同工作，共同發揮作用。
SuperNova 與 TeraPHY 協同工作 | 圖片來源：Ayar Labs 官網
SuperNova 由 Ayar Labs 和 MACOM（DFB 的頂尖設計商之一）聯合設計，交由 UK 知名雷射製造商 Sivers Photonics 製造。
它是首款符合 CW-WDM MSA（粗波分複用多源協議）標準的多波長、多埠光源，最多支援將 16 種波長的光傳輸至 16 根光纖，實現了光 I/O 技術的又一次重大飛躍。
每根光纖最多可傳輸 16 個波長，因此可驅動 256 個光載波，提供 16 Tbps 的雙向頻寬，滿足 AI 工作負載所需的頻寬水平。
16 波長 SuperNova 光源封裝緊湊，工作溫度範圍廣，可為 256 個數據通道提供光源，能夠處理 AI 應用大規模增長所需的更高吞吐量，為未來可能的擴充套件提供了充足的空間。
波長數量是 CWDM4 多波長可插拔光學器件的 64 倍，且多個波長在一個單一的陣列中簡化了包裝，降低了封裝成本，這對於大規模部署 AI 系統來說是一個重要的優勢。
不僅如此，SuperNova 符合 CW-WDM MSA 規範，滿足 GR-468 對於光電裝置和可插拔光學的可靠性要求，可廣泛應用於 AI 架構、高速 I/O、光計算和高密度協同封裝光學器件等領域。
可見，Ayar Labs 的光 I/O 解決方案基於標準、面向未來、可擴充套件，旨在最佳化 AI 效能。
隨著 AI 基礎設施需求的日益增長，整合光 I/O 已成為提升效率和效益的關鍵。
晶片行業的領軍企業已經聚焦於光互連技術，旨在利用其光學特性來打破效能瓶頸，增強 AI 基礎設施的效能和計算效率，同時減少成本和能耗。
英偉達首席科學家兼高階研究副總裁比爾·達利曾坦言，「光連線對於擴充套件加速計算叢集以滿足 AI 和高效能計算工作負載快速增長的需求非常重要。Ayar Labs 擁有獨特的光 I/O 技術，能夠滿足擴充套件基於矽光子技術的下一代人 AI 架構的需求。」
事實上，Ayar Labs 在光互連領域還有不少同行。
今年 10 月，瑞士光互連初創公司 Lightmatter 完成了 4 億美元的 D 輪融資，由新投資者 T. Rowe Price 領投，公司估值達到 44 億美元，較之前 12 月 GV 領投的 1.55 億美元融資後的 12 億美元估值增長了近四倍。
在同一時期，紐約的 Xscape Photonics 也透過光子技術解決了 AI 資料中心在能源、效能和可擴充套件性方面的挑戰，並獲得了 4400 萬美元的 A 輪融資，由 IAG Capital Partners 領投，思科投資公司和英偉達等也參與了投資。
隨著巨頭的密切關注、大量資金持續流入這一行業，光互連技術作為取代「線纜」的下一代連線技術，成為又一個迎來變革的行業。
熱點影片
更多閱讀