英特爾架構、圖形和軟體部門前首席架構師兼執行副總裁 Raja Koduri 日前撰寫了一篇文章，概述了他對英特爾目前所處的困境的看法。在文章中，他強調了英特爾目前的“寶藏和蛇”（treasures and snakes），以及他認為公司前進的方向。本質上，正如他在一條附帶推文中總結的那樣，“不發貨就學不到東西。”

Koduri 認為，英特爾的財富是智慧財產權和技術，而許多創新則“束之高閣”。然而，Koduri 認為，與此形成鮮明對比的是官僚程式，它主導著企業決策，而創新則被拋在身後。

“‘電子表格和 PowerPoint 蛇’（The 'spreadsheet & PowerPoint snakes）——主導公司決策的官僚流程——往往無法理解放棄績效領導的真正代價。

“他們優化了季度損失，卻忽略了全域性。這些流程不斷增加，纏繞著工程師，限制了他們大膽執行產品路線圖的能力。

“任何試圖在既定流程之外開展臭鼬工廠計劃的嘗試都會被籠罩在恐懼的氣氛中——一步走錯，官僚主義就會來襲。這種環境在整個工程隊伍中滋生了一種普遍的‘習得性無助’，扼殺了建立英特爾帝國的創新文化。”

這當然是一些令人回味的畫面。這幅作品本身還附有一張人工智慧生成的影像，顯示一名英特爾程式設計師被標有“協調員”的蛇勒死，而一名高管在一旁觀看。背景中的另一個人前額寫著“殭屍”一詞。

在“讓混亂統治，然後控制混亂”（原文：Let chaos reign and then rein in chaos，出自英特爾前執行長安迪·格羅夫）的標題下，Koduri繼續說道：

“讓我們分析一下這個問題。你為什麼要讓混亂統治？難道所有的混亂都是壞的嗎？答案是否定的。有好的混亂和壞的混亂。好的混亂迫使你去發明和改變。

“好的混亂通常來自外部事件。壞的混亂來自內部問題。我喜歡把壞的混亂稱為“組織熵”（organizational entropy）。這是降低公司效率的更高階的因素。

“當熵超過某個閾值時，領導層就會失去對公司的控制。除非你降低熵，否則無論高管們怎麼嚴厲打擊都無法改變這種情況。”

所以，從本質上來說，糟糕的決策和內部官僚干預導致工程師失去了迭代和創新的能力，公司陷入了困境 — — 至少 Koduri 是這麼認為的。

隨後，他為前執行長帕特·基辛格 (Pat Gelsinger) 離職後接任英特爾領導職位的人提出了幾條“謙虛建議” ，包括將程式設計師與協調員的比例增加 10 倍，“取消取消文化”（在這個意義上，放棄在產品釋出前取消產品的想法，比如Falcon Shores），並圍繞產品領導架構重組公司。

“這一切都太晚了嗎？”他在最後幾段中發表了看法。好問題。英特爾的困境是有據可查的，有傳言稱臺積電可能會控制英特爾的晶片製造工廠（或可能與博通達成類似安排），一位工程師稱這是“一個可怕的、令人沮喪的錯誤”。該公司的 Arrow Lake 桌上型電腦 CPU 反響不佳（儘管無論如何似乎賣得很好），自 Gelsinger 離職以來，它仍然沒有新的執行長，其“四年五個節點”路線圖已支離破碎。

儘管如此，英特爾的18A 節點現在似乎已經準備就緒，現有的 Lunar Lake 移動晶片令人印象深刻，其下一代Panther Lake 晶片（在上述 18A 節點上製造）將於今年下半年推出。儘管外界對此批評不絕於耳，但英特爾似乎暫時堅持了下來，期待已久的流程和產品正在醞釀中。Koduri 並不是第一位公開分析和辯論英特爾明顯失誤的前高管，甚至比爾·蓋茨也發表了自己的看法。

我想知道英特爾是否認為這裡真正的蛇是那些圍繞著它持續不斷的麻煩的蛇，在它掙扎著站起來時偶爾會咬它的腳踝。這就是隱喻的問題所在。它們可以有不同的解釋。或者，正如 Koduri 在他的文章結尾處引用偉大的哲學家皇帝Marcus Aurelius的話所指出的那樣：

“我們聽到的一切都只是觀點，而不是事實。我們看到的一切都只是觀點，而不是真相。”

呃，確實如此。

英特爾度過了艱難的 2024 年。祝願英特爾 2025 年精彩而富有成效，並展望未來。最近有很多關於 Intel 的文章。主要是厄運和悲觀。許多業內人士、情報公司的人以及朋友和家人圈子都伸出了援手。一些人看不到任何轉機的希望，另一些人則想知道這是否是低點，以及他們是否應該現在投資。

“英特爾在人工智慧方面遠遠落後，沒有戰略”，“他們在工藝技術上仍然落後於臺積電很多年”，名單來自英特爾的空頭，他們現在似乎佔了大多數。多頭有 “希望”，空頭用 “希望不是計劃” 來反擊。

我屬於多頭陣營，文章的其餘部分概述了我的觀點和看法，這是我希望的基礎。我的中心論點是，英特爾需要為自己設定一個大膽的產品目標，以激勵他們的整個工程團隊團結起來。為了實現這些目標，包括電晶體物理學、先進封裝、矽設計和軟體架構在內的整個技術堆疊都需要承擔共同風險。關於將工藝技術和產品工程拆分為獨立公司的討論 – 這可能會適得其反。

現在，建立公平的代工廠關係可能會削弱唯一一家理論上能夠在整個堆疊（從基礎物理學 （atoms） 到軟體 （python） 之間進行創新的公司。

英特爾仍然擁有大量的 IP 和技術。這些是生態系統中許多人羨慕的瑰寶。許多創新一直被擱置。這些創新涵蓋工藝技術、先進封裝、光學、高階儲存器、散熱、供電 CPU、GPU 等等。其中一些創新可以使英特爾產品在效能、效能/美元和效能/瓦特方面有一個數量級的提升，這些指標決定了英特爾產品在所有計算領域（跨資料中心、邊緣和個人裝置）的最終領導地位。

Intel 寶藏的悲劇在於它們的延遲或延遲部署。五年多來，該公司的產品路線圖（將這些創新推向市場的重要管道）一直被製造挑戰所堵塞。雖然麻煩始於 14 奈米，但 10 奈米節點成為前所未有的瓶頸，使英特爾失去了五年的領導地位。然而，製造延遲只是故事的一部分。植根於文化和領導力的更深層次問題使英特爾無法做出務實的決策，例如在內部解決方案失敗時及時採用臺積電等外部製造能力。

英特爾的 DNA 的核心是建立在效能領先之上，即不懈追求打破基準的卓越表現。其商業模式的各個方面，從營銷到銷售，都經過校準，以成為其所選細分市場中無可爭議的領導者。NVIDIA 擁有這種效能優先的 DNA，這體現在他們不惜一切代價不懈地追求基準測試霸主地位。“Performance DNA”公司還在客戶需求之前製造產品。他們總是走在潮流的前面。這兩家公司都不是作為 “價值或服務參與者” 蓬勃發展的——它們的主要目的不是為了競爭效能/美元或根據客戶請求提供服務等價值指標。雖然價值/服務導向型公司可以取得巨大成功，但將注重績效的公司轉變為價值參與者需要進行重大的文化手術。反向轉換要自然得多。對 Intel 來說，執行代工服務將是一個具有挑戰性的過渡。與已經從事代工服務業務的公司建立許可合作伙伴關係可能是一種更務實的方法。

“電子表格和PowerPoint蛇”（spreadsheet & powerpoint snakes） – 主導公司決策的官僚過程 – 往往無法理解放棄績效領導的真正成本。他們進行最佳化以最大限度地減少季度損失，同時錯過更大的圖景。這些流程成倍增加，圍繞著工程師，限制了他們以所需的勇氣執行產品路線圖的能力。恐懼的氣氛圍繞著任何在既定流程之外進行臭鼬工廠倡議的嘗試——一個失誤，官僚主義的蛇就會出擊。這種環境在整個工程隊伍中滋生了一種普遍的“習得性無助”，扼殺了建立英特爾帝國的創新文化。習得性無助是我們放棄逃避痛苦情況的一系列行為，因為我們的大腦逐漸被教導在那種情況下假設無能為力。

我以前親眼目睹了公司從灰燼中崛起，我知道轉型是可能的，即使是在絕望的深淵中也是如此。雖然金融工程為發展提供了必要的養料，但僅靠它並不能點燃驅使工程師構建真正革命性的火花。在尖端技術領域，工程師需要的不僅僅是資源，他們需要一個鼓舞人心、近乎大膽的目標來追求。理想的目標應該同時令人生畏和鼓舞人心：令人生畏是因為它突破了可能性的界限，鼓舞人心是因為它代表了計算的飛躍。領導層的作用不僅僅是設定這些目標，而是提供工具，展示前進的道路，並與團隊一起在戰壕中親自動手。

追求一項艱鉅的挑戰 – 一個 “大壞怪獸”（big bad monster） – 無論經驗水平如何，都具有普遍的吸引力。在當今的 AI 計算環境中，什麼可以作為那個鼓舞人心但令人生畏的目標？讓我們從硬體挑戰開始。

以 NVIDIA 的 NVL72 為例，這是當前 AI 計算領域的頂級掠奪者：

1、360 PFLOPS 的原始 FP8 計算（無稀疏）；

2、576 TB/秒的 HBM 頻寬，容量為 18.8 TB；

3、透過 NVLink 實現 130 TB/秒的 GPU-GPU 頻寬；

4、300萬美元的定價；

雖然 NVIDIA 的單個 GPU （B100/B200） 本身就令人印象深刻，但真正令人生畏的是 NVL72 的密度和規模。這不僅僅是關於原始 GPU 能力，還是系統架構的大師班，展示了樹立新行業標準的最先進的縱向擴充套件和橫向擴充套件頻寬功能。這種突破性的效能伴隨著相應的成本：高昂的價格標籤和大量的功耗 （~120-132 KW）。然而，NVIDIA 之所以能夠獲得這種優勢，是因為 NVL72 在提供通用性和效能的結合方面獨樹一幟。

讓我們捕獲 NVL72 系統的Pj/Flop，因為這在以後會很方便。

以下是我建議的英特爾大膽創新計劃系統目標：

讓我們來了解一下這些目標的大膽程度：

英特爾擁有實現這些驚人規格的所有技術要素。透過完全的組織一致性和專注度，他們可以實現目標。我們應該期待 NVIDIA 將目光投向類似甚至更雄心勃勃的引數。你需要超越自己的最佳狀態才能與Nvidia競爭，你還需要在2028年、2029年一次又一次地出現。

同樣重要的是要提到，上述規格也將轉化為 1 Petaflop （132W） 和 100 Teraflop （13W） 範圍的非常引人注目的系統，為英特爾提供從移動、迷你 PC、桌上型電腦到資料中心的出色領導堆疊。英特爾將有能力提供從裝置到 DC 的單一堆疊，以有效地為消費者和企業部署像 Deep Seek 這樣的優秀開放模型。一個可以高效地託管整個 670B 引數 DeepSeek 模型（低於 10K）的系統在 Intel 的領域中非常有價值。

在未來 3-5 年內，成本將出現一個“DeepSeek”時刻。是什麼讓我如此樂觀？人們應該深入到第一原則，看看以下因素：

使用 ~0.01 Pflop/mm² 和 ~0.03 GB/mm² 的記憶體，您可以為這些產品構建一個簡單的第一性原理成本範圍。您會驚訝地發現美元有 5-10 倍的機會。如果您不擁有大部分元件，更重要的是不擁有最終元件（3D、2.5D、2D….）

現在讓我們看看從上述雄心勃勃的目標中得出的 Pj/Flop：

實現這一目標需要將 Pj/Flop 減少 4 倍——這在後摩爾定律時代是一個艱鉅的挑戰。然而，英特爾的 Lunar Lake 晶片已經展示了令人鼓舞的效率，以 ~20W 或 ~0.2 Pj/op 提供 ~100 INT8 TOPS （GPU+NPU）。這一基準證明 Intel 擁有能夠實現競爭效率的 IP。

需要克服的 4 個關鍵互聯挑戰：

1. 找到另一個 2 倍的效率，達到 0.1 Pj/Flop；

2. 將計算擴充套件到 10000 倍以達到 Exaflop 時（包括互連成本）；

3. 同時提供 10 倍的接近記憶體頻寬；

4. 同時保持與現有 Python/C/C++ GPU 軟體的相容性（即，沒有像量子、神經形態、對數和少數初創公司追求的其他想法這樣的深奧歧途）；

5. 片上功耗的 3 個關鍵貢獻者 （單位為 Femto （F） 焦耳）

所有最先進的設計都將在 math ops power 的同一個球場上。他們將接近當時的領先工藝節點（TSMC N2、Intel 14A 等）賦予它們的任何權利。Intel 的大部分有趣區別需要來自記憶體和通訊方面。

在最近的 IEDM 上，nVidia 釋出了下圖。

先進的封裝技術已證明，對於記憶體訪問和晶片間通訊，Fj/bit 有可能降低 10-20 倍。英特爾在 2021-2022 年的 zetta 規模開發工作制作了展示這些收益的工作原型。雖然引發這項工作的 zetta-scale 計劃已經停止，但其技術基礎仍然具有相關性。

擁有矽設計師，先進的封裝工程師能夠接觸到來自TSMC和Intel的最新工藝技術，這對於儘早推動這些技術產品化所需的迭代是一個巨大的優勢。英特爾比其他人提前 5+ 年開始了這一旅程。Kabylake-G（帶 GPU 的 EMIB）、Lakefield（第一個 3D 堆疊大容量晶片）、Ponte Vecchio（結合了 SOTA 2.5 和 3D 的封裝中的 47 個小晶片）是關鍵示例。

掌握高階技術是一個無情的迭代過程，您需要透過努力來學習和改進。沒有“神奇”的問題，您可以一次性解決良率、成本、效能、散熱和可靠性問題。英特爾領先於行業開始了這個迭代迴圈，但中間有許多自作自受的卡頓。主要是透過取消專案，其中一些專案甚至已經準備好進行送樣和生產，並切換到外部收購併重新啟動迭代迴圈。回到 Larrabee 時代（2009 年），Intel 至少有 8 次吞吐量計算架構迭代迴圈的開始/停止。在每一個關頭，他們都切換到了不同的架構，並沒有從之前的迴圈中受益。

回到數學上來，“math ops”目標本身應該不是問題。Intel 應該能夠在沒有 heroics 的情況下完成 <0.05 Pj/Flop （FP8），你需要這個緩衝區來支付記憶體和通訊的能力。為了實現 2027 年系統目標，他們還需要在數學之外找到 2 倍的機會。透過先進封裝減少距離 （mm） 是實現這一目標的關鍵工具，我相信他們擁有實現這一目標的技術。接下來是記憶體頻寬目標。

Intel 還擁有自主研發的記憶體技術，可以開創接近記憶體計算的時代。

無論是他們的自主技術還是與 DRAM 行業的“緊密”合作伙伴關係，在 3-4 年內都有 10 倍的頻寬增加機會。誰先冒風險並執行，誰就能遠遠領先於其他人。有趣的是，有助於提供 10 倍記憶體頻寬的技術也有助於實現 20 倍的通訊頻寬目標。關鍵是要釋放更多的晶片邊界用於晶片到晶片的通訊。

英特爾還擁有出色的 Silicon Photonics 技術，如果不將其整合到產品中以啟動學習迴圈，那將一無是處。所有技術和智慧財產權都是具有有效期的易腐貨物。在為時已晚之前食用它們。

現在我們來談談 Intel 的可擴充套件性和軟體。最近，我在他們的 Tiber 雲上訪問了 Intel PVC 8-GPU 系統。我還添加了來自 AMD 和 Nvidia 的 8-GPU 設定。這三個系統都是浮點野獸。以下是 FP16/BF16 規格：

我編寫了一個自定義基準測試工具來了解這些系統在各種大小和形狀的矩陣中的效能。這樣做的動機來自於對各種 AI 模型的跟蹤觀察。我注意到大部分效能都由矩陣乘法序列主導，所有這些矩陣通常是大矩陣（4K 及以上）。我還想用 PyTorch 來練習這些系統 – 標準的 PyTorch，沒有花哨的庫或中介軟體。我的論點是，標準 PyTorch 的質量、覆蓋範圍和效能是 AI 軟體開發人員在不同 GPU 上提高工作效率的良好基準。

軟體觀察：安裝和第一次讓事情“工作”是 AMD 和 Intel 的更多步驟。在我開始之前，它涉及與兩家公司的工程師的互動。Nvidia 很簡單。但我必須承認，與 2 年前相比，AMD 和 Intel 在使 Pytorch 易於使用方面都取得了巨大進步。Intel 的驅動程式安裝和 Pytorch 設定比 AMD 的摩擦要小一些。AMD 直接支援 torch.cuda 裝置，使用 Intel 時，您需要對映到 torch.xpu 裝置。因此，我需要為 Intel 進行一些程式碼調整，但不會太痛苦。英特爾去年“日落”PVC GPU，據我所知，AI 軟體團隊在過去幾年裡一直忙於開發 Gaudi。我對 Intel 的相容性和效能的期望非常低。我驚喜地發現，我能夠完成我的測試——不僅是 1 個 GPU，而且是 8 個 GPU。以下是 8X GPU 的結果：

跨越不同形狀和大小的基體（Across the sweep of different matrix shapes and sizes ）：

很容易看出為什麼 Nvidia 仍然是大家的寵兒。這是 H100。Blackwell 將進一步提高標準

從semi-analysis的文章中瞭解到，AMD 即將推出新的驅動程式，這些驅動程式似乎可以顯著提高 GEMM 數量。這對 AMD 來說是個好訊息。本文不是關於 AMD 或 NVIDIA 的。

這裡的驚喜是被遺棄的 PVC，它甚至如此接近 頂級 GPU .PVC 在工藝技術方面落後於 MI300X 一代。大多數 PVC 矽位於 Intel 10nm 上，比 TSMC N4 落後 ~1.5 個節點。透過 XeLink 的 GPU 到 GPU 頻寬似乎比 AMD xGMI 解決方案的效能更好。

肯定還有軟體最佳化擺在桌面上。他們應該能夠達到峰值的 60%。在矩陣維度較小的情況下，您可以看到軟體開銷對 Intel 的影響。

但英特爾於 2023 年 3 月取消了名為 Rialto Bridge 的 PVC 的後續專案。

該晶片已準備好在 22 年第四季度流片，並將於 2024 年量產，並指定交付超過 H100 的產品。

AMD 於 2015 年在斐濟開始採用先進封裝和 HBM 進行迭代迴圈，隨後於 2017 年與 Vega 合作。緊隨其後的是 MI25、MI50、MI100、MI200、MI250，最後是 MI300。MI300 是 AMD 第一款收入超過 $1B 的 GPU。您只能通過出貨來學習。

回到主執行緒。上面的資料點表明，英特爾擁有能夠與最佳公司競爭的基礎。他們需要積極地玩遊戲，而不是破壞路線圖。停止從勝利的嘴裡搶奪失敗。

這一切都不會是一件容易的事。Intel 的所有層級都必須經歷痛苦的轉型。僅僅行政領導音樂椅是不夠的。

這是 Andy Grove 的一句名言（可能是 Intel 的最後一位 CEO，他對公司堆疊的每一層都瞭如指掌。我經常想知道安迪現在會怎麼做。

讓我們稍微剖析一下。你為什麼要讓任何混亂佔據主導地位？不是所有的混亂都是壞事嗎？答案是否定的。有好的混亂和壞的混亂。好的混亂會迫使你去發明和改變。重大的科技和行業轉型是好的混亂。網際網路、WiFI、雲、智慧手機、人工智慧是一些可能導致良好混亂的過渡示例。當 Intel 能夠“控制”（rein in）時，它從其中一些轉變中受益。好的混亂通常來自外部事件。糟糕的混亂來自內部問題。我喜歡把壞的混亂稱為 “組織熵”（organizational entropy）。這是降低公司效率的高階位。

當熵超過某個閾值時，領導層就會失去對公司的控制。再多的高管抨擊都無法解決這種情況，直到你減少這個熵。

1、將編碼員與協調器（coder-to-coordinator ）的比率提高 10 倍。這可能是最痛苦的事情，因為它可能會導致首先大幅減少員工人數和一些重新招聘。為陷入協調任務的人提供重新學習的機會，讓他們重新開始編碼或離開公司。AI 工具是老年人重新投入工作的重要推動力。

2、圍繞產品領導力架構組織公司。英特爾可以使用在整個堆疊中共享的 <6 模組化構建塊 （/chiplets） 構建從 10W 到 150KW 的整個產品堆疊。圍繞進入市場的界限拆分公司會阻止他們在堆疊上下游利用其領導 IP（例如：- Xeon 上的 Lunarlake SOC 能效會很棒，但 Xeon 的能效遠非今天的領先地位）。透過在整個堆疊中利用領先的 IP，英特爾可以在客戶端、邊緣和資料中心部署效能最佳的產品，並獲得 >$500B TAM 的可觀份額。

3、取消取消文化。英特爾的傳統建立在不斷的迭代之上。每 18 個月迭代一次，新工藝技術的良率達到 90%。Tick-tock 執行模型。停止“取消文化”。你什麼也沒做。

4、押注普遍性並專注於效能基本面。Ops/clk、Bytes/Clock、Pj/Op、Pj/Bit 等。邊界不是 CPU、GPU 和 AI 加速器。工作負載是標量、向量和矩陣計算的不斷發展組合，需要增加頻寬和記憶體容量。您具有獨特的能力，可以按比例提供這些元素，從而讓您的客戶滿意並摧毀您的競爭對手。

5、向全球開源開發人員提供大量 BattleMage 和 PVC GPU。出售大量 Battlemage GPU 是實現這一目標的一個很好的步驟。不要擔心它們的邊距。這是打動 AI 開發人員的心靈和思想的最有效方式，同時讓全球數百萬遊戲玩家感到高興。Battlemage 是迭代好處的一個很好的例子。自 2022 年 Alchemist 以來，軟體穩健性和效能的提升非常明顯。如果他們在未來 12 個月內再次迭代並推出 Celestial，他們將走上領導之路。使 PVC 的所有清單（包括 Argonne 百萬兆級安裝中的 PVC 清單）可供 Github 開發人員使用，而不會產生“雲摩擦”。它應該是從世界上任何 PC/Mac 單擊一下即可連線到雲 GPU。Intel GPU 與 Pytorch/Triton AI 開發人員生態系統最相容（在其他 Intel 選擇中）。這項工作將極大地幫助 Leadership 2027 系統的釋出，屆時更多軟體將在英特爾的第一天執行。

這一切都太晚了嗎？

“樂觀是創新的基本要素，”羅伯特·諾伊斯 （Robert Noyce） 說，他是讓英特爾變得偉大的傳奇人物之一。

“我們聽到的一切都是一種觀點，而不是事實。我們看到的一切都是一種觀點，而不是真相。

關注全球半導體產業動向與趨勢

公眾號ID：icbank

喜歡我們的內容就點“在看”分享給小夥伴哦