前言

這兩天，IBM低調地發了一個新聞，推出了一款類腦晶片“北極”（NorthPole），對比4nm節點實現的Nvidia H100 GPU相比，NorthPole的能效提高了五倍，成為當之無愧是現在世界最強的AI晶片。

如此逆天的效能，但在國內，關於這款晶片的新聞卻寥寥無幾。那麼，它究竟是何方神聖？

付斌丨作者

電子工程世界（ID：EEworldbbs）丨出品

02

把腦子裝進晶片，就行了？

首先，IBM的“北極”NorthPole是一種類腦晶片，我們需要先了解什麼是類腦晶片。

所謂類腦晶片，顧名思義，就是一種高度模擬人腦計算原理的晶片，基於對現代神經科學的理解，反覆思考如何從電晶體到架構設計，演算法以及軟體來模仿人腦的運算。如果把類腦晶片做得更像人腦，就會被賦予一個新的名字——神經形態計算（Neuromorphic Computing）。

人類的思考方法與現在傳統的晶片存在許多區別，比如，人沒有單獨的儲存器，沒有動態隨機存取儲存器，沒有雜湊層級結構，沒有共享儲存器等等。

“儲存”和“處理器”錯綜複雜地深繞在人腦裡，在人腦的結構中有“神經元”的存在。在電腦中，以數字化核心相互交流基於事件的資訊，叫做脈衝，這點和人腦傳遞資訊的方式相似。

人類，便從人腦中，得到靈感，從而創造出這樣的晶片，來提升效能，成為真正的“人工智慧”，甚至無限接近人類，獲得思考能力。

當然，人腦很複雜，而且人們所製造出來的IC器件，也存在優勢，所以人們最終目標就是把這二者的優勢融合起來。

總而言之，用人話來解釋，類腦晶片，就是結合生物大腦和人造器件各自優點而設計製造出來的一種晶片，而它也會像人一樣思考，自我學習。

想造一顆這樣的晶片，可不是光是變變器件結構的就行的，而是從材料、器件、電路、架構帶動演算法和應用改變的。一言蔽之，就是集合各種最先進的技術，才能造出這樣的晶片。

雖然實現路徑很多，但奈何這種晶片技術難度太大了，且不說好不好造，設計出來就很難了，所以目前也在開拓階段，都還無法達到商業化水平。

但筆者瞭解到，之所以類腦晶片還未形成大規模商業化，一是因為設計難題依存，就拿英特爾、IBM都看好的CMOS型，多塊全數字非同步設計的晶片互聯、晶片連線的有效性和時效性以及軟體層互連計算、分散式計算和靈活分割槽等問題都難以解決；二是製造、軟體和生態都要完全推翻，雖然矽基電晶體路線部分可複用，但底層不可能完全照搬，這就進一步加劇大規模商業化難度。

那，我們為啥費大力氣折騰類腦晶片？

類腦晶片實在太香了，筆者瞭解到，某些情況下，完美的神經形態晶片可以用比傳統解決方案低1000倍的能耗來解決問題，這意味著我們可以在固定的功耗預算下，打包更多的晶片來解決更大規模的問題。

類腦晶片的超高能效比足夠讓我們牟足力氣研究和突破。拿一個最典型的例子來看，AlphaGo下棋打敗了人類，但人類只用了20瓦的大腦能耗，而AlphaGo是2萬瓦。

神經形態晶片涉及的領域和機會，圖源丨Nature Computational Science

結構上，目前全世界的類腦晶片基本都一致，都是由神經元計算、突觸權重儲存、路由通訊三部分構成，同時採用與脈衝神經網路（SNN）模型。

但依據材料、器件、電路，分為類比電路主導的神經形態系統（數模混合CMOS型）、全數位電路神經系統（數字CMOS型）、基於新型器件的數模混合神經形態系統（憶阻器是候選技術）三種流派。

全球範圍內，參與神經形態計算晶片開發的機構主要包括三類：英特爾、IBM、高通等為代表的科技巨頭企業，斯坦福、清華為代表的高校/研究機構以及初創企業。

根據筆者之前與英特爾研究院對話中獲悉，數字CMOS型是目前最易產業化的形式，一方面，技術和製造成熟度高，另一方面，不存在類比電路的一些顧慮和限制。

當然，需要強調的是，數字CMOS型還只是最初階的類腦晶片，還算不上完全模擬人腦的神經形態器件，只能算是一種借鑑神經形態理念的一種晶片。但光是借鑑人腦，這種晶片就能夠碾壓世界上任何一種晶片。IBM的NorthPole就是這樣的數字CMOS型的類腦晶片。

類腦晶片主要型別和研發進度，製表丨電子工程世界

03

IBM的晶片，什麼水平？

先說結論，應該是迄今為止，人類水平最高的類腦晶片了，對於類腦晶片研究又上了一個臺階。

2008年，IBM就開始研究類腦計算了，2011年有了第一次突破性成果：IBM的第一代神經突觸計算機晶片。研究人員製造出兩個這樣的晶片模型：一顆包含262,144個可程式設計突觸，一顆則包含65,536個可學習突觸，透過測試展示其可執行導航、機器視覺、模式識別、關聯記憶和分類等簡單功能。

直到2014年，IBM在《科學》雜誌發表了一篇文章，向全世界展示了劃時代的技術進展：一個符合DARPA SyNAPSE專案指標的、擁有100萬神經元的類腦處理器，即TureNorth，在當時掀起了類腦晶片研究熱潮。

沉寂8年，“北極”（NorthPole）問世，NorthPole就是建立在IBM最後一顆類腦晶片TrueNorth基礎之上，彼時TrueNorth就有這比傳統微處理器低四個數量級的能效比，對比一下二者，就能很直觀得感受到IBM技術的變化：

單個TruNorth晶片包含4096個計算核心，可以實現神經突觸和神經元排列的動態對映。IBM TrueNorth系統的一個吸引人的功能是，單個晶片由54億個電晶體組成，僅消耗70mW的功率密度，僅佔傳統計算單元的1/10000；
NorthPole採用12nm節點工藝製造，在800平方毫米內集成了220億個電晶體，有256個核心，在8位精度下，每個核心每個週期可執行2048次運算；在4位和2位精度下，運算次數有可能分別增加一倍和四倍。執行基於人工智慧驅動的影像識別演算法速度是目前市場上同類晶片的22倍，能效是同類晶片的25倍。在不使用最先進工藝的情況下，NorthPole晶片能耗是使用最先進技術的人工智慧晶片的1/5。總體而言，NorthPole的速度大約是TrueNorth的4000倍。

結構方面，NorthPole與TrueNorth一樣，由一個大型計算單元陣列（16×16）組成，每個單元都包含本地記憶體和程式碼執行能力。

計算資源方面，NorthPole每個單元都經過最佳化，可執行精度較低的計算，精度從 2 bit到8 bit 不等。為保證執行單元使用，它們不能根據變數值執行條件分支，也就是說，使用者程式碼不能包含if語句。這種簡單的執行方式使每個計算單元都能進行大規模並行執行。在2 bit精度下，每個單元可並行執行8000多次計算。

儲存方面，所有的記憶體都被封裝在一顆晶片內，這意味著每個核心都可以輕鬆地訪問晶片上的記憶體。裝置外部來看，NorthPole看起來像是一個主動儲存晶片，這有助於將NorthPole整合到系統中。

不止如此，這款NorthPole目前採用的是12nm奈米節點工藝製造，目前CPU最先進的技術是3nm，而IBM還在研發2nm奈米節點技術，如果用上2nm，可能IBM的類腦晶片效能還會再提升很大檔次。

NorthPole的潛在應用主要包括影像和影片分析、語音識別以及Transformer神經網路，這些網路是為ChatGPT等聊天機器人提供支援的大型語言模型 (LLM) 。這些人工智慧任務可能會用於自動駕駛汽車、機器人、數字助理和衛星觀測等領域。

某些應用程式需要的神經網路太大，無法安裝在單個NorthPole晶片上。在這種情況下，這些網路可以分解為更小的部分，並分佈在多個NorthPole晶片上。

而NorthPole的超高能效比，意味著它不需要笨重的液體冷卻系統來執行，風扇和散熱器就足夠了，而它也可以部署在更小的空間中。

04

國內開始研究類腦晶片了嗎？

如此強大的晶片，國內也早已有所佈局。

國內研究則包括清華大學、浙江大學、復旦大學、中科院等頂級學府和機構，同時近兩年不斷湧現初創公司，如靈汐科技、時識科技、中科神經形態等。其中以清華大學的天機芯和浙江大學的達爾文晶片最具代表性。

具體而言，國內的主要成果包括：

清華大學2015年開發的第一代天機芯採用110nm工藝，2017年，第二代天機芯開始取得先進成果，基於28nm工藝製成，由156個功能核心FCore組成，包含約4萬個神經元和1000萬個突觸。相比第一代，密度提升20%，速度提高至少10倍，頻寬提高至少100倍，此外，清華大學還自主研發了軟體工具鏈，支援從深度學習框架到天機芯的自動對映和編譯。根據清華大學的計劃，下一代天機芯將是14nm或更先進的工藝，且功能會強大更多；
浙江大學聯合之江實驗室共同研製的類腦計算機，其神經元數量與小鼠大腦神經元數量規模相當。該計算機包含792顆達爾文2代晶片，支援1.2億個脈衝神經元、720億個神經突觸，而其典型執行功耗僅為350W~500W；
2020年10月，清華大學計算機系張悠慧團隊精儀系施路平團隊與合作者在《自然》（Nature）雜誌發文首次提出“類腦計算完備性”以及軟硬體去耦合的類腦計算系統層次結構；
2023年9月，中國科學院計算技術研究所尤海航研究員和唐光明研究員帶領的研究團隊研製了超導神經形態處理器原型晶片“蘇軾（SUSHI）”，它是一款基於超導單磁通量子（SFQ）電路的超導計算晶片；
2023年10月，由中科南京智慧技術研究院自主研發是目前國內規模最大、國際一流的類腦超級計算機服務正式啟用，它已實現5億神經元2500億突觸智慧規模，較現有計算系統能效提升10倍以上，核心晶片自主可控。

IBM的成果代表著，這項佈局未來的技術離我們又進了一步，而目前一些初創公司逐漸形成方案，開始應用。不難預見，在近幾年，這項技術商業化將逐步展開，而彼時研究成果也將照進現實。

參考文獻

-END-