編者注：請之前購買過全店打包“架構師技術全店資料打包彙總(全)”的讀者，請憑購買記錄在微店留言免費獲取（PDF閱讀版本）資料更新，後續所有更新均免費發放（目前43本資料）。

知識全解系列

儲存系統基礎知識全解（PDF）

儲存系統基礎知識全解（PPT版）

伺服器基礎知識全解(終極版)

SSD快閃記憶體技術基礎知識全解

（持續更新中…）

資料中心網路知識全解（PPT）

人工智慧基礎知識全解（含實踐）

CPU基礎知識全解（PPT）

GPU基礎知識全解（PPT）

AIDC（Artifcial Intelligence Data Center），即人工智慧資料中心（2024全球AIGC產業全景洞察），是指集成了高效能計算能力、大資料處理能力、人工智慧演算法和雲計算服務的綜合資訊處理中心（內容參考自“AI資料中心（AIDC）建設白皮書合集”）。

AIDC基本架構

AIDC的基本架構可以劃分為多個層次和組成部分。在總體架構上，AIDC可以被劃分為基礎設施層、平臺管理層、大模型開發平臺層，以及行業應用層，如圖所示。

基礎設施層包括AI訓推伺服器、智慧儲存、智慧網路、模組化機房。為整個AIDC提供高效的儲存服務，智算資源和儲存資源則透過網路系統進行互聯，形成一個整體的智算資源池，並輔以模組化機房形成IDC基礎設施層。

平臺管理層包括是構建高效、靈活且可擴充套件的AI計算平臺的重要組成部分。在這一層，透過虛擬化技術(如KVM、Docker等)、容器編排排程系統(如Kubernetes)、分散式儲存和計算框架(如Hadoop、Spark)等技術手段，將底層的物理資源抽象化、池化並進行高效的管理和排程，從而構建出可彈性伸縮、易於管理的AI計算資源池。

大模型開發平臺層，主要是提供一系列大模型開發的工具和服務。這些工具和服務可能包括模型訓練框架、資料集管理、模型調優演算法、模型評估指標等，以支援從資料準備到模型部署的全流程。

AIDC架構中的行業應用層是人工智慧產業的核心部分，它不僅是技術與應用之間的橋樑，更是推動產業智慧化升級、提升產業效率、滿足個性化需求的關鍵所在。

綜上所述，AIDC的基本架構是一個融合了硬體、軟體、網路、應用等多個層面的複雜系統，它的設計旨在提供高效、靈活的人工智慧計算服務，推動AI產業化、產業AI化及政府治理智慧化的目標實現。

AIDC邏輯拓撲

AIDC的邏輯拓撲，如圖所示，通常包括通用計算資源池、異構計算資源池、分散式儲存資源池、資料傳輸網以及運維管理中心等核心區域。這些區域協同工作，共同構成AIDC的基礎架構。

其中，計算資源是AIDC的核心部分，負責執行復雜的計算任務。它通常包括通用計算資源池和異構計算資源池，其中通用計算資源池主要用於傳統HPC業務，異構計算資源池則用於進行AI訓練推理等相關業務。異構計算節點採用的異構加速晶片多種多樣，主要包括GPU、FPGA、ASIC等，主流的廠商有NVDIA、AMD、Intel,國內的加速晶片廠商主要有昇騰、天數、崑崙芯、寒武紀等。

分散式儲存資源池負責儲存和管理大量的資料資源，為智算任務提供必要的資料支援。資料傳輸網是AIDC中各個元件之間資料傳輸的通道，它確保資料在AIDC內的快速、準確傳輸，通常使用RoCE技術或者IB網路來實現低延時、無丟包的高效能網路通訊。

此外，AIDC的邏輯拓撲還可能包括其他輔助元件，如安全管理模組、網路管理模組等，這些模組共同提升AIDC的安全性和可靠性。

AIDC評價指標

AIDC評價指標是衡量AIDC效能、效率和綠色化程度的一系列標準，對於AIDC的規劃、建設和運營至關重要。AIDC評價指標可以根據其衡量的內容分為以下幾個類別：

這些指標共同構成了一個全面的評估框架，用於評價 AIDC 在能源利用、環境影響、計算力、運載力和儲存力以及綜合服務能力等方面的效能。透過這些指標，可以對 AIDC 的設計、建設和運營進行最佳化，以實現更高的效率和更好的效能。

AIDC與IDC對比分析

未來10年是AIGC爆發的10年，也是機會遍地的10年。

在全球人工智慧迅猛發展的背景下，傳統的網際網路資料中心(IDC)正在經歷一場史詩級的變革，向人工智慧資料中心(AIDC)進化。就像《變形金剛》裡的汽車人一樣，傳統資料中心正逐步升級為超級智慧的AIDC，成為各行業智慧化升級的“加速器”。

一、技術層面差異

1、承載業務層面的差異

IDC（網際網路資料中心Internet Data Center簡）：主要承載企業級應用和資料儲存，如Web服務、資料庫管理和檔案儲存等常規資訊處理任務，涉及AI訓練、推理類的應用很少。

AIDC（自動識別和資料提取Automatic Identification and Data Capture簡稱）：為人工智慧和大資料應用提供算力、儲存和相關服務的資料中心。透過在資料中心中增設智慧計算資源，提供AI模型訓練、推理、資料儲存和處理等服務。

2、算力型別差異

IDC：以CPU為中心，適用於一般性的計算需求。

AIDC：以GPU類晶片為中心，提供平行計算，處理 AI模型訓練所需的大量矩陣運算。

3、技術架構差異

IDC：採用馮·諾依曼的主從架構，其中CPU 扮演指揮官的角色，負責分配任務給其他部件。這種架構在面對大規模平行計算任務時存在“計算牆”“記憶體牆”和“I/0 牆”等問題，限制了效能的進一步提升。

AIDC：通常採用更加先進的全互聯對等架構，允許處理器之間，以及處理器到記憶體、網絡卡等直接通訊，減少了中心化控制帶來的延遲，突破主從架構的算力瓶頸，實現了高效的分散式平行計算。

4、散熱模式差異

IDC：單機櫃功率密度通常在 4~8千瓦之間，可裝載的伺服器裝置數量有限，算力密度相對較低，一般採用傳統的風冷散熱。

AIDC：單機櫃功率密度通常在 20~100 千瓦之間，主要採用液冷或風液混合的散熱技術。液冷能夠更有效地帶走熱量，保證高效能計算裝置的穩定執行。

二、商業模式差異

傳統IDC：被視為成本中心，客戶關注的是如何在有限的空間內塞入更多的伺服器。

新型AIDC：在AIDC時代，資料中心轉變為價值創造的前沿。即，以GPU為代表的Token計算本身便可產生價值。用Token呼叫次數錨定產品價值，這在目前的文生文、文生影片等生成式AI產品中司空見慣。AIDC的規模和能力的提升也將直接與盈利能力形成正比關係。

新型AIDC市場增量十分巨大，我們或將迎接未來十年100萬倍增長的加速計算時代。除此之外，資料也將被快速地被訓練和推理，資訊的傳輸將變得更加即時化和無線化。資料的處理需求將不由人本身發起。想象一下，一輛新能源智慧汽車在電能即將耗盡時，自動尋找充電樁的動作會產生多少計算？而在未來，這種場景將會充斥在硬體和系統之中。

目前，機器與機器的互聯稱之為M2M（Machine to Machine），而AI與AI的互動譯作A2A。在這個邏輯下，以B2B、B2C、C2C等商業模式構成的傳統網際網路，將被大量的M2M、A2A場景充斥。甚至，在不久的未來，具有智慧的機器和人的協作、碳基和矽基的結合都會催生出資料的傳輸和處理需求。

請之前購買過全店打包“架構師技術全店資料打包彙總(全)”的讀者，請憑藉購買記錄在微店留言免費獲取（PDF閱讀版本）。後續所有更新均免費發放（目前43本資料）。