提醒：更新下載，已領請忽略！《伺服器基礎知識全解終極版（第二版)》（含PPT和PDF）近日完成更新，請購買過“伺服器基礎知識全解（終極版）”和“架構師技術全店資料打包彙總(全)”的讀者，請在微店留言獲免費取更新。
伺服器基礎知識全解終極版（第二版)（共227頁），內容圖文並茂，由淺入深，介紹全面，是世面罕見的伺服器學習資料，內包括伺服器基礎知識、CPU、記憶體、GPU、硬碟、智慧網絡卡等9個章節。本次主要更新內容：
-
1、CPU更新（Intel/AMD架構演進，國產CPU架構）
-
2、GPU更新（英偉達GPU架構，從Fermi到Hopper，Rubin Ultra）
-
3、記憶體技術、操作系統、儲存技術等更新
-
4、已知問題修正
-
5、更新內容40+頁PPT
本文參考自“從雲到端，AI產業的新正規化（2024）”，文章參考“伺服器變革：儲存從HBM到CXL”，通常單臺傳統伺服器價格在1萬美金以內，而搭載8張H100算力卡的DGX H100AI伺服器價值量可達40萬美金（300萬人民幣左右）。
關於最新超算算力市場現狀，請參閱文章：Hyperion Research ISC 2024市場報告：超算市場穩中有進，未來5年增長率達8.2%。
自然語言的運算、圖形的處理需要大量儲存器協助運算及存儲， 並且AI伺服器對資料傳輸速率有著更高要求，催生了儲存及PCB價值量的增長。
從供應鏈角度出發，探討儲存、PCB，以及更上游的封測、製造環節的產業機遇。
AI三要素包括算力、互聯和儲存，從伺服器供應鏈角度看，儲存是AI時代變革重點。
處理器效能不斷提升，“記憶體牆”成為計算機系統的瓶頸。計算機系統的執行受到處理器和記憶體的配合影響，但處理器效能因摩爾定律不斷提升，而記憶體DRAM的傳輸頻寬沒有跟隨工藝的演進而快速增長，導致訪存時延遲高、效率低，嚴重製約處理器效能發揮，即出現“記憶體牆”。在AI和視覺等領域，需要大量的記憶體頻寬來支援複雜的計算操作，若記憶體效能落後，會導致實際算力下降50%甚至90%。
HBM是目前用於打破“記憶體牆”的重要技術之一。高頻寬儲存器（HBM）是一種基於3D堆疊工藝的高效能DRAM，可以提供更高的記憶體頻寬和更低的能耗，適用於高儲存器頻寬需求的應用場合，如HPC、網路交換裝置等。最新的HBM3E產品可提供超過1TB/s的資料頻寬，具有8Gb/s的I/O速率，緩解了因記憶體部件延遲而阻礙算力增長的問題。
根據Yole Group統計，2023年海力士以55%的營收佔比在HBM市場佔據主導權，其後是三星和美光，營收佔比分別為41%和3%。美光早期在堆疊式DRAM的探索中最先選擇了HMC技術，在資料傳輸時延遲和速度方面存在劣勢，但其及時轉向，在2020年推出首款HBM2產品，此後躍過HBM3，直接投入研發HBM3E，並於2023年7月釋出24GB 8-HighHBM3E。
三家原廠最新的HBM3E產品對比來看，低能耗是美光的主要競爭優勢，三星擁有更小的堆疊間隙，有利於更高層數堆疊，SK海力士則得益於其開發的MR-MUF技術，散熱效能優異。
AI伺服器需求核心在於更大頻寬的儲存，帶來了儲存技術路線變革：
1）CXL（compute express link）：全新的互聯技術標準，其帶來的DRAM池化技術可以大大節約資料中心的建設成本，同時帶動DRAM的用量。
2）MCR/MDIMM（Multiplexer Combined Ranks）：大大提高記憶體頻寬，AMD已經在MemCon 2023上表達了它幫助推動JEDEC的MRDIMM開放標準 的承諾，英特爾也與SK hynix和瑞薩合作，基於與MRDIMM類似的概念，開發了多路合併陣列（MCR）DIMM。
3）PCIe 5.0（Peripheral Component Interconnect Express 5.0）：新一代匯流排技術，構建了更加高速的序列通訊系統標準。
MCR/MRDIMM可以很好的滿足AI伺服器對記憶體頻寬的高需求，該技術將多個DRAM記憶體模組組合在一起，透過將兩個Rank形成偽多記憶體通道（Pseudo Channel），並使用專門的控制器（介面晶片）來管理它們之間的資料傳輸，並大大提高記憶體頻寬，理論上，MCR/MRDIMM記憶體的頻寬是DDR5的兩倍。
瀾起科技已於2022年完成MCR控制晶片（MRCD/MDB）研發。
美光在HBM市場起步晚於三星和SK海力士，但於2023年7月率先發布HBM3E完成新產品反超。後續產品規劃上，根據美光披露的產品路線圖，其預計將於2025年釋出36GB 12-High HBM3E用以完善其HBM3E產品線，並於2026年推出革命性產品36GB 12-High HBM4，頻寬預計將超過1.5TB/s。
預計在2027年前，美光將對HBM4產品容量進一步升級，釋出48GB 16-High HBM4。2028年，美光預計釋出頻寬升級至2 TB/s 以上的HBM4E。2023-2028年內，美光幾乎年均推出一款HBM系列新產品，展示出其對高速增長HBM市場的勃勃雄心。
瀾起科技擁有兩大產品線，互連類晶片產品線和津逮服務器平臺產品線。其中，互連類晶片產品主要包括記憶體介面晶片、記憶體模組配套晶片、PCIe Retimer晶片、MXC晶片、CKD晶片等，津逮伺服器平臺產品包括津逮CPU和混合安全記憶體模組。
新品序列基本在2023年完成研發及送樣，未來業績核心驅動一是DDR5晶片不斷迭代保持價值量，二是新品逐步上量開啟成長空間。高效能運力產品方面Retimer，MRCD/MDB已經實現出貨，並在推進開展DDR5第四子代RCD、第二子代MRCD/MDB晶片和PCIe 6.0 Retime晶片的研發。
聚辰股份是國產EEPROM龍頭廠商。產品主要包括EEPROM、音圈馬達驅動晶片、智慧卡晶片和NOR Flash，並廣泛應用於智慧手機、汽車電子、白色家電等眾多領域。公司持續拓寬EEPROM產品的應用領域，與瀾起科技合作開發的SPD EEPROM產品於2021年第四季度實現量產。
記憶體邁入DDR5世代，SPD EEPROM必需性突顯。除記憶體介面晶片RCD、DB外，序列檢測集線器（SPD）是記憶體管理系統的關鍵組成部分，適用於DDR5系列LRDIMM、RDIMM、UDIMM、SODIMM等記憶體模組。伴隨DDR5記憶體滲透率不斷提升，SPD EEPROM將迎來更廣闊的的市場空間。
免責申明：本號聚焦相關技術分享，內容觀點不代表本號立場，可追溯內容均註明來源，釋出文章若存在版權等問題，請留言聯絡刪除，謝謝。
推薦閱讀
更多架構相關技術知識總結請參考“架構師全店鋪技術資料打包(全)”相關電子書(46本技術資料打包彙總詳情可透過“閱讀原文”獲取)。
溫馨提示：
掃描二維碼關注公眾號，點選閱讀原文連結獲取“架構師技術全店資料打包彙總(全)”電子書資料詳情。