端側AI時代,存算一體化漸成“標配”,倒逼儲存“芯”革命

作者:李寧遠
物聯網智庫 原創
目前AI技術正與終端產品快速融合,推動了以消費電子代表的諸多終端硬體產品的創新。2024年極具代表性的AI Phone、AI PC等創新端側AI產品也的確激發了新的市場,以更智慧的功能刺激了消費需求,給我們日常生活帶來智慧化改變的同時,也帶動了上下游產業鏈加速創新。
蘋果在2024年將Apple Intelligence引入iPhone ,雖然近期交易平臺SellCell的一份報告顯示絕大多數使用者認為Apple Intelligence功能目前並未帶來明顯的價值提升,但這並不影響智慧裝置的未來方向——減少雲端依賴,重點發展端側AI。
為了提升端側AI競爭力,強大的硬體效能支援是前提,對於晶片側的要求會聚焦在算力、記憶體、功耗、工藝、面積、散熱等方面,其中儲存晶片是極為關鍵的一環。
為了進一步提高iPhone的端側AI效能,根據韓媒報道,三星應蘋果公司的要求,開始研究新的低功耗雙倍資料速率LPDDR DRAM封裝方式。
此前蘋果的LPDDR DRAM堆疊在整個SoC上,體積緊湊,便於降低功耗與延遲,是板上空間受限的消費電子裝置常用的封裝方式。蘋果希望透過分開封裝DRAM和SoC,增加I/O引腳數量提高資料傳輸速率和並行資料通道,提高記憶體頻寬以增強 iPhone的端側AI能力。
此前亦有報道稱三星還可能嘗試為iPhone DRAM 應用專為裝置端AI設計的LPDDR6-PIM(記憶體內建處理器)技術。
AI技術應用場景從雲端擴充套件到端側裝置,給儲存市場帶來了新市場需求,同時也推動了儲存晶片在端側的持續創新。

從雲到端,AI催生儲存“芯”需求

在雲端,AI依賴於大規模的資料中心和高效龐大的儲存系統來儲存、傳輸並處理資料。資料中心有著大規模叢集式的儲存硬體來應對海量資料,而在端側,AI需要在計算資源、儲存資源受限的裝置上實現即時、低功耗的資料處理,這對儲存晶片的容量、速度和能效提出了全新的要求,也推動了儲存技術革新。
根據國際知名調研機構TechInsights釋出的《2025儲存器市場展望》,儲存器市場包括DRAM和NAND,預計在2025年將實現顯著增長,這主要得益於人工智慧(AI)及相關技術的加速採用。報告中同樣表示隨著邊緣AI變得更加普及,將推動對適合這些新功能的記憶體解決方案的需求。

來源:TechInsights

從今年的幾個市場來看,CFM快閃記憶體市場資料,2024年手機儲存需求同比去年增長4%,PC市場儲存需求同比增長8%,而且端側AI已經開始推動這些領域的終端裝置記憶體儲晶片的更新換代。
AI手機領域,16G的DRAM可以說已經是AI手機最低的基本配置,AI PC領域同樣,更快的資料傳輸速度、更大的儲存容量和頻寬需求也帶動了主流LPDDR5x和LPDDR5T產品的需求。如微軟釋出的AI PC求記憶體容量最低為16GB,搭載新處理器的AI PC已普遍將記憶體提升至了32GB,為AI模型的部署升級留下充足空間。
AI智慧眼鏡、AI TWS耳機今年也是紛紛上新,AI TWS耳機中功能更多,為了儲存更多韌體和程式碼程式,就需要外擴序列NOR Flash。當前幾款已釋出的AI耳機中NOR Flash容量較之普通TWS耳機也有了比較大的提升,基本上實現了翻倍來支援內建的AI新功能。
對端側AI裝置來說,算力和資料的加持實現了各種智慧功能,而這些資料存放在哪裡,如何高效讀寫這些資料,需要更強大的儲存晶片為其提供助力。
科技產品的創新往往是牽一髮而動全身,為實現某一功能,需要整個終端配置協同更新。最終體現在消費者面前的可能僅僅是某一個具體的簡單好用的功能點,而在其背後是軟硬體先進技術數年不斷迭代。端側AI裝置功能實現背後儲存器技術革新是貼切的寫照,儲存器更大容量更高讀寫速度更低功耗背後亦是整個半導體產業鏈製程技術迭代的體現。

儲存晶片與端側AI裝置協同演變

儲存產品在我們日常生活中隨處可見,其主要功能包括資料的儲存、讀取、寫入和擦除,而其分類則根據儲存介質的不同,又有隨機存取儲存器(RAM)、只讀儲存器(ROM)、快閃記憶體(Flash Memory)等多種型別。目前各類智慧終端中應用的儲存晶片主要有如下幾種。
DRAM
動態隨機存取儲存器,是最常見的系統記憶體型別,用於儲存臨時資料和正在處理的資料,是最大規模的單品市場。在AI智慧手機、AI PC等智慧終端中,DRAM用於提供快速的資料訪問和處理能力,前文已提到AI終端已經開始換上更大容量更高讀寫速度的DRAM,隨著AI應用的發展,對高效能DRAM的需求仍在不斷增長。
NAND Flash
NAND Flash快閃記憶體是一種非易失性儲存器,用於長期資料儲存。在智慧終端如AI手機、AI PC、AI Pad中,NAND Flash用作內部儲存,儲存作業系統、應用程式和使用者資料。未來端側裝置作業系統肯定會搭載大模型以及其他AI應用程式,端側裝置會需要更高的NAND Flash容量用於長期儲存。
NOR Flash
NOR Flash也是一種非易失性儲存器,常用於儲存啟動程式碼和韌體。它在需要快速啟動和執行的裝置中尤為重要,上文提到的AI TWS耳機就是典型的應用。市場上各類AI硬體對NOR Flash容量需求增加已經是確定性的趨勢,尤其是中大容量NOR Flash。
UFS
高效能的通用快閃記憶體儲存方案,在高階移動裝置中應用。UFS4.0版本,其最高讀取速度已經達到了4200MB/s,寫入速度也能達到2800MB/s。端側AI效能的發揮離不開高效的資料流轉,UFS 4.0儲存技術正好能夠為之提供支援。隨著端側AI軟體層面的持續最佳化以及UFS 技術向更多端側裝置普及,端側AI裝置將擁有更強大的學習能力和更快的響應速度。引用鎧俠對UFS前景描述的原話,“現代手機正進入一個由端側AI(On-Device AI)與先進儲存技術協同發展的新時代”。
LPDDR
一種低功耗版本的DRAM,即低功耗雙倍資料速率,是為移動裝置設計以減少能耗的方案。LPDDR5和LPDDR5x提供了更高的資料傳輸速率和更低的功耗,LPDDR6也敲定在即,將全面適配AI計算需求,用更高頻率更高頻寬支援端側AI裝置。
HBM
HBM的火熱程度想必都有所耳聞,它本質上是一種高效能的3D堆疊DRAM,擁有極高的頻寬和儲存密度,適用於需要處理大量資料的AI和高效能計算應用,主要用於伺服器和資料中心等高效能計算領域。
為什麼在端側裝置儲存中仍舊將其列了出來呢?因為端側裝置開始搭載HBM已經在記憶體大廠的推進日程中。此前就有報道SK海力士正在將HBM匯入汽車領域,在移動端側裝置領域,三星與海力士同樣在做端側HBM產品研發,初步估計2026年能實現商業化。
大大小小各類儲存晶片在端側AI裝置紛紛落地的推動下,迎來了新的市場需求,同時也在不斷升級以適配端側AI裝置對儲存的新要求。目前看來儲存產品在端側AI裝置的協同演進上主要在這幾方面做了提升。
資料處理速度與記憶體頻寬
端側AI應用對即時資料處理和快速響應的需求是明確的,這依賴於儲存晶片有著極高的資料讀寫速度,這樣才能體驗端側AI即時的特點。同樣,隨著端側大模型引入,對記憶體頻寬的需求也隨之增長,要求儲存晶片能夠在短時間內完成大量資料的讀寫操作,並支援高併發的資料訪問請求,解決記憶體牆問題實現在受限的資源下釋放端側大模型效能。還需要透過最佳化儲存結構和演算法,提高儲存空間的利用率和資料的讀寫效率。
能效管理與小型化
在端側AI與儲存晶片的協同最佳化中,能效管理與晶片小型化是匹配端側智慧裝置高效執行的關鍵。端側AI裝置儲存目標是以最高效的方式將AI模型從儲存載入到記憶體中。為此,需要在不增加功耗的前提下,獲得儘可能高的吞吐量。如何降低功耗、節省空間是每家原廠都在琢磨的。如美光科技針對AI PC開發的LPDDR5X與傳統SODIMM產品相比就將功耗降低了58%,空間節省了64%。

落地端側,儲存探索更多可能

端側AI裝置的快速發展,倒逼了儲存晶片整體效能的革新,新型儲存技術也在新趨勢下加速發展。
MRAM磁阻隨機存取儲存器,它是一種基於隧穿磁阻效應的儲存器,具有讀寫次數無限、寫入速度快、功耗低特點,兼具非易失性和高速讀寫的特性,非常契合需要快速響應和持久儲存資料的端側本地儲存。
MRAM與邏輯晶片整合度高的特點也能在裝置小型化上提供助力,在端側裝置深入應用的未來,MRAM有望能匹配傳統儲存器的應用需求,與其他儲存器結合,為端側AI裝置儲存上效能、容量和成本的平衡。
另一個隨著AI應用普及開始被重視的方向,則是存算一體化,根據不同側重還能細分到近存計算、存內處理和存內計算。對資料處理速度和儲存效率的要求不斷提高,傳統與計算分離的儲存解決方案日後或許承載不了端側AI對即時性和能效的需求。
在記憶體核心中整合NPU等AI引擎來處理一些計算、處理功能,避免了傳統架構中資料在儲存器和處理器之間頻繁傳輸所產生的延遲,可以實現更快的資料訪問速度和更低的能耗,這對於需要本地即時響應的端側應用場景尤為重要。對算力、功耗和即時性有較高要求的眾多移動端側AI裝置,如AI手機、AI PC、AI可穿戴裝置、AI智慧家居日後都可能選擇該技術路線。

寫在最後

端側AI給儲存晶片市場帶來了新的發展機遇和挑戰,端側AI功能不斷擴充套件和深化,對儲存的效能和功耗要求將越來越高,整個產業鏈上下游全力推進技術革新保持競爭力;另一方面,隨著新型儲存技術的不斷湧現以及端側AI裝置儲存晶片需求開啟,市場競爭將更加激烈,這對於國記憶體儲晶片廠商也是一個崛起機會。
回到文章開頭的故事,雖然目前端側AI裝置還並沒有做到真正的智慧,但有一句話是這樣說的,“人們總是高估短期,而低估長期科技能力”,未來具有真正意義上裝置端AI功能的產品功能會讓人意想不到。而隨著端側AI裝置功能的不斷成熟和應用場景的拓展,儲存晶片將迎來新的前景和機遇。

相關文章