從手機PC到汽車AIoT,DeepSeek卷爆端側AI

端側AI變革加速,模型進化正顛覆行業認知。
作者 |  雲鵬
編輯 |  漠影
DeepSeek的出現可以說引爆了整個科技產業,在科技賽道的各個領域掀起波瀾。
成本更低、效能更高、規模更小,“不可能三角”被徹底打破。這樣的表現可以說顛覆了AI大模型行業的傳統認知。隨之而來的,是各行各業迅速接入DeepSeek,由DeepSeek蒸餾而來的各類小模型也開始在端側裝置中廣泛落地。
Meta首席AI科學家楊立昆就提到過,蒸餾技術可以讓模型快速應用到產品中,這也是開源的優勢所在,每個人都能從技術進步中獲益。
模型訓練成本不斷下降、邊緣AI推理變得越來越普遍,單純以比拼模型規模為核心的競爭已經成為過去式,根據權威市研機構Epoch AI資料,2024年AI大模型中75%以上規模都在千億引數以下。
▲每年釋出的大規模AI模型數量(按引數量分類),來源:Epoch AI,2025年1月
如今行業聚焦的是如何在邊緣和端側高效地落地AI、如何在實際的生產中去部署AI,進而帶來實質性的效益提升。高質量的小規模模型愈發受到熱捧。
與此同時,端側AI的加速發展,也帶動著相關晶片的規模化擴充套件,晶片需求顯著增長。端側AI低時延、高即時性、高隱私性、高安全性,可以更好地實現本地個性化AI體驗的諸多優勢特性都愈發凸顯。
在這樣的產業背景下,移動晶片巨頭高通公司儼然已成為加速端側AI發展的核心推手,從硬體、軟體到生態,高通技術生態版圖正加速擴充套件。
高通是行業內最早一批聚焦端側AI、強調端側AI重要性的廠商,其很早就提出了混合AI架構。近期,作為端側AI核心玩家的高通釋出了最新AI白皮書,深入分析了AI大模型的激增和演進如何給AI格局帶來改變並釋放新的價值。
與此同時,高通在今年的MWC上亮出一系列端側AI相關產品,與榮耀、小米、OPPO等國內頭部手機廠商合作展示了不少亮眼的端側AI技術和AI智慧體新應用。
▲高通MWC展臺
可以說,隨著高通AI產品技術生態在手機、PC、汽車、工業IoT、網路等終端和邊緣加速賦能、廣泛落地,高通已成為後DeepSeek時代AI產業的核心變數。
01.

“小模型”爆發大能量

智慧硬體端側AI或迎井噴

今天,在AI技術快速迭代發展之下,AI產業格局正迎來轉變。AI模型的訓練方式正在發生顛覆性變革,大規模推理浪潮來勢洶洶,新的邊緣側推理計算創新和升級週期已經到來。
基於蒸餾和一系列最佳化技術而生的更小型、更高效的模型正在快速落地行業,並加速在終端側的規模化整合。
從手機、PC、智慧穿戴、智慧家居到汽車,端側和邊緣執行的AI模型在質量、效能和效率方面都有顯著提升。
終端側可以執行越來越多高質量的AI模型、高質量小語言模型和多模態推理模型數量激增,隨之而來的是越來越多AI應用和用例的湧現。
與此同時,AI也在重新定義終端的使用者介面,AI正在成為終端側新的UI。諸多手機、PC巨頭都已經發布AI OS相關技術,AI深度融入的作業系統成為終端行業的關鍵技術發展方向之一。
而實現這一切,加速端側AI落地,離不開底層一系列模型最佳化相關技術的支撐。
比如蒸餾(Distillation)技術能讓大模型“教學”小模型,在保持準確性的同時遷移知識,這也催生了諸多面向垂直行業特定領域調優的專用小模型。
基於這樣的技術,DeepSeek作為教師模型,已經幫助不少“學生”模型在效能表現上得到顯著提升。
此外,量化、壓縮和剪枝等模型最佳化技術,同樣有助於縮小模型規模,尤其是有助於降低執行模型的功耗,算力、功耗的節省對於端側AI的發展可以說是關鍵因素之一。
得益於這些技術,小模型的實際表現已經逐漸接近前沿大模型。
比如使用DeepSeek蒸餾後的Qwen-7B模型,已經能夠在效能上與去年推出的GPT-4o雲端模型持平,而蒸餾後的Llama 700億模型在推理、程式設計、數學、資料分析等多方面的表現都已經超越了原始模型。
▲Meta Llama 700億引數模型和DeepSeek對應蒸餾模型的LiveBench AI基準測試平均結果對比
在一系列技術的加持下,大型基礎模型縮減為更小、更高效的版本,具備更快的推理速度、更少的記憶體佔用和更低的功耗,這無疑顯著加速了AI模型在智慧手機、PC和汽車等智慧終端上的部署落地,大幅降低了裝置的算力門檻。
02.

提前押寶端側AI領跑行業

從硬體、軟體到生態全鏈路佈局

在這樣的行業趨勢下,高通已經走到了端側AI落地核心推手的位置。從ChatGPT火爆之初,高通就已經開始重點聚焦端側AI,並在諸多產品和技術釋出中強調端側AI的優勢。
近年,高通連續釋出AI技術白皮書,其提出的混合AI架構點明瞭端雲結合將是未來行業發展到主流趨勢,而端側AI是高通作為全球移動晶片技術生態巨頭所核心專注的領域。
如今DeepSeek的火爆,恰恰驗證了高通對AI發展的趨勢判斷,端側AI的未來已經十分明確。
從NPU的持續迭代、硬體和演算法層面的創新到對大模型的深度最佳化適配,高通在端側AI領域有著長期深耕,其產品、技術和解決方案佈局涵蓋了數十億臺智 能手機、汽車、XR頭顯和眼鏡、PC以及工業物聯網終端,這是高通的核心優勢所在。
底層晶片方面,高通在CPU、NPU、GPU和低功耗子系統領域已經陸續釋出了諸多產品,尤其在系統級晶片(SoC)產品領域有著紮實的基礎。
晶片的高效能、高能效、低功耗特性可以說是端側裝置能夠高效處理複雜AI任務,同時兼顧續航、能效的根本保障。
打好硬體基礎後,高通進一步構建了AI軟體棧來賦能開發者,讓各類智慧終端更高效地得到硬體加速,進而提升端側AI體驗。
簡單來說,高通AI軟體棧包括庫、SDK和最佳化工具,可簡化模型部署並提升效能、縮短AI應用開發的時間。
此外,高通還在與全球AI模型廠商積極合作、提供高通AI Hub等服務,推動終端側AI應用的開發和規模化擴充套件。在高通AI Hub上,開發者只需要簡單的三步就可以基於大模型開發AI應用並最終完成商業化部署。
最近,高通正式宣佈IBM watsonx.governance和Granite LLM大語言模型可以在搭載驍龍8至尊版的終端以及搭載高通躍龍AI的本地裝置上執行。同時高通Cloud AI系列推理加速器已透過OpenShift認證,支援IBM的軟體應用程式套件在高通Cloud AI平臺進行部署。
可以說,從硬體、軟體到生態,高通端側AI優勢凸顯,高通毫無疑問已經成為後DeepSeek AI推理時代的領跑者之一。
03.

從手機、PC、汽車到工業IoT

高通端側AI生態無處不在

基於端側AI領域過硬的產品效能、完善的軟體生態,高通正在多個賽道賦能行業,與廠商一起實現使用者體驗的革新,進而釋放新的商業價值。
比如在PC領域,我們能看到基於驍龍X系列平臺的筆記型電腦產品支援了諸多Windows 11 AI+ PC新特性,生成式AI推理真正落地在了端側,實現了本地執行。
剪映、達芬奇、Zoom等各類流行三方應用都可以基於高通驍龍X平臺,本地化實現一些特定的AI功能。
在智慧手機領域,三星、華碩、小米、OPPO、vivo和榮耀等頭部廠商的最新旗艦智慧手機均搭載了最新驍龍旗艦移動晶片平臺。
就在最近火爆科技圈的世界行動通訊大會(MWC)上,高通亮出了一系列端側AI新進展,這些產品和技術也令人感受到端側AI加速發展帶來的巨大變革潛力。
現場我們能看到多種先進多模態生成式模型和智慧體AI在智慧手機上原生執行,AI助手能在不同溝通模式間切換,並生成多模態輸出。
▲AI助手多模態互動
與此同時,AI與系統的深度融合,也讓手機在通訊、影像編輯、個性化和無障礙方面有了進一步提升。比如高通最新發布的X85 5G調變解調器及射頻就內建搭載了第四代專用AI處理器,AI在訊號增強方面作用顯著。
隨著AI與系統的融合加深,AI已逐漸成為智慧裝置新的UI,透過自然語言和基於影像、影片與手勢的互動,極大簡化了我們與智慧裝置互動、使用應用、享受服務的方式。
值得一提的是,在當下最為火爆的AI眼鏡領域,我們看到搭載高通晶片的智慧手機可以與TCL雷鳥的智慧眼鏡連線,AI眼鏡會根據眼前的健身器械來給使用者推薦具體的健身方式,AI提供的建議和回覆都是個性化的。
▲AI健身建議
此外,在汽車領域,高通驍龍數字底盤已經使用端側AI來增強汽車安全和駕駛體驗,而對於工業物聯網和企業應用,高通推出了AI本地裝置解決案和AI推理套件,增強隱私性、可控性,提高能效並降低時延。
可以看到,從手機、PC、汽車到工業物聯網及網路,終端和邊緣側AI推理正在快速落地、智慧體等AI應用快速普應用,AI正加速融入我們生活的方方面面。在後DeepSeek時代,高通端側AI技術和產品對智慧終端行業賦能起著關鍵作用。
04.

結語:端側AI激變

高通已跑在前面

在端側AI高速發展的今天,高通的高能效晶片、AI軟體棧和各類開發層面的技術支援,都讓高通成為端側AI變革中的領跑者,有其獨有優勢。從手機、PC、汽車到工業IoT,從CPU、GPU到NPU,從硬體軟體到生態,高通正用AI全家桶幫行業武裝到牙齒。
展望未來,AI在邊緣側和端側的爆發仍將繼續,各領域與AI的融合必將進一步加深,各類智慧終端對晶片層的需求仍將繼續提高,高通端側AI無疑將成為智慧終端行業變革的關鍵技術底座。
(本文系網易新聞•網易號特色內容激勵計劃簽約賬號【智東西】原創內容,未經賬號授權,禁止隨意轉載。)

科普影片

DeepSeek的爆火,意味著行業已經來到分水嶺時刻。其背後的AI算力基建,正是來自工廠。聯想集團釋出2024/2025財年Q3財報主題科普影片第三集《AI工廠:數字孿生如何改造物理世界?》,回溯AI工廠百年進化通史,解構背後的數字孿生技術如何驅動工廠AI化。當下,聯想集團與DeepSeek的滿血合作,帶來低成本高效率革命,讓千行百業看似遙遠的AI化觸手可及。每個人與物理世界的關係都正在被重塑,速來一探究竟。


相關文章