隨著人工智慧技術從雲端向終端遷移，端側AI直接在終端裝置上執行AI模型演算法，實現本地化資料處理，具有低延遲、高隱私性、低成本等優勢。端側AI正成為推動終端裝置向更高階智慧革新的核心力量。當AI開始擁抱終端裝置，端側AI以實體的方式切實讓消費者感受到AI技術與終端硬體結合後帶來的功能變革。

自今年開年以來，端側AI的發展勢頭可謂如火如荼。終端廠商擁抱AI的態度非常積極，上游晶片、模組廠商也紛紛加碼端側AI佈局，能很明顯感受到產業鏈上下游都在追趕端側AI趨勢，想利用今年端側AI落地發展週期將使用者生態培養起來。端側AI，可以說正在成為數字經濟時代的智慧新引擎，今年亦是端側AI落地元年。

站在端側AI產業爆發前夕，如何科學解構端側AI發展全景？又該如何把握新機遇，引領行業變革？物聯網智庫特發起《端側AI領袖之聲：中國端側AI企業深度訪談專欄》計劃，邀請端側AI上下游企業參與訪談，為推動端側AI行業發展提供有益參考借鑑和指導。

本期《端側AI領袖之聲：中國端側AI企業深度訪談專欄》，物聯網智庫邀請到中國移動拔尖計劃專家、比鄰智聯首席專家，產品和研發負責人——孔棟，就端側AI產業發展以及比鄰智聯目前的端側AI佈局進行了深入交流。

隨著端側AI不斷取得進展，配套的晶片、模組與終端裝置在探索場景落地的協同上融合得更加深入，目前我們已經看到很多AI功能不再只是淺嘗輒止地嵌入進裝置，而是開始深度整合到終端裝置的核心中，端側智慧即時性與低延遲、隱私與資料安全、網路獨立性、成本最佳化、個性化與自適應等多方面優勢，也得以進一步顯現。

比鄰智聯也認為“端側AI正逐步成為推動智慧技術普適化與場景化落地的關鍵力量，相較於依賴雲端集中式處理的傳統模式，端側AI透過本地化推理實現了低時延響應、隱私保護和網路獨立性三大核心價值突破”。

首先，本地化計算能夠實現 10 毫秒級響應速度，在自動駕駛等場景中，可完成道路障礙物識別、行人軌跡預判等關鍵操作，將系統決策延遲降低90%；其次，使用者生物特徵、工業現場資料等敏感資訊無需離端傳輸，從技術架構層面構建資料安全屏障，避免雲端儲存帶來的隱私洩漏風險；再者，網路離線狀態下仍可維持核心AI功能執行，保障智慧裝置在礦井、海上等弱網環境的穩定服務能力。值得關注的是，端側大模型並非取代雲端，而是形成協同架構，端側大模型和雲端大模型在不同應用場景下結合使用才能讓大模型的價值充分發揮。

可以說端側部署帶來的獨特價值，正在為整個智慧硬體行業，帶來前所未有的智慧化升級空間。

而在端側AI落地中，AI模組提供了合理的算力並預先整合部署客戶所需要的大模型，是終端廠商快速實現端側智慧的最佳技術選擇。物聯網智庫的《端側AI爆發，AI模組破局DeepSeek在實體產業落地最後一公里》中也表達過相應觀點，對於端側AI產業鏈下游的中小型終端廠商，如何便捷快速高效地為終端產品賦予本地智慧是一道難題，作為與終端裝置關係最緊密的模組廠商，將AI模組與模型技術融合，為下游提供高效的端側AI模組產品將大幅縮短端側智慧相關產品的落地週期，賦能終端裝置享受AI帶來的變革。

比鄰智聯作為中國移動首批專精特新重點培育團隊，於2023年12月28日在重慶兩江新區註冊成立，是中國移動的模組專業公司，致力於為構建智慧互聯的全球物聯網生態作出卓越貢獻。比鄰智聯已打造“通用+新型+行業模組”完善的產品體系，涵蓋NB-IoT、4G、5G、車載、AI、衛星模組及方案板產品，能夠滿足各類物聯網細分場景的需求。當前，比鄰智聯已在能源表計、金融支付、定位追蹤、共享經濟等行業實現千萬級銷量，蜂窩模組銷量份額穩居全球第二。

在AI模組方面，比鄰智聯已推出MS351A、MS372Q、MS373Q等系列產品，覆蓋1T～48T多種算力配置，支援AI演算法和模型部署，確保即時、安全、可靠的端側AI推理應用，並提供深度定製化開發服務以滿足多樣化的應用場景需求。同時，比鄰智聯也針對工業質檢等細分場景打造了一體化解決方案，提供“AI+網路”算網融合服務，幫助客戶加速產品AI升級。未來，比鄰智聯將持續豐富高低算力搭配的端側AI模組系列，擴充套件更多場景的應用方案，進一步推動AI能力與IoT場景的深度融合。

AI如何在端側執行起來，最終實現終端裝置的高階智慧化，是產業鏈突破的方向。當前端側AI發展的主要技術障礙集中在硬體算力、模型最佳化與處理複雜任務能力之間的平衡。首先，端側裝置通常體積小巧、功耗受限，難以配備資料中心使用的高效能算力晶片。其次，模型壓縮與效能之間的權衡也面臨挑戰，儘管當前主流的模型蒸餾技術能夠減少引數量，但往往伴隨著明顯的精度下降。最後，端側裝置在處理視覺、語音、感測器等多種異構資料時，現有的端側AI框架在跨模態對齊能力上存在顯著的不足。

在端側AI的產業落地發展過程中，需要基於垂直行業最佳化的算力模組以及適配的端側優質模型來解決這些困擾。

比鄰智聯表示今年會推出更多款不同算力配置的AI模組，搭配DeepSeek、千問、豆包、九天等主流端側大模型及行業端側小模型，為不同場景提供精準匹配的解決方案，併為客戶提供從模型最佳化到部署的全流程支援。

目前比鄰智聯已經全面對接中移九天基座大模型和九天深度思考大模型，在自然語言推理與邏輯處理方面表現卓越。九天大模型是由中國移動九天智慧團隊研發的大規模預訓練模型，旨在成為人工智慧領域的核心引擎。該模型技術路線更注重多模態能力、全棧國產化適配以及垂直行業深度最佳化，以實現高效能和更貼近行業需求的應用前景。九天已經發布1B和3B引數量的端側語言大模型，下半年還會發布2B引數的多模態端側大模型。此外，比鄰智聯在聯合生態夥伴積極探索RISC-V國產計算晶片在端側AI模組上的應用。比鄰智聯依託中國移動強大的科研實力，實現從模組硬體到大模型應用的全鏈路自主可控，為行業提供安全可靠的智慧化基座。

當前一些表現突出的端側AI細分市場包括智慧手機、AI PC、智慧座艙與自動駕駛、AI眼鏡等智慧穿戴裝置。未來值得關注的潛力市場還包括工業製造中的裝置故障預測和質量檢測、智慧家居與智慧生活物聯網、醫療健康便攜智慧裝置等。不同應用場景對模組算力、功耗、尺寸以及模型的需求有著差異，因此針對不同的垂直行業細分應用，對模組進行適當的工程化配套顯得尤為重要。

在工業質檢領域，比鄰智聯就已經推出了一套完整的解決方案，包括機器視覺相關演算法，可以在產線上進行全方位檢測。“中低速端側AI模組在金融支付領域發貨量很大，POS這種端側裝置也有智慧化升級的需求，目前我們正在和客戶一起設計解決方案，實現風險防控、防欺詐即時檢測、多模態模型身份認證等功能。”比鄰智聯表示。

透過在模組設計上的工程化能力，基於不同行業客戶不同垂直應用領域，對端側AI模組做定製化開發，模組廠商讓終端廠商能夠快速應用到前沿AI技術，為硬體終端賦予本地智慧。傳統的行業應用也在本地智慧的加持下，重構出新的應用正規化。

比鄰智聯特別強調，隨著國產化模組在算力密度（如異構計算架構最佳化）與演算法適配性（如輕量化模型部署）上的持續突破，中國端側 AI 產業鏈將從單點替代轉向系統性創新，形成從晶片設計、演算法開發到行業應用的全閉環生態。

展望今年的端側AI發展，比鄰智聯認為，“2025年是端側AI爆發之年，端側AI將深刻重塑整個行業生態。從技術發展來看，多模態技術將進一步推動終端裝置從單一感知向一個多維互動演進；其次端側AI晶片現在正向異構計算架構演進；存算一體架構也是技術發展的重要演進方向”。

“在模組端，比鄰智聯聚焦於通用端側AI平臺，再加上垂直行業定製策略來構建生態競爭力。透過AI模組加上預植入的模型實現端側的智慧化，將不斷深入挖掘出端側AI各垂直領域的應用潛力”。