2025邊緣AI報告：即時自主智慧，從正規化創新到AI硬體的技術基礎

作者：彭昭（智次方創始人、雲和資本聯合創始合夥人）

物聯網智庫原創

這是我的第365篇專欄文章。

在上篇文章《巨頭入局TinyML，端側與邊緣AI迎來新拐點》中，我曾提到TinyML基金會進行了品牌重塑，已更名為邊緣智慧（Edge AI）基金會。

近日，邊緣智慧基金會發布了2025年度最新版本的《2025邊緣AI技術報告》。該報告對邊緣智慧以及微型機器學習TinyML的發展趨勢進行了全面掃描和總結。

從報告內容來看，TinyML的成熟度可能超出了很多人的預期，已經在現實場景中產生了眾多應用案例。

報告的亮點如下：

邊緣AI的技術推動因素：報告深入探討了支援邊緣AI部署的軟硬體進步，重點關注了專用處理器和超低功耗裝置的創新，這些創新正在克服資源受限環境中處理能力和可擴充套件性的限制。
邊緣AI在行業轉型中的作用：報告揭示了邊緣AI如何透過實現即時分析和決策能力，影響各個行業的運營模式。
未來技術與創新：報告的最後章節展望了可能影響邊緣AI未來發展的新興技術，例如聯合學習、量子神經網路和神經形態計算等。

因此，在今天這篇文章中，我們將一起梳理《2025邊緣AI技術報告》的精華內容，全面瞭解TinyML以及邊緣AI的最新進展和發展全貌。

即時、在地、高效：邊緣AI在六大行業的創新應用

隨著市場對低延遲、即時處理的需求日益增長，邊緣AI正在各個行業掀起一場風潮，尤其是在汽車、製造業、醫療、零售、物流和智慧農業領域。邊緣AI透過在資料來源處進行即時分析和決策，極大地提升了效率，優化了資源配置，改善了使用者體驗。

首先來看自動駕駛汽車領域。

隨著攝像頭解析度達到千兆畫素，雷射雷達系統每秒可發射數百萬個雷射脈衝，邊緣人工智慧可加快反應時間，並增強安全性。例如，Waymo已擴充套件模擬訓練和評估，以處理罕見的駕駛情況。與此同時，理想汽車預計其端到端模型將在今年年底前從超過500萬個駕駛資料片段中學習。

同樣，隨著人工智慧市場的快速增長，即時邊緣人工智慧已成為提高效率和減少停機時間的關鍵。在繁忙的汽車生產車間：智慧感測器會立即標記溫度峰值或機械應力，使團隊能夠在問題升級之前防止中斷。從汽車行業汲取靈感，蔚來的NWM（NIO世界模型）展示了超快速AI預測的強大功能。同樣，基於邊緣AI的分析可以以驚人的精度檢測生產線上的微缺陷。

透過結合速度、可靠性和裝置智慧，即時資料處理正在改變自動駕駛汽車的標準實踐，為全面更具適應性、更高效的未來鋪平了道路。

邊緣AI之所以對自動駕駛汽車如此重要，主要有三個原因：

邊緣系統減少了對雲中繼的依賴，實現了50ms以下的防撞響應時間，這對於處理行人突然橫穿馬路，或高速公路突發事件尤為關鍵。
邊緣AI使得自動駕駛汽車或半自動駕駛汽車即使在蜂窩盲區，也能保持安全功能（例如車道保持、自適應巡航控制）。5G汽車協會（5GAA）更新的蜂窩車聯網（C-V2X）技術路線圖，強調了混合V2X架構，該架構將邊緣處理與5G-V2X直接通訊相結合。邊緣AI硬體和感測器融合演算法，使自動駕駛汽車能夠將決策延遲縮短30-40%，實現低至20-50毫秒的響應時間。
整合來自攝像頭、雷射雷達和雷達等邊緣裝置的資料可以提高感知可靠性，實現安全導航。例如，Innoviz的2024年雷射雷達升級版採用了邊緣最佳化的神經網路，以每秒20幀的速度處理點雲資料，最大限度地減少了障礙物檢測的延遲。

接著來看製造業。

生產線每天可以生成大量資料，有研究顯示，智慧工廠每週生成超過5PB的資料。邊緣AI系統可以在本地處理這些資訊，提供即時洞察和自動響應。邊緣AI的影響體現在三個關鍵領域：預測性維護、質量控制系統和流程最佳化。

據報道，利用即時感測器資料分析的預測性維護系統可將維護成本降低30%，並將停機時間減少45%。透過持續監控裝置效能，邊緣AI演算法可以在細微異常和潛在故障發生之前檢測到它們，從而實現主動維護並最大限度地減少意外停機時間。

在質量方面，邊緣AI透過即時檢查和缺陷檢測增強了質量控制。例如，一家大型食品飲料製造商在邊緣部署了視覺AI，用於質量檢查和閉環質量控制。該系統持續監控產品差異並建議調整裝置設定，將檢查週期縮短50-75%，並提高準確性。

第三，在醫療保健領域，本地化AI可透過直接在裝置中處理醫療資料，加速診斷並改善患者治療效果。

例如，邊緣AI驅動的遠端患者監測裝置（如行動式心電圖和血壓監測儀）可以即時分析心律和生命體徵。這些裝置（例如由AliveCor和Biobeat開發的裝置）使臨床醫生無需等待基於雲的分析即可檢測心律失常和其他異常情況，從而縮短危急情況下的響應時間。

第四，邊緣AI正在透過即時行為分析最佳化店內運營並增強客戶體驗，從而改變零售業。

AI驅動的智慧貨架和結算系統可在本地處理客戶互動，分析購買模式並調整庫存預測，而無需依賴雲同步。零售商正在部署AI驅動的影片分析來檢測客流量異常、監控庫存水平並減少結賬時間，從而提高效率並降低運營成本。

在運營方面，基於人工智慧的智慧零售已經在2025年展現出應用前景。人工智慧驅動的計算機視覺可以實現完全的非接觸式交易，將平均結賬時間縮短30%。Amazon Fresh已經透過在貨架或手推車上安裝攝像頭，在顧客離開時自動結賬，並提供即時消費預覽。

亞馬遜的Just Walk Out（JWO）系統是零售業邊緣AI的典範，它集成了感測器陣列、裝置分析和高階機器學習模型。所有計算都在定製邊緣硬體上本地處理，實現即時決策，並提高客戶便利性和運營效率。

第五，邊緣AI與物聯網感測器整合，透過直接在配送中心、倉庫和運輸樞紐處理物流資料，增強了物流的智慧化。

智慧感測器無需將大量資訊傳輸到集中式伺服器，而是現場分析溫度波動、運動異常和庫存短缺，並在出現偏差時觸發即時警報。例如，P&O Ferry masters使用人工智慧驅動的船舶裝載程式將貨運能力優化了10%，從而保持了整個供應鏈的即時可見性。此外，人工智慧驅動的預測有助於減少20%的物流費用。

最後，邊緣AI正在幫助智慧農業擴大精準種植，以滿足全球不斷增長的糧食需求。

預計到2050年，全球人口將達到98億，農業必須智慧地擴大規模，以滿足不斷增長的糧食需求，同時最大限度地減少對環境的影響。邊緣人工智慧使農場能夠在不增加複雜性的情況下擴大其技術覆蓋範圍，分析土壤條件，監測天氣模式，並實施自動化灌溉系統。

先進的感測器和AI模型無需將資料傳送到遠端伺服器，而是在檢測到土壤溼度或害蟲活動等因素時對其進行評估，從而迅速採取干預措施。CrackSense等專案展示了即時感測如何確保柑橘、石榴和葡萄等作物的果實質量，減少災害和浪費。

配備邊緣人工智慧的智慧灌溉系統已顯示出成效，可根據區域性土壤水分分析動態調整水分配，減少25%的用水量。同樣，人工智慧驅動的害蟲檢測可減少30%的農藥使用量，確保精準農業，最大限度地減少浪費。

邊緣AI生態系統：三層架構下的協同創新

當今的邊緣AI生態系統正處於一個關鍵階段：專案的成功取決於硬體供應商、軟體開發商、雲提供商和行業利益相關者的共同協作。這種狀態可能將會持續較長的一段時間，因此企業之間的互相協同成為重點。

如果沒有互操作性標準、可擴充套件的部署模型和共享的研發工作，邊緣AI就有可能出現碎片化，從而限制其在製造業、醫療保健和物流等關鍵領域的應用。

邊緣AI的生態系統普遍公認採用三層架構，將計算工作負載分配到邊緣裝置、邊緣伺服器和雲平臺。這種結構允許AI模型在邊緣執行即時推理，同時在需要時利用更高的計算能力。每一層在處理、彙總和最佳化資料以進行智慧決策方面發揮著獨特的作用。

邊緣裝置與終端裝置是與現實世界資料互動的第一個點。這些裝置包括部署在製造業、醫療保健、汽車和零售環境中的物聯網感測器、工業機器人、智慧攝像頭和嵌入式計算系統。它們的主要功能是低延遲AI推理——無需依賴持續的雲連線即可在現場處理資料。

邊緣伺服器充當邊緣裝置和雲之間的計算中介。這些伺服器通常部署在工廠、醫院、零售店和自動駕駛汽車網路中，用於彙總來自多個來源的資料，並執行更為複雜的AI工作負載。邊緣伺服器的一個關鍵優勢是本地化AI推理：無需將資料解除安裝到遠端資料中心即可執行更重的模型。這減少了與雲依賴相關的延遲、頻寬成本和安全風險。

這裡需要區分邊緣計算和終端裝置，儘管從整體上他們可以歸為一類，但由於功耗、尺寸和算力等約束條件截然不同，“邊緣”和“終端”具有顯著區別，不能使用同一個思路處理。邊緣裝置（例如嵌入式攝像頭或工業感測器）專為低功耗AI推理而設計，而功能更強大的邊緣伺服器則充當中介，在將資料轉發到雲端之前，處理複雜的AI工作負載。

雲對於模型開發、大規模資料分析和儲存仍然至關重要。它是深度學習模型在最佳化和部署到邊緣之前進行訓練的支柱。經過訓練後，AI模型將部署到邊緣裝置和邊緣伺服器，在生產環境中執行推理任務。雲還充當AI模型監控、分析和集中編排的骨幹，確保部署在數千甚至數百萬個邊緣端點上保持高效。

雖然三層架構涵蓋了邊緣AI的全貌，但是企業之間的跨界合作正在更加密切的進行。

半導體公司正在與AI開發人員合作以提高專用硬體上的模型效率；雲提供商正在整合邊緣原生計算解決方案；研究機構正在與行業領導者合作推進可擴充套件架構。

在硬體和雲協作方面，英特爾透過其邊緣AI合作伙伴支援包推動邊緣AI的採用，該計劃為企業提供工具、框架和技術資源，以加速邊緣AI的部署。

另一項值得注意的合作涉及高通和Meta，他們致力於將Meta的Llama大型語言模型直接整合到高通的邊緣處理器上。這種合作關係減少了對基於雲的LLM的依賴，使裝置能夠在現場執行生成AI工作負載。

MemryX和Variscite也宣佈建立了合作伙伴關係，旨在提高邊緣AI效率。透過將MemryX的AI加速器與Variscite的系統模組（SoM）解決方案相結合，簡化了邊緣裝置上的AI部署，尤其針對工業自動化和醫療保健的應用。

Google與Synaptics合作開發了邊緣人工智慧系統。Google的Kelvin MLIR相容機器學習核心將整合到Synaptics Astra AI-Native IoT計算平臺中。兩家公司將共同努力，為可穿戴裝置、家電、娛樂和監控等應用定義IoT Edge情境感知計算多模式處理的最佳實現。

政產學研合作在推進邊緣AI研究和部署方面發揮著至關重要的作用，一些國家推出了邊緣AI的試點專案和協作平臺。

在英國，國家邊緣人工智慧中心是一個協作平臺，聯合學術界、工業界和公共部門推進邊緣人工智慧技術。該中心由紐卡斯爾大學牽頭，彙集了來自英國各地機構的多學科團隊，其使命是提高醫療保健和自動駕駛電動汽車等時間關鍵型應用的資料質量和決策準確性。

同樣，美國國家科學基金會的NAIRR試點專案是一項旨在實現AI普及的大型計劃。英特爾、英偉達、微軟、Meta、OpenAI和IBM等行業參與者為開發安全節能的AI應用程式的研究人員貢獻了計算能力和AI工具。

從聯邦學習到神經形態計算：邊緣AI的5大前沿趨勢

技術的發展日新月異，邊緣AI的5個新興趨勢正在重塑人工智慧系統，包括聯邦學習、邊緣原生AI模型、量子增強智慧和邊緣生成AI。這些趨勢彼此結合，讓自動駕駛汽車可以相互訓練，無需依賴集中式資料集；醫院可以部署基於患者資料即時演進的AI模型，確保高度個性化的治療；工業機器人將以預測智慧執行，在故障發生之前檢測並修復。

神經形態計算、多智慧體強化學習和後量子密碼學等領域的新興創新也在重新定義邊緣AI的各種可能性，使人工智慧系統變得更快、更安全、效率更高。

1. 聯邦學習：邊緣的去中心化智慧

聯邦學習（FL）正在從隱私保護髮展成為去中心化智慧的基石。未來5年，聯邦框架有望積極增強模型適應性、自主性和跨行業協作。市場預測到2030年，聯邦學習有望實現近3億美元的市場價值，預計複合年增長率為12.7%。

聯邦學習演進的另一個主要驅動力是與6G等下一代網路的整合。隨著邊緣部署規模的擴大，超低延遲網路將使AI模型能夠更有效地在分散式裝置之間同步，從而減少最佳化和部署更新所需的時間。量子聯邦學習（QFL）的出現也正在被探索，以減少裝置之間的通訊負擔，使大規模物聯網網路的通訊過程更加高效。

2. 邊緣量子計算和量子神經網路

量子計算將重新定義邊緣AI的功能。雖然當今的邊緣AI依賴於最佳化的深度學習模型和低功耗硬體加速器，但量子計算引入了一種完全不同的方法：利用量子態來處理指數級增大的資料集，並以傳統方法無法達到的速度最佳化決策。隨著量子處理單元（QPU）超越基於雲的基礎設施，混合量子-經典AI將在邊緣出現，增強金融、醫療保健、能源和工業自動化等行業的即時決策能力。

量子神經網路（QNN）是一種新型AI模型，它利用量子特性來檢測資料中的模式和關係，而“傳統AI”則難以做到這一點。與需要增加功率和記憶體來提高效能的現有神經網路不同，QNN可以以更緊湊、更高效的方式處理資訊。

到目前為止，量子計算由於其硬體要求（包括極端冷卻）而僅限於基於雲的資料中心。然而，移動QPU的最新進展很可能使在室溫下執行量子演算法成為可能。在未來幾年，量子計算將不僅限於雲端，還可以嵌入到邊緣的自主系統、工業機器人和物聯網裝置中。

3. 自主人形機器人的邊緣人工智慧

人形機器人的下一階段將由具身智慧定義，其中人工智慧模型變得更具適應性、響應性，並能夠自我改進。

在零售環境中，人形機器人可以透過回答口頭詢問、分析面部表情和瀏覽商店佈局來協助消費者。同時，在醫院和養老院中，人工智慧機器人可以監測患者、協助行動並檢測可能預示醫療緊急情況的細微行為變化，所有這些都透過裝置端處理來確保資料隱私和安全。

4. 人工智慧驅動的AR/VR：下一個進化方向

增強現實（AR）和虛擬現實（VR）已不再侷限於遊戲和娛樂，邊緣AI是這一發展的關鍵推動因素。下一代AR/VR裝置將在本地處理資訊，從而實現即時響應並提高能源效率。

AI驅動的空間計算將允許AR眼鏡和VR耳機根據上下文動態調整疊加、深度感知和環境互動。

在工業環境中，這意味著AR驅動的工作空間將為工程師提供擴音、AI生成的指令，這些指令可即時適應現實世界的情況。在醫療保健領域，AR輔助手術將整合AI能力，以提高精度，根據外科醫生的動作在幾毫秒內更新，而不會出現雲引起的延遲。

5. 神經形態計算：低功耗人工智慧的未來

透過引入大腦啟發式架構，神經形態計算有望在邊緣AI領域變得越來越流行，這些架構在能源效率和處理能力方面具有顯著優勢。與將記憶體和處理單元分開的傳統計算系統不同，神經形態系統集成了這些功能，模仿了人腦的並行和事件驅動特性。這種設計使它們能夠以最小的能耗處理複雜的即時資料處理任務，使其成為邊緣應用的理想選擇。

例如，2022年《自然》雜誌的一項研究中推出的NeuRRAM晶片模擬計算架構的能效，是最先進的“記憶體計算”晶片的兩倍，可以在沒有云連線的情況下在邊緣裝置上執行復雜的認知任務。這一飛躍反映了從臺式電腦到智慧手機的轉變，解鎖了曾經被認為不可能的行動式應用程式。

研究和早期商業部署表明，神經形態晶片可以重新定義智慧在邊緣的部署方式。