對於機器人系統、自動駕駛、無人機等自動系統來說，硬體和軟體錯誤等因素往往會對它們的安全性構成威脅。因此，如何構建兼具安全性和可靠性的計算系統成為一個亟待解決的問題。
為此，美國佐治亞理工學院與深圳市人工智慧與機器人研究院、中國科學院計算技術研究所、美國羅切斯特大學團隊合作，創新性地提出了一種面向自主機器的漏洞-自適應保護（VAP，vulnerability-adaptive protection）正規化，即根據運算元的魯棒性差異來合理分配保護力度，透過對時間成本和保護措施開銷的平衡與最佳化，應對硬體故障對系統安全性的挑戰。
在無人機和自動駕駛系統中的實驗結果表明，相較於傳統“一刀切”的策略，這種新方案不僅能夠以最小的開銷實現相同的保護覆蓋率，還平均節省了 51% 的延遲和 54% 的能耗。
“我們的實驗結果是在模擬器中開展的，並已經在真實環境中的車輛和無人機中進行驗證。”該論文第一作者兼通訊作者、佐治亞理工學院博士生萬梓燊說。
圖丨萬梓燊（來源：萬梓燊）
日前，相關論文以《安全漏洞-自適應保護正規化》（The Vulnerability-Adaptive Protection Paradigm）為題發表在 Communications of the ACM（Association for Computing Machinery）上 [1]。
圖丨相關論文（來源：Communications of the ACM）
此前，特斯拉等公司通常採用針對整個系統進行統一保護的策略。例如，在硬體層面採用雙重模組方式，即用兩套硬體來運行同一程式碼，雖然能達到較好的保護效果，但整體成本居高不下。
在該研究中研究人員發現，自主機器系統中不同單元的魯棒性存在顯著差異。其中，感測器的感知和建圖功能等前端相對來說魯棒性較強，而路徑規劃和控制等後端則魯棒性較差。
“這種新正規化的核心在於尋求成本和效率之間的平衡，保護所消耗的資源與運算元本身的可靠性呈反比關係，即越可靠的運算元需要花費的資源越少，而越不可靠的運算元則需要投入更多資源來進行保護。”萬梓燊表示。
因此，透過基於這些差異自適應分配保護資源，不需要像傳統方法那樣配備大量額外的硬體，不僅能夠實現更高效且有針對性的可靠性增強，還可以大幅度降低硬體和軟體的整體成本。
圖丨自適應自主機器的不同軟體和硬體保護技術的設計（來源：Communications of the ACM）
從技術細節層面來看，輕量級保護主要集中在軟體層面，例如透過異常值檢測、程式碼重複執行等方法。
而對於那些非常敏感、脆弱的運算元節點，研究人員則採用硬體層面的保護措施，如儲存和恢復機制以及重複硬體技術，即設定相同的硬體裝置同時執行，以此來確保系統的安全性和可靠性。
值得關注的是，該方法還能夠降低計算延遲。舉例來說，假如自動駕駛車在沒有保護措施的情況下需要 100 毫秒計算，傳統保護方法可能因不斷進行保護操作，導致計算時間具有額外的開銷（例如 20 毫秒）。
而這種新方法由於開銷較低，能夠以更快的速度計算，這意味著它能在更短時間內對障礙物做出反應，並保持更快的安全行駛速度，進而使車輛在單位時間內能完成更多工，並相應地提升效率。
圖丨計算延遲和功率對自動駕駛汽車系統的影響（來源：Communications of the ACM）
對於前端和後端存在顯著的魯棒性差異，研究人員也進行了分析，其主要原因在於以下幾點：
首先，前端的資訊量相對較大，從環境中提取資訊時存在大量資訊冗餘，這些資訊使得前端即使有一兩個資訊點出錯，對環境的認知依然能夠支援其完成任務，從而相對較為魯棒。
其次，後端的資訊量相對較少，因而魯棒性較差。另外，前端可能存在創新的融合技術，這種融合自帶一定的保護效果；而後端則是直接控制機器人、無人機或自動駕駛的操作，直接關聯到最終的動作，所以相對不魯棒。
再次，從計算機體系架構的角度來看，前端的錯誤在向後端傳遞過程中，有些可能會被掩蓋掉。也就是說，在錯誤傳導的過程中，前端的錯誤有可能在中途被掩蓋，而後端的錯誤則更容易直接影響最終的動作。
在接下來的研究階段，該課題組計劃繼續研究無人機等系統的可靠性和魯棒性，特別是與具身智慧系統結合的可能性方面。
另一方面，他們還將從安全性角度關注提升有效性的方法，並探索如何透過軟硬體協同設計提高自動駕駛、無人機和機器人的計算系統速度，並降低能效。
“我們希望透過軟體最佳化、系統最佳化以及在應用階段採用專用體系架構或專用晶片等層面，探索如何能夠同時保障系統的安全性、高效性和高效能。”萬梓燊表示。
參考資料：
1.Wan,Z. et al. The Vulnerability-Adaptive Protection Paradigm. Communications of the ACM，67, 9，66-77(2024). https://doi.org/10.1145/3647638
排版：劉雅坤、何晨龍