用智慧體加速大模型技術落地已經成為共識，據 Gartner 預測：到 2026 年，具備自主任務閉環能力的智慧體將覆蓋 75% 的企業服務場景。
隨著各式智慧體、多智慧體編排工具又或是智慧體系統的更新，如何提升智慧體的能力從而實現讓大模型好好幹活的效果，成了新的待解問題。
OSCHINA 特別邀請智子互聯創始人、CEO 張文峰，從設計與應用的雙視角，解讀當下智慧體系統技術的最新發展，以及我們該如何透過智慧體用好大模型。
智慧體，讓大模型“帶腦子幹活”
OSCHINA：開發者最頭疼的是大模型“一本正經地胡說八道”，智子互聯的智慧體系統如何解決這個問題？
張文峰：我們的解決方案是透過“場景資料微調”、“檢索增強生成”和“人機協同決策”三重約束機制來應對大模型幻覺問題：
-
首先是場景資料微調，我們在 SAAP 中構建了模型微調訓練能力，制定了一套標準化的場景資料標註、基座模型選型、訓練引數調整、模型效果評估、模型部署上線的模型微調 pipeline，支援快速根據業務場景的問題微調訓練一個“場景大模型”，讓模型更專業；
-
然後是在推理決策過程中的 RAG：透過向量資料庫即時檢索知識庫、text2sql 查詢資料庫、API 呼叫資料介面，蒐集到與問題相關的上下文知識，基於限定上下文讓大模型進行答案生成，並透過提示詞讓大模型輸出引用資料來源，可以極大程度客服大模型幻覺問題。例如在醫療場景中，限制智慧體只能引用已認證的藥品庫資料。
-
最後，在一些特殊的場景我們還會引入 HITL 的人機協同決策機制：例如在軍事指揮場景，在關鍵決策環節，可以將智慧體決策結果轉交人類進行反饋 / 確認，智慧體會根據人類指揮員的反饋，決定是否下發指令或進行重新決策。
-
首先是“感知”：透過 OCR 識別選單圖片中的菜品和價格，結合使用者歷史訂單資料理解偏好；
-
然後是“決策”：呼叫優惠計算工具（如滿減規則 API），結合預算約束和營養模型生成最優方案；
-
最後是“執行”：自動登入支付系統完成下單，並主動傳送確認資訊給使用者。
關鍵突破在於：我們透過 SAAP 平臺的“工具編排引擎”，將大模型的意圖理解能力與傳統系統 API 無縫銜接，解決純 LLM 方案存在的執行不可達、不可控的問題。
三層記憶系統，
提升智慧體決策的準確率
OSCHINA：智子互聯智慧體系統的記憶系統是如何設計的？
短期記憶：類似於對話中的上下文資訊，也就是聊天記錄，它臨時儲存最近的互動資訊，保證系統能在當前會話中保持連貫性。
長期記憶：儲存對整個任務或多次互動中重要資訊的記錄，可以跨會話呼叫。它幫助代理理解長期目標、記住關鍵決策細節以及累積經驗。
領域記憶：在 C2oS 系統中，每次演習後的覆盤資料會生成戰術模式向量，嵌入到下次決策的知識庫中。
這種結構化記憶使智慧體在實際的應用場景中越用越聰明，大大提升智慧體決策的準確率。
數字戰場中的 AI 指揮官
OSCHINA：軍事模擬系統 C2oS 裡的“數字裝備”智慧體，是讓 AI 自己指揮打仗？如果兩個智慧體意見衝突，系統會怎麼處理？
C2oS 其實是基於數字裝備和虛擬 AI 指揮官構建了一個數字戰場，讓 AI 指揮官指揮控制智慧無人裝備執行作戰任務。
我們在構建這套智慧無人作戰模擬系統的時候，其實是有深度考量戰場的複雜性和 AI 決策的不確定性等問題的，我們提出了一套基於分層決策架構的混合協同方法，簡單說就是上層決策由中心節點構成，負責全域性任務分解與高層次目標設定；末端戰術層由各裝備智慧體構成，負責區域性任務執行與策略調整。
上層決策結果會作為下層決策的依據，下層智慧體執行的結果會作為上層的反饋，這種機制本身就能極大的克服智慧體決策的“不一致性”。
當然，我們在系統中全鏈路引入 HITL 機制，可讓人類指揮官隨時修正 AI 的決策結果，以應對極端的突發狀況。
快問快答
OSCHINA：一般開發者想嘗試智慧體開發，最低成本需要什麼？
透過 SAAP 平臺開發智慧體，使用者只需三步即可入門：
定義工具：使用 SAAP 的服務管理功能，配置接入 API（如 優惠計算工具），並配置成工具；
構建智慧體：使用智慧體管理功能，配置智慧體的名稱、描述、角色和功能提示詞、選定工具集、工具的排程模式，即可無碼化構建專業智慧體；
一鍵部署：選擇預置的模型微調引數（如 7B 模型僅需 8GB 視訊記憶體）。
成本門檻：個人開發者使用入門版 SAAP，可在單卡 3090 環境下執行完整 demo，如果對吞吐量和併發沒有太高要求，甚至可以在一臺 32G 記憶體的筆記型電腦上本地執行全套智慧體平臺軟體（包括 7B 模型）。
OSCHINA：未來 3 年，哪個行業的智慧體應用會最顛覆想象？
我們注意到智慧體已經很多行業開始帶來變化。如在製造領域，智慧體透過自動化控制、機器人協作、裝置預測性維護等技術；在金融行業，智慧體幫助實現自動化交易、風險監控和個性化投資建議；在教育領域，智慧體帶來個性化學習和智慧輔導；在醫療行業，智慧體已開始在醫學影像診斷、患者資料分析和健康監控等環節發揮作用。
當前 AI 的技術發展非常快，AGI 的呼聲也越來越高，照當前這個發展態勢，未來 3 年可能會有很大的變化，很難預測說到底哪個行業的智慧體應用最會顛覆想象，但是從主觀上來說，我希望是軍事領域，如果未來能夠基於智慧體完全實現智慧無人作戰，戰場上衝鋒陷陣的是各種無人裝備，像無人機、無人車、無人狗、無人艇，來代替軍人直接上戰場，極大減少人員傷亡，這何嘗不是一個美好的願景。
一是靈活的平臺化能力：智子大模型智慧體平臺（SAAP）是一個支援“感知 – 決策 – 執行”全鏈路閉環的大模型智慧體開發平臺，以生成式大模型為核心驅動要素，透過對服務介面、本地知識、關係型資料、AI 小模型、網頁內容等要素進行工具化封裝和語義排程，能夠以無 / 低程式碼方式實現智慧體和多智慧體系統的快速構建，讓場景智慧體開發效率提升 70% 以上。
二是垂直場景深度適配能力：在軍事指揮控制領域，我們的 C2oS 系統已實現多智慧體協同作戰的實戰化驗證；在企業級場景中，IAoS 一體機透過私有化部署和硬體加速技術，解決了資料安全與效能瓶頸的行業痛點。
三是技術 – 場景雙向驅動：我們不僅追求技術領先，更注重“從場景中定義需求”，例如在 C2oS 研發中首創了“戰場數字孿生推演”機制，將 AI 決策與物理模擬環境深度融合。
3 月 22 日，張文峰將出席【生成式 AI 應⽤構建】OSC 源創會・南京站活動，並發表主題演講《大模型智慧體系統的構建與應用 —— 從平臺創新到垂直場景落地》。
議題簡介： 在生成式 AI 技術爆發的當下，大模型如何從單純的對話工具進化為具備自主決策、任務執行和持續進化能力的智慧體系統，已成為行業探索的核心方向。本次演講議題將圍繞南京智子互聯科技在智慧體系統構建中的技術實踐與產業落地經驗展開，深入解析大模型智慧體平臺的核心架構設計、垂直領域應用的創新路徑，以及智慧體技術在指揮控制等複雜場景中的突破性應用。
即刻報名，現場探智慧體設計與使用問題
🔥報名連結：https://www.oschina.net/event/2423811
⏰時間：03-22 14:00 至 18:00
🚗地點：南京瑞瀾庭院酒店（南京秦淮區瑞金路街道解放路 46 號）
