Prompt、Context、Memory：一組漫畫帶你瞭解大模型互動的三段技術演進

你說：“幫我列下今天的會議日程。”

它迅速回復：“9 點產品部，11 點市場部，下午 2 點財務彙報。”——完美。

你接著說：“那順便把上次年會的討論要點也整理一下吧。”

它卻停頓了片刻，回覆道：“很抱歉，我找不到相關記錄。”

這是當下所有大模型的共性問題：反應迅速，卻沒有記憶；任務執行高效，卻無法延續認知。

每次對話都像“第一次見你”，每輪任務都要從頭講起，它可以生成內容，卻無法積累狀態，也無法進行模型迭代和學習；可以理解你這一次，卻無法記住你每一次。

我們需要的，不只是會說話的模型，而是能“記得住、學得進、變得更懂你”的模型。

這，正是 MemOS（大模型記憶作業系統）想要帶來的根本改變。

01｜提示詞工程：大模型的原始操作方式

在 GPT-3 開始火起來的時候，“提示詞工程（Prompt Engineering）”成了顯學。

什麼叫提示詞工程？簡單說，就是用人類設計的自然語言“引導”模型做事：

“你是一名律師，請幫我寫一份合同”
“請總結這段文字的核心觀點”
“根據下面的聊天內容生成一個回覆”

這種方法的確打開了大模型的基本應用能力，但也存在明顯問題：

每次互動都像“第一次見你”。沒有記憶、沒有狀態、沒有積累，重複一遍又一遍的撰寫相似的輸入。

02｜上下文工程：視窗內的聰明，視窗外的健忘

近期，Karpathy 大神的一個 Post 帶火了 Context Engineering。

為了讓模型“看起來更聰明”，我們進入了 Context Engineering（上下文工程）的時代。

這一階段的重點，不再只是寫好一條 prompt，而是透過系統性設計，讓大模型在任務執行中擁有更完整的背景感知能力。

常見的上下文工程策略包括：

拼接歷史對話：將近期互動內容拼入上下文，保持會話連貫；
系統指令前置與結構統一：透過“系統提示 + 使用者輸入 + 輸出模板”格式化組織，明確行為規則；
引入鏈式推理與任務分層：透過 step-by-step 提示、子任務拆解等方式，提升模型的任務完成能力；
使用檢索增強生成（RAG）：引入動態文件/知識檢索模組，擴充套件資訊邊界；
呼叫外部工具/API：透過函式呼叫、外掛等方式補齊感知和執行力；
上下文壓縮與剪枝：在 token 受限的前提下，篩選高價值內容、避免資訊冗餘。

這些實踐在一定程度上提升了模型的對話連貫性與多輪任務能力，但仍存在較大瓶頸，包括：

資訊碎片化，管理無法精細：上下文工程沒有機制區分什麼資訊該記、什麼時候記、記到哪，怎麼注入到合適的位置，任務越複雜越容易混亂。
資訊留不住，狀態無法累積：上下文工程只能在臨時視窗中拼接歷史內容，模型“每次見你都像第一次”，對任務背景、使用者偏好，缺乏良好的狀態記憶。
資訊用不好，經驗無法迭代：模型沒有反思與動態對齊能力，只是任務執行器，無法從失敗或歷史中吸取經驗，來幫助模型進行迭代。

因此，上下文工程是模型增強的中期過渡技術，下一階段的關鍵是：引入可排程、可學習的記憶機制——這正是 MemOS 的核心使命。

03｜MemOS：讓大模型“記住你”的記憶作業系統

如果說 Prompt 是大模型的“原始命令”，Context 是它的“臨時記憶”，

那 MemOS 就是它的長期記憶系統，是真正讓 AI 擁有“自我狀態”的基礎。

MemOS 的基本思路是對記憶進行分層管理和排程，是憶立方記憶分層大模型的落地演進。

MemOS 提供什麼？

記憶提取與組織：自動抽取你在互動關鍵資訊，以圖結構組織記憶，支援跨輪關聯
記憶分層建模與排程：對不同型別的記憶進行分層管理與排程，實現靈活預測
記憶可演化：根據歷史的記憶進行反思，強化模型特定能力，提升模型效能
記憶可轉移：不同模型間共享記憶，讓“小助手”也有“大腦袋”

04｜用 MemOS，讓 AI 更懂你!

我們相信，大模型的未來不是一個“回答器”，而是一個“認知器”。

而沒有持續性認知記憶的模型，都只是一次次“短暫的聰明”。

當你用 MemOS 去載入一個 AI 助理，它將能夠：

✅ 記住你過去交代的長期目標

✅ 持續追蹤任務狀態與執行反饋

✅ 明確你在不同身份下的角色偏好

✅ 在你開口之前，預判你想做什麼

05｜MemOS-Preview 版本已經開源，上線 3 天 1000+ Star，600+ 使用者群

在大模型逐漸走向多輪任務與智慧體時代時，MemOS 提出了一個核心命題：

大模型，不應只擁有語言能力，還應擁有可排程且可進化的記憶能力。

MemOS 是一套面向大模型記憶管理的開源框架，Preview 版本已經完成核心模組原型構建，包括：

記憶提取（Memory Extraction）：自動從多輪對話中識別出任務目標、事件、偏好等關鍵資訊
記憶組織（Memory Structuring）：將提取的資訊按圖結構或層次樹組織，支援跨輪連結
記憶檢索（Memory Query）：支援透過關鍵詞、語義標籤、時間索引等方式呼叫歷史記憶片段
記憶排程（Memory Scheduling）:根據使用者的對話歷史、偏好，將最合適的記憶放到最合適的位置

MemOS 透過標準化的 MemCube 記憶單元，將明文、啟用狀態和引數記憶統一在同一個框架裡進行排程、融合、歸檔和許可權管理。簡單來說，模型不再只是“看完即忘”，而是擁有了持續進化和自我更新的能力。在行業看來，這種面向 AI 長期記憶的作業系統思路，或許會重塑智慧系統的應用邊界——讓大模型真正從“靜態生成器”，變成可以陪伴使用者長期成長的“數字同事”和“數字助理”。

系統架構和核心創新

在技術架構上，MemOS 參考了傳統作業系統的分層理念，同時融合了憶立方（Memory³）大模型在“記憶分層管理”方面的關鍵技術。系統整體劃分為三大核心層次：介面與應用層、記憶排程控制層，以及儲存與基礎設施層，構建起從前端呼叫到底層持久化的一體化記憶管理框架。

在介面與應用層，MemOS 提供了統一、易擴充套件的 Memory API，開發者可透過標準介面便捷地進行記憶的新增、修改、刪除、呼叫等操作。配合上下文工程，MemOS 讓模型能夠更輕鬆地接入多輪會話記憶、跨任務狀態追蹤與使用者偏好持久化管理等能力，顯著提升大模型在複雜互動中的個性化與持續性表現。

在記憶排程與管理層，MemOS 引入了一種全新的排程機制 —— 記憶排程（Memory Scheduling）正規化。該機制支援基於上下文的“下一場景預測”（Next-Scene Prediction），可以在模型尚未發起呼叫之前，提前載入可能需要的記憶內容，從而顯著降低響應延遲、最佳化推理效率。

如上圖 1 所示，MemOS 能夠在不同輪次（Round）、會話（Session）甚至多智慧體（Agent）協同流程中，非同步預測和準備未來可能涉及的記憶片段。其核心機制是：在應用流程的關鍵節點部署觸發器（Trigger），自動收集任務過程中的記憶線索與需求。所有觸發器採集的資訊將被統一送入排程監控佇列（Monitoring Queue），由排程執行器（Scheduling Executor）進行消費處理。

排程器會根據呼叫頻率、上下文相關性等策略，優先將高價值記憶片段提前載入到 MemCube 中的指定位置，包括模型的 KV Cache、明文快取區或其他中間態儲存區。這一設計顯著提高了對關鍵記憶的“即取即用”能力，為模型提供了更快、更準、更持續的認知支撐。

而在記憶儲存與基礎設施層，MemOS 透過標準化的 MemCube 封裝，將明文記憶、啟用記憶和引數記憶三種形態有機整合。它支援多種持久化儲存方式，包括 Graph 資料庫、向量資料庫等，並具備跨模型的記憶遷移與複用能力。

整體來看，MemOS 不僅在技術框架上實現了對 AI 記憶的結構化、系統化管理，也為未來構建可共享、可遷移、可學習的 AI 記憶生態奠定了基礎。

🧑‍💻 歡迎加入開發者社群，一起構建下一代面向記憶的應用研發之路~

🌐 專案官網：https://memos.openmem.net/

💻 GitHub：https://github.com/MemTensor/MemOS