打造可進化的 AI：為何我們該關注模型之外的系統架構
AI 的持續進化，不必等待模型權重自我更新。真正可落地、可管理的進步，來自於將智慧「外部化」的系統架構。本文探討如何透過外部的記憶體、工具集與回饋迴路，建構能夠持續累積經驗、真正實現複利成長的 AI 系統。
當我們談論 AI 的進化，常誤以為是指模型權重能自我更新。然而，真正可落地、可管理的持續進步，並非等待下個世代的模型，而是來自於建構一個能累積經驗的外部系統。智慧的成長，關鍵在於將記憶、工具使用與回饋迴路外部化，形成一個與模型分離、卻能與之協同演化的架構。這不僅是技術選擇，更是對 AI 發展路徑的根本性判斷。
為什麼我們對「自我改進 AI」存有誤解？
「自我改進的 AI」這個詞，很容易讓人聯想到科幻電影中 AI 不斷覆寫自身程式碼、最終產生意識的場景。但在目前的工程實踐中，這是一種普遍的誤解。我們需要釐清一個關鍵區別：系統層面的「自我改進」（self-improving）不等於模型層面的「自我學習」（self-learning）。
在生產環境中部署的大型語言模型（LLM），其模型權重（weights）通常是靜態的。一個為用戶服務的 GPT-4 實例，並不會因為處理了你的對話，就即時更新它數千億個參數。這麼做的原因很實際：穩定性、可預測性與安全性。
如果模型能夠在線上環境動態改變自身權重，將會帶來災難性的風險，例如服務表現的劇烈波動、被惡意輸入「污染」或產生無法預期的行為。因此，模型的進化通常是透過離線的、週期性的重新訓練，發布如 v1、v2 等新版本來完成，而非持續的線上變動。
模型是無狀態的運算核心，而智慧的複利成長，發生在外部系統。
這意味著，我們追求的「進化」，其主體並非模型本身，而是圍繞著模型的整個系統架構。模型扮演的是一個強大的、但無狀態（stateless）的推理引擎角色；而真正的學習與經驗累積，則發生在與模型分離的外部元件中。
智慧的外部化：AI 系統的真正記憶體在哪？
如果模型本身不儲存經驗，那麼智慧該如何累積？答案是：將其外部化。一個設計良好的 AI Agent 系統，其核心不在於擁有一個多麽聰明的 LLM，而在於它如何管理模型之外的狀態（state）、記憶（memory）與能力（capabilities）。
日本開發者 factory.mo 在一篇關於「自我改善 AI 團隊」的文章中，提出了一個清晰的架構。他設計的系統包含幾個關鍵角色，但核心是一個共享的 `STATE` 檔案。這個檔案記錄了團隊的目標、已完成的任務、中間產物與反思。AI Agent 的每一次行動，都是先讀取 `STATE`，理解當前脈絡，然後執行任務，最後再將結果與新發現寫回 `STATE`。在這個循環中，LLM 始終是同一個版本，但 `STATE` 檔案卻隨著時間不斷豐富，成為整個系統的長期記憶與經驗載體。
這個概念可以擴展到更複雜的架構。史丹佛大學著名的「生成式智慧體」（Generative Agents）研究，模擬了 25 個 AI Agent 在虛擬小鎮中生活兩天的情境。這些 Agent 之所以能表現出連貫、有記憶的行為，並非模型本身進化了，而是因為每個 Agent 都有一個外部的「記憶流」（memory stream），用以儲存觀察、規劃與反思。當需要行動時，Agent 會從這個外部記憶體中檢索相關資訊，從而做出符合其「人設」與過去經歷的決策。
我們可以透過一個簡單的比較，來理解這種思維的轉變：
| 面向 | 傳統模型中心觀 | 外部系統架構觀 |
|---|---|---|
| 學習主體 | 模型權重 | 外部記憶體、狀態檔案、工具集 |
| 進化方式 | 等待下一個模型版本（如 GPT-5） | 透過回饋迴路，持續、漸進地改善 |
| 可控性 | 低，模型是黑盒子 | 高，外部系統的狀態與規則透明可控 |
如何建構一個能累積經驗的外部系統？
將智慧外部化的想法，不僅是理論，更是一套可執行的工程藍圖。要打造一個能夠持續進化的 AI 系統，至少需要包含三個核心元件：
- 結構化的記憶體（Structured Memory）
這遠不止是儲存對話歷史，有效的記憶系統需要能夠儲存、檢索與合成資訊。目前主流的檢索增強生成（RAG）技術就是一個基礎。但更進一步，系統需要能夠區分不同類型的記憶，例如短期工作記憶、長期知識庫、過去的錯誤紀錄等。像 Voyager 這樣的開放式探索 Agent，其成功關鍵就在於建立了一個能儲存可執行程式碼的技能庫，讓 Agent 能從過去的成功經驗中學習。 - 可擴展的工具集（Extensible Tooling）
AI 的能力邊界，取決於它能使用的工具。一個真正能「改進」的系統，必須具備動態學習和整合新工具的能力。Google DeepMind 的 Toolformer 研究展示了 LLM 如何能自主學習使用 API。在實際應用中，這意味著系統可以透過增加新的函式、API 或內部服務來擴展其能力。例如，當一個開發者 Agent 發現自己重複編寫某種樣式的程式碼時，它可以將這段程式碼封裝成一個新的「技能」（Skill），供未來直接調用。 - 明確的回饋迴路（Clear Feedback Loop）
系統必須知道什麼是「好」、什麼是「壞」，才能朝著正確的方向改進。這個回饋可以來自多方面：人類使用者的修正（Human-in-the-loop）、自動化的測試案例、或與預設目標的符合度評估。當系統執行失敗或得到負面回饋時，關鍵不是去懲罰模型，而是將這次失敗的經驗——包括當時的狀態、採取的行動、以及失敗的原因——結構化地記錄到外部記憶體中。這能確保系統在未來遇到相似情境時，能夠「記取教訓」，避免重蹈覆轍。
總結來說，AI 系統的進化，是一場系統工程的實踐，而非單純等待演算法的突破。與其將希望寄託於一個能自我學習、不斷膨脹的單一模型，不如著手設計一個穩健、透明、可管理的外部系統。在這個架構下，即使底層的 LLM 保持不變，整個系統的智慧與能力依然可以隨著時間，累積出驚人的複利效應。這條路徑，才是讓 AI 從一個聰明的玩具，走向一個可靠的生產力夥伴的務實之道。
延伸閱讀
- Park, J. S., et al. (2023). Generative Agents: Interactive Simulacra of Human Behavior. arXiv.
- Lewis, P., et al. (2020). Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks. arXiv.
- Schick, T., et al. (2023). Toolformer: Language Models Can Teach Themselves to Use Tools. arXiv.
我是江中喬，專注於 AI Agent Architecture、Memory Governance 與 Cognitive Diversity，持續研究如何打造能夠長期協作、可信任且可治理的 AI 系統。