AI 記憶的治理難題：為何無限堆疊資訊，反而會讓 Agent 變笨？
AI Agent 的長期記憶若只進不出，會因資訊重複、矛盾而腐化，反而降低判斷品質。真正的挑戰不在於儲存更多資訊，而在於建立有效的記憶治理機制，讓系統能主動整理、去重、淘汰。Anthropic 的 Dreams 功能正是在探索這個方向，將記憶管理從被動記錄提升為主動的知識衛生（knowledge hygiene）。
AI Agent 的長期記憶設計，正面臨一個根本性的挑戰：我們不能只專注於如何「儲存」更多資訊，而必須思考如何「治理」這些記憶。若缺乏主動整理、合併與淘汰的機制，記憶層會因資訊重複、矛盾與過時而逐漸腐化，最終反過來污染系統判斷力，讓 Agent 變得不可靠。這不僅是技術更新，更是攸關長期自主系統能否成功的核心設計問題，也就是所謂的「知識衛生」（knowledge hygiene）。一個無法有效管理自身知識的系統，其智慧上限將被其混亂記憶所限制。
記憶的詛咒：為什麼 Agent 的筆記會「腐爛」？
任何曾經部署過長期運作 AI Agent 的開發者，可能都對一個場景不陌生：當你打開那個累積了數週甚至數月對話紀錄的 memory file 時，迎面而來的是一片混亂。同樣的觀察可能被用三種不同措辭重複記錄；上週的決策前提與本週的指令相互矛盾，卻並存於檔案中；一個早已被棄用的 API 注意事項，依然頑固地佔據著空間。Agent 擅長「即時記錄」，但「定期整理」這項關鍵工作，卻往往被忽略。
這種現象，我稱之為「記憶腐化」（memory corruption）。它源於一種樸素的假設：記憶越多越好。然而，在實務中，未經管理的資訊堆疊會帶來嚴重的負面效應。
首先，它會稀釋上下文的信號雜訊比。當模型處理一個長達數十萬 token 的記憶文件時，大量重複、無關或過時的資訊會成為干擾，導致其「注意力」失焦。史丹佛大學等機構的研究早已指出，在長上下文情境中，模型容易忽略中間部分的資訊，這個現象被稱為「Lost in the Middle」。
其次，矛盾的資訊會直接破壞邏輯鏈。如果記憶中同時存在「A 專案的截止日期是 7 月 15 日」和「A 專案已延期至 8 月 1 日」兩條紀錄，Agent 在沒有額外指導的情況下，可能會做出錯誤的判斷。長期下來，這種充滿內在矛盾的記憶庫，會讓 Agent 的行為變得極不穩定且難以預測。
Anthropic 如何讓 AI 在「夢境」中整理思緒？
面對這個棘手的問題，Anthropic 在 2024 年 5 月 6 日的「Code with Claude」活動中，提出了一個極具啟發性的功能，並隨後更新至官方文件，稱為 Dreams (dreaming)。這個設計的靈感，顯然來自於人腦在睡眠中鞏固和整理記憶的過程。它並非被動地等待指令，而是讓 Agent 有機會「自主地」反思並重構其記憶文件。
其運作機制大致如下：
- 觸發時機：開發者可以設定一個觸發條件，例如當 memory file 達到一定大小（如超過 50,000 token），或是在 Agent 閒置超過一定時間（如 24 小時）後。
- 整理指令：系統會給予 Claude 一個特殊的 meta-prompt，指示它閱讀整個 memory file，並生成一個更簡潔、更有組織、沒有矛盾的新版本。
- 執行過程：在這個「夢境」狀態中，模型會執行多項任務，包括合併重複的資訊、解決明顯的矛盾、移除過時的筆記，並可能根據內容創建新的摘要或索引。
- 覆蓋更新：整理完成後，新產生的記憶文件會取代舊版本，為 Agent 的下一次互動提供一個更乾淨、更高品質的知識基礎。
這個過程類似於軟體開發中的「程式碼重構」（code refactoring）。重構不會改變程式的外部行為，但能改善其內部結構，使其更易於維護和擴展。同樣地，「dreaming」也不會增加新知識，而是優化現有知識的組織結構，提升其可用性。
一個健康的記憶系統，其價值不在於儲存的絕對數量，而在於資訊的存取效率與準確性。Dreams 的設計理念，正是從「無限累積」轉向「動態平衡」。
為何 Dreams 不只是功能更新，更是記憶治理的設計哲學轉變？
將 Dreams 僅僅看作是 Anthropic 的一個 API 更新，會錯失其背後更深層的意義。它代表了一種關於 AI 記憶的設計哲學的轉變——從被動的「資料庫」思維，轉向主動的「知識治理」（knowledge governance）思維。這意味著我們需要為 Agent 設計一套內在的「知識衛生」機制。
一個成熟的記憶治理框架，應該包含以下幾個核心要素：
- 主動合併與去重 (Active Consolidation & Deduplication)：系統應能定期識別語義上重複的資訊並將其合併，如同 Dreams 的核心功能。這需要超越簡單的字面比對，運用向量嵌入等技術來理解語義相似性。
- 權威性標記與版本控制 (Authority & Versioning)：對於相互矛盾的資訊，系統需要一套機制來判斷哪個來源更權威，或哪個版本更新。例如，來自用戶的直接指令，其權威性應高於 Agent 的自我推斷。這類似於版本控制系統中的衝突解決邏輯。
- 定期遺忘與封存 (Scheduled Forgetting & Archiving)：並非所有記憶都同等重要。類比人類大腦的記憶鞏固與遺忘機制，Agent 系統也需要將短期、操作性的記憶（如「今天下午三點開會」）與長期、概念性的知識（如「專案的核心目標」）區分開來。過時的短期記憶應該被自動封存或遺忘，以避免干擾。
實現這些功能，意味著我們不能再將記憶層視為一個簡單的文字檔案或向量資料庫。它本身就需要成為一個小型、智慧化的系統，具備自我維護的能力。這也對開發者提出了更高的要求：我們不僅要設計 Agent 的核心能力，還要設計它的「認知新陳代謝」過程。
最終，一個能夠長期可靠運作的 AI Agent，必然是一個懂得如何管理自身記憶的 Agent。它知道什麼該記住，什麼該整合，以及最重要的——什麼該忘記。Anthropic 的 Dreams 為我們展示了一種可能的路徑，而這條路通往的，是更具韌性、更可信賴，也更接近生命體智慧形式的 AI 系統。
我是江中喬，專注於 AI Agent Architecture、Memory Governance 與 Cognitive Diversity，持續研究如何打造能夠長期協作、可信任且可治理的 AI 系統。