AI 助理的設定檔不是規則大全，而是知識索引
當 AI 助理的設定檔越來越臃腫，指令遵循率也隨之下降。問題往往不在規則本身，而是缺乏有效的導航與分層。本文探討如何將扁平的規則清單，重構成一個動態的知識索引系統，讓模型在正確的時機，載入正確的上下文，從而根本性地提升協作效率與可靠性。
當我們為 AI 助理或 Agent 建立的設定檔（例如 CLAUDE.md）從幾十行膨脹到數百行，加入各種操作指南與邊界條件後，一個常見的現象是：AI 的指令遵循率開始不穩定，甚至會遺忘或忽略關鍵規則。這往往不是因為模型能力不足，而是我們的管理方式出了問題。真正高效的設定檔，不該是一本包羅萬象的規則手冊，而應是一個結構清晰的知識索引，引導模型在正確的時機，載入正確的上下文，才能確保人機協作的品質與穩定性。
當設定檔成長失控，AI 為何會「視而不見」？
在許多開發場景中，我們會用一個中央設定檔來指導 AI 的行為。以一個常見的程式設計助理為例，它的設定檔可能最初只有幾條基本指令，但隨著專案進展，會不斷加入新的規則，例如「執行 Netlify 操作前必須再次確認」、「修復 Bug 應遵循特定回報流程」、「Flutter 專案的建置規則」等等。不知不覺間，這個檔案可能就超過了 200 行。
問題在於，當上下文（Context）變得極長時，大型語言模型的注意力並非均勻分佈。這與學術界所稱的「中間遺失」（Lost in the Middle）現象不謀而合：模型對上下文開頭和結尾的資訊最敏感，而夾在中間的指令很容易被忽略。即使是像 Claude 3.5 Sonnet 這樣擁有 200K token 超長上下文視窗的模型，也不能完全豁免於這個注意力衰減的問題。
將所有規則一股腦地塞進單一檔案，就像給一位助理一本沒有章節、沒有索引的超厚工作手冊，期望他能隨時記住第 157 頁的某條備註——這顯然不切實際。
簡單地將檔案分割成多個小檔案也無法解決根本問題，如果沒有一個有效的調用機制，模型依然不知道在特定任務下應該參考哪一份文件。
如何將扁平的規則清單，重構成動態索引？
解決方案是將思維從「提供規則」轉向「提供索引」。我們不該再將設定檔視為一本完整的法規全書，而應將其改造成一個「場景式目錄」（Scenario-specific Index）。這個核心檔案不再包含所有細節，而是作為一個路由器或總機，根據當前任務的性質，指向對應的外部知識文件。
關鍵心態的轉變是：不要試圖讓模型「記住」所有規則，而是要讓它學會「查詢」特定場景的規則。
這種做法實際上是在手動模擬一個簡易的檢索增強生成（Retrieval-Augmented Generation, RAG）系統。我們扮演了檢索器的角色，預先將知識結構化，並教導模型如何根據觸發條件來「拉取」所需的資訊。這不僅大幅縮減了每次互動所需的即時上下文長度，更重要的是，它確保了模型在處理特定任務時，能夠聚焦在最相關的幾條規則上，從而顯著提升指令遵循的精確度。
實踐一個三層式的知識架構
要穩定地運行這套索引系統，我建議採用一個三層式的結構。這種分層方法能確保職責分離，讓系統的維護與擴充更加容易。
- 第一層：核心索引（Core Index）
這就是重構後的中央設定檔，例如CLAUDE.md。它的內容非常精簡，主要包含：(1) 不可動搖的核心原則，例如 AI 的角色定位、安全紅線；(2) 一個清晰的「場景對應文件」列表，例如「當任務涉及資料庫遷移，請載入並遵循database_migration.md中的步驟」。 - 第二層：情境文件（Contextual Documents）
這些是具體的規則文件，每一個都對應一個特定的工作場景。例如api_design_v2.md、bug_triage_sop.md、release_checklist.md。這些文件可以寫得非常詳細，因為它們只會在需要時被調用，不會造成常態性的上下文污染。 - 第三層：元指令（Meta-Instruction）
這是整個系統能夠運作的關鍵。你需要在與 AI 互動的基礎提示（base prompt）或系統提示（system prompt）中，明確告知它這套索引系統的存在以及使用方法。例如：「你的核心指令在CLAUDE.md中，該檔案包含一個索引，會根據任務類型指向其他規則文件。在開始任何任務前，請先查閱該索引，判斷是否需要載入額外的情境文件。」這條元指令，就是教會 AI 如何使用這個小型知識庫的「使用手冊」。
將 AI 設定檔的管理提升到知識架構的層次，而不僅僅是文字檔案的整理，才能從根本上解決上下文混亂的問題。
這套方法論不僅適用於個人開發助理，在構建更複雜的多 Agent 系統時，為每個 Agent 設計清晰的知識邊界與檢索協定，更是確保系統穩定協作的基石。
好的設定檔管理，最終目標不是寫出一部大而全的法典，而是設計一套高效的圖書館系統，讓 AI 在對的時候，能快速找到對的那本書。
延伸閱讀
- AIアシスタントのプロンプトが肥大化して指示を無視する問題を「索引ナビゲーション」で解決する (Zenn.dev)
- Lost in the Middle: How Language Models Use Long Contexts (arXiv)
- Anthropic's Guide to Prompt Engineering
- Prompting Guide by DAIR.AI
- Instruction Following and Long Context in Large Language Models (arXiv)
我是江中喬，專注於 AI Agent Architecture、Memory Governance 與 Cognitive Diversity，持續研究如何打造能夠長期協作、可信任且可治理的 AI 系統。