告別單體式 AI：為什麼多代理人架構是處理複雜任務的務實解法

「上下文視窗越大越好」的迷思，正在複雜任務前顯露疲態。我們正目睹大型語言模型（LLM）的上下文視窗從數千 token 迅速膨脹到百萬等級，彷彿這場軍備競賽能解決一切。然而，單純擴大上下文並非萬靈丹。當任務的步驟、依賴關係與狀態管理變得錯綜複雜時，單一、巨大的上下文反而會成為認知負擔與成本黑洞。真正具備擴展性且務實的解法，是從根本上改變架構：將單體式（monolithic）的任務交付，轉變為一個由多個特化代理人（specialized agents）協作的系統。這不只是理論，更是 Anthropic 等公司正在積極部署的工程實踐，預示著 AI 系統設計的新篇章。

為什麼單一巨大上下文不是萬靈丹？

過去幾年，擴大上下文視窗被視為提升模型能力的主要途徑。理論上，更大的視窗能讓模型「看見」更多資訊，從而處理更複雜的任務。然而，實務上我們很快就遇到了瓶頸。首先是成本，百萬級 token 的處理不僅運算成本高昂，延遲也相當可觀。更關鍵的是認知效率問題。史丹佛大學等機構的研究早已指出，LLM 在處理長上下文時，容易出現「Lost in the Middle」現象——位於上下文中間的資訊很容易被忽略或誤解。

想像一下，要求一位全才顧問在一次會議中，同時處理法律、財務、行銷與技術四個領域的複雜問題，並要求他記住所有細節。即使這位顧問記憶力超群，他的心智頻寬也會被迅速佔滿，難以在每個領域都做出最佳判斷。單體式 LLM 面對的就是類似的困境。當所有工具、文件、狀態與指令都塞進同一個 prompt，模型的核心任務就不再只是解決問題，還包括在龐雜資訊中費力地進行自我導航與狀態管理。這不僅效率低落，也讓系統的行為變得難以預測與除錯。

多代理人協作，如何打造更具擴展性的認知架構？

與其打造一個無所不知的「全才」，不如建立一個各司其職的「專家團隊」。這就是多代理人系統（Multi-Agent Systems, MAS）的核心思想。這個概念並非全新，但在生成式 AI 時代，它找到了最迫切的應用場景。其基本架構是：

• 協調者（Coordinator/Orchestrator）：作為團隊的指揮官，負責理解整體任務目標，並巧妙地將其拆解成數個可執行的子任務。
• 專家（Specialists/Experts）：多個針對特定功能特化的代理人，例如「程式碼撰寫代理人」、「文件分析代理人」或「API 呼叫代理人」。每個專家只被賦予執行其任務所需的最小工具與知識，專注於自己的領域。
• 共享工作空間（Shared Workspace）：一個共通的環境，如檔案系統或資料庫，讓各代理人可以非同步地交換工作成果與狀態，確保資訊流通無礙。

這種分而治之的架構，帶來了幾個顯著優勢：首先是模組化與可維護性，每個代理人的職責單一，容易開發、測試與升級。其次是效率與平行處理，不同子任務可以交由不同代理人同時執行，大幅縮短整體任務時間。最重要的是認知專注，每個專家代理人只需處理其領域內的少量、相關的上下文，從而能更精準、可靠地完成工作，有效迴避了「Lost in the Middle」的問題。

我們正在從「提示工程師」（Prompt Engineer）的角色，演進為「認知系統架構師」（Cognitive System Architect）。關注點不再是如何寫出完美的單一提示，而是如何設計一個高效、可靠的代理人協作流程。

Claude Managed Agents 如何實踐這個理念？

Anthropic 在 Claude Managed Agents 中推出的多代理人協調（Multi-agent Orchestration）功能，正是此一理念的具體商業化實踐。目前這項功能仍在 Public Beta 階段，但其設計清晰地展現了上述架構的潛力。開發者可以透過 API 定義一個協調者與多個專家代理人，例如一個「報告生成」任務可以被拆解為：

1. 協調者收到「分析最新的市場數據並生成一份投資簡報」的指令。
2. 它將任務拆解，並行委派給：
   • 數據分析代理人：負責從資料庫撈取數據並執行 Python 腳本進行分析，產出圖表。
   • 文案撰寫代理人：負責根據分析結果，撰寫簡報的各章節文字。
3. 這兩個專家代理人共享同一個容器（container）與檔案系統，數據分析代理人將產出的 .png 圖表與 .csv 摘要檔存入共享空間。
4. 文案撰寫代理人讀取這些檔案，完成簡報草稿。
5. 最後，協調者整合所有產出，交付最終的簡報檔案。

這套系統的優雅之處在於，Anthropic 處理了底層的容器、檔案共享與狀態追蹤。開發者可以透過事件流（event stream）監控每個代理人的進度，讓整個複雜流程變得透明且可管理。這與微軟 AutoGen 或社群驅動的 CrewAI 等框架的出發點一致，但由模型供應商直接提供原生支援，意味著更底層的優化與整合可能性，也預示著這將成為未來 AI 開發的標準範式。

總結來說，當我們面對的任務複雜度超過單一 LLM 能優雅處理的範疇時，與其執著於擴充上下文視窗這個單一維度，不如退一步，從系統設計的角度思考。將龐大的單體任務，拆解為一個分工明確、協同作戰的代理人團隊，不僅是更有效率的解法，也是一條通往更健壯、可預測、可治理 AI 系統的務實路徑。這場從模型能力到系統架構的典範轉移，才剛剛開始。

延伸閱讀

• 【速報】Claude Managed Agents Multiagent Orchestrationを試してみた | DevelopersIO
• Lost in the Middle: How Language Models Use Long Contexts
• Managed agents overview - Anthropic

我是江中喬，專注於 AI Agent Architecture、Memory Governance 與 Cognitive Diversity，持續研究如何打造能夠長期協作、可信任且可治理的 AI 系統。