超越單一 Agent 的極限：為何「管理者-工作者」架構是擴展 AI 系統的關鍵

在建構 AI Agent 的過程中，我們常陷入一個迷思：只要模型夠強、工具夠多，就能解決所有問題。然而，單一 Agent 的擴展性有其物理極限。當上下文長度、工具數量與錯誤隔離能力同時失控，系統便會崩潰。我認為，將複雜任務解構為「管理者」（Supervisor）與「工作者」（Worker）的層級化架構，不只是性能優化的技巧，而是讓 Agent 系統真正具備可擴展性與韌性的架構轉折點。

為什麼我的 Agent 越變越笨？單一架構的三個隱藏天花板

你是否有過這樣的經驗：一個初期表現優異的單體式（monolithic）Agent，在我們不斷為它增加新工具、擴充知識庫後，行為卻開始變得不穩定且難以預測？這並非偶然，而是其架構已觸及了三個內在的擴展瓶頸：

首先是上下文壓力 (Context Pressure)。儘管如 Google Gemini 1.5 Pro 提供了百萬級 token 的上下文視窗，但「大海撈針」的問題依然存在。當一個 Agent 的 prompt 中塞滿了數十個工具的定義、冗長的對話歷史與中間步驟的思考鏈，核心任務指令很容易在噪音中被忽略，導致模型產生幻覺或做出不相關的回應。研究也指出，大型語言模型在處理長上下文時，容易遺忘中間部分的資訊。

其次是工具集過載 (Tool Overload)。當一個 Agent 被賦予超過 20-30 個功能各異的工具（API）時，它在每一步都需要從龐大的選項中做出正確決策。這不僅大幅增加了 token 消耗，也提高了模型選擇錯誤工具或傳遞錯誤參數的機率。這違背了 ReAct (Reasoning and Acting) 框架最初的簡潔精神，讓 Agent 的決策路徑變得複雜而脆弱。

最後是缺乏錯誤隔離 (Fault Isolation)。在單一 Agent 架構中，任何一個工具的失敗或非預期輸出，都可能污染整個任務的上下文。例如，一個用於資料查詢的工具如果回傳了空值或錯誤訊息，這個「毒性」的結果會被帶入後續的思考鏈，可能導致整個任務走向錯誤的終點。系統缺乏有效的錯誤處理與重試的隔離機制。

這三個問題環環相扣，最終導致系統的複雜度超出單一 LLM 推理核心所能有效管理的範疇。繼續在單一 Agent 上堆疊功能，無異於緣木求魚。

如何透過「管理者-工作者」模式重塑系統？

解決單一 Agent 困境的關鍵，在於「分而治之」。Supervisor-Worker 模式借鏡了組織管理的智慧，將一個龐大、模糊的任務，拆解成一個由協調者與多個專家組成的團隊協作。這是一種常見的多 Agent 系統（Multi-Agent Systems, MAS）設計模式。

在這個架構中，角色分工非常明確。管理者 (Supervisor) 就像團隊的專案經理，它的核心職責是：理解使用者的最終目標、將複雜任務拆解成一系列清晰的子任務、將每個子任務指派給最適任的「工作者」、監督執行進度，並在最後整合所有工作者的產出，形成最終的答案。Supervisor 本身不執行具體的業務邏輯，它只專注於規劃、調度與整合。

而工作者 (Worker) 則如同領域專家或工程師。每個 Worker Agent 都只被賦予極其有限的工具集（通常只有 1-3 個）和單一、明確的職責。例如，一個「資料庫查詢 Worker」只會操作 SQL 相關工具，一個「網路爬蟲 Worker」只負責抓取網頁內容。這種設計讓每個 Worker 的 prompt 極度簡潔，行為也更加穩定可靠。

這種架構轉變的本質，是將決策權與執行權分離。這不只是將一個大型 prompt 拆成數個小 prompt，而是從根本上改變了系統的資訊流與控制權結構，從而實現了真正的模組化與可擴展性。

透過這種層級化分工，前述的單一 Agent 困境迎刃而解：每個 Worker 的上下文都極小，不會過載；工具集被分散到不同 Worker，降低了決策複雜度；單一 Worker 的失敗可以被 Supervisor 捕獲並重新調度，實現了有效的錯誤隔離。

LangGraph 如何幫助我們實踐這種「管理者-工作者」架構？

要實現這種具備狀態管理與條件分支的複雜 Agent 互動，傳統的線性鏈（Chains）已力有未逮。這正是像 LangGraph 這類工具的價值所在。LangGraph 讓我們能以圖（Graph）的形式來定義 Agent 之間的協作流程，其中每個節點（Node）可以是一個 Worker Agent，而邊（Edge）則代表了 Supervisor 的決策邏輯與狀態轉移。

採用 Supervisor-Worker 架構並非沒有挑戰。常見的設計陷阱包括：

首先是過度拆分：將任務拆得過於零碎，可能導致 Agent 之間的通訊成本（token 消耗與延遲）急遽上升，反而降低了整體效率。

其次是職責邊界模糊：如果 Supervisor 與 Worker，或 Worker 之間的職責劃分不清，會導致任務被重複執行或遺漏。

最後是狀態管理複雜：在多個 Agent 之間同步共享的狀態（shared state）是一件棘手的事，需要謹慎設計資料流，避免競態條件（race conditions）。

儘管如此，我認為投入心力設計一個清晰的層級化 Agent 架構，是打造嚴肅、可維護 AI 應用的必經之路。正如 Andrew Ng 所提倡的 Agentic 設計模式，我們需要從單純的 prompt engineering 思維，提升到系統架構設計的層次。當我們不再將 LLM 視為一個無所不能的黑盒子，而是將其作為一個個可被編排、調度的「智慧元件」時，我們才真正開始掌握了建構複雜 AI 系統的能力。

延伸閱讀

• LangGraph Official Documentation
• Synergizing Reasoning and Acting in Language Models (ReAct)
• Agentic Design Patterns by Andrew Ng
• A Survey on Large Language Model based Autonomous Agents

我是江中喬，專注於 AI Agent Architecture、Memory Governance 與 Cognitive Diversity，持續研究如何打造能夠長期協作、可信任且可治理的 AI 系統。