多代理系統的協作幻覺：為何增加 Agent 不等於提升決策品質？

從 Auto-GPT 到各式 AI Agent 框架，多代理系統（Multi-Agent Systems）的潛力令人振奮，我們常以為只要不斷增加代理人，就能解決複雜任務。然而，這忽略了一個根本制約：協作本身是有成本的。近期研究精準指出，多代理系統的可靠性上限，並非由單一代理人的智慧決定，而是受限於系統內部的通訊預算與資訊壓縮損耗。這意味著，追求更可靠的 AI 系統，我們應將目光從「個體智慧」轉向「系統效率」，重新思考 AI 協作架構的設計方向。

為何「三個臭皮匠」不一定勝過一個諸葛亮？

在許多人的直覺裡，團隊合作總是優於單打獨鬥。但在 AI 系統中，這個假設面臨嚴峻的挑戰。一篇名為《On the Reliability Limits of LLM-Based Multi-Agent Planning》的研究（Ao et al., 2024）為我們提供了堅實的理論基礎。研究者將大型語言模型（LLM）驅動的多代理規劃過程，建模為一個決策網絡，並從理論上證明：一個擁有全局資訊、能進行完美貝氏推斷的中心化決策者，其決策品質永遠會優於（或等於）任何形式的分散式多代理架構。

這個結論聽起來或許有些違反直覺，但其背後的邏輯非常清晰。所謂的「中心化決策者」，就像是擁有完美記憶力與無限資訊處理能力的諸葛亮，他能通盤考量所有情報，不會有任何遺漏或誤解。然而，多代理系統就像是由多位將軍組成的指揮部，每位將軍各自蒐集情報，再透過會議（通訊）來同步資訊並制定策略。在這個過程中，兩個關鍵的損耗點便會出現：

• 通訊頻寬限制： 將軍之間不可能鉅細靡遺地交換所有原始情報，他們必須進行總結和報告。
• 資訊壓縮損耗： 在總結報告的過程中，細節和上下文必然會遺失，這就是資訊壓縮帶來的損耗。

每一次資訊交換，都像是一次有損壓縮。隨著協作鏈路的拉長、代理人數量增加，這種損耗會被層層放大，最終導致整個系統的決策品質出現一個難以突破的理論天花板。這也解釋了為何許多早期的多代理實驗，如 Auto-GPT 或 BabyAGI，在處理複雜任務時容易陷入循環或做出次優決策。

通訊預算與資訊壓縮：我們看不見的系統成本？

要理解多代理系統的瓶頸，我們必須量化「通訊」這個概念。在 LLM 的世界裡，通訊預算很大程度上取決於模型的上下文視窗（Context Window）。例如，一個擁有 128K token 上下文視窗的模型，意味著它在單次「思考」中最多能處理約十萬個英文單字或數萬個中文字的資訊量。當一個代理人需要將它的發現傳遞給另一個代理人時，它必須將其觀察、推理過程與結論，壓縮成一段符合通訊預算（例如，一個不超過 4K token）的文字訊息。

在多代理系統中，我們支付的不是算力成本，而是「溝通」與「共識」的成本。每一個 token 的傳遞，都是對有限通訊預算的一次消耗。

想像一個由三位代理人組成的研究團隊，分別負責文獻回顧、數據分析與報告撰寫。文獻代理人閱讀了 50 篇論文後，不可能將所有論文全文傳給數據分析代理人，它只能產出一份幾千字的摘要。這份摘要必然會遺失原始論文中的微妙論述與邊界條件。數據分析代理人基於這份「二手資訊」進行分析，再將其結果（同樣是摘要）傳給報告撰寫者。最終的報告，其基礎已經是經過至少兩輪資訊壓縮的結果，其可靠性自然會打折扣。這正是資訊理論創始人克勞德・夏農（Claude Shannon）思想的體現：任何通訊管道都有其容量極限，資訊在傳輸與編碼過程中必然伴隨失真。

實務上，我們該如何設計更可靠的多代理系統？

理解了理論上的限制，不代表我們應該放棄多代理架構。恰恰相反，它指引我們走向更務實、更有效率的系統設計。與其盲目地增加代理人的數量，不如專注於優化它們之間的協作機制。我的實務經驗總結出以下幾個方向：

• 定義結構化的通訊協定： 與其讓代理人之間用模糊的自然語言溝通，不如設計更精確的通訊格式，例如使用 JSON 或 Pydantic 物件來交換結構化數據。這能大幅減少資訊在壓縮過程中的歧義與損耗，類似 OpenAI 的 Function Calling 機制就是一個很好的例子。
• 最小化協作路徑與層級： 設計更扁平化的協作拓撲，例如「中心輻射式」（Hub-and-Spoke）架構，由一個核心的「整合者」代理人負責與所有「專家」代理人溝通，避免資訊在多個節點之間輾轉傳遞，造成累積性損耗。
• 賦予代理人「壓縮」與「解壓縮」的能力： 在設計提示（Prompt）時，可以明確要求代理人在輸出摘要時，保留關鍵的假設、信賴區間與不確定性標記，讓接收方能更好地「解壓縮」資訊背後的完整脈絡。
• 權衡代理人的同質性與異質性： 與其讓一群能力相同的代理人進行投票，不如設計由不同角色的異質代理人組成的團隊。這正如馬文・閔斯基（Marvin Minsky）的「心智社會」（Society of Mind）理論所啟示的，智慧源於大量簡單、專一的「代理」之間的互動與協調。

總結來說，多代理系統的未來，不在於追求無限的「人海戰術」，而在於建立高效、低損耗的「通訊基礎設施」。當我們開始將每一個代理人都視為一個資訊處理節點，並將它們之間的互動視為有成本的網路傳輸時，我們才能設計出真正可靠、能解決複雜問題的 AI 協作系統。挑戰的核心，終究回到了系統工程與資訊科學的根本問題上。

延伸閱讀

• On the Reliability Limits of LLM-Based Multi-Agent Planning (Ao et al., 2024)
• A Survey on Autonomous Agent Foundation Models (UC Berkeley AI Research)
• LLM-powered Autonomous Agents (Lilian Weng)

我是江中喬，一位具有 TPM 與產品管理背景的 AI 系統建構者，目前專注於 AI 認知增強系統與多 Agent 協作架構的設計與實踐。