多 Agent 系統的品質關鍵：為何角色設計與輸出契約，比模型投票更重要？

當我們談論建構多 Agent 系統時，腦中常浮現「三個臭皮匠，勝過一個諸葛亮」的直覺。許多人認為，只要引入更多 AI 模型，透過簡單的投票或共識機制，就能自然而然地提升輸出的品質與穩定性。然而，這種純粹依賴「數量」的暴力解法，往往只會導向平庸的平均值，而非真正卓越的洞見。

我認為，打造高效、可信賴的 AI 協作系統，其核心關鍵不在於模型的數量多寡，而在於協作框架本身的設計品質。真正的突破點，是建立清晰的「角色邊界」與嚴格的「輸出契約」，讓整個協作流程轉化為一個可測試、可究責的系統工程。

為什麼單純的模型投票，無法帶來卓越的 AI 協作？

單純讓多個通用模型（例如三個獨立的 GPT-4o 實例）對同一個問題進行回答，再選出多數決的答案，本質上是一種「多 AI 詢問」（multi-AI inquiry）。這種做法有其侷限性：

• 趨同性風險： 如果模型基於相似的訓練資料，它們的「世界觀」和偏見也會趨同，導致投票結果只是放大了單一模型的潛在盲點，而非帶來真正的多樣性。
• 缺乏深度： 它無法處理需要多步驟、多專業領域知識的複雜任務。這就像讓三個通才去解決一個需要結構工程師、材料學家和城市規劃師合作的問題，結果可能只是常識性的拼湊。
• 責任歸屬模糊： 當系統出錯時，我們很難追究是哪個環節、哪個決策導致了失敗。整個系統變成一個難以除錯的黑盒子。

真正的多樣性，源於角色與職責的刻意設計，而非模型的隨機組合。這引導我們走向一個更結構化的方法：角色協奏（Role Orchestration）。

如何設計一個可測試、可究責的 AI 協作框架？

與其盲目追求模型的數量，我們更應該將重心放在設計 AI Agent 之間精密的互動規則。參考日本軟體工程師 Singula 在 Qiita 上提出的「角色協奏計畫」（Role Orchestration Plan），一個穩健的 AI 協作框架應該包含五個核心維度。這不僅僅是提示工程（prompting）的範疇，更是深層次的系統設計（system design）。這五個維度共同構成了一份明確的「輸出契約」（Output Contract），確保每個 Agent 的貢獻都清晰、可驗證，並能無縫銜接：

1. 角色邊界（Role）： 明確定義每個 Agent 的職責與能力範圍。例如，一個 Agent 是「資深 Python 工程師，專精於非同步處理與錯誤日誌」，另一個是「QA 測試工程師，擅長尋找邊界條件與撰寫 pytest 測試案例」。角色定義越精確，分工越有效。
2. 證據要求（Evidence Requirement）： 要求 Agent 的輸出必須基於可驗證的證據。例如，一個負責撰寫程式碼的 Agent，其輸出不能只是一段程式碼，還必須引用相關的官方文件或設計模式來源。這能大幅降低幻覺（hallucination）的風險，並提升系統的可信度。
3. 輸出格式（Output Schema）： 規定 Agent 的輸出必須遵循嚴格的格式，例如 JSON Schema。這確保了 Agent 之間的溝通是機器可讀的，讓整個工作流可以被自動化串接與驗證。這也是 OpenAI 的 Function Calling 等技術的核心價值。
4. 決策權與反駁責任（Veto Power and Rebuttal Responsibility）： 定義哪些角色擁有否決權，以及當它們行使否決權時，必須提出具體的、可操作的修改建議與理由。這避免了無效的批評，並將互動導向建設性的迭代。例如，Anthropic 的 Constitutional AI 概念，就是透過規則來約束 AI 的行為，這與反駁責任的精神不謀而合。
5. 升級路徑（Escalation Path）： 設計當 Agent 之間出現無法解決的僵局時的處理機制。例如，連續 3 次無法達成共識後，將問題標記並提交給人類專家進行仲裁。這確保了系統在面對模糊或衝突情境時，不會陷入無限迴圈或產出低品質的妥協方案。

一個設計良好的多 Agent 系統，其價值不在於 Agent 的數量，而在於其互動規則的清晰度與嚴謹性。我們追求的不是共識，而是基於規則與證據的、可追溯的決策過程。

「多視點檢討」與「多 AI 詢問」的本質差異是什麼？

透過上述框架，我們能將協作模式從單純的「多 AI 詢問」升級為有意義的「多視點檢討」（multi-viewpoint review）。後者模擬了真實世界專業團隊的運作方式，例如程式碼審查（Code Review）或學術界的同儕審查（Peer Review）。

想像一個開發流程：

• 規劃 Agent： 根據需求文件，輸出一份包含主要功能模組與資料庫 schema 的 JSON 格式開發計畫。
• 開發 Agent： 接收開發計畫，撰寫 Python 程式碼，並在註解中引用相關演算法的來源論文（證據要求）。
• 品保 Agent： 接收程式碼，根據預設的測試規範（輸出契約的一部分）產生測試案例，並對程式碼提出包含具體修改建議（反駁責任）的審查報告。

在這個流程中，每個 Agent 都有明確的輸入、輸出與權責。整個系統的運作變得透明且可預測。這與微軟的 AutoGen 框架或史丹佛大學著名的「生成式代理」（Generative Agents）實驗中涉及 25 個 agent 的模擬小鎮一樣，其核心都在於定義 Agent 的角色與互動規則，而非單純讓它們自由對話。

最終，我們的目標是建立一個不僅能「運作」，更能被「治理」的 AI 系統。透過精心的角色設計與輸出契約，我們將 AI 協作從一門藝術，轉變為一門可測試、可迭代、可信賴的工程學科。這不僅能提升系統的最終產出品質，更重要的是，它為我們在日益複雜的 AI 應用中，保留了監督、問責與控制的能力。

延伸閱讀：深入探索 AI 協作的未來

• AI時代のSE・プログラマのためのAI壁打ち実践・発展編　第4回
• AutoGen: Enabling Next-Gen LLM Applications via Multi-Agent Conversation
• Generative Agents: Interactive Simulacra of Human Behavior

我是江中喬，專注於 AI Agent Architecture、Memory Governance 與 Cognitive Diversity，持續研究如何打造能夠長期協作、可信任且可治理的 AI 系統。