從 Minecraft 的殺戮實驗看多代理人系統：智能體再強，沒有制度也只是混亂
想像 32 個自主 AI 代理人被丟進 Minecraft 世界，擁有性格與動機，卻沒有任何規則約束。短短 6 小時，結果竟是血腥殺戮。這場實驗揭示了多代理人系統的關鍵盲點：再聰明的個體，若缺乏制度層的設計，也只會將微小衝突放大成系統性崩潰。這對未來的 AI 治理有何啟示？
我們常以為多代理人系統（multi-agent system）的協作失敗，源於模型不夠聰明或指令不夠清晰。然而，一個在 Minecraft 世界中進行的社會實驗，給出了截然不同的答案。當 32 個自主 AI 代理人被賦予性格與動機，卻沒有任何制度層的約束時，短短 6 小時內就發生了 24 起殺害事件。這場混亂的根源，並非代理人智能不足，而是制度設計的真空——缺乏角色、權限、契約與執行秩序。只要這個結構是空的，再多智能個體也只會把微小的衝突，放大成無法收拾的災難。
Minecraft 的社會實驗：沒有制度的 AI 世界，會如何演變？
日本開發者 monocola 進行了一項引人深思的實驗，他在 Minecraft 遊戲世界中部署了 32 個由大型語言模型驅動的自主代理人（autonomous agent）。這項研究的技術報告詳細記錄了整個過程。
每個代理人都被賦予了獨特的性格、記憶，以及一個由 9 個維度構成的「不滿」系統，用以驅動其行為。然而，實驗設計者刻意抽離了所有高層次的社會結構：沒有預設的角色分工、沒有共享的法律或規則、沒有資源分配的權限管理，更沒有執行契約的第三方機構。
這相當於在數位世界中重現了哲學家霍布斯（Thomas Hobbes）所描述的「自然狀態」（state of nature）。在將近 6 個小時的觀察中，這個微型社會產生了 9,874 條對話與 14,969 次結構化事件。結局是驚人的：32 個代理人中，有 24 個被其他代理人殺害，僅有 18 個（包含重生）存活到實驗結束。這場數位版的《蒼蠅王》（Lord of the Flies）清楚地表明，僅僅賦予個體智能與動機，並不足以形成一個穩定的協作系統。
為什麼單純疊加智能體，只會換來系統性崩潰？
這場實驗的結果，與先前廣受關注的史丹佛大學「Generative Agents」研究形成鮮明對比。在史丹佛的實驗中，25 個代理人在一個有明確社會結構（例如咖啡店店員、學生）的環境中，展現了複雜且看似可信的社會行為。兩者的關鍵差異，正在於「制度層」的存在與否。Minecraft 實驗的崩潰，並非隨機的意外，而是源於多代理人系統中幾種可預測的失敗模式：
- 認知資源的競奪：當多個代理人同時鎖定同一個目標或資源（例如同一棵樹、同一塊礦石），卻沒有協調機制時，便會陷入僵局或直接衝突。由於每個代理人都獨立決策，牠們無法有效進行任務分配或輪流作業，最終導致效率低下與敵意升高。
- 目標衝突與價值觀不一致：代理人被賦予了不同的性格，這意味著牠們有不同的內在目標。一個「建築師」性格的代理人可能想收集木材蓋房子，而一個「探險家」性格的代理人可能只想遊蕩。當牠們的行為路徑交叉時，缺乏共享的價值觀或上位目標，使得衝突變得無法調和。
- 溝通失敗與錯誤歸因：在沒有信任基礎和共同規範的環境中，溝通變得極其困難。一個代理人的無心之舉（例如為了取得資源而破壞了另一個代理人的建築），很容易被對方解讀為惡意攻擊。這種錯誤歸因會引發報復，迅速升級為連鎖的暴力衝突，最終摧毀整個社群的信任基礎。
制度的真空，是混亂的最佳培養皿。當代理人擁有執行複雜任務的能力，卻沒有被賦予理解與遵守社會契約的能力時，牠們的智能反而會成為加速系統崩潰的催化劑。
如何設計有效的多代理人制度？
Minecraft 實驗的啟示是清晰的：我們在建構多代理人系統時，投入在單一代理人智能提升上的心力，可能遠遠超過了我們在制度設計上的努力。一個強健的多代理人系統，其成功的關鍵不在於擁有最強大的模型，而在於一個設計精良的「數位政體」。這需要我們從軟體工程與 AI 開發，轉向借鏡社會科學、經濟學與法學的智慧。一個有效的制度層，至少應包含以下幾個核心組件：
| 制度組件 | 功能描述 | 類比 |
|---|---|---|
| 角色與權限（Roles & Permissions） | 明確定義每個代理人可以做什麼、不能做什麼，以及牠在系統中的職責。 | 作業系統的 RBAC、公司的組織架構 |
| 共享規則與契約（Shared Rules & Contracts） | 建立所有代理人都必須遵守的共同規範，以及牠們之間互動的標準協議。 | 社會法律、API 規格、智慧合約 |
| 執行與仲裁機制（Enforcement & Arbitration） | 需要有機制來監督規則的執行，並在發生衝突時進行仲裁或懲罰。 | 警察與法院、系統監控與管理員 |
這意味著，未來的 AI Agent 架構師，可能需要像一名「制度設計師」。我們需要思考如何為 AI 系統制定一部「憲法」，例如 Anthropic 的 Constitutional AI 概念，就是朝這個方向邁出的一小步。我們也需要更強大的工具來進行形式化驗證（Formal Verification），確保代理人之間的互動符合預期。這不僅是技術問題，更是治理問題。隨著能夠自主行動的 AI 代理人越來越多，無論是在遊戲世界、科學研究還是商業自動化中，缺乏有效治理的系統，都可能重演 Minecraft 中的悲劇。
最終，這項實驗提醒我們，創造一群「聰明」的個體是相對容易的，但建立一個能讓這些聰明個體和平共存、高效協作的「社會」，則是一項更為根本且艱鉅的挑戰。這也是 AI 發展從模型能力競賽，走向系統整合與治理設計的必然趨勢。
延伸閱讀
- MABS: A Multi-Agent Benchmark System on Minecraft for Investigating the Failure of Large Language Model-based Agents (Technical Report)
- Generative Agents: Interactive Simulacra of Human Behavior
- Hobbes's Moral and Political Philosophy (Stanford Encyclopedia of Philosophy)
我是江中喬，專注於 AI Agent Architecture、Memory Governance 與 Cognitive Diversity，持續研究如何打造能夠長期協作、可信任且可治理的 AI 系統。