AI 的典範轉移：從追求更大模型，到建構集體智能的「編排轉向」

我認為，AI 發展的典範正在轉移。過去幾年，我們見證了追求更大、更強單一模型的軍備競賽，但這條路的邊際效益正在遞減。真正的下一波優勢，將來自於「編排」（Orchestration）——也就是將多個特化模型、外部工具與記憶來源，有效地組織成一個協作無間的集體智能系統。這場「編排轉向」不僅是技術路線的演進，更意味著「編排者」（Orchestrator）的角色，將從過去單純的任務路由器，躍升為動態的策略核心。這將決定我們能否解決那些遠超任何單一模型能力的複雜問題。

為什麼我們不再只追求一個「萬能」模型？

大型語言模型（LLM）的發展，長期以來似乎遵循著一條簡單的邏輯：模型越大、參數越多，能力就越強。然而，這個趨勢正撞上兩大瓶頸：首先是訓練與推理成本的指數級增長，其次是單一模型在面對高度專業化或多步驟的複雜任務時，依然會出現能力短板。沒有一個模型能在所有領域都達到頂尖水準。

現實世界的問題往往是異質（heterogeneous）且需要多重能力的。例如，要完成一個軟體開發任務，可能同時需要程式碼生成、API 文件查詢、錯誤偵錯、版本控制等多種能力。與其訓練一個試圖涵蓋所有能力的巨大模型，一個更有效率、也更具擴展性的作法是，將任務拆解，交給各自領域的「專家模型」處理，再由一個更高層次的智慧體來協調它們的工作。這就是「編排者」登場的舞台。

Sakana AI 的 Fugu 模型如何引領動態編排的潮流？

最近由前 Google 研究員創立的 Sakana AI 所發表的 Fugu 模型家族，正是這個「編排轉向」的最佳例證。Fugu 的核心並不是另一個龐大的基礎模型，而是一個本身就是語言模型的「編排者」。它的任務不是直接回答使用者的問題，而是理解問題的本質後，動態地為這個特定任務「建構」出一個最適當的代理人協作框架（agentic scaffold）。

這與傳統的固定工作流（fixed workflow）或簡單的代理路由（agent routing）有著本質區別。Fugu 不再是「如果 A，就執行 B」，而是在執行前先思考：「要解決這個問題，我需要哪些專家？它們應該以何種順序和方式協作？」

這種動態建構的模式，讓 AI 系統能根據問題的複雜度與類型，即時調用、組合不同能力的模型。為了滿足不同場景的需求，Sakana AI 推出了兩個版本：

• Fugu：為日常應用設計，平衡了回應品質與延遲。
• Fugu-Ultra：專為解決最棘手的難題而生，優先確保答案的最高品質。

這種做法承認了「沒有最好的模型，只有最適合的組合」，並將設計組合的智慧賦予了編排者本身。

編排器如何超越單一代理的極限？

透過這種查詢自適應（query-adaptive）的協作框架，Fugu 在多個極具挑戰性的基準測試中，取得了超越其他所有公開模型的頂尖（SOTA）成績。這些測試涵蓋了真實世界的複雜任務，例如：

• 軟體工程：SWE-Bench Pro、Terminal Bench
• 即時程式碼競賽：LiveCodeBench
• 研究生級別的科學問答：GPQA-Diamond
• 高難度綜合推理：Humanity’s Last Exam、CharXiv Reasoning

Fugu 的成功，並非來自於某個單一元件的強大，而是來自編排的智慧。當面對一個複雜的編碼問題時，編排者可能會動態組合一個「程式碼生成代理」、一個「靜態分析代理」和一個「除錯代理」。它懂得在生成初步程式碼後，交由分析代理檢查潛在錯誤，再讓除錯代理根據回饋進行修正，形成一個高效的回饋迴圈。這種能力是單一模型透過固定提示（prompt）難以達成的。

這也意味著，未來評估 AI 系統能力的標準，將不再僅僅是看單一模型的分數，而更需看重其作為編排者，在真實、多步驟任務中的整合與解決問題能力。

記憶體在集體智能中扮演什麼新角色？

當系統從單一智慧體演變為多代理人集體時，「記憶」的定義也必須隨之升級。過去，我們談論 AI 的記憶，多半是指基於 檢索增強生成（RAG）的短期上下文。然而，在一個協作系統中，記憶需要成為一個更持久、更結構化的共享知識庫。

最新的研究方向，是將代理人的記憶視為一個完整的「數據管理系統」，而不僅僅是一個向量資料庫。這意味著記憶系統需要具備以下特質：

• 持久性：跨任務、跨會話地保存學習到的經驗與知識。
• 結構化：不僅儲存非結構化文本，更能儲存實體、關係與流程等結構化資訊。
• 共享與協作：允許多個代理人同時存取、更新同一個記憶庫，並處理可能發生的衝突。

例如，MemGPT 這類研究就在探索如何讓 LLM 擁有類似作業系統的虛擬記憶體管理能力，使其能夠處理遠超上下文視窗限制的資訊。一個強大的共享記憶系統，是實現真正集體智能、讓代理人之間能夠有效協作與學習的基礎設施。

總結來說，AI 領域的「編排轉向」已經開始。未來的競爭優勢，將屬於那些能夠設計出最聰明、最高效編排者的團隊。價值正從作為「磚塊」的單一模型，轉移到作為「建築師」的編排系統。這不僅是技術上的演進，也為我們思考如何建構更強大、更可靠的 AI 系統，指明了新的方向。

延伸閱讀

• Fugu: A Collective Language Model (arXiv)
• SWE-bench: Can Language Models Resolve Real-World GitHub Issues? (arXiv)
• MemGPT: Towards LLMs as Operating Systems (arXiv)

我是江中喬，專注於 AI Agent Architecture、Memory Governance 與 Cognitive Diversity，持續研究如何打造能夠長期協作、可信任且可治理的 AI 系統。