從模糊到具體：AI Agent 如何學會自我修正，達成複雜目標？

我們在設計 AI Agent 時，經常陷入一個迷思：以為只要模型夠大、知識夠多，就能解決複雜問題。然而，真正的瓶頸往往不在於模型「知不知道答案」，而是系統缺乏將高階、模糊的目標，動態拆解成可執行、可演化的子目標樹的能力。當一個 agent 不僅能執行任務，更能反思、修正自己的目標結構時，才算真正具備完成高階任務的自治能力。這意味著，未來的重點將從單純的提示工程，轉向更複雜的任務規劃架構設計。

為什麼多數 AI Agent 仍難以應付高階任務？

目前主流的 Agent 架構，許多仍圍繞著類似 ReAct (Reasoning and Acting) 的思維，也就是「思考、行動、觀察、再思考」的循環。這個框架在處理定義明確、步驟清晰的任務時非常有效，例如回答一個具體問題或執行一項 API 呼叫。然而，當任務目標變得抽象（例如「為公司規劃一場成功的產品發表會」）或環境充滿未知與動態變化時，這種線性、單層的規劃方式就很容易碰壁。

問題在於，這些 agent 通常在任務開始時生成一個靜態的計畫，然後依序執行。一旦中途遇到預期外的障礙或發現初始假設錯誤，它們往往缺乏有效的機制來「重新思考整個計畫」，而不是僅僅「嘗試下一個不同的動作」。

這就像一個只能嚴格按照食譜做菜的廚房新手，卻無法像經驗豐富的主廚那樣，根據現有食材和突發狀況即時調整菜單。缺乏這種高層次的計畫修正能力，使得 agent 在面對長時程、多步驟的複雜任務時，表現得脆弱且缺乏韌性。

SelfGoal 提出了什麼新方法，讓 Agent 動態建構目標樹？

最近一篇由史丹佛大學等機構提出的論文 《SelfGoal: Your Language Agents Already Know How to Achieve High-level Goals》，便針對這個核心問題提出了一個極具啟發性的框架。它的核心論點是：大型語言模型（如 GPT-4o 或 Llama-3 70B）本身已經具備達成高階目標所需的知識，只是缺少一個能讓它們有效組織和運用這些知識的「作業系統」。

SelfGoal 框架的精髓在於引入了一個動態的「子目標樹」（sub-goal tree）。當 agent 接收到一個高階目標時，它會進行以下循環：

• 目標分解器 (Goal Decomposer)：首先，agent 會將模糊的高階目標分解成一個樹狀結構的具體子目標。例如，將「贏得談判」分解成「了解對手底線」、「提出初步報價」、「評估對手反應」等。
• 行動執行器 (Action Taker)：接著，agent 會選擇一個最底層的、可立即執行的子目標，並生成對應的行動。
• 自我修正器 (Self-Correction)：這是最關鍵的一步。在執行行動並觀察環境反饋後，agent 會評估當前的子目標樹是否仍然有效。如果發現某個子目標無法達成、不合時宜，或有更好的路徑，它會回溯並「重寫」目標樹的相關部分，甚至可能完全放棄某個分支，開闢新的路徑。

這種架構讓 agent 不再是靜態計畫的盲目執行者，而是一個動態的策略家。論文在多個具挑戰性的環境中進行了測試，包括需要長期生存與探索的 Crafter 遊戲、需要理解並執行居家指令的 AlfWorld，以及一個複雜的多代理人談判場景。實驗結果相當顯著：在一個三階段的談判遊戲中，採用 SelfGoal 框架的 agent 成功率比基準模型高出 13.7%，證明了這種動態目標管理的能力，能實質提升 agent 在複雜互動中的表現。

這對我們設計 AI 系統有何啟示？

SelfGoal 的研究，為我們思考如何建構更強大的 AI 系統提供了重要的方向。它提醒我們，與其不斷追求更大、更全能的模型，不如將一部分心力投入到設計更精巧的「認知架構」上。這意味著我們需要從「指令的執行者」轉向「目標的管理者」來思考 agent 的角色。

複雜任務的瓶頸，常常不是模型不知道答案，而是系統沒有把模糊目標轉成可演化的子目標樹。

這個觀點的轉變，帶來了幾個實務上的啟示。首先，agent 的「狀態」不僅僅是它的記憶或對話歷史，更重要的是它當前維護的「目標樹」。這個目標樹本身就是 agent 對任務理解程度的體現。

其次，我們需要為 agent 設計明確的「元認知」能力（metacognition），也就是讓它能夠反思自己的規劃過程。自我修正是這種能力最直接的展現。

這也解釋了為什麼像 Chain of Thought 或更複雜的樹狀思維（Tree of Thoughts）等技術能提升模型表現——它們都在強迫模型將思考過程結構化。SelfGoal 則更進一步，將這種結構化的思考從一次性的推理，擴展到一個與環境持續互動、不斷演化的動態過程。這才是打造能夠長期自主運作、解決真實世界模糊問題的 agent 所需的關鍵拼圖。

最終，這條路徑指向的是一個能夠自我治理、自我改進的 AI 系統。當 agent 能夠有效地管理和修正自己的目標時，我們才真正開始觸及「自主性」的本質，而不僅僅是更高級的自動化。

延伸閱讀

• SelfGoal: Your Language Agents Already Know How to Achieve High-level Goals
• ReAct: Synergizing Reasoning and Acting in Language Models

我是江中喬，專注於 AI Agent Architecture、Memory Governance 與 Cognitive Diversity，持續研究如何打造能夠長期協作、可信任且可治理的 AI 系統。