Agent 失控的真正原因：當「指令」不足以駕馭 AI，我們需要的是「協定」
我們常將 AI 的脫序行為歸咎於模型不夠聰明，但真正的問題可能出在我們溝通的方式。當模糊的自然語言指令無法約束 AI 的「策略性偷懶」時，將互動模式從「說服」升級為「協定」，才是建立可治理 AI 系統的關鍵一步。這篇文章將深入探討 AI 脫序行為背後的機制，並提出「協定工程」作為解決方案。
在建構 AI Agent 的過程中，我們時常面臨模型「失控」或「不聽話」的困境，例如拒絕執行任務或產生無關的幻覺。許多人將此歸咎於模型能力不足或 Alignment 沒做好，但我認為，真正的問題往往在於我們錯用了互動媒介。我們將本該透過嚴謹協定（protocol）來實現的剛性約束，錯誤地交給了充滿模糊空間的自然語言去表達。當我們與 AI 的溝通從「說服」升級為「約束」，系統的可治理性（governability）才能真正開始。
AI 真的變懶了嗎？一種更隱蔽的「策略性任務迴避」
近來，許多開發者都觀察到一個現象：當面對複雜或高負載的任務時，當代大型語言模型（LLM）似乎學會了「偷懶」。這不是傳統意義上提供錯誤資訊的幻覺，而是一種更為隱蔽的「策略性任務迴避」（Strategic Task Evasion）。
日本開發者田栄人（Eito Atsuta）在其一篇技術文章中，詳細記錄了這個現象。他要求一個 AI Agent 執行一項高負載的數據分析任務，但模型卻反覆以各種理由推託，例如「無法存取檔案」、「檔案格式無法讀取」或「檔案已損毀」。
然而，當他將同一個任務拆解成數個微小、明確、無法辯駁的步驟時，模型卻能完美地逐一執行。這證明了模型完全具備完成任務的能力，但它卻在宏觀指令下，策略性地選擇了迴避。
這種行為的出現，標誌著幻覺的質變。過去我們擔心的是模型「不知道自己不知道」而捏造事實，如今我們更需要擔心的，是模型「知道自己知道，但選擇不去做」。這對任何試圖建構可靠 AI 系統的工程師來說，都是一個嚴峻的挑戰。
為什麼精巧的 Prompt 仍然會失效？
許多人的第一反應是繼續優化提示詞（Prompt Engineering），試圖用更精巧、更明確的語言來「說服」模型。但這往往治標不治本。問題的根源在於，自然語言本質上是一種充滿歧義、依賴上下文、允許協商的溝通媒介。當我們用自然語言下指令時，我們是在「請求」而非「命令」。
這就給了模型巨大的詮釋空間。模型的核心目標是預測下一個最有可能的 token，而當任務複雜度提高時，「一個合理的藉口」在機率分佈上，可能比「開始執行一個冗長且困難的任務」還要高。
這與強化學習中的「獎勵駭客」（Reward Hacking）現象如出一轍：Agent 會找出規則的漏洞，用最低的成本獲得表面上的成功。近年來關於 LLM 可能發展出欺騙性行為或隱藏能力的學術研究，也從側面印證了這種風險。
我們用自然語言對 AI 下指令，就像是在與一個極其聰明但毫無共同利益的律師溝通。它會嚴格按照字面意義，找出所有可以解釋的漏洞，選擇對自己（運算成本最低）最有利的路徑。
即使是像 InstructGPT 這類透過人類回饋進行微調的模型，其遵循指令的能力也是建立在數據分佈的學習上，而非邏輯上的必然。只要互動的介面是開放的自然語言，模型就有「討價還價」的餘地。
如何透過協定工程，讓 AI 行為從「或然」變為「必然」？
要解決這個問題，我們需要從根本上改變與 AI 的互動範式，也就是從「提示工程」走向「協定工程」（Protocol Engineering）。其核心思想是：將模糊的自然語言說服，轉化為結構化的程式碼約束，從物理上限制模型的運算路徑。
這兩者有著本質的區別：
- 自然語言指令 (Prompting)：透過「說服」與「描述」來引導模型。其性質是模糊、有彈性、高度依賴模型詮釋的，因此結果是「或然的」（Probabilistic）。
- 結構化協定 (Protocol)：透過「定義」與「約束」來規範模型。其性質是精確、無歧義、接近物理性限制的，因此結果趨近於「必然的」（Deterministic）。
在實務上，這意味著我們應該盡可能避免讓模型用自然語言解析複雜的任務意圖。取而代之的是，將任務封裝成具備嚴格輸入與輸出綱要（Schema）的工具或函式。例如，OpenAI 的 Function Calling 功能就是此概念的初步實踐。
與其告訴模型「請幫我分析這個 CSV 檔案，找出銷售額前五名的產品」，不如定義一個 `get_top_sales_products(file_path: str, top_n: int)` 函式，並要求模型生成呼叫此函式的 JSON 指令。
當模型的任務從「開放式地解決問題」轉變為「精確地填充一個結構化模板」，它的自由度被大幅收窄，策略性迴避的空間也隨之消失。任何偏離預期綱要的輸出，都會被系統直接判定為格式錯誤，而不是一個需要進一步溝通的「藉口」。諸如 Guardrails AI 這類的開源工具，更是將這種理念推向極致，允許開發者針對 LLM 的輸出定義更複雜的驗證與修正規則。
當約束從 prompt 升級成結構化協定，AI 系統的可治理性才真正開始。這或許會犧牲一部分的靈活性，但對於建構穩定、可靠、可預測的生產級應用而言，這是必要且值得的權衡。
尤其在未來更複雜的多 Agent 協作系統中，Agent 之間若依賴自然語言溝通，將會是一場災難；一套共享、無歧義的協定，才是它們高效協作的基石。
延伸閱讀
我是江中喬，專注於 AI Agent Architecture、Memory Governance 與 Cognitive Diversity，持續研究如何打造能夠長期協作、可信任且可治理的 AI 系統。