你的 AI Agent 驗證器，是否已成為新的幻覺來源？

在建構 AI Agent 時，我們最關心的問題之一就是「可靠性」。但什麼是可靠？多數人直覺上會認為，可靠就是「它有沒有成功完成任務？」。然而，我認為這個問題本身就隱藏著一個巨大的陷阱。如果我們只用最終結果的成敗來評估與獎勵 Agent，那麼負責評估的「驗證器」（Verifier）本身，就可能成為一個新的、更隱蔽的幻覺來源。它會獎勵那些「碰巧做對」的 Agent，懲罰那些「步驟正確但因外部因素失敗」的 Agent，最終只會讓我們離真正可靠的系統越來越遠。

要解決這個問題，關鍵在於重新設計驗證器的核心邏輯：我們必須將「過程評估」、「結果評估」與「失敗歸因」這三件事徹底拆開。一篇於 2026 年 4 月發表的論文 The Art of Building Verifiers for Computer Use Agents，就提出了一個名為「Universal Verifier」的框架，其設計理念與我的觀察不謀而合，為這個方向提供了具體的實踐路徑。

為什麼只看結果的驗證器會失效？

想像一個情境：你要求一個 Agent 幫你預訂下週飛往東京的機票。Agent A 透過一連串複雜的網頁操作，最終成功訂票；Agent B 遵循了最標準的訂票流程，但在最後一步，航空公司的網站剛好當機，導致訂票失敗。

一個只看結果的驗證器，會毫不猶豫地給 Agent A 高分，卻給 Agent B 低分。然而，這樣的評估方式卻是短視且危險的。或許 Agent A 的成功路徑充滿了不必要的冗餘操作，甚至利用了某個網站的暫時性漏洞，這種行為在未來可能不僅無法複製，甚至可能引發新的問題。反觀 Agent B，它的失敗並非自身規劃或執行能力的缺陷，而是不可控的外部因素所致。如果我們的獎勵機制持續懲罰 Agent B 這樣的「非戰之罪」，模型最終學到的，可能不是如何「遵循穩健可靠的流程」，而是如何「不擇手段地達成目標」。

這就是驗證器自身的幻覺：它把「運氣好」誤判為「能力強」，把「環境差」誤判為「能力弱」。這種評估方式，根本無法為我們帶來真正能在多變環境中穩定運作的 Agent。在更複雜的任務中，這種錯誤的獎勵訊號，只會讓 Agent 的行為變得越來越難以預測，也越來越難以信任。

如何設計一個更聰明的驗證器？

前述的論文雖然聚焦於電腦操作類型的 Agent，但其核心設計原則具有普遍的參考價值。它之所以能將誤判率降至接近零，主要來自於對評估維度的細緻拆解。我將其核心理念歸納為以下幾個關鍵點：

分離過程與結果獎勵

首先，驗證器不應再只回傳一個簡單的「成功/失敗」布林值。它必須具備能力，分別評估 Agent 執行的「路徑」（Path）是否合理，以及最終產生的「結果」（Outcome）是否符合預期。即使最終結果未能成功，若 Agent 採取的路徑是合理且穩健的，也應獲得部分的肯定與獎勵。

區分可控與不可控失敗

其次，也是最關鍵的一步，驗證器需要具備精準判斷失敗根源的能力。它必須能區分：失敗是因為 Agent 的指令錯誤、規劃失當（這些是「可控」的失敗），還是因為目標檔案不存在、網路突然中斷、API 權限不足等外部因素（這些是「不可控」的失敗）？這種精準的失敗歸因，是建立公正獎懲機制的基石。

提供結構化的回饋

最後，一個真正好的驗證器不應只扮演裁判的角色，更應該是 Agent 的教練。它應該回傳結構化、詳細的錯誤報告，明確指出是哪一步、哪個環節出了問題，以及失敗的具體類型。這對於 Agent 的後續除錯與模型微調至關重要，也能讓我們更深入地追蹤模型的「思考」過程，從而實現更精準的優化。

為了確保這種新的驗證器真的符合人類的判斷邏輯，研究團隊還推出了 CUAVerifierBench 這個基準測試。這也提醒了我們一個重要的原則：評估工具本身也需要被評估，否則我們只是在用一個黑盒子去測量另一個黑盒子，這在追求語言模型的全面評估（Holistic Evaluation）時尤其重要。

我們對 AI 系統可靠性的追求，不應止步於提升任務成功率的數字，而應深入到對其行為過程的理解與引導。一個無法區分過程好壞與失敗原因的評估系統，本身就是不可靠的。

驗證器是 Agent 系統的最後一道防線

在現實世界中，打造 AI Agent 就像是在一片充滿不確定性的沼澤中開闢道路。我們無法預期所有可能遇到的障礙。因此，比起訓練一個「永遠不會犯錯」的 Agent，設計一個能「精準理解錯誤」的系統，或許是更務實、也更具戰略意義的目標。

從 OpenAI Evals 這類開源框架到各家公司內部的評估套件，我們能看到業界對評估標準化的努力。但這些工具多數仍側重於結果的正確性。我認為，下一步的演進方向，必然是將過程品質與失敗歸因納入自動化評估的核心。這不僅是一項技術上的挑戰，更代表著產品哲學上的重大轉變。

當我們將 Agent 應用於更關鍵、風險更高的場景時，例如金融交易、醫療輔助或自動化軟體工程，我們需要的，不是一個偶爾能創造驚喜的「天才型」Agent，而是一個行為穩健、決策透明、知錯能改的「專家型」Agent。而要養成這樣的「專家」，其關鍵始於一個不會產生幻覺、懂得明辨是非的驗證器。這道防線的品質，將直接決定我們敢在多大程度上信任與授權這些日益強大的 AI 系統，正如 GPT-4o 的系統卡中所強調的，對模型能力的評估與安全措施是並行不悖的。

延伸閱讀

• The Art of Building Verifiers for Computer Use Agents (arXiv:2604.06240)
• Anthropic's Responsible Scaling Policy

我是江中喬，一位具有 TPM 與產品管理背景的 AI 系統建構者，目前專注於 AI 認知增強系統與多 Agent 協作架構的設計與實踐。