AI Agent 工作流的最後一哩路：從技術可行到商業可持續的經濟學挑戰

自律型 AI Agent 的技術展示已不再新奇，我們正快速從「它能做什麼」的階段，轉向「它需要花多少錢才能穩定地做」的務實提問。近期一個結合大型語言模型與 Notion API 的實驗，成功打造出能自動分析需求、撰寫程式、並回報進度的端到端工作流。這證明了技術可行性，但也揭示了殘酷現實：高昂的 Token 成本與潛在維運開銷，使這類系統離商業化落地仍有距離。企業真正需要回答的是成本、穩定性與人工介入比例的經濟學問題，否則再驚豔的能力，也難以轉化為可持續的營運模式。

AI Agent 如何實現端到端工作流？一個實際案例解析

最近在開發者社群中，有一個有趣的實驗引起了我的注意。該實驗的目標是建立一個全自動化的軟體開發助理，其工作流程如下：

1. 需求接收： 使用者以自然語言提出需求。
2. 任務註冊： Agent 解析需求後，自動在 Notion 資料庫中建立一筆新任務。
3. 規劃與執行： Agent 接著為該任務制定執行計畫，並實際撰寫所需的程式碼。
4. 結果回報： 完成後，Agent 會將執行結果、產出的程式碼或相關日誌，自動寫回原先的 Notion 任務頁面中，完成閉環。

這個系統採用了階層式架構，由一個「主技能（Parent Skill）」調度三個「子技能（Child Skill）」，分別處理與 Notion 的互動、程式碼生成等不同任務。在為期 3 天的測試中，這套工作流確實成功地運作了。從使用者提出需求到最終看到 Notion 上的報告，整個過程無需人工介入。這類實驗清楚地表明，我們已經擁有足夠強大的模型（例如 Claude 3 Opus）與靈活的工具（如 Notion API），來搭建能處理複雜、多步驟任務的自律型 Agent。

為什麼 Token 成本是決定 Agent 生死的關鍵？

然而，當我們把視角從「功能展示」切換到「營運成本」時，問題就浮現了。實驗者觀察到，每完整運行一次端到端流程，都會產生非常可觀的 Token 消耗。這不是單一 API 呼叫的成本，而是一連串互動的累積結果。

這些高昂的 Token 消耗，主要來自於以下幾個關鍵環節：

• 理解與規劃： Agent 需要「閱讀」並理解長篇的需求描述，並與 Notion 的資料庫結構進行比對，這一步就需要大量的上下文 Token。
• 多輪對話與修正： 在生成程式碼的過程中，Agent 可能需要進行自我修正或與外部工具（如 Linter）互動，每一次的來回都是一次 Token 消耗。
• 狀態管理： 為了維持任務的連續性，Agent 必須在記憶體中保留大量的歷史對話與執行狀態，這進一步推高了每次呼叫的 Prompt Token 數量。
• 生成報告： 最後產出詳細的報告，同樣需要消耗大量的 Completion Token。

這就像是為每一個微小步驟都聘請了一位昂貴的顧問。當任務的複雜度稍高，或需要處理的上下文稍長（例如修改一個既有的大型專案），Token 成本很容易就會從幾美分飆升到數美元。若一個企業每天需要運行數百、甚至數千次這樣的自動化流程，其累積的 API 費用將會是一筆驚人的開銷。這也解釋了為什麼許多研究，如史丹佛大學的「Generative Agents」模擬小鎮實驗，雖然在學術上極具開創性，卻難以直接轉化為商業產品。

在 Agent 領域，最大的挑戰往往不是建構一個能成功跑完一次流程的 Demo，而是設計一個在失敗率、成本和延遲方面都可被接受的、能規模化運行的生產系統。

除了 Token 費用，還有哪些隱性成本阻礙 Agent 落地？

API 費用只是冰山一角，更深層的成本來自於系統的穩定性與不可避免的人工介入。一個自律型 Agent 在真實世界中運行，必然會遇到各種預料之外的「例外狀況」（edge cases）。這些預料之外的「例外狀況」（edge cases）可能包括：

• API 暫時性故障或回傳非預期的格式。
• 使用者提出的需求模糊不清或自相矛盾。
• 程式碼在特定環境下執行失敗。

當這些問題發生時，誰來處理？如果系統無法自我修復，就需要一位人類工程師介入除錯。這就引出了「人工介入比」（Human Intervention Ratio）的概念。如果一個 Agent 每執行 10 次任務，就有 3 次需要人工介入，那麼企業節省的勞動成本，可能還不足以支付工程師的除錯時間與高昂的 API 費用。

因此，評估一個 Agent 系統的真實價值，不能只看它在「理想路徑」上的表現。我們必須建立更全面的評估框架，例如微軟提出的 AgentBench，它涵蓋了從通用能力到在特定領域（如軟體開發、資料庫操作）的綜合表現。一個商業上可行的 Agent，其目標不應是 100% 的成功率，而是在可接受的成本內，將人工介入比降至最低，並確保其在 95% 的時間裡能穩定地提供價值。

從技術展示到可持續營運的這條路，本質上是一道經濟學問題。我們正從驚嘆於 Agent 「能做什麼」的時代，轉向務實地計算「用它做划不划算」的時代。未來的突破將不僅僅來自於更強大的模型，更會來自於能有效降低 Token 消耗的架構（如AutoGen 的多 Agent 對話框架）、更穩健的錯誤處理機制，以及更精準的成本效益分析。對所有 AI 系統的建構者而言，這將是下一個階段的核心挑戰。

延伸閱讀

• Claude Code と Notion 公式 MCP プラグインで自律型 AI Agent の Skill を作った話 (原始案例的日文技術分享)
• The Economic Case for Generative AI Agents (a16z 對 AI Agent 經濟效益的分析)
• AgentBench: Evaluating LLMs as Agents (一個全面評估 Agent 能力的學術基準)

我是江中喬，專注於 AI Agent Architecture、Memory Governance 與 Cognitive Diversity，持續研究如何打造能夠長期協作、可信任且可治理的 AI 系統。