Agent 的下一步：從一次性 Demo 到可維運的 Durable Execution

當前圍繞 AI Agent 的討論，大多聚焦於如何賦予其更高的自主性與更強的推理能力，但這可能搞錯了重點。我認為，Agent 系統的真正挑戰，從來不是讓它更自由，而是如何讓它動態生成的計畫，能被可靠地保存、恢復、追蹤與驗證。當一個 Agent 的執行過程（execution）變成持久化（durable）且可觀測的，它才能從脆弱的一次性 demo，進化成能進入 production 環境的穩定工作系統。這不僅是技術上的演進，更是決定 Agent 能否在真實世界創造價值的核心分野。

為什麼多數 Agent 仍停留在 Demo 階段？

自 2023 年初，以 Auto-GPT 為代表的自主 Agent 專案引爆了社群的想像力後，我們看到了無數驚豔的展示。這些 Agent 能自主拆解任務、使用工具、甚至自我修正。然而，只要嘗試將它們應用於稍微嚴肅的商業流程，就會立刻碰到一堵隱形的牆。這個問題的根源在於，多數 Agent 的運作模式是「in-memory」（記憶體內）且「stateless」（無狀態）的。

想像一個 Agent 需要執行一個長達 3 小時的複雜任務，中途可能需要呼叫數十個 API。在傳統的執行環境下，任何一個環節出錯——例如網路中斷、API 超時、或甚至只是執行節點重啟——整個任務鏈就會中斷，且難以從中斷點恢復。

所有中間狀態、已完成的步驟、以及後續的計畫，都會隨著執行緒的消失而付之一炬。開發者不僅難以除錯，更無法保證任務的最終一致性。這就是多數 Agent 至今仍是「玩具」而非「工具」的根本原因。

Durable Execution 如何成為解方？

Durable Execution（持久執行）並非新概念，它在傳統的分散式系統與工作流引擎中早已是核心。諸如 Temporal 或 Azure Durable Functions 等框架，其核心價值就是將一個長時程、有狀態的業務邏輯，抽象化為一段看似簡單的程式碼，而框架本身則在背後自動處理狀態的保存、失敗重試與進度恢復。這徹底解放了開發者，讓他們不必再手動管理複雜的狀態機。

最近 Cloudflare 發布的 Dynamic Workflows，讓我看到了將這個概念應用於 AI Agent 的絕佳可能性。它提供了一個有趣的視角：我們不該讓 Agent 在一個不受控的環境裡「自由發揮」，而是應該讓 Agent 扮演「計畫生成者」的角色。

Agent 的任務是根據目標，輸出一份結構化的執行計畫（例如一個 DAG, Directed Acyclic Graph），然後由一個持久化的工作流引擎來負責忠實地、可靠地執行這份計畫。

關鍵的思維轉變在於：執行的主體不再是那個充滿不確定性的 Agent 本身，而是由 Agent 所產生、具備確定性的「工作流程式碼」。

這種模式將 Agent 的「創造性」與執行的「可靠性」漂亮地解耦。Agent 的智慧體現在規劃階段，而一旦計畫確定，後續的執行就交給了穩定、可觀測、可追蹤的系統。這就像建築師（Agent）畫好藍圖後，由經驗豐富的工程團隊（Durable Workflow Engine）來負責施工，確保每一個步驟都精準到位。

Agent 如何從動態計畫走向可驗證的工作流？

在這種新範式下，一個 Agent 任務的生命週期會演變成以下幾個階段：

1. 規劃 (Planning)：給定一個高階目標，例如「分析公司上一季度的銷售報告並產生簡報」，Agent（通常由 GPT-4 等大型語言模型驅動）會生成一個詳細的、分步驟的計畫。這個計畫不再是模糊的文字，而是一個結構化的資料格式，如 JSON，描述了需要執行的動作、順序與依賴關係。
2. 轉譯 (Translation)：系統會將這份結構化的計畫，動態轉譯成工作流引擎可以理解的程式碼，例如 Cloudflare Workers 的 TypeScript 或 Temporal 的 Go/Java/TypeScript SDK。
3. 執行 (Execution)：工作流引擎接管執行。它會調度每一個步驟，自動記錄檢查點。即使某個步驟需要等待數小時的人工審批，或因外部 API 故障而需要在一小時後重試，引擎都能妥善管理狀態，並在條件滿足時自動喚醒後續流程。這遠遠超出了典型無伺服器函式（Serverless Function）那數分鐘到 15 分鐘的執行時間限制。

這種做法帶來哪些顯著好處？

• 可觀測性 (Observability)：每一個執行步驟、輸入、輸出都被完整記錄，除錯和審計變得輕而易舉。
• 韌性 (Resilience)：系統能從容應對暫時性故障，自動重試，並在嚴重錯誤後能從上一個成功的檢查點恢復，無需從頭來過。
• 可驗證性 (Verifiability)：由於執行計畫是明確的，我們可以在執行前對其進行驗證，確保它符合業務規則與安全規範，避免 Agent 產生「幻覺」或執行危險操作。

總結來說，我們對 AI Agent 的期待，不應止於驚嘆其湧現出的智慧火花。要讓 Agent 真正落地，成為企業級應用的一部分，我們必須為它套上一個可靠的「執行骨架」。Durable Execution 正是打造這個骨架的關鍵技術。當我們不再追求失控的自由，而是擁抱可控的執行時，AI Agent 才算真正走上了從 demo 到 production 的康莊大道。

延伸閱讀

• Announcing Dynamic Workflows (Cloudflare Blog)
• ReAct: Synergizing Reasoning and Acting in Language Models (arXiv)
• Temporal Application Development Foundations (Temporal Official Docs)

我是江中喬，一位具有 TPM 與產品管理背景的 AI 系統建構者，目前專注於 AI 認知增強系統與多 Agent 協作架構的設計與實踐。