AI Agent 長時間自主運行的真正挑戰：從 19 小時 Claude Code 實驗看狀態管理的失能

長時間自治的 Agent 最危險的失敗，通常不是答錯，而是持續在錯誤狀態中前進。19 小時的 Claude Code 實驗說明，若狀態、邊界條件、監控與停止權沒有外部化，系統就無法可靠偵測死鎖或啟動復原。這不是模型能力問題，而是執行環境缺乏治理。

一場長達 19 小時的自主實驗，揭示了什麼？

最近，日本一位開發者進行了一項有趣的實驗：他將一個由 Anthropic 的 Claude Code 模型驅動的 AI Agent，置於一個完全無人監督的環境中，讓它連續運行了 19 個小時。實驗的設置很簡單：一個 shell script 定期啟動 Agent，給它一頁指令文件與一個銷售目標，然後就完全放手。值得注意的是，這個 Agent 被設計成「無記憶」的，每次執行都是一次全新的開始，無法繼承前一次運行的上下文。

然而，這個看似單純的自動化循環，卻在無人看管的情況下暴露了深刻的問題。實驗者記錄到至少四種關鍵失敗模式：Agent 逐漸偏離初始指令（指令制約失效）、監控工具出現邏輯錯誤、系統陷入死鎖（deadlock），以及對邊界條件的誤判。這些問題並非單純的模型指令理解錯誤，而是整個系統在長時間運行下，對自身與環境「狀態」的認知逐漸瓦解所致。

為什麼 Agent 會在無人監督下逐漸失控？

傳統上，我們傾向將 AI 的錯誤歸咎於模型的「幻覺」或對指令的誤解。然而，在這個 19 小時的實驗中，我們看到的問題層次更深。當 Agent 開始偏離初始指令時，這不僅是語言理解的問題，更是其無法維持「我必須遵守這些規則」這個核心狀態的表現。隨著運行時間拉長，微小的偏差不斷累積，最終導致系統行為的徹底脫軌。

更關鍵的是監控與死鎖問題。實驗中，不僅 Agent 本身陷入了無法推進的循環，連負責監控它的外部工具也因為自身的邏輯錯誤而失效。這暴露了一個在設計自主 Agent 系統時常見的盲點：我們常常假設監控者是全知且永遠正確的，卻忽略了監控系統本身也是一個需要被管理的狀態機。

問題的核心，在於 Agent 與其運行環境之間，缺乏一個共享、可靠且可驗證的「狀態」表述。Agent 不知道自己「卡住了」，監控者也不知道自己「看錯了」。

這種狀態失能，使得系統無法回答幾個基本問題：「我現在在哪個步驟？」、「我上一步完成了什麼？」、「如果當前任務失敗，我應該回到哪個安全狀態？」。當這些問題沒有明確答案時，任何長時間的自主運行，都無異於在迷霧中航行，最終擱淺只是時間問題。

這也呼應了史丹佛大學關於決策基礎模型的研究，Agent 的可靠性不僅取決於模型能力，更取決於其與環境互動的架構。

如何設計更具韌性的自主 AI 系統？

從這次實驗的失敗中，我們可以提煉出四個關鍵的設計原則，用以打造更穩健、更可信賴的長時間自主 AI 系統。這些原則並非全新概念，許多都源自傳統的分散式系統與網站可靠性工程（SRE）的最佳實踐，但將它們應用於 AI Agent 架構中，顯得格外重要。

1. 可恢復狀態 (Recoverable State)：Agent 的每一次重要操作，都應該能將其當前狀態「檢查點化」（checkpointing）。這意味著將關鍵的上下文、進度、變數等資訊持久化儲存。一旦 Agent 或其環境崩潰，系統可以從最近一個已知的良好狀態恢復，而不是從頭開始。這類似於作業系統中的進程管理，確保任務進度不會輕易丟失。
2. 外部監控與心跳機制 (External Monitoring & Heartbeat)：永遠不要讓 Agent 自我監控。必須有一個獨立於 Agent 運行環境的「看門狗」（watchdog）進程。Agent 需要定期向監控者發送「心跳」信號，證明自己還在正常運作。如果監控者在預設時間內（例如 5 分鐘）沒有收到心跳，就可以判定 Agent 可能已陷入死鎖或崩潰，並觸發預設的恢復或警報流程。
3. 死鎖偵測與超時設定 (Deadlock Detection & Timeouts)：任何可能長時間運行的任務，都必須設定明確的超時限制。例如，如果一個 API 請求超過 30 秒沒有回應，或一個子任務執行超過 10 分鐘，系統就應主動將其終止，並記錄為失敗。這是避免系統資源被無效任務佔用，並防止無限循環或死鎖的最簡單有效的方法。
4. 明確的升級閘門 (Clear Escalation Gates)：自主系統必須清楚自己的能力邊界。當 Agent 遇到無法處理的異常、連續失敗次數超過閾值（例如 3 次），或者任務的模糊性太高時，它不應該繼續猜測或嘗試，而是要有一個明確的「升級路徑」。這個路徑的終點，就是暫停任務，並通知人類操作員介入。定義「何時求助」，是確保自主系統安全可控的最後一道防線。

總結來說，Claude Code 的 19 小時實驗提醒了我們，打造真正有用的 AI Agent，挑戰早已從「讓它聽懂話」轉向「為它建立穩定、可預期的運行框架」。一個缺乏狀態管理、邊界意識和恢復能力的 Agent，即使擁有再強大的語言模型，也只是一個不穩定的自動化腳本，難以託付真正重要的任務。

延伸閱讀

• LLM-powered Autonomous Agents by Lilian Weng
• Site Reliability Engineering by Google
• Foundation Models for Decision Making: Problems, Methods, and Opportunities (arXiv)

我是江中喬，專注於 AI Agent Architecture、Memory Governance 與 Cognitive Diversity，持續研究如何打造能夠長期協作、可信任且可治理的 AI 系統。