從 Prompt 到 Loop：AI 開發的下一個典範轉移

「我不再對 Claude 下指令了。我現在有的是迴圈。」Claude Code 開發者 Boris Cherny 的這句話，精準地預示了 AI 開發的典範轉移。當 AI 從單次問答的「對話夥伴」，演進為能長時間自主運作的「工作代理人」（Agent），我們的開發重心也必須從雕琢提示詞（Prompt Engineering），轉向設計更宏觀的系統流程。這意味著我們需要開始思考：如何定義清晰的目標、建立有效的回饋機制、設定合理的停止條件，以及規劃穩健的錯誤恢復路徑。這不僅是技術的演進，更是思維模式的根本位移。

Prompt 工程的極限在哪裡？

過去幾年，Prompt Engineering 無疑是 AI 開發的核心技能。我們投入大量時間學習如何撰寫精確、有引導性的提示詞，以期從大型語言模型（LLM）中榨出最理想的單次回應。這在許多場景下非常有效，例如內容生成、文本摘要或簡單的問答。然而，當任務的複雜度提升，需要多步驟的推理、與外部工具互動，或是在長時間內維持狀態時，單純依賴 Prompt 的模式便會顯現其脆弱性。

單次互動的模式就像是給予一次性的口頭指令，它缺乏長期記憶、難以自我修正，並且對初始指令的微小變動極為敏感。想像一下，當一個複雜的任務需要多步驟推理、與外部工具互動，或是在長時間內維持狀態時，單純依賴 Prompt 的模式便會顯現其脆弱性。

若試圖用一個龐大而精巧的「超級 Prompt」來解決複雜任務，結果往往難以維護且不穩定。當任務失敗時，我們很難判斷是 Prompt 的哪個環節出錯，或是模型本身的幻覺所致。因此，我們需要一個更具系統性、更穩健的框架來駕馭 AI 的能力，而不僅僅是與它進行一次性的對話。

AI 迴圈有哪些核心要素？

Boris Cherny 的觀察點出了新的方向。他不再扮演一個與 AI 對話的「提問者」，而是成為一個「迴圈設計者」。這個「迴圈」（Loop）本質上是一個自主運行的代理人框架（Agent Runtime），它代替開發者持續與 AI 互動，推動任務進展。這正是 「Write Loops, Not Prompts」 理念的核心。

I don't prompt Claude anymore. I have loops that are running. They're the ones that are prompting Claude and figuring out what to do next. My job is to write the loops.
— Boris Cherny, creator of Claude Code

這個典範轉移的核心，是將開發重心從「指令的內容」轉移到「流程的設計」。一個有效的 AI 迴圈，通常包含以下幾個關鍵組成部分：首先是目標（Goal），它清晰定義了系統最終需要達成的狀態，取代了單一、模糊的指令，成為整個迴圈運作的北極星。其次是回饋（Feedback）機制，讓系統能夠評估每一步行動的結果是好是壞，這些回饋可以來自程式碼的測試結果、API 的回傳值、用戶的反應，甚至是另一個 AI 模型的判斷。再來是停止條件（Stop Condition），明確定義迴圈在何時應該終止，例如成功達成目標、資源耗盡（例如超過 100 次迭代），或是偵測到無法解決的錯誤。沒有停止條件的迴圈是危險的。最後是錯誤恢復（Error Recovery），規劃當系統遇到預期外的狀況時，該如何應對，例如重試、尋求人類協助，或是切換到替代方案，這是確保系統穩健性的關鍵。

當我們開始用這個框架思考，AI 開發就不再是猜測模型心思的藝術，而更接近傳統軟體工程中的系統設計與狀態管理。

如何設計一個有效的 AI Agent 迴圈？

設計迴圈意味著我們的心態要從「我該如何問對問題？」轉變為「我該如何設計一個能自主尋找答案的系統？」。這需要我們更深入地思考任務的本質，並將其分解為可被機器執行的步驟。

以學術研究的文獻回顧為例，傳統方法可能是手動輸入多個 Prompt：「幫我摘要這篇論文」、「比較這三篇論文的貢獻」、「找出關於 AI Agent 記憶治理的最新研究」。而在迴圈設計的思維下，我們會建立一個 Agent，其目標是「產出一份關於 AI Agent 記憶治理的綜合性文獻回顧報告」。

這個 Agent 的迴圈可能會是這樣運作的：首先，使用搜尋工具（Action）查找相關論文；接著，分析搜尋結果（Observation），篩選出最相關的幾篇；然後，逐一閱讀並摘要每一篇論文；最後，綜合所有摘要，撰寫報告。在這個過程中，像 ReAct (Reason, Act) 框架這樣的思想就變得很重要，它讓模型在「思考」和「行動」之間交替，每一步都基於前一步的觀察結果來調整後續策略。這類基於大型語言模型的自主代理人（LLM-powered Autonomous Agents）的設計原則，在 Lilian Weng 的文章中也有深入探討。

近年來模型的進步，例如 Anthropic 的 Claude 3.5 Sonnet 所提供的 200K token 超長上下文視窗，也為這種長時間運作的迴圈提供了堅實的基礎。巨大的上下文容量讓 Agent 能夠在多次迭代中「記住」完整的任務歷史與中間產物，從而做出更連貫、更具策略性的決策。

最終，我們的角色從一個不斷提供指令的駕駛，變成了一位設計自動駕駛系統的工程師。我們的工作是設定目的地、規劃路線、定義交通規則，並確保車輛在遇到意外時知道如何安全應對。雖然前期設計的複雜度更高，但一旦系統建立起來，它能完成的任務將遠比一次性的手動駕駛來得更強大、更可靠。

延伸閱讀

• Write Loops, Not Prompts - Goal Loop という考え方
• ReAct: Synergizing Reasoning and Acting in Language Models
• Introducing Claude 3.5 Sonnet
• LLM-powered Autonomous Agents by Lilian Weng

我是江中喬，專注於 AI Agent Architecture、Memory Governance 與 Cognitive Diversity，持續研究如何打造能夠長期協作、可信任且可治理的 AI 系統。