不只是提示工程：思維鏈如何奠定語言智能體的認知基礎

思維鏈的重要性，不只在提升回答品質，而在把語言模型推向可規劃、可反思、可執行的 agent 結構。它是語言智能體從被動回應走向自主工作流的核心認知基礎設施，也改變了系統設計重心。

從單純推理到心智模擬：思維鏈的雙重角色

自從 Google Brain 團隊於 2022 年的論文中提出 CoT 以來，許多人將其視為一種有效的提示工程技巧。確實，透過要求大型語言模型「一步一步思考」，我們能顯著提升它在算術、常識和符號推理等任務上的表現，尤其對於超過 1000 億參數規模的模型而言效果更為明顯。然而，我認為這種理解低估了 CoT 的根本性貢獻。CoT 的核心並非單純的「要求」，而是將模型隱性的、黑箱的「思考」過程「外化」（externalization），轉化為明確、序列化的文字。這個過程本身，就是一種最基礎的心智模擬，為語言模型開啟了全新的可能性。

為什麼「把步驟寫下來」如此重要？

將思考過程外化，不僅是為了讓人們看懂，更是為了讓模型「自己」看懂。這個看似簡單的動作，卻帶來了幾個關鍵的質變，為後續更複雜的智能體行為奠定了堅實基礎。

首先，它顯著降低了認知負荷。就像我們人類解數學題時會打草稿一樣，將複雜問題分解為一系列更小的、可管理的子問題，並將中間步驟寫下來，能有效降低單一推理步驟的複雜度。其次，這些生成的文字序列成為一種寶貴的外部工作記憶（external memory），讓模型在後續的思考步驟中得以回溯、引用這些已生成的結論，從而確保了推理的連貫性與一致性。最重要的是，一旦思考過程被明確記錄，就為反思（reflection）與自我修正（self-correction）創造了前所未有的機會。模型（或外部系統）可以審視這個思考鏈條，判斷哪一步可能出了錯，並進行回溯或修正。這在單一、直接的回答中是無法想像的。

這正是 CoT 的精髓所在：它不是在「教」模型如何思考，而是在為模型提供一個「可以思考」的結構化空間。這個空間，正是後續所有高級認知功能的基石。

思維鏈如何演化成智能體的工作流？

如果說 CoT 是智能體認知框架的「Hello, World!」，那麼過去兩年 AI 研究的進展，就是圍繞這個核心概念不斷擴展和強化的過程。我們清晰地看到一條演化路徑，從簡單的線性推理，走向更複雜、更動態的智能體工作流（agentic workflow）。這份於 2023 年 11 月發布的綜述性研究 "Igniting Language Intelligence" 便系統性地梳理了這個令人興奮的演變。

這條演化路徑上，幾個關鍵節點尤其值得關注：

首先是從線性到非線性的突破，催生了 Tree-of-Thoughts (ToT)。傳統 CoT 是一條單線程的推理路徑，而 ToT 則將其擴展為一棵樹狀結構，允許模型在每個節點上探索多種可能性，並透過內建的評估機制（self-evaluation）來選擇最有前景的分支。這不僅引入了「探索」，更賦予了模型「策略選擇」的能力。

接著是從思考到行動的飛躍，由 ReAct 框架實現。ReAct (Reasoning and Acting) 精妙地將 CoT 的「思考」與實際「行動」結合起來。模型不再僅僅生成思考步驟，還能根據思考結果生成需要執行的「動作」（例如，查詢 API、使用計算機），並依據這些動作的結果來調整後續的思考。這讓模型從一個純粹的「思考者」華麗轉身，成為能夠與外部世界互動的「執行者」。

最後，從執行到反思的循環，則在 Reflexion 等框架中得以完善。像 Reflexion 這樣的框架，在 ReAct 的基礎上增加了一個明確的「反思」循環。當智能體執行任務失敗後，它會深入分析自己的行動日誌（這本質上就是一種 CoT），總結失敗原因，並將這些寶貴經驗存入記憶，用以指導未來的規劃，實現真正的自我完善。

這條清晰的演化路徑強烈顯示，CoT 所開創的「將思維過程文本化」的範式，是構建規劃、工具使用、記憶管理和自我完善等所有高級智能體能力的共通基礎設施。

我們該如何設計下一代 AI 系統？

對產品設計者和系統架構師而言，這意味著我們需要徹底轉變觀念。我們的工作不應再局限於設計更好的 prompt 來獲得更漂亮的單次回答，而是應該思考如何設計一個允許模型進行規劃、執行和反思的「認知工作流」。

具體來說，這代表著幾個核心原則：

首先，我們必須重視系統的可觀察性。設計時應確保模型的「思考鏈」變得透明、可追蹤、可除錯。這不僅是為了開發過程中的便利，更是為了建立用戶信任與確保系統的可靠性。

其次，設計有效的反饋迴路至關重要。我們需要建立讓模型能夠從錯誤中學習的機制。無論是來自工具的執行結果、外部驗證器的評分，還是人類的直接回饋，都應被無縫整合進智能體的工作流中，形成一個持續優化的修正循環。

最後，我們應將語言模型視為協作者，而非無所不知的預言家。LLM 是一個能夠遵循指令、使用工具並解釋其行為的強大認知引擎，而非一個神秘的黑箱。我們的任務是為這個引擎設計合適的外部腳手架（scaffolding），包括記憶系統、豐富的工具集和精密的協調機制，以充分發揮其潛力。

思維鏈的出現，標誌著我們與語言模型互動方式的根本性轉變。它不僅僅是一種提升推理能力的技巧，更是通往真正自主智能體的第一步。深入理解並善用這一點，將是我們在未來建構更強大、更可靠 AI 系統的關鍵所在。

延伸閱讀

• Igniting Language Intelligence: The Hitchhiker's Guide From Chain-of-Thought Reasoning to Language Agents
• Chain-of-Thought Prompting Elicits Reasoning in Large Language Models
• ReAct: Synergizing Reasoning and Acting in Language Models

我是江中喬，一位具有 TPM 與產品管理背景的 AI 系統建構者，目前專注於 AI 認知增強系統與多 Agent 協作架構的設計與實踐。