Prompt 工程的終結？當模型學會自主推理，我們該如何下指令
過去幾年，我們習慣透過 Chain-of-Thought 等技巧，一步步引導 AI 思考。但隨著新一代「推理模型」的出現，這種「微觀管理」式的提示詞工程正迅速失效。當模型內建更強大的推理能力時，我們的角色不再是教練，而是專案經理：定義清晰的目標與邊界，然後放手讓 AI 自行規劃與執行。
大型語言模型的提示詞工程（prompt engineering）正迎來根本性的範式轉移。過去幾年，我們習慣透過「step-by-step」這類思維鏈（Chain-of-Thought）技巧，手把手地指導模型思考。然而，隨著新一代「推理模型」（reasoning model）的出現，這種微觀管理式的提示詞模式正迅速失效。當模型內建更強大的推理結構時，我們的角色就不再是教練，而是專案經理——我們需要定義清晰的目標、約束與驗證條件，放手讓模型在更高層次上自行規劃與執行。這不僅是技術的演進，更是人機分工的再定義。
為什麼「一步一步想」的魔咒正在失效？
自 2022 年 Google Brain 團隊提出思維鏈（Chain-of-Thought, CoT）以來，「請一步一步思考」（Let's think step by step）幾乎成了複雜任務的標準咒語。這個方法的本質，是將模型的推理過程「外部化」，強迫它在生成最終答案前，先把思考的脈絡寫出來。這項技巧非常有效，因為它彌補了早期模型在內隱推理能力上的不足。
基於這個核心思想，社群在 2023 到 2024 年間發展出更複雜的結構，例如思維樹（Tree-of-Thoughts, ToT）和思維圖（Graph-of-Thoughts, GoT）。這些方法試圖在 prompt 層級模擬更複雜的決策過程，像是探索多個分支、評估不同路徑、甚至形成迴圈。它們的共同點，是使用者（或開發者）仍然扮演著「教練」的角色，為模型設計一套外部的、基於文字的思考框架。
然而，這套典範正被新一代模型所顛覆。像 Anthropic 的 Claude 3.5 Sonnet 或 DeepSeek-V2 這類模型，其架構本身就內建了更強的內部推理與規劃能力。當模型在 API 呼叫的背後，可能已經自行進行了我們過去用 ToT 或 GoT 試圖引導的複雜運算。此時，外部的「step-by-step」指令就顯得多餘，甚至可能產生干擾。例如，Claude 3.5 Sonnet 的 Artifacts 功能，就是模型內部思考過程的一種外部化呈現，但這個過程並非由我們的 prompt 直接控制，而是模型自主運行的結果。
如何與推理模型協作：我們該定義目標，而非過程？
當模型從一個需要手把手指導的「實習生」，成長為一個能夠自主規劃的「資深專家」時，我們的人機互動模式也必須隨之升級。過去，我們專注於「如何做」（How）；現在，我們必須更精準地定義「做什麼」（What）與「為何做」（Why）。
這就像管理專案一樣。對於初階成員，你可能會給出詳細的任務清單與執行步驟。但對於資深專家，你給的是一份清晰的專案需求文件（PRD），包含：
- 最終目標（Objective）： 專案要達成的最終成果是什麼？成功的定義為何？
- 關鍵約束（Constraints）： 有哪些絕對不能違反的規則？例如預算上限、技術棧限制、安全規範或品牌聲譽考量。
- 驗收條件（Acceptance Criteria）： 我們如何判斷交付的成果是否符合預期？需要通過哪些測試或評估標準？
過去那種試圖透過調整 temperature 參數來控制輸出穩定性的作法，在新模型上也越來越不可行。許多模型的 API 甚至開始將這類內部思考機制（如 Claude 的 adaptive/extended thinking）變成一個開關，或直接內建為預設行為，使用者無法再微觀調控。這意味著，我們與模型的溝通層次，正被迫從「指令級」提升到「策略級」。
我們的任務，是從一個手把手指導的「指令撰寫者」，轉變為一個高層次的「系統設計師」。我們定義問題的邊界與成功的樣貌，而將路徑的探索交給日益強大的模型本身。
身為開發者或使用者，我們該如何調整？
面對這個轉變，無論是 AI 應用的開發者或日常使用者，都需要調整自己的 prompt 策略。過去累積的大量模板化 prompt 可能會逐漸失效，我們需要培養一種新的能力：系統化地定義問題。
具體來說，一個好的「高層次 prompt」應該包含幾個核心要素：
- 清晰的角色與情境（Role & Context）： 明確指定 AI 扮演的角色，並提供所有必要的背景資訊。這不是為了讓它模仿，而是為了框定它的知識與能力範圍。
- 明確的最終交付標的（Final Deliverable）： 精確描述你想要的最終產出是什麼。不是「寫一篇關於 AI 的文章」，而是「撰寫一篇約 1200 字的部落格文章，目標讀者為非技術背景的專案經理，解釋 reasoning model 對工作流程的影響，並包含三個具體建議」。
- 嚴格的約束與紅線（Constraints & Red Lines）： 列出所有限制條件。例如，「不要使用過於學術的術語」、「產出的程式碼必須符合 PEP 8 規範」、「所有引用的數據必須來自 2023 年之後的學術論文」。
- 可量化的評估標準（Evaluation Criteria）： 提供模型一個自我檢驗的框架。例如，「在回答後，請自行檢查是否滿足以上所有條件，並以 1-10 分自我評分」、「最終的摘要必須在 100 字以內，並涵蓋三個核心論點」。
這個轉變的意義深遠。它意味著 prompt engineering 的價值，將從「尋找神奇咒語」的煉金術，轉向「設計嚴謹規範」的系統工程。當模型的能力越強，我們作為人類的角色就越需要往上游移動，專注於定義目標、價值與邊界。這或許才是 reasoning-model 時代，人機協作最真實且更具挑戰性的樣貌。
延伸閱讀
- Wei, J., Wang, X., Schuurmans, D., Bosma, M., Chi, E., Le, Q., & Zhou, D. (2022). Chain-of-Thought Prompting Elicits Reasoning in Large Language Models.
- Yao, S., Yu, D., Zhao, J., Sha, D., Butler, C., & Shao, L. (2023). Tree of Thoughts: Deliberate Problem Solving with Large Language Models.
- Anthropic (2024). Introducing Claude 3.5 Sonnet.
我是江中喬，專注於 AI Agent Architecture、Memory Governance 與 Cognitive Diversity，持續研究如何打造能夠長期協作、可信任且可治理的 AI 系統。