可信任的 AI，不是更會說，而是更懂得停下來核對
大型語言模型最大的問題不是答不出來，而是太輕易給出答案。本文探討一種名為「驗證鏈」（Chain-of-Verification）的方法，並主張真正的 AI 可信度，來自於在系統流程中強制植入自我審視與外部查核的機制，讓模型學會先驗證、再回答。
大型語言模型最大的弱點，並非知識的匱乏，而是生成答案的過程過於流暢，缺乏內建的自我懷疑機制。這導致它們能自信地產生似是而非的「幻覺」。要建立可信任的 AI，關鍵不在於訓練出更會「說」的模型，而是設計出更懂得「停下來核對」的系統。將驗證機制從事後補救，提升為流程中的必要環節，強迫模型先自我審視、再做出回應，才是提升 AI 事實準確性的根本之道。
「生成式 AI」的原罪：為什麼模型總能自信地胡說八道？
大型語言模型（LLM）的核心設計，是基於機率預測下一個最可能的詞元（token），藉此生成流暢、連貫、符合人類語言習慣的文本。這個機制讓它們在內容創作、摘要、翻譯等任務上表現出色，但也埋下了「幻覺」（Hallucination）的種子。模型的首要目標是「說得通」，而不是「說得對」。當它缺乏特定知識或無法從訓練資料中找到確切答案時，它不會承認「我不知道」，而是會根據上下文，編造一個看起來最合理的答案。
這種行為模式，是系統架構的直接產物。傳統的生成流程是一個單向、線性的過程：接收提示（prompt），然後直接生成（generate）最終回覆。這個流程中沒有內建的「煞車」或「反思」環節。這就像一個反應極快但從不查證的專家，雖然大部分時候言之有物，但在關鍵時刻的錯誤卻可能造成嚴重後果。學界對此已有廣泛討論，許多關於幻覺的研究都指出，這是當前 LLM 應用於高風險領域（如醫療、金融、法律）的最大障礙之一。
如何強迫模型「先思考，再回答」？從驗證鏈（CoV）談起
既然問題出在流程，解方自然也要從流程著手。與其期待模型本身變得全知全能，不如在系統層面引入一個強制性的驗證環節。2023 年發表的「驗證鏈」（Chain-of-Verification, CoV）方法，便是一個極具代表性的例子。它將原本一步到位的生成過程，拆解成一個更審慎的、包含自我修正的循環。
CoV 的核心精神是「先草擬，再查核，後修正」。整個流程大致可分為四個步驟：
- 1. 生成草稿（Draft Response）：首先，讓模型針對使用者的問題，生成一個初步的、未經驗證的答案。
- 2. 規劃驗證問題（Plan Verifications）：接著，要求模型審視自己的草稿，並提出一系列可以用來查核草稿中事實性陳述的具體問題。
- 3. 執行驗證（Execute Verifications）：模型必須獨立、不帶偏見地回答自己提出的驗證問題。這一步驟至關重要，因為它強迫模型將一個複雜的答案拆解成數個可以獨立判斷真偽的子問題，避免被草稿的原始脈絡所誤導。
- 4. 產生最終版本（Generate Final Verified Response）：最後，模型根據驗證過程的結果，整合資訊並修正原始草稿中的錯誤，產生一個更可靠、更準確的最終答案。
實驗結果證明了這種方法的有效性。根據 CoV 論文的數據，在多項問答與長文生成的任務中，相較於直接生成或僅使用思維鏈（Chain-of-Thought）提示，CoV 能顯著降低幻覺的發生率。例如，在一個需要從多個文件中擷取資訊的 MultiSpanQA 數據集上，CoV 的表現優於基準方法超過 17%。這證明了增加一個刻意的「深思熟慮」環節，確實能提升 AI 的事實準確性。
不只 CoV，更是新思維：如何打造「驗證優先」的 AI 系統？
CoV 不應只被看作一個巧妙的提示工程技巧，它更揭示了一種系統設計的哲學轉變：從「生成優先」（generation-first）轉向「驗證優先」（verification-first）。這種思維模式的影響，遠比單一技術更為深遠。
這背後的核心觀點是，我們需要為 AI 系統設計「認知摩擦力」（cognitive friction）。就像人類在做重要決策時，會刻意放慢速度、尋求第二意見、列出優劣清單一樣，我們也應該為 AI 設計類似的機制。另一個廣為人知的架構——檢索增強生成（Retrieval-Augmented Generation, RAG）——也是這種思維的體現。RAG 強迫模型在生成答案前，必須先從一個可信的外部知識庫（如公司內部文件、特定領域的資料庫）中檢索相關資訊，並將其作為回答的依據。這同樣是將驗證與事實 grounding 的步驟，前置於生成環節。
可信任的 AI，不是更會說，而是更常被迫停下來核對。
無論是 CoV 的自我提問，還是 RAG 的外部檢索，它們的共同點都是打破了單純、線性的生成路徑，引入了查核與反思的循環。這也與其他自我修正（self-correction）的研究方向不謀而合，其目標都是讓模型具備迭代改進自身輸出的能力。未來的 AI 系統，特別是需要高度可靠性的 AI Agent，其架構很可能是一個由多個模組構成的複雜系統，其中包含生成模組、驗證模組、記憶模組與工具使用模組。單純的生成，將只是其中一個環節，而非全部。
最終，建立 AI 的可信度，是一項系統工程。與其追求一個不會犯錯的「完美」模型，不如設計一個能夠意識到自己可能犯錯、並有能力自我修正的「穩健」系統。這種從模型能力轉向系統流程的視角，才是打造能與人類長期協作、可信任 AI 的務實路徑。
延伸閱讀
- Chain-of-Verification Reduces Hallucination in Large Language Models (Shehzaad Dhuliawala, et al., 2023)
- Self-Refine: Iterative Refinement with Self-Feedback (Aman Madaan, et al., 2023)
- Best practices for LLMs (Google for Developers)
我是江中喬，專注於 AI Agent Architecture、Memory Governance 與 Cognitive Diversity，持續研究如何打造能夠長期協作、可信任且可治理的 AI 系統。