重新理解大型語言模型的幻覺：它不是隨機失誤，而是錯誤框架下的完美推演

大型語言模型（LLM）的幻覺，過去常被視為隨機且機率性的系統偶發故障。然而，一篇即將發表的論文，挑戰了這個普遍認知，提出一個根本性的觀點：幻覺並非隨機失誤，而是模型在一個被「錯誤激活」的認知框架下，進行了完美且連貫的邏輯推演。這個新視角徹底顛覆了我們對幻覺的理解，意味著解決方案的重心，應從表層的答案修正，轉向從系統層面防止這些錯誤框架被啟動。對所有 AI 系統的建構者而言，這是一個必須嚴肅面對的根本性思維轉變，將影響未來的設計方向。

幻覺並非隨機：為什麼「框架誤激活」是更合理的解釋？

傳統上，我們傾向於將幻覺歸因於模型在生成下一個詞元（token）時的不確定性，或是訓練資料中的雜訊。然而，這種解釋很難說明為何許多幻覺內容內部邏輯自洽、文法流暢，甚至充滿了看似合理的細節。模型在產生幻覺時，往往表現得極為「自信」，彷彿它所說的一切都是真理。

Minamo Minamoto 在其論文草稿 《Hallucination as Frame Misactivation》中提出的「框架誤激活」（Frame Misactivation）理論，提供了一個更具說服力的解釋。這個理論借鑒了認知科學家 Marvin Minsky 早在 1974 年提出的知識框架（Frames）概念。

該理論主張，LLM 在理解和回應提問時，會先激活一個或多個內部的「解釋框架」。這個框架就像是我們思考問題時的預設場景或心智模型。舉例來說，當被問及「蘋果的最新產品」，模型應該激活「蘋果公司（Apple Inc.）」這個科技框架。

但如果它錯誤地激活了「蘋果（水果）」的框架，接下來的所有生成內容——即使聽起來荒謬——在其內部都是邏輯一致的。它可能會頭頭是道地描述一種基因改造、能自行充電的「智慧蘋果」。這段描述在「水果」框架下是無稽之談，但在一個被錯誤混合的「科技水果」框架下，模型的推演卻是完美的。

幻覺不是模型邏輯能力的失敗，恰恰相反，它是在錯誤的前提下，完美運用其邏輯能力的結果。

這種框架層次的錯誤，解釋了為何單純透過提示工程（Prompt Engineering）或事實核查來修正表面答案，往往治標不治本。我們就像在修剪一棵長歪的樹的末端枝葉，卻忽略了其根基早已朝錯誤的方向生長。

如果幻覺是框架錯誤，這對我們建構 AI 系統有何啟示？

如果幻覺的根源是框架選擇的錯誤，而非內容生成的錯誤，那麼我們目前許多主流的應對策略都需要重新審視。以廣泛應用的檢索增強生成（RAG）為例，RAG 透過提供外部知識來「糾正」模型的回答，這在許多場景下非常有效。但它本質上是一種後端修正，它在模型已經選定一個（可能錯誤的）框架後，才介入提供正確資訊。如果框架本身錯得離譜，RAG 提供的資料可能被模型以一種扭曲的方式整合，甚至產生更複雜、更難以察覺的幻覺。

這個新觀點促使我們將優化的焦點從「輸出層」轉向「系統層」與「輸入層」。關鍵問題不再是「如何修正錯誤的答案？」，而是：

• 我們能否確保模型在第一時間就選擇正確的框架？
• 我們能否設計一種機制，在生成開始前就驗證框架的正確性？
• 當偵測到框架錯誤時，系統應如何干預，是中止任務還是嘗試切換框架？

這也意味著，我們需要發展新的評估指標。除了評量最終答案的準確性，我們更需要能夠評估模型在推理過程中「框架穩定性」的工具。例如，在一個長對話中，模型是否能始終保持在最初設定的框架內，而不會因為某些關鍵詞而被誘導「跳轉」到不相關的框架中。

從理論到實踐，我們能做些什麼來應對幻覺？

將「框架思維」融入 AI 系統設計，並非遙不可及。在實務上，我們可以採取幾個具體步驟來降低框架誤激活的風險。這些方法的核心思想，都是在任務開始時就為模型建立清晰、穩固的「護欄」。

一個有效的策略是「結構化輸入」。與其給予模型一段模糊的自然語言提示，不如將關鍵資訊以 JSON 或 XML 等結構化格式傳入。這種方式能極大地壓縮模型對框架的解釋空間，迫使其在我們預設的軌道上進行思考。例如，與其問「總結一下昨天的客服對話」，不如傳入一個包含 customer_id、timestamp、issue_category、dialog_log 等欄位的 JSON 物件，並明確指示其任務是 summarize。

另一個方向是「框架提示」（Frame Priming）。這類似於思維鏈（Chain-of-Thought）的進階應用。在正式提問前，先用一兩句話明確定義當前對話的背景、角色、目標與限制。例如：「你現在是一位資深財務分析師，你的任務是根據這份財報，分析其第三季度的盈利能力，請忽略所有與市場情緒相關的非結構化數據。」這段前導指令的目的，就是強制激活「財務分析」框架，並抑制其他可能的干擾框架。

對於更複雜的多 Agent 系統，我們可以設計「框架監督者」（Frame Supervisor）角色。這個 Agent 的唯一職責，就是在主 Agent 開始生成內容前，檢查其對任務的理解（即它選擇了哪個框架）是否正確。這種架構類似於憲法 AI（Constitutional AI）的原則，在系統內部建立起一道防火牆，從源頭上阻止災難性的框架錯誤。

將幻覺視為結構性問題而非隨機錯誤，為我們提供了一張更有價值的地圖。它指引我們從疲於奔命的「打地鼠」式修正，走向更具預見性與控制力的系統設計。未來的 AI 系統，其穩定性和可靠性，或許將取決於我們能在多大程度上成為模型心智框架的優秀建築師。

延伸閱讀

• Minamoto, M. (2026). Hallucination as Frame Misactivation: A Structural Account of LLM Error Under the Interpretive Stack Model. arXiv preprint.
• Minsky, M. (1974). A Framework for Representing Knowledge. MIT-AI Laboratory Memo 306.
• Lewis, P., et al. (2020). Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks. Advances in Neural Information Processing Systems, 33.
• Wei, J., et al. (2022). Chain-of-Thought Prompting Elicits Reasoning in Large Language Models. arXiv preprint arXiv:2201.11903.

我是江中喬，一位具有 TPM 與產品管理背景的 AI 系統建構者，目前專注於 AI 認知增強系統與多 Agent 協作架構的設計與實踐。