圖結構減少幻覺,但你得先有個靠譜的圖

用圖結構約束 LLM 能減少幻覺,但前提是你的知識完全確定、邊界清晰。超出預設邊界,系統一樣編造。

圖結構減少幻覺,但你得先有個靠譜的圖

問題在確定性,不在模型

LLM 的幻覺問題本質上是機率問題。模型在高不確定的空間裡生成下一個 token,累積到一句話就開始編故事。有人提出用確定性圖結構來約束——把知識預先結構化成圖,讓 LLM 在已知節點間遊走,而不是在概率空間裡漂流。

聽起來合理。但我的疑問是:這解決的是錯誤的問題的一部分。

適用場景其實很窄

確定性圖結構有效的前提很苛刻:

  • 知識必須預先建構完整——你需要事先把所有節點和邊都定義好。這對知識庫、產品分類、組織結構這類相對穩定的領域有效。
  • 查詢必須能映射到圖上——用戶的問題要能轉換成圖的遍歷。如果問題涉及圖裡沒有的邏輯或組合,系統就卡住。
  • 邊界清晰——圖的設計決定了能回答什麼。一旦超出設計時的預期,系統就開始編造。

換句話說,這不是「減少幻覺」,而是「通過限制表達空間來規避幻覺」。你付出的代價是靈活性。

實務上的取捨

我見過的案例裡,確定性圖結構最實用的場景是:

知識相對固定、查詢模式可預測、容錯空間小的系統。比如客服 bot 回答產品規格、訂單狀態查詢、權限判斷。

但如果你的場景是「幫用戶理解複雜概念」或「從多個信息源綜合推理」,圖結構反而會成為瓶頸。因為真實的知識往往是模糊的、多層次的、會隨語境變化的。

我怎麼看

確定性圖結構不是銀彈,它是一個權衡。選擇用它,等於在說:「我願意犧牲靈活性,換取在特定邊界內的可靠性。」

問題是,很多團隊在做這個決策時,沒有清楚地問自己:我的場景真的適合這種約束嗎?還是我只是被「減少幻覺」這個承諾吸引了?

答案通常決定了這個方案是省力還是添堵。


我是江中喬,一位具有 TPM 與產品管理背景的 AI 系統建構者,目前專注於 AI 認知增強系統與多 Agent 協作架構的設計與實踐。

原始來源:https://www.threads.com/@meow.coder/post/DWPcXAAEwSz