圖結構能減少幻覺,但你的知識庫可能還沒準備好
圖結構能幫 LLM 減少幻覺,但前提是你的知識庫足夠完整且願意持續維護。
確定性和不確定性的交界
用圖結構輔助 LLM 確實能降低幻覺。很多團隊在實踐時卡在同一個地方。
原理很直白:LLM 的問題不是智力不夠,而是在沒有外部約束的情況下,它會根據統計規律「猜測」。給它一個確定性的圖結構,比如知識圖譜或實體關係,它就有了可驗證的邊界。不在圖上的東西,模型就不該編造。
但你的圖必須足夠完整和準確。
適用場景的天花板
圖結構方案在以下情況工作得很好:
- 知識是相對穩定的,比如產品規格、組織結構、已發佈的文檔。
- 實體和關係是明確可定義的。「A 是 B 的子集」而不是「這篇文章和那篇文章有點相關」。
如果你的場景是這樣的呢:
- 知識在不斷演變。新產品、新策略、新的市場理解。
- 關係是模糊的。「相關」、「類似」、「可能有影響」很難用邊表示。
這時候圖結構就變成了一個漂亮的監獄。模型被限制得很死,但限制的根據本身就有問題。
實踐中的選擇
我的經驗是:如果你要用圖結構,先問自己一個問題——這個圖的維護成本是多少?
不只是初始構建,而是持續更新。每次知識變化,圖都要跟著變。如果你沒有人力或流程去做這件事,那圖會逐漸失效,最後模型還是會開始編造。
有時候,用 RAG 配合更好的 retrieval 邏輯反而比維護一個龐大的圖更實際。或者混合方案:用圖來約束高風險的部分,比如價格和庫存,用語義檢索來處理知識探索。
選擇圖結構不是技術決定,是一個關於承諾的決定。如果你沒有準備好維護它,就誠實地用其他方法。
我是江中喬,一位具有 TPM 與產品管理背景的 AI 系統建構者,目前專注於 AI 認知增強系統與多 Agent 協作架構的設計與實踐。