你的 AI 代理人真的在「研究」嗎？還是只是在尋找認同？
許多看似強大的 AI 研究代理人，在接上搜尋工具後，表現卻不如預期。本文從一篇研究出發，深入探討問題根源不在於工具本身，而在於代理人的「思考迴圈」設計，如何無意中將探索任務變成了確認偏誤的陷阱，並提供實務上的觀察與反思。
許多開發者在為大型語言模型（LLM）接上搜尋工具後，常會失望地發現，AI 代理人並未如預期般探索未知，反而只是不斷從網路上找證據來支持它預訓練知識中的既有答案。這並非偶然，而是源於系統設計的根本缺陷。問題不在於工具本身，而在於我們設計的「思考迴圈」，無意間將一個開放的探索任務，窄化成封閉的「確認偏誤」迴圈。這種現象不僅限制了代理人的能力，也對我們如何設計真正有效的 RAG 與研究代理人，提出了嚴峻的挑戰。
為何 AI 代理人看似在搜尋，實則在「自我驗證」？
當我們要求一個 AI 代理人研究某個主題時，直覺上會期待它像一位稱職的研究員：廣泛搜集資料、評估不同觀點、最後綜合出結論。然而，實務上許多代理人的表現更像一位急於證明自己論點的辯手。這個觀察得到了一項由哈爾濱工業大學與小紅書團隊合作研究的支持。他們在一篇名為 《Do Large Language Models Know What They Don't Know?》 的論文中，對包含 GPT-4 在內的 11 個主流大型語言模型進行了系統性評估。
研究結果清楚地指出，當模型面對一個問題時，它們傾向於優先依賴內部預訓練的知識來形成一個初步答案或假設。接著，它們生成的搜尋查詢（search queries）往往不是為了探索未知，而是為了尋找能夠支持這個初步假設的證據。換句話說，搜尋工具（search tool）並沒有被當作一個發現新資訊的窗口，而是淪為一個替既有先驗知識背書的驗證機器。這解釋了為何許多 RAG（Retrieval-Augmented Generation） 系統在處理與模型內部知識衝突或完全陌生的主題時，表現會急遽下降。
代理人的「確認偏誤」迴圈是如何形成的？
這個問題的根源，深植於多數代理人採用的那種過於簡化的「思考-行動」迴圈（loop）設計。儘管 LLM 代理人 的概念廣泛，但一個典型的、有缺陷的代理人迴圈運作方式大致如下：
- 形成初步假設：模型根據自身預訓練知識，對問題產生一個最可能的答案或方向。
- 生成確認式查詢：基於這個假設，模型生成一個或多個搜尋查詢。例如，若初步假設「X 對 Y 有益」，查詢就會是「X 對 Y 的好處」，而非更中性的「X 對 Y 的影響」或挑戰性的「X 對 Y 的壞處」。
- 篩選與吸收：模型從搜尋結果中，優先挑選與初步假設一致的資訊，並將其整合進最終的答案中。不一致的資訊則容易被忽略或低估。
- 強化迴圈：這個過程產出的答案，回過頭來又強化了模型的初始信念，形成一個封閉的自我驗證迴圈。
這種設計的危險在於，它創造了一種「認知隧道」。代理人從一開始就鎖定了一個方向，後續所有的「研究」行為都只是在這條隧道中前進，完全錯失了隧道之外更廣闊、甚至可能完全相反的資訊地景。
真正的研究是探索與發現的過程，但許多 AI 代理人的設計卻將其簡化為一個尋找與匹配的任務。這種從「探索」到「確認」的降維，是當前研究代理人最核心的失敗點。
如何打破確認迴圈，打造真正具備探索能力的代理人？
意識到問題所在，是解決問題的第一步。要打造出真正具備探索能力的代理人，我們必須在迴圈設計中刻意地引入「認知摩擦」與「結構化反思」，迫使模型跳出舒適區。以下是幾個具體的方向：
- 查詢生成策略的多元化：不要只讓模型生成單一意圖的查詢。我們可以設計一個 meta-prompt，強制模型針對一個主題，從多個甚至相互矛盾的角度生成查詢。例如，同時要求它生成「支持 A 論點的證據」、「反對 A 論點的證據」以及「A 論點的替代方案」三組查詢。
- 引入批判性評估步驟：在代理人綜合資訊前，加入一個獨立的評估步驟。讓模型（或另一個獨立的「批判者」模型）明確地評估所檢索到的資訊是否全面、是否存在偏見、證據強度如何。這個步驟的產出，應當能動態影響後續的資訊綜合過程。經典的 ReAct (Reason and Act) 框架雖然提供了思考與行動的交錯，但若思考過程本身缺乏批判性，仍會陷入確認迴圈。
- 採用更複雜的探索框架：與其使用線性的思考迴圈，不如採用像 Tree of Thoughts (ToT) 這樣的框架。ToT 允許代理人在每一步都探索多個不同的推理路徑，並對這些路徑進行評估，從而能在更廣闊的空間中尋找最佳解，而不是僅僅沿著第一直覺走到底。
最終，我們必須承認，賦予 AI 代理人工具（tool-use）只是基礎。真正的挑戰在於設計一個能鼓勵好奇心、容忍不確定性、並能從矛盾資訊中學習的認知架構。這不僅是技術問題，更接近於為機器設計一種健全的「思維模式」。當我們從這個角度出發，重新審視代理人的迴圈設計時，才可能真正釋放出它們作為研究夥伴的潛力。
延伸閱讀
- Do Large Language Models Know What They Don't Know? A Study on LLM's Self-Knowledge for Search-Augmented Generation
- LLM-powered Autonomous Agents by Lilian Weng
- Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks
我是江中喬，一位具有 TPM 與產品管理背景的 AI 系統建構者，目前專注於 AI 認知增強系統與多 Agent 協作架構的設計與實踐。