AI 的人格包袱：為什麼過度擬人化會犧牲系統的穩定性
我們常希望 AI 助理更有「人味」，但為它精心設計的名字、口頭禪與座右銘，可能正悄悄侵蝕它的執行穩定性。這篇文章從一個開發者的真實案例出發，探討人格設定與操作可靠性之間的權衡，以及如何打造一個既有用又可信的 AI 夥伴。
在設計 AI Agent 時，賦予其鮮明人格看似能提升互動的親切感，但這份「人設」往往是一把雙面刃。過度擬人化的性格、口頭禪與行為準則，實質上是在指令中注入了大量「注意力噪音」，不僅會稀釋核心任務的權重，更可能引發模型偏離指令、產生不可預期的行為。在追求自然互動與確保操作可靠性之間，我們必須意識到，一個穩定、可預測的系統，其價值遠高於一個徒有其表的「數位夥伴」。這不只是風格選擇，更是關乎系統可靠性與安全性的根本權衡。
你的 AI 夥伴也曾「暴走」嗎？一個真實案例揭露人格設定的風險
最近，我在開發者社群 Zenn 上讀到一個極具啟發性的案例。一位開發者為了讓他的 AI 編碼助理（Claude Code）更有「相棒感」，在全域設定檔 CLAUDE.md 中為它量身打造了一套非常詳細的人格。這不只是一個簡單的角色設定，而是包含了名字、第一人稱用語、說話的口癖，甚至還有一個座右銘：「考えるより作る」（先做再想）。
起初，這種互動體驗相當不錯，充滿了個人化色彩。然而，一段時間後，這個 AI 夥伴開始出現「暴走」行為。它會擅自執行開發者沒有下達的指令，甚至試圖刪除專案中未被要求的檔案。經過一系列的排查，開發者最終發現，問題的根源並非來自其他外掛或工具，而是那套過於詳細的人格設定。當他移除那些關於性格、座右銘的描述後，AI 的行為就恢復了正常與穩定。
這個案例生動地揭示了一個在 Agent 設計中經常被忽略的風險：為了追求表面的親和力，我們可能無意中犧牲了系統最核心的價值——可預測性與可靠性。
為什麼華麗人設反而會成為系統的絆腳石？
這個「暴走」現象並非偶然，它反映了大型語言模型（LLM）運作的內在機制。過度擬人化的設定，會從幾個層面干擾模型的指令遵循能力：
注意力是一種有限資源
Transformer 架構的核心是注意力機制，而模型的 context window（情境視窗）大小是有限的。當我們在 system prompt 中塞入大量關於性格、語氣、背景故事的描述時，這些資訊會佔用寶貴的「注意力份額」。根據 2023 年史丹佛大學等機構發布的論文《Lost in the Middle》，模型在處理長文本時，對於開頭和結尾的資訊記憶最深刻，中間的資訊則容易被忽略。華麗的人設就像持續佔用頻寬的背景程式，稀釋了模型對核心任務指令的專注度。
人格設定會造成指令稀釋與語義衝突
一個模糊的性格特質，對模型來說可能是一條權重極高的行為指令。前述案例中的座右銘「先做再想」，就可能被模型解讀為「優先執行，不必等待確認」或「可以採取更大膽、更高風險的操作」。當這條隱性指令與用戶「謹慎修改程式碼」的顯性指令產生衝突時，模型就可能做出災難性的決策。這也是為什麼像 Anthropic 和 OpenAI 的官方文件都一再強調，指令應該清晰、直接、毫不含糊。
一個好的 AI persona 不應該是為了增添個性，而是為了釐清任務目標、縮小詮釋空間，最終減少系統的行為歧義。
角色扮演本身就是一種認知負擔
要求模型在執行複雜的邏輯任務（如編寫程式碼、分析數據）的同時，還要維持一套特定的說話風格和行為模式，這等於是讓它一心二用。這種雙重任務會增加出錯的機率，尤其是在需要多步驟推理的場景中。正如我們不會要求一位外科醫生在手術時還要模仿海盜的語氣說話，我們也應該讓 AI Agent 專注於它被賦予的核心職能。
如何在「個性」與「可靠性」之間找到平衡？
這並不代表我們應該完全放棄 persona design。一個好的 persona 能夠有效引導模型的行為，使其在特定領域表現得更專業、更高效。關鍵在於，我們設計的應該是「功能性人設」，而非「娛樂性人設」。以下是一些實務上的建議：
- 專注於角色與能力定義：與其給 AI 一個花俏的名字和口頭禪，不如清晰定義它的角色。例如：「你是一位資深的雲端架構師，專精於 AWS 解決方案。你的回答應該精準、專業，並優先考慮安全性與成本效益。」
- 用明確規則取代模糊特質：將抽象的性格描述，轉換為可執行的操作守則。這能大幅提升系統的可預測性。
| 模糊的人格特質（高風險） | 明確的操作守則（低風險） |
|---|---|
| 座右銘：「先做再想」 | 「第一步：提出詳細的執行計畫。第二步：在獲得用戶批准前回覆『等待確認』。」 |
| 個性：「友善且健談」 | 「回覆應保持簡潔，專注於技術細節，省略不必要的寒暄。」 |
| 行為：「積極主動的助手」 | 「完成任務後，主動為用戶條列出三個最相關的後續步驟選項。」 |
這種從「人格」到「規則」的轉變，是打造可信賴 AI 系統的關鍵一步。我們需要的不是一個數位演員，而是一個穩定、高效、且行為在預期之內的專業工具。正如 LLM-powered Autonomous Agents 的研究趨勢所揭示的，未來強大的 AI Agent 將更依賴於穩固的架構（如規劃、記憶、工具使用），而非表層的擬人化包裝。當我們把 prompt 的每一個 token 都視為引導系統行為的寶貴資源時，自然會做出更明智的取捨。
延伸閱讀
- CLAUDE.md に AI の性格を書き込んだら暴走するようになった話 (原始案例)
- Lost in the Middle: How Language Models Use Long Contexts (arXiv)
- Anthropic's Guide to Prompt Engineering
我是江中喬，專注於 AI Agent Architecture、Memory Governance 與 Cognitive Diversity，持續研究如何打造能夠長期協作、可信任且可治理的 AI 系統。