企業 AI Agent 卡關的真正原因：不是不夠聰明，而是「不知道自己是誰」

過去幾個月，我反覆思索一個讓企業 AI Agent 專案卡關的核心問題。業界常將失敗歸咎於模型能力或資料品質，但根據我的經驗與觀察，真正的量產瓶頸，其實是個更根本、卻常被忽略的議題：當 Agent 執行一個動作時，它到底代表「誰」？缺乏明確的身分認證、權限管理與行為追溯機制，才是導致高達 86% 的試行專案無法規模化的主因。這不是一個酷炫的模型或框架問題，而是一個關於治理與信任的基礎設施問題，也是所有嚴肅的企業級應用都無法迴避的關卡。

為什麼多數 AI Agent 專案走不出實驗室？

我們都聽過那些令人振奮的數字。一份近期針對 650 位企業技術領導者的調查顯示，高達 78% 的企業正在運行 AI Agent 的試行專案（pilot）。但光鮮的另一面是，最終只有 14% 成功規模化到生產環境。當這些專案失敗時，模型本身很少是罪魁禍首。同一份調查指出，89% 的擴展失敗源於五個毫不光鮮的環節：與既有系統的整合、規模化後的輸出品質、監控機制的缺乏、權責不清，以及資料問題。

這樣的觀察與產業分析不謀而合。例如，Gartner 預測，到了 2027 年底，將有超過 40% 的 Agentic AI 專案會被中止，原因大多雷同。每個人對哪個環節最致命都有自己的理論：模型不夠好、應用場景選錯、資料一團亂，或是領導層失去耐心。但在我的經驗裡，防火牆內真正扼殺最多專案的，是那個幾乎沒人明說，卻又無比致命的問題：Agent 無法證明它究竟是為誰行事。

一句話，如何戳破 Agent 的美好假象？

這個問題聽起來很抽象，但在合規審查面前，任何抽象概念都會被具體挑戰擊潰。想像一個整合了公司內部 IT 服務管理系統的 AI 助理，你問了它一個再平凡不過的問題：

「我目前隸屬於哪些權限群組？」

如果這個 Agent 的建構方式跟絕大多數的展示（demo）一樣——透過一個共享的服務帳號（service account）來連接後端系統——它在物理上就無法正確回答。系統根本不知道「我」是誰。它看到的，是一個借來的身分，帶著一組固定的權限，對每個與它對話的人都一視同仁。

因此，它只有兩種可能的反應：

1. 回傳所有人的群組資訊：這是一種嚴重的資料外洩，足以讓你的資安團隊當場結束會議。
2. 回傳那個服務帳號自己的群組資訊：答案聽起來自信、流暢，但完全錯誤。

這個看似無害的問題，像一把手術刀，瞬間劃開了整個問題的核心。你的 Agent 並不是「作為你」在行動，它只是「一個剛好在幫你跑腿的通用金鑰」。而一個無法追溯到具體個人的通用金鑰，正是任何資安長（CISO）的惡夢，也是他們受薪以杜絕的風險。

Per-User Identity：如何讓 AI Agent 真正「知道自己是誰」？

這個困境的解法，有個我反覆提及的名稱：Per-User Identity（個別使用者身分）。原則說來簡單，實作卻充滿挑戰：Agent 對下游系統發出的每一次呼叫（call），都必須以觸發該動作的、具名的「真人」身分執行——帶著這個人自己的角色、自己的存取權限，並留下屬於他自己的稽核軌跡（audit trail）。

絕不能是共享帳號。不是「大多數時候」，而是「每一次」。

當你真正做到這一點，前面那個平凡的問題就能迎刃而解，因為系統 genuinely 是「以你的身分」在運行。若做不到，你擁有的就只是一個生產力玩具，一個永遠無法通過治理審查的漂亮專案。這套機制的底層，是一個由三段構成的身分中繼（identity relay）：

• 登入（Login）：你以自己的身分登入系統，完成驗證。
• 交換（Exchange）：系統在背景將你的身分憑證（token），靜默地交換成一個後端系統能夠信任、且專屬於你的憑證。這通常牽涉到像 OAuth 2.0 這類的授權框架。
• 驗證（Validate）：後端系統驗證這個新憑證，然後以你的名義、你的權限，執行查詢，並對你負責。

一個完整的人類身分，從聊天視窗，一路完整地傳遞到資料庫的每一行，再回來。這不是一個可以在專案最後才加上去的功能，它是整個系統的脊椎。如果最後才想建，等於推倒重來。

為何資安長絕不會放行一個「無名」Agent？

資安長們憑直覺就能理解，但展示專案從來不會揭示的一點是：一個透過共享帳號運作的 Agent，構成的不是「便利性風險」，而是「歸屬（attribution）風險」。

當意外發生時——對於自主系統（autonomous systems）而言，意外遲早會發生——「是那個服務帳號幹的」這種答案，沒有人能拿去向監管機構、客戶或董事會交代。一個無法歸因的行為，在企業環境中等同於一顆定時炸彈。

Per-user identity 的機制，能將「系統對某人的資料做了某件事」這種模糊的描述，轉化為「這位具名使用者，以他自己的身分，在特定時間執行了這項查詢，所有軌跡在此」的清晰紀錄。這才是負責任的 AI 系統所需要的基礎。它把模糊的「系統行為」變成了清晰的「使用者操作」，讓權限控管與事後審計成為可能。

歸根究底，企業級 Agent 落地的真正障礙，往往不在於它夠不夠聰明，而在於我們能否信任它、管理它、並在出事時追究它。而這一切的基礎，都源於那個最根本的問題：它到底是誰？

延伸閱讀

• Gartner: What's New in the 2024 Gartner Hype Cycle for Emerging Technologies
• NIST AI Risk Management Framework
• AWS Blog: Leveraging IAM roles and service accounts for pods for fine-grained IRSA in Amazon EKS

我是江中喬，專注於 AI Agent Architecture、Memory Governance 與 Cognitive Diversity，持續研究如何打造能夠長期協作、可信任且可治理的 AI 系統。