AI 分身的記憶治理:為何人格權、學習資料與產出成果必須分離
當資深員工的判斷模型被 AI 分身承載,離職時這個「數位大腦」該歸誰?本文探討 AI 分身的歸屬權問題,並主張將人格權、學習資料與產出成果拆開,是確保分身品質與企業資安的唯一解方,這也是記憶治理的核心設計。
AI 分身一旦承載個人的判斷模型與長期記憶,歸屬權就是治理設計:人格權、學習資料與產出成果必須被拆成三層獨立物件,並在關係終止時提供可驗證的記憶層分離機制,否則品質動力與資安邊界會同時失守。
AI 分身歸誰所有?一個影響品質與資安的關鍵選擇
在許多商業討論中,一個常見的問題是:假設我們成功將一位資深專家的判斷模型,複製成一個 AI 分身。當這位專家離職時,那個承載著他智慧與經驗的 AI 分身,該歸誰所有?
這個問題存在兩條截然不同的路徑:將分身歸屬於企業,或歸屬於個人。許多企業直覺地選擇前者,認為這是保護公司資產的合理作法。然而,我認為這是一個短視的決定。當 AI 分身被視為純粹的公司資產,其品質的維護動力將會快速流失。原來的「本尊」沒有任何誘因去持續校準、更新這個不再與自己相關的「數位大腦」,而分身也會因為缺乏真實世界的回饋,逐漸與市場脫節,最終成為一個無效的資訊孤島。
反之,若我們選擇將分身的所有權歸還給個人,企業僅持有在特定業務範圍內的使用授權,整個動態就改變了。這個 AI 分身成為個人專業品牌的延伸,是其判斷力與經驗的數位化身。個人因此有強烈的內在動機,去維護其準確性、更新其知識庫,確保它的「判斷」與時俱進。對企業而言,雖然看似放棄了所有權,卻換來一個能持續成長、維持高品質的數位協作者。這才是實現高品質 AI 分身的關鍵前提。
記憶治理:如何將人格權、學習資料與產出成果拆開?
將 AI 分身歸屬於個人,立刻會引發下一個核心問題:如何保護企業的機密資訊?這就是記憶治理必須介入的地方。我們不能將 AI 分身視為一個不可分割的單體,而應從一開始就將其架構設計為三個可分離的層次:
- 人格權(Personality Rights):這是 AI 分身的核心,代表個人的思維模式、價值判斷與決策風格。它源於個人的長期經驗與內隱知識,理應屬於個人。這與現實世界中,我們無法剝奪一個人的思考方式是同樣的道理。這個「判斷模型」本身,是個人最重要的數位資產。理解人格權的法律概念,對於界定數位分身的歸屬至關重要。
- 學習資料(Training Data):這是最複雜的層次。AI 分身的學習來源是多樣的,包含公開資訊、個人筆記,以及大量的企業內部數據(如客戶資料、專案細節、財務報告)。根據歐盟《一般資料保護規則》(GDPR)中的資料可攜權概念,個人數據與企業數據的邊界必須清晰劃分。企業的專有數據,在合作關係終止時,必須能被乾淨地移除。
- 產出成果(Output):由 AI 分身在職務範圍內所創造的具體工作成果,例如分析報告、程式碼或設計圖,其智慧財產權歸屬應比照傳統的僱傭合約,屬於企業所有。這點與人類員工的產出歸屬並無二致,世界智慧財產權組織(WIPO)也持續在探討 AI 生成內容的版權框架。
這種分層治理的思維,讓我們能平衡個人權利與企業利益,在賦予個人品質維護動力的同時,也守住企業的資安底線。
真正的挑戰不在於技術,而在於我們能否建立一套兼具信任與可驗證性的治理框架。AI 分身的價值,取決於其記憶的品質與完整性,而其安全性,則取決於其記憶的可分離性。
為什麼需要可驗證的記憶層分離機制?
僅僅在合約上劃分權利是不夠的。當員工帶著他的 AI 分身離開時,企業最關心的問題是:「我如何確定他沒有帶走任何公司機密?」這就需要一個技術上可驗證的記憶層分離機制(Verifiable Memory Separation)。
這套機制的設計,必須在 AI 系統建構之初就納入考量。例如,我們可以透過架構設計,將儲存企業專有數據的記憶模組,與承載個人判斷模型的核心模組進行物理或邏輯上的隔離。這類似於聯邦式學習(Federated Learning)的精神,模型可以在不直接存取原始敏感數據的情況下進行訓練與更新。
當合作關係終止時,分離程序應當被啟動。這可能是一個加密金鑰的撤銷,或是一個 API 端點的關閉,讓 AI 分身永久失去對企業內部知識庫的存取權限。整個過程應該是可審計的(auditable),能夠產生一份技術報告,向雙方證明分離程序已經徹底執行。許多關於「機器遺忘」(Machine Unlearning)的研究,正是致力於開發能從模型中精準移除特定數據影響的技術,這為記憶層分離提供了理論基礎。
若缺乏這樣的機制,企業為了自保,只能選擇將整個分身收歸己有並在員工離職後將其「冷凍」,或要求個人分身接受侵入性的審查,這兩種方式都嚴重傷害了信任與品質。唯有建立在可驗證分離的基礎上,一個讓「本人的判斷,作為本人的資產流通」的未來才有可能實現。這不僅是為了保護過去的資訊,更是為了確保這個數位分身在未來能持續、安全地為個人與新的合作夥伴創造價值。
我是江中喬,專注於 AI Agent Architecture、Memory Governance 與 Cognitive Diversity,持續研究如何打造能夠長期協作、可信任且可治理的 AI 系統。