企業導入生成式 AI 的真正風險，不在模型，在組織

企業導入生成式 AI 時，最大的資安風險並非模型偶爾出錯，而是組織內部缺乏明確的行為邊界。許多公司專注於技術設定，卻忽略了再嚴密的安全機制，都可能被人為的「善意」或「無知」繞過。真正的 AI 治理，始於建立「不輸入機密」的制度與文化，這是一項組織工程，而非單純的技術挑戰。若無法在組織層面建立操作的護城河，任何技術投資都可能事倍功半。

為什麼技術設定擋不住人為風險？

一個鮮明的例子，是 2023 年發生在韓國三星電子的資訊洩漏事件。據報導，半導體部門的工程師為了快速解決程式碼問題，將內部的原始碼直接貼進了 ChatGPT。他們的動機很單純：提升工作效率。然而，這個出於善意的行為，卻可能導致公司的核心機密資產被納入外部模型的訓練資料庫中。三星事後緊急限制了內部對生成式 AI 的使用，從積極擁抱轉為嚴格管制。

這個案例清楚地揭示了一個核心問題：如果員工缺乏對「什麼資訊絕對不能輸入」的認知，那麼無論公司的系統設定多麼安全，例如選用了資料不被用於訓練的企業版方案，風險依然存在。員工可能因為方便，在個人設備上使用免費版工具，形成管理的死角，也就是所謂的「影子 AI」（Shadow AI）。因此，防禦的第一道防線，必須建立在人的認知與行為準則上。

AI 治理的起點，是承認技術的邊界，並從人的行為與組織的制度著手。

生成式 AI 的資訊洩漏，主要透過哪些路徑發生？

要建立有效的防禦，我們必須理解風險從何而來。生成式 AI 服務的資訊洩漏風險，主要可以歸納為以下四種路徑：

1. 輸入資料被用於模型訓練：這是最廣為人知的風險。許多免費或個人版的 AI 服務，其服務條款中會註明，用戶輸入的資料可能被用於改善模型。一旦機敏資訊（如客戶名單、財務預測、未公開的產品規格）被輸入，就等於將其所有權交了出去，未來可能在其他用戶的查詢結果中意外重現。
2. 服務供應商的系統漏洞：即使企業採用了資料隔離的付費方案，服務本身也可能出現漏洞。2023 年 3 月，OpenAI 就曾因系統快取漏洞，導致部分用戶能看到其他用戶的對話標題。雖然這類事件較罕見，但它提醒我們，將雞蛋完全放在一個籃子裡並非萬無一失。唯一的絕對保障，就是從源頭控管，不輸入敏感資料。
3. 帳號竊取與未經授權存取：生成式 AI 帳號與其他雲端服務一樣，面臨著被盜的風險。資安公司 Group-IB 在 2023 年的報告中揭露，有超過 10 萬筆 ChatGPT 帳號憑證在暗網上被交易。這些憑證大多是透過安裝在用戶裝置上的資訊竊取軟體（Infostealer）外流的。一旦帳號被盜，過去所有的對話紀錄都可能曝光。
4. 員工無意的操作失誤：這是實務上最常見、也最難防範的路徑。員工可能只是想利用 AI 潤飾一封包含客戶個資的郵件，或要求它總結一份內部合約草稿。這些看似無害的日常操作，都在不知不覺中將機密資訊傳送至公司無法控制的外部伺服器。

如何建立有效的防禦框架？

面對上述風險，單靠技術封鎖或全面禁止並非最佳解方，反而可能扼殺生產力。一個成熟的作法，是從「制度、技術、人員」三個層面建立一個多層次的防禦框架，目標不是「禁用」，而是「安全地啟用」。

首先是制度層面，這是一切的基礎。企業必須制定清晰的「生成式 AI 使用指南」，明確定義：

• 允許使用的工具清單（例如，僅限公司採購的企業版）。
• 絕對禁止輸入的資訊類型（例如，個人識別資訊 PII、原始碼、客戶資料、財務報表、未公開的智慧財產）。
• 生成內容的使用規範（例如，AI 生成的程式碼需經過人工審查、對外發布的文稿需標示為 AI 輔助生成）。
• 發生疑似洩漏事件時的通報流程。

其次是技術層面的輔助。制度需要技術來落實。最直接的作法是導入企業級 AI 服務，這類服務通常提供資料零保留（Zero-retention）政策，確保企業的輸入與輸出不會被用於模型訓練。此外，可以利用資料外洩防護（DLP）工具來偵測並阻擋傳送至已知 AI 服務的敏感資料模式，或透過雲端存取安全代理（CASB）來管理員工對各類雲端應用的存取權限。

最後，也是最關鍵的，是人員層面的持續教育。制度頒布了、系統導入了，但若員工無法理解其背後的原因，就只會想辦法繞過。企業需要定期舉辦教育訓練，用前述的真實案例讓員工體會風險的嚴重性。教育的重點不應只是「禁止」，而是「賦能」——教導員工如何在安全的邊界內，最大化地利用 AI 提升工作效率。這需要將資安意識內化為企業文化的一部分，讓每一位員工都成為防線的守護者。

總結來說，生成式 AI 帶來的資安挑戰，更像是一場對組織管理能力的壓力測試。技術工具是重要的輔助，但真正的安全感，來自於一個紀律嚴明、認知清晰、且賦予員工正確工具與知識的組織。

延伸閱讀

• 個人資料保護委員會：提醒各界審慎使用生成式 AI 服務
• Group-IB: Over 100,000 ChatGPT Accounts Compromised by Infostealers Found in the Dark Web
• OpenAI: March 20 ChatGPT Outage: Post-mortem

我是江中喬，一位具有 TPM 與產品管理背景的 AI 系統建構者，目前專注於 AI 認知增強系統與多 Agent 協作架構的設計與實踐。