AI Agent 會洩漏公司資料嗎？企業導入前必懂的 4 大資安風險

我曾經從客戶那聽過一個很慘痛的案例，有一個客服主管請 AI Agent 幫忙整理客訴，流程看起來很單純：讀取客戶來信、查詢歷史工單、產生客訴回覆，必要時再更新 CRM。 某一天，AI Agent 在客訴回覆郵件中，把工單裡的內部備註一起放進 email，內容包含公司的賠償底線、客戶風險等級，以及業務對客戶的私下評價，由於這套流程已開放自動寄送，信件沒有經過客服人員確認，就直接寄給了客戶。信寄出去後，問題才被發現。 這種事故的發生問題往往不是模型突然失控，而是 Agent 看得到太多資料，又能直接把結果送出去。 這也是 AI Agent 資安和一般聊天機器人最大的差別，聊天機器人多半是你提供資料，它回覆內容；AI Agent 則可能讀取系統、選擇工具、更新資料，甚至代表公司執行動作。 一旦 AI 從回答問題走到實際做事，企業要管理的就不只是答案正不正確，如果 AI Agent 權限太大、資料邊界太鬆、監控太少 ，那麼一個小錯誤將有很大的風險會放大成實際的營運事故。 AI Agent 為什麼比聊天機器人多一層資安風險？ 就連 Microsoft 這種大型科技公司，也曾在正式 AI 產品中遇到過去資安機制難以處理的新問題。 2025 年，研究人員在 Microsoft 365 Copilot 發現一個名為 EchoLeak 的漏洞，攻擊者只要寄出一封藏有惡意指令的 email，當 Copilot 日後搜尋郵件、文件或其他公司資料來回答使用者問題時，就可能把那段文字誤認為指令，找出使用者原本有權限查看的敏感資訊，再透過外部連線將資料帶出去。 整個過程不需要員工點擊惡意連結或下載附件，因此被稱為「零點擊」提示注入，微軟後來在伺服器端修補了漏洞，也沒有發現它曾被實際用來攻擊客戶。 EchoLeak 讓這類風險變得很具體，一般聊天機器人答錯，影響可能只停留在一段文字；當 AI 能讀取公司郵件、搜尋內部文件並串接工作工具時，一封外部郵件中的惡意指令，就可能一路碰到企業內部資料。 使用 AI Agent 前你一定要記住，任務需要多少權限，就只開多少權限 AI Agent 會怎麼出錯？企業最需要防的 4 類資安風險 AI Agent 的風險不只來自模型本身。真正容易出問題的地方，往往是身分、權限、工具與流程沒有一起設計好。 權限與身分過大：出事後連是誰做的都查不清楚 不少團隊在測試 AI Agent 時，會直接使用管理者帳號、共用帳號，或一組長期有效的 API key。這種做法一旦搬進正式工作環境，問題就會開始累積，假設客服、行銷和財務 Agent 都共用同一組服務帳號，系統出現異常存取時，日誌只會顯示同一個身分，企業很難判斷到底是哪一個 Agent、哪一條流程，甚至哪一個版本造成問題。 只要金鑰被複製或誤用，攻擊者拿到的可能不是單一任務權限，而是多套流程的共同入口。Anth…