現在走進辦公室,越來越多同仁會用 ChatGPT、Claude、Gemini 協助整理資料、撰寫文件、產生報表、優化程式,甚至作為日常工作的第二大腦。生成式 AI 的確能大幅提升效率,但企業真正該問的,不是「能不能用 AI」,而是「要怎麼安全地用 AI」。
捷誠資訊(JCIT) 觀察到,很多企業資料外洩不是因為被駭,而是因為員工在便利與趕時間的情況下,直接把合約、客戶資料、財務資訊、原始碼或內部文件貼進 AI 工具。當企業沒有建立資料分級、權限管理、使用規範與技術保護時,生成式 AI 就可能從生產力工具,變成新的風險入口。
企業使用生成式 AI,最常見的資料外洩風險在哪裡?
1. 直接把機敏資料貼進 AI 對話框
這是最常見、也最容易被忽略的風險。員工為了快速整理報表、潤飾合約、優化提案或請 AI 協助除錯,可能會直接貼上客戶資料、財務數字、內部流程、報價內容、原始碼或帳號資訊。表面上只是「拿 AI 幫忙整理一下」,但實際上等於把企業內部資料送進外部服務處理。
- 常見場景:把 Excel 報表貼進 AI 請它做分析、把客戶郵件貼進 AI 請它改寫、把程式碼貼進 AI 請它 debug。
- 風險關鍵:若企業沒有明確規定哪些資料不能貼、哪些平台可以用,就很容易因個人便利而造成資訊暴露。
2. 使用未經控管的個人帳號與外部 AI 工具
很多企業真正的風險,不是正式導入 AI,而是員工自己先用。有人用個人免費帳號,有人用瀏覽器外掛,有人甚至把公司資料貼進不知道資料流向的第三方 AI 網站。這種「Shadow AI」問題,往往比正式採購的 AI 工具更危險。
- 常見場景:員工用私人帳號登入 AI 平台處理工作內容、使用來路不明的 AI Chrome 外掛、下載未經審核的 AI 桌面工具。
- 風險關鍵:企業無法掌握資料被送到哪裡、誰有權限看到、是否有保留紀錄,也無法做事後稽核。
3. 權限與分享設定錯誤,讓雲端資料意外暴露
生成式 AI 與雲端辦公平台結合愈來愈緊密,很多資料不再只是存在本機,而是散落在 OneDrive、Google Drive、SharePoint、雲端文件與 SaaS 平台。當資料本來就處在權限鬆散、分享設定不清楚的環境裡,再加上 AI 工具讀取、整合與摘要能力,風險就會被進一步放大。
- 常見場景:機密文件被設成任何知道連結的人都能看、資料夾權限長期未清查、離職人員仍保有雲端權限。
- 風險關鍵:企業以為風險來自 AI,其實很多時候真正的問題是雲端權限治理本來就不完整。
4. AI 回答不一定正確,錯誤輸出也可能造成資訊安全事件
資料外洩不一定只是「被看到」,也可能是因為 AI 給了錯的建議,導致人員做出錯誤決策。像是錯誤的程式碼、安全性不足的設定範例、虛假的法規解讀,或看似合理但其實不符合公司流程的建議,都可能讓企業在沒有察覺的情況下製造新的資安漏洞。
- 常見場景:直接採用 AI 產出的程式碼、把 AI 生成的流程文件當正式版、依 AI 建議調整帳號或權限設定。
- 風險關鍵:AI 是輔助工具,不是最終決策者;缺少人工覆核,就可能把錯誤內容帶進正式環境。
用白話來說:AI 很像一位超強的新同事,但不能什麼都直接交給他
ChatGPT、Claude、Gemini 很像剛來報到但能力很強的新同事。
他反應快、會整理、會寫字、會分析,也很願意幫忙。但問題是:如果你還沒搞清楚公司哪些資料是機密、哪些流程要雙重確認、哪些文件不能外傳,就把所有東西一股腦交給他,風險自然會跟著進來。
真正的重點不是禁止 AI,而是建立安全使用 AI 的規則。
就像辦公室不會因為印表機方便,就允許任何人隨便印客戶合約;也不會因為雲端好用,就讓每個人都能看到所有資料。AI 也一樣,必須有範圍、有權限、有流程。
企業要怎麼安全使用 ChatGPT、Claude、Gemini?
第一步:先定義哪些資料不能進 AI
企業至少應先把資料分成幾類,例如:公開資料、內部資料、敏感資料、機密資料。像客戶個資、財務數據、原始碼、報價、合約、內部稽核文件、帳號憑證等,原則上都不應由員工任意貼進外部 AI 平台。
第二步:建立 AI 使用規範與核可名單
不要讓每個人自己決定要用哪個 AI、怎麼用。企業應建立明確的 AI 使用政策,包括可用平台、禁止行為、審核流程、使用情境與例外處理方式,並盡量集中使用經過評估的授權版本與企業方案。
第三步:搭配技術控管,而不是只靠宣導
只靠口頭提醒通常不夠。企業應考慮搭配資料外洩防護(DLP)、雲端權限治理、端點監控、MFA、多因素驗證、異常行為偵測與雲端設定檢查等機制,讓風險不只停留在政策層,而是真正落到系統控制上。
企業 AI 安全使用檢查清單
會用 AI 很重要,但更重要的是安全地用 AI
生成式 AI 不該是企業資安的新破口,而應該是提升效率的新助力。當企業開始大量使用 ChatGPT、Claude、Gemini 時,也要同步把資料分類、權限治理、使用規範與技術防護建立起來。捷誠資訊協助企業從制度面與技術面同步規劃,讓 AI 帶來的是競爭力,而不是新風險。
延伸閱讀與相關服務
- 企業資訊安全服務-從弱點掃描、滲透測試到 EDR 與整體資安規劃,建立更完整的企業防護架構。
- 一張圖看懂 Fortinet 在搞什麼-快速理解 Fortinet Security Fabric 架構,以及各項資安元件如何彼此整合。
- 弱點掃描的核心價值-了解企業如何從技術面提早發現風險,降低資料外洩與系統暴露的可能性。
- 社交工程演練的核心價值-補強員工對異常指令、釣魚情境與人為風險的辨識能力,從人員面守住資料安全。