ISO 27701:2025 × GDPR 隱私合規輔導 × AI 資安攻擊防護

個資 × AI 資安攻擊:怎麼避免個人資料經由 AI 外洩或被還原

更新 2026-11-10

先說結論

AI 讓個資多了三條外洩路徑:員工把個資輸入外部 AI 服務、內部 AI 助理經由提示注入或權限不當把個資答給不該看的人、模型本身被成員推論或模型反推還原訓練資料。對策是 AI 閘道遮罩個資、檢索時依原始權限過濾、委外 AI 服務簽處理者條款並禁止拿資料訓練、上線前做 DPIA 與攻擊測試;這些都可放進 ISO 27701 的隱私資訊管理制度持續運作。

配對頁:服務說明:ISO 27701:2025 × GDPR 隱私合規輔導這項服務是什麼、適用誰、交付什麼,請看服務說明頁。

為什麼 AI 讓個資保護多出新的攻擊面?

GDPR 第 5 條第 1 項 (f) 款要求以適當安全措施確保個資的完整與機密,第 32 條要求依風險採取技術與組織措施;台灣個資法第 27 條要求保有個資檔案的非公務機關採行適當安全措施。這些義務不因處理工具換成 AI 而改變,但 AI 帶來三條過去沒有的路徑:

  • 輸入外洩:員工把客戶名單、病歷、履歷貼進外部生成式 AI,資料離開企業控制,還可能被服務商保存或用於訓練。
  • 檢索外洩:內部 AI 助理接上人事、客服、CRM 資料庫,若檢索不依使用者原本的權限過濾,或被提示注入誘導,就會把個資答給不該看的人。
  • 模型外洩:用個資訓練或微調的模型,可能被成員推論(判斷某人是否在訓練資料中)或模型反推攻擊還原資料。EDPB Opinion 28/2024 指出,模型要被認定為匿名,必須讓直接萃取與經由查詢取得個資的可能性都微不足道,並把這類攻擊的抵抗力列為評估要素。

AI 造成的個資攻擊有哪些?從哪裡進來?

攻擊進入點外洩的個資參考分類
員工輸入外部 AI個人帳號的生成式 AI、瀏覽器外掛客戶、員工、病患資料OWASP LLM02 敏感資訊揭露
直接與間接提示注入客服機器人、讀取信件或文件的 AI 助理檢索得到的任何個資NIST 提示注入;OWASP LLM01
檢索權限繞過向量資料庫、RAG 知識庫依原權限不該看到的人事或客戶資料OWASP LLM08 向量與嵌入弱點
成員推論、模型反推、訓練資料萃取用個資訓練或微調的模型、推論 API訓練資料中的個人NIST 隱私攻擊;EDPB Opinion 28/2024
系統提示詞洩漏提示詞內含客戶資料或內部規則提示詞中的個資與設定OWASP LLM07
AI 輔助社交工程以生成式 AI 製作的釣魚信、仿冒語音帳號被盜後可存取的個資NIST 濫用(misuse)

對應的控制做法與要留下的證據是什麼?

義務欄依官方條文;控制做法是積穗科研的實務建議。

義務控制做法留下的證據
GDPR 第 25 條:設計與預設的資料保護AI 閘道在送出前偵測並遮罩個資;預設不保存對話內容閘道規則、遮罩測試紀錄
GDPR 第 32 條;個資法第 27 條:安全措施RAG 檢索依使用者原始權限過濾;AI 代理的資料存取最小權限;異常查詢告警權限設計、告警紀錄
GDPR 第 28 條:委託處理者外部 AI 服務簽處理者條款:不得拿資料訓練、保存期限、次處理者、事件通報合約、供應商評估
GDPR 第 35 條:資料保護影響評估新 AI 用途上線前做 DPIA,納入提示注入、成員推論等攻擊情境DPIA 報告
GDPR 第 33 條;個資法第 12 條:事件通報與通知AI 造成的外洩納入事件分級與通報流程事件處理紀錄
EDPB Opinion 28/2024:模型匿名性主張若主張模型匿名,要有萃取與推論攻擊的測試與文件測試報告、評估紀錄

ISO 27701 怎麼把 AI 個資風險變成持續運作的制度?

ISO/IEC 27701 是隱私資訊管理系統(PIMS),讓上面的控制不是一次性專案,而是有人負責、定期檢討:

  • 處理活動紀錄:每個 AI 用途登記成一項處理活動:目的、個資類別、AI 服務供應商、保存期間、跨境傳輸。
  • 風險評估:把本頁的 AI 攻擊清單併入隱私風險評估,新 AI 用途或換模型時重新評估。
  • 供應商管理:AI 服務商納入處理者評估與合約管理。
  • 當事人權利:客戶要求刪除或查詢時,確認 AI 對話紀錄、向量資料庫與微調資料都在處理範圍內。
  • 內部稽核與管理審查:抽查閘道紀錄與 RAG 權限設定,確認控制真的有在跑。

資訊、法務、業務單位與 AI 供應商各自負責什麼?積穗與 Ahura 做哪一段?

  • 個資管理代表/DPO:維護處理活動紀錄、主導 DPIA、判斷事件是否需要通報。
  • 資訊與資安:建置 AI 閘道、RAG 權限過濾、紀錄與告警。
  • 業務單位:提出 AI 用途時說明資料類別與目的,不自行開通外部 AI 服務。
  • 法務與採購:與 AI 服務商簽處理者條款,確認不訓練、可刪除、可稽核。

積穗科研負責 GDPR 與個資法適用判斷、把 AI 用途納入 ISO 27701 制度、DPIA 方法與控制設計。Ahura(POC 版本)全地端部署,評估與簽核紀錄保存在企業自己的環境,符合 eIDAS 相容的證據鏈要求。

已經有 ISO 27701 或 GDPR 制度,要補 AI 從哪裡開始?

  1. 找出影子 AI:盤點員工實際在用的 AI 服務與外掛,先封鎖會把資料拿去訓練的服務。
  2. 補處理活動紀錄:每個 AI 用途登記一筆,標出個資類別與供應商。
  3. 挑最高風險的一個做 DPIA:通常是接上客戶或人事資料的內部 AI 助理,把提示注入與檢索權限繞過列進測試。

做完這三件事,下一次內部稽核就能看到 AI 已經在制度裡。

其他服務的 AI 資安攻擊防護

官方來源

積穗科研怎麼做 ISO 27701 與 GDPR

積穗科研股份有限公司(Winners Consulting Services Co., Ltd.)提供 ISO 27701 與 GDPR 顧問服務:以 ISO 27701 一套制度同時對應 GDPR 與台灣個資法;客戶授權公開的個資保護輔導客戶包括金融聯合徵信中心、Lativ、卓元科健。由副總、董事級顧問全程輔導,不外包,顧問團隊持有 ISO 主導稽核員資格。同一個團隊從法規判定、流程到技術控制一次規劃,同一套證據對應多個法規與客戶要求。

法遵
對應 GDPR 與台灣個資法,界定個資控制者與處理者
流程
建立個資管理制度、處理活動紀錄與當事人權利回應程序
資安技術
落實加密、存取控制、資料最小化與外洩偵測
申請免費機制診斷

用 LINE 直接問顧問

不用填表:按下按鈕會開啟 LINE,並帶入你正在看的頁面,送出後由積穗科研顧問回覆。第一次機制診斷免費。

積穗科研的實績

積穗科研是台灣專業的 RegTech 系統平台及企業風險管理顧問公司。

服務深受 20+ 家企業長期信賴,屬於深耕產業、與企業長期夥伴型的專業顧問公司。

客戶授權公開的具名輔導客戶實績:

看完整案例

個資 × AI 資安攻擊:怎麼避免個人資料經由 AI 外洩或被還原|積穗科研