該做的驗證與控制
| 面向 | 要做什麼 |
|---|---|
| 資料信任邊界 | 區分指令來源與資料來源；外部文件、郵件、網頁內容不得直接觸發操作 |
| 權限 | 代理只拿完成任務所需的最小權限；採購、付款等操作設金額與範圍上限 |
| 人工核准 | 高影響操作前須人工確認，核准人與時間留紀錄 |
| 對抗測試 | 以夾帶指令的文件、異常輸入測試代理行為，結果接回風險處置 |
| 不透明模型 | 黑箱測試、供應商資訊要求、版本通知條款、限制揭露 |
| 與資安分工 | 帳號、權限、日誌與事件處理由資安團隊執行，AI 治理定義要求與驗收 |
顧問應該交付什麼
- 代理的授權範圍表與高影響操作清單
- 測試與驗收要求（含對抗情境），以及結果如何進入風險處置
- 供應商資訊要求與契約條款清單
- 殘餘風險接受程序與限制揭露的寫法
- 與既有資安團隊的分工表
怎麼驗收
任選一個高影響操作，能找到權限設定、人工核准紀錄與測試結果；任選一個外購模型，能找到契約資訊條款、黑箱測試紀錄與殘餘風險接受紀錄。
不能保證的事
測試無法窮盡所有攻擊方式；供應商不揭露的內容無法替你證明。能做的是限制權限、保留人工核准、把殘餘風險明確化。
積穗科研的做法
以下是積穗科研自己的說明，請用上方的問題同樣檢驗我們，也檢驗其他顧問。
- 誰主導：副總、董事級顧問全程輔導，不外包
- 專案節奏（服務頁所列）：範圍與盤點 2–4 週、風險與影響評估 3–5 週、制度建置 6–10 週、稽核與驗證 4–8 週；已有 ISO 27001 的組織通常 4–6 個月可達驗證，從零開始約 6–9 個月
- 分工：制度與證據鏈由我們建立；法律意見由合作律師出具；驗證由依 ISO/IEC 42006 認可的驗證機構執行，我們陪同、不代審
- 已完成的工作（受保密協議限制、匿名）：製造業自動化企業建立 AI 系統清單、完成 AI 風險分級，針對高風險應用建立演算法審查流程與人類監督機制，取得 ISO 42001 驗證
相關問題
- 買的 AI 服務不公開模型，還能導入 ISO 42001 嗎？ 可以。用黑箱驗證取得自己的證據，把資訊要求寫進契約，對無法消除的部分揭露限制並由權責主管接受。ISO 42001 導入輔導
- AI 代理的資安由誰負責？ 帳號、權限、日誌與事件處理由資安團隊執行；AI 治理負責定義授權範圍、人工核准與驗收要求，兩者要有分工表。AI 治理顧問
合規要三者兼顧，顧問的價值在整合
CRA、TISAX、ISO 27701、AI Act 都不是單一技術問題，而是流程、資安技術、法遵三件事同時成立才算完成。只補其中一塊，另外兩塊的缺口會在稽核、通報或客戶盡職調查時浮現，最後要重做。
| 面向 | 要回答的問題 | 只補這一塊時常見的缺口 |
|---|---|---|
| 流程（管理系統） | 誰負責、做什麼、何時做，做跟沒做的證據在哪、怎麼持續改善 | 技術工具到位，但沒有人定期執行，稽核時拿不出紀錄 |
| 資安技術 | 控制措施怎麼設計、怎麼驗證有效 | 文件寫得完整，但系統實際上沒有做到 |
| 法遵 | 適用哪條法規、角色是什麼、期限與罰則為何 | 做了一套控制，卻對錯法規或角色，義務沒有涵蓋到 |
積穗科研的顧問團隊同時涵蓋這三個面向，從法規判定、流程設計到技術控制一次規劃，同一套證據對應多個法規與客戶要求。