CISO と EU AI 法：AI システムのセキュリティ、ログ、人による監督に何を備えるか

どの AI システムが EU AI 法の対象かを知るために、CISO はまず何を棚卸しすべきですか？

• 適用範囲：AI システムを EU 市場に出す、または AI システムの出力が EU で使われる場合、EU に拠点がなくても対象です（第 2 条第 1 項）。
• システムごとに二つを判定：自社の役割（提供者、導入者、輸入者、販売者）と、リスク区分（第 5 条の禁止、附属書 I または附属書 III の高リスク、第 50 条の透明性）。
• 役割は変わる：第三者の AI システムに自社の名称や商標を付ける、高リスクシステムに実質的な変更を加える、または意図された目的を変えて高リスクにした場合、第 25 条第 1 項により提供者とみなされます。
• 適用日（デジタル・オムニバス規則 (EU) 2026/1744 による改正後）：附属書 III の高リスクシステムは 2027 年 12 月 2 日、附属書 I の製品は 2028 年 8 月 2 日。第 50 条の透明性義務は 2026 年 8 月 2 日から適用済みです。

判定の理由は AI システム台帳に記録します。役割が変わるときに何をすべきか

高リスク AI のセキュリティ要件（第 15 条）は、既存のセキュリティ管理策と何が違いますか？

第 15 条は、高リスク AI がライフサイクル全体を通じて適切な正確性、堅牢性、サイバーセキュリティを維持し、権限のない第三者が脆弱性を突いて用途・出力・性能を変えようとする試みに耐えることを求めます。一般的な管理策との違いは AI 固有の脆弱性を明記している点で、技術的措置は適切な場合、次の攻撃を予防・検知・対応・解決・制御できる必要があります。

ISO 27001 の管理策は土台になりますが、AI 固有のテストは別途追加が必要です。CRA のデジタル要素を持つ製品でもある AI システムは、CRA 第 12 条を満たせば AI 法第 15 条のサイバーセキュリティ要件を満たすとみなされます。

人による監督はどこまで設計すべきですか？CISO が確認すべき「停止」の仕組みは？

第 14 条は、高リスク AI を自然人が効果的に監督できるよう設計することを求めます。第 14 条第 4 項により、監督を任された人は次のことができなければなりません。

• システムの能力と限界を理解し、稼働を監視して異常を検知する
• 出力に過度に依存する傾向（自動化バイアス）を意識する
• 出力を正しく解釈する
• どの状況でもシステムを使わない、または出力を無視・覆す・元に戻すと判断する
• 「停止」ボタンまたは同様の手順で介入・中断し、システムを安全な状態で停止させる

導入者側では、第 26 条第 2 項が、必要な能力・研修・権限を持つ自然人に監督を割り当てることを求めます。CISO が確認するのは、停止の権限を誰が持つか、停止後にどう復旧するか、演習記録があるか、の三点です。AI が返金や受注変更を行える場合は、影響の大きい操作の前に人の介入点を設けます。関連記事：モデルが毎月更新され AI が受注を変更できる場合、誰が承認・停止・復旧するか

AI システムのログには何を記録し、どのくらい保存すべきですか？

• 提供者側：第 12 条は、高リスク AI がライフサイクルを通じてイベント（ログ）を自動記録できる技術的仕組みを持つことを求めます。リスクや実質的変更につながる状況の特定、市販後モニタリング、導入者による稼働監視に使われます。
• 導入者側：第 26 条第 6 項は、自らの管理下にあるログを、意図された目的に見合った期間、少なくとも 6 か月保存することを求めます。EU 法または加盟国法（特に個人データ保護法令）に別段の定めがある場合はそれに従います。

CISO の役割は、AI のログを既存のログ管理とアクセス制御に組み込み、保存期間を定めることです。ログに個人データが含まれる場合、保存期間と最小化は法務と一緒に決めます。

AI が重大インシデントを起こした場合、既存のインシデント報告手順にどう組み込みますか？

第 73 条は、EU 市場に出された高リスク AI の提供者に、インシデント発生地の加盟国の市場監視当局へ重大インシデントを報告することを求めます。

必要に応じて不完全な初報を先に提出し、後で完全な報告を出せます。導入者は第 26 条第 5 項により稼働を監視し、必要に応じて提供者に通知します。

実務では、AI の重大インシデントを GDPR、NIS2、DORA、EU CRA の報告期限と同じインシデント分類ステップに並べます。欧州委員会は第 73 条のガイダンス案を公表して意見募集を行っており、最終内容は欧州委員会の公表に従います。

取締役会への報告では、EU AI 法のエクスポージャーと準備状況をどう示すべきですか？

• 制裁（第 99 条、いずれか高い方。中小企業はいずれか低い方）：第 5 条の禁止違反は最大 3,500 万ユーロまたは全世界年間売上高の 7%、その他の義務と第 50 条の透明性違反は最大 1,500 万ユーロまたは 3%、不正確な情報の提供は最大 750 万ユーロまたは 1%。
• 証明書の限界：EU AI 法に独立した証明書はなく、ISO/IEC 42001 は整合規格ではないため、認証によって適合推定は生じません。
• 報告内容：AI システム台帳とリスク区分、各システムの適用日、第 15 条のテスト結果と第 14 条の監督演習、AI インシデント記録。

上場・店頭公開企業は、「上市上櫃公司資通安全管控指引」第 37 条に基づく取締役会または経営陣への定期的なセキュリティ報告に組み込めます。公開発行会社でない企業はこの指引の対象外で、任意に参考にできます。

積穗科研は CISO の EU AI 法対応をどう支援しますか？

• まず区分：AI システムのリスク分類診断を行い、リスク区分ごとに対応経路を設計
• 三つの中核文書：AI システム台帳、AI リスク・影響評価、EU AI 法義務マトリクス
• 一つの証拠体系：ISO 42001 のマネジメントシステムを第 9〜17 条と条文ごとに突き合わせて差分を補い、ISO 27001・27701 と骨格を共有
• 法定手続き：技術文書、適合性評価、EU データベース登録。重大インシデント報告を既存のセキュリティインシデント手順に統合
• 期間（サービスページ記載）：高リスク AI への対応は通常 6〜9 か月、ISO 42001 認証と統合する場合は 9〜12 か月
• 担当：副社長・取締役クラスのコンサルタントが外注せず一貫して担当。初回の診断は無料

詳しく：EU AI 法支援、EU AI 法コンサルタントの選び方、AI の証拠と 27001 の共有、CISO 向けページ