ISO/IEC 42001 AI マネジメントシステム導入 × AI攻撃への備え

AIガバナンス×利用境界:社員のAIトークン枠を自社とサプライチェーンへの攻撃の武器にしない

更新 2026-11-10

結論

社員のAI利用枠は会社の資産として管理します。一人一つの身元、AIゲートウェイ経由のアクセス、長期有効な共有キーは発行しない。用途ごとの上限と異常検知、フィッシングやマルウェア、取引先への攻撃コンテンツ作成などの禁止用途の明文化。AIエージェントは最小権限とし、社外送信やコード実行は人が確認。退職当日に失効。これらはISO/IEC 42001附属書A.9の責任ある利用と意図した用途、A.10のサプライチェーンの責任分担に対応します。

対になるページ:サービス概要:ISO/IEC 42001 AI マネジメントシステム導入サービスの内容・対象・成果物はサービス概要ページをご覧ください。

社員のAIアカウントやトークン枠が、なぜ自社とサプライチェーンを攻撃する武器になるのですか?

企業が社員に生成AIを開放するとき、通常はAPIキー、企業アカウント、月額の利用枠を配布します。これらには、そのまま計算資源に換えられる、利用記録が会社名義で残る、簡単に複製できるという三つの性質があります。実例もあります。Microsoftのデジタル犯罪対策部門は2025年2月27日、犯罪ネットワークStorm-2139が公開情報から収集した漏えい済みの顧客認証情報を悪用して生成AIサービスに不正アクセスし、サービスの機能を改変したうえで、有害なコンテンツの生成用にアクセス権を他の悪意ある者へ転売していたと公表しました。

企業への影響は少なくとも四層あります。

  • 費用:利用枠を使い尽くされます。OWASPはこのリスクをLLM10「無制限な消費」としています。
  • 責任と信用:悪用されたコンテンツは会社のアカウントから出たものとなり、提供者による停止もありえ、会社が潔白を証明しなければなりません。
  • 自社への攻撃:盗まれたアカウントや内部者が会社のAIで同僚向けのフィッシングを作ったり、社内システムを偵察したりします。
  • サプライチェーンへの攻撃:ツール権限を持つAIエージェントがプロンプトインジェクションを受けると、自社の信頼されたドメインから取引先や顧客へ悪意あるコンテンツを送りえます。

AIの利用境界とは「AIに何を聞いてよいか」だけではなく、AIへのアクセスを価値の高い認証情報として管理することです。

AIリスク評価にはどのような悪用・攻撃シナリオを含めるべきですか?

シナリオ発生の仕方結果参照
APIキーの漏えいコード、設定ファイル、共有文書、チャットグループに記載外部者が会社の枠で何でもできるMicrosoft Storm-2139事件、OWASP LLM10
共有アカウントで責任が追えない部署全体で一つのキーを共有誰が行ったか分からず、個人単位で停止できないISO/IEC 42001附属書A.9
内部者による不正利用会社の枠でフィッシングやマルウェアを作成、大量のスクレイピング法的責任、サービス停止NIST AI 100-2 悪用(misuse)
AIエージェントへのプロンプトインジェクションエージェントが悪意あるメールやWebを読み、その指示に従う社外送信、ダウンロード、コード実行NIST間接プロンプトインジェクション、OWASP LLM01・LLM06
枠の枯渇、サービス停止暴走ループや悪用費用急増、通常業務への影響OWASP LLM10
退職・異動時に失効させないアカウントとキーが有効なまま元社員が会社のAIとデータを使い続けられるISO/IEC 42001附属書A.9
委託先側のAI悪用委託先が自社のAIで貴社データを処理し、貴社に代わって連絡する貴社のデータと名義の悪用ISO/IEC 42001附属書A.10

利用境界はどう定めますか:何が許され、何が禁止され、誰が承認しますか?

ISO/IEC 42001附属書A.9は、AIシステムの責任ある利用のプロセス(A.9.2)、責任ある利用の目標(A.9.3)を定め、AIシステムが意図した用途どおりに使われるようにすること(A.9.4)を求めています。社員のAI利用については、次の三つの一覧で境界を明文化することをお勧めします。

  1. 承認済み用途一覧:用途ごとに、使えるモデルやサービス、入力できるデータの区分、呼び出せるツール、責任者を記載します。一覧にない用途は事前申請とします。
  2. 禁止用途一覧:マルウェアの作成や改変、フィッシングやソーシャルエンジニアリングのコンテンツ作成、他者のシステムへの無許可のスキャンやスクレイピング、提供者の安全制限の回避、承認区分を超えるデータの入力。各AI提供者の利用ポリシーと整合させます。
  3. AIエージェント権限一覧:各エージェントが何を読み書きでき、社外送信やコード実行ができるか。高リスクの操作は必ず人が確認します。

AI法第4条(Regulation (EU) 2026/1744による改正後)は、AIシステムの提供者と導入者に従業員のAIリテラシーを支援する措置を求めています。この三つの一覧を研修に組み込み、記録を残すことが最も直接的な対応です。

キー、利用枠、AIエージェントを技術的にどう管理し、どんな証跡を残しますか?

管理策は当社の実務上の推奨で、根拠欄は規格と法令の原文に基づきます。

根拠管理策証跡
ISO/IEC 42001 A.9.2、A.9.4すべてのAIアクセスを企業のAIゲートウェイ経由とし、シングルサインオンで個人を識別、長期有効な共有キーは発行しないゲートウェイ設定、アカウント一覧
OWASP LLM10人と用途ごとの上限、費用の警告、異常な使用の検知(深夜の大量利用、突然のモデル切替、類似リクエストの集中)上限設定、警告記録
キー漏えいの防止コードと文書のシークレットスキャン、短期有効でローテーション可能なキーを鍵管理サービスで保管スキャン報告、ローテーション記録
OWASP LLM06、NIST間接プロンプトインジェクションエージェントの最小権限、外部コンテンツと指示の分離、社外送信とコード実行は人の確認権限一覧、確認記録
ISO/IEC 42001 A.9.3利用量と用途の記録を定期的に見直し、承認用途外の利用を抜き取り確認見直し記録
人事異動退職・異動の当日にAIアカウントとキーを失効失効記録
インシデント対応キーの漏えいや悪用の発見時:失効、提供者への通知、取引先と顧客への影響評価インシデント記録

サプライチェーン側はどう管理しますか?

ISO/IEC 42001附属書A.10は第三者と顧客との関係を扱い、組織・供給者・顧客間の責任の割り当て(A.10.2)、供給者に関するプロセスの確立(A.10.3)、顧客の期待とニーズの考慮(A.10.4)を求めています。AIの悪用については、サプライチェーンを二つの方向で管理します。

  • 貴社の委託先:委託先がAIで貴社のデータやコードを扱う場合や、貴社に代わって顧客に連絡する場合、契約で利用できるAIサービス、貴社データの学習利用の禁止、悪用や漏えいの報告期限を定めます。
  • 取引先に対する貴社の責任:貴社のAIアカウントやエージェントが取引先への攻撃に使われた場合、直ちに停止し、相手に通知し、調査のための記録を提供できるようにします。

この二方向を供給者管理とインシデント対応の手順に書き込むことで、AIの悪用が貴社と取引先の責任の押し付け合いになることを防げます。

情報システム、セキュリティ、法務、人事の分担は?積穗科研はどこを担い、どこから始めますか?

  • AIガバナンス責任者:三つの一覧を維持し、新しい用途を承認し、定期的な見直しを主催します。
  • 情報システム・セキュリティ:AIゲートウェイ、利用枠と警告、シークレットスキャン、エージェント権限を構築します。
  • 法務・調達:提供者と委託先との契約のAI条項。
  • 人事:入社、研修、退職の手続き。

積穗科研はISO/IEC 42001の導入を担当します。AIシステムの一覧、利用境界と三つの一覧、リスク・影響評価、委託先条項と証跡計画を整え、既存のISO 27001体制と同じ証跡を共用します。Ahura(POC版)は完全オンプレミスで、承認と見直しの記録を企業自身の環境に保存します。

まずは次の三つから始めます。すべてのAIアカウントとキー(コードに散在するものを含む)を棚卸しする、共有キーをゲートウェイ経由の個人の身元に置き換える、禁止用途一覧を先に定めて周知する。

他のサービスのAI攻撃への備え

公式情報源

LINE でコンサルタントに直接相談

フォーム入力は不要です。ボタンを押すと閲覧中のページ情報が入った状態で LINE が開き、送信すると積穗科研のコンサルタントが返信します。初回診断は無料です。

積穗科研の支援実績

積穗科研は台湾の RegTech システムプラットフォームと企業リスク管理のコンサルティング会社です。

20+ 社の企業から長期にわたり信頼され、産業に根ざした長期パートナー型のコンサルティング会社です。

顧客の許諾を得て公開している実名の支援実績:

事例を見る

AIガバナンス×利用境界:社員のAIトークン枠を自社とサプライチェーンへの攻撃の武器にしない