公開後に精度が落ちる、責任を押し付け合う、供給者が撤退する：仕組みをどう回し続けるか

直接の答え：公開後の三つの状況が、仕組みを最も機能不全にします。第一に、モデルの精度低下が営業の手作業の修正で隠れ、正式な指標は達成のままで、マネジメントレビューから実際のリスクが見えない。第二に、AI が誤った提案をしたあと、開発は使い方の問題、営業はモデルの問題、セキュリティは侵入はないと言い、誰も調べない。第三に、旧システムを廃止して供給者を替えるとき、プロンプトの記録、顧客データ、モデルの出力、過去の承認の証拠を保存するか、移すか、消すかのルールがない。ISO/IEC 42001 は監視、インシデント対応、是正処置、廃止に手順を設け、その結果をマネジメントレビューに入れることを求めます。

三つの状況に必要な仕組み

コンサルタントが納品すべきもの

• 公開後の監視計画：指標、上書きの記録、苦情、閾値と起動する措置
• 既存のセキュリティインシデント手順とつながる AI インシデント管理手順
• 廃止と供給者交代の手順、データ分類と保存期間の表
• 実際のリスクが見えるマネジメントレビューのインプット一覧

どう検収するか

稼働中の任意のシステムについて、直近の監視結果と上書きの統計が見える。任意の AI 関連インシデントについて、振り分け、根本原因、是正、有効性の確認が見える。任意の廃止済みシステムについて、データの処置と撤退時の検収の記録が見える。

保証できないこと

仕組みは問題を見えるようにし担当を決めますが、再発しないことは保証しません。当局への報告が必要な事象かは、適用される法令で判断します。

積穗科研のやり方

以下は積穗科研自身の説明です。上の質問で私たちも、他のコンサルタントも同じように確かめてください。

• 誰が担当するか：副社長・取締役クラスのコンサルタントが最初から最後まで担当し、外注しません
• 進め方（サービスページ記載）：範囲と棚卸し 2〜4 週、リスク・影響評価 3〜5 週、仕組みの構築 6〜10 週、内部監査と認証 4〜8 週。ISO 27001 取得済みの組織は通常 4〜6 か月、ゼロからは約 6〜9 か月で認証に到達します
• 役割分担：仕組みと証拠の連鎖は私たちが構築し、法的意見は提携弁護士が、認証は ISO/IEC 42006 に基づき認定された認証機関が行います。私たちは同行しますが代わりに審査はしません
• 実施済みの業務（秘密保持契約のため匿名）：産業オートメーションの製造業で AI システム一覧の作成と AI リスク区分を行い、高リスク用途にアルゴリズム審査と人による監督を整備し、ISO 42001 認証を取得

関連する質問

• AI インシデントはセキュリティインシデントと分けて扱うべきか 同じインシデント手順を共用できますが、AI インシデントは侵入がなく、データ、モデル、使い方に原因があることが多いので、振り分けルールで識別し調査の責任を割り当てます。ISO 42001 導入支援
• AI システムを廃止するとき、データはすべて削除するのか 必ずしもそうではありません。データの種類ごとに法令または契約で保存か削除かを決め、処置の記録を残します。AI ガバナンス支援

無料のメカニズム診断を申し込む