採用、医療、工場の AI：なぜ一つの正解率で検収できないのか

直接の答え：正解率はあるデータでの平均的な性能を示すだけで、誤ったときに誰がどれほど害を受けるかは示しません。採用 AI の誤りは応募者に及び、特定の年齢層や言語背景に偏ることがあります。病院の事務要約と画像判読の参考は、データや利用者が一部重なっていても、想定用途と患者への影響はまったく違います。工場の外観検査の見逃しは品質の損失ですが、危険区域の警告の見逃しは人身事故につながりえます。ISO/IEC 42001 は利用状況ごとに AI システム影響評価を行い、監督の方法、故障時の扱い、検収基準をそれぞれ定めることを求めます。一枚の認証や一つの平均値でまとめることはできません。

状況ごとに分けて評価する

コンサルタントが納品すべきもの

• 用途ごとの AI システム影響評価：影響を受ける人、起こりうる害、深刻度、回復可能性、緩和策
• 用途ごとの検収基準：グループ別の性能、見逃しと誤検知のコスト、公開の閾値
• 人による監督の設計：誰がどの時点で介入でき、どう停止し、どう記録するか
• 人に関する判断を行う用途の苦情・見直しの仕組み
• 実際に利用する国での法的義務の確認事項一覧（意見は弁護士が出す）

どう検収するか

一つのモデルを二つの用途に使う場合、影響評価、検収基準、公開承認の記録がそれぞれ二つある。グループ別の性能に試験の証拠があり、平均値だけではない。

保証できないこと

影響評価はリスクを見えるようにし責任者を決めますが、偏りや事故がゼロになることは保証しません。差別や医療機器に当たるかの判断は弁護士や当局が行います。

積穗科研のやり方

以下は積穗科研自身の説明です。上の質問で私たちも、他のコンサルタントも同じように確かめてください。

• 誰が担当するか：副社長・取締役クラスのコンサルタントが最初から最後まで担当し、外注しません
• 進め方（サービスページ記載）：範囲と棚卸し 2〜4 週、リスク・影響評価 3〜5 週、仕組みの構築 6〜10 週、内部監査と認証 4〜8 週。ISO 27001 取得済みの組織は通常 4〜6 か月、ゼロからは約 6〜9 か月で認証に到達します
• 役割分担：仕組みと証拠の連鎖は私たちが構築し、法的意見は提携弁護士が、認証は ISO/IEC 42006 に基づき認定された認証機関が行います。私たちは同行しますが代わりに審査はしません
• 実施済みの業務（秘密保持契約のため匿名）：産業オートメーションの製造業で AI システム一覧の作成と AI リスク区分を行い、高リスク用途にアルゴリズム審査と人による監督を整備し、ISO 42001 認証を取得

関連する質問

• AI システム影響評価と DPIA はどう違うか DPIA は個人データの処理が本人の権利に与えるリスクを見ます。AI システム影響評価は、偏り、公平性、安全、雇用などを含め、AI が個人、集団、社会に与える影響を見ます。事実は共有できますが、内容と承認の手続きはそれぞれ行います。ISO 42001 導入支援
• 採用に使う AI は EU では高リスクになるか EU AI 法の附属書 III には雇用と労働者管理に関する用途が挙げられています。高リスクに当たるか、どの日付が適用されるかは、実際の用途と改正後の規定で判断します。台湾で EU AI 法のコンサルタントを選ぶには

無料のメカニズム診断を申し込む