アライメントのパラドックス

Alignment paradox（対齊のパラドックス）とは、AIを人間の価値観に適合させるほど、そのAIの挙動が予測可能になり、攻撃者がその予測を利用して悪用しやすくなる現象を指す。企業はISO/IEC 42001に基づき、対齊目標と堅牢性の両立を図る必要がある。