創発的行動

AIシステムなど複雑な系において、個々の要素の相互作用から予測不能な新しい能力や挙動が全体として現れる現象。NIST AI RMF等の基準では、AIの信頼性確保とリスク管理のため、この現象の監視と管理が重要視されます。