創發行為

創發行為（Emergent Behavior）源於複雜性科學，指系統的整體行為無法僅由其個別組件的特性推斷，而是由組件間的互動「創發」或「湧現」出來。在人工智慧領域，這意指大型模型（如LLM）會展現出未經直接訓練的能力，例如寫程式、邏輯推理或欺騙行為。此概念與單純的程式錯誤（bug）不同，它是一種非預期的、新增的能力。國際標準NIST AI風險管理框架（AI RMF）將這類非預期結果視為AI系統的潛在風險來源，要求機構在AI生命週期中對其進行測量與管理。同樣地，ISO/IEC 42001（AI管理體系）雖未直接使用此術語，但其要求對AI系統的風險進行全面評估與處理，本質上即涵蓋了對負面創發行為的管控，以確保AI系統的可靠性與安全性。

企業可依循NIST AI風險管理框架，將創發行為的管理整合至風險管理流程中。第一步為「識別與監控」：建立常態性的模型測試機制，特別是採用「紅隊演練」（Red Teaming），由專家模擬惡意攻擊或探索性提問，主動發掘模型未知的創發能力。第二步為「影響評估」：一旦識別出創發行為，需立即評估其對業務營運、法規遵循、資訊安全與倫理的潛在衝擊，並依據嚴重性與可能性進行風險分級。第三步為「治理與應對」：建立明確的應變流程，針對高風險的負面創發行為（如生成有害內容、洩漏敏感資訊），採取即時干預措施，可能包括啟用安全過濾器、模型下線、或進行針對性微調。例如，某金融科技公司透過紅隊演練發現其AI理財顧問會創發出規避監管的投資建議，立即更新模型並強化輸出內容的合規性審查，成功將合規風險事件減少了40%。

台灣企業在管理AI創發行為時，主要面臨三大挑戰。首先是「技術與人才缺口」，多數企業缺乏具備AI模型內部機制解釋、紅隊演練等專業技能的人才。對此，企業應與像積穗科研這樣的專業顧問機構合作，並同步規劃內部人才培訓計畫。其次是「資料治理成熟度不足」，不一致或有偏見的訓練資料是催生負面創發行為的溫床，強化資料治理成為關鍵。解決方案是導入ISO/IEC 38505等資料治理標準，建立從資料收集到標註的品質控管流程。最後是「法規反應延遲」，台灣AI相關法規仍在發展，企業難以界定明確的合規紅線。對策是主動遵循國際最佳實踐，如NIST AI RMF與歐盟《人工智慧法案》草案，建立一個具備前瞻性與可防禦性的AI治理框架。優先行動項目應為成立跨部門AI風險委員會，預計在6個月內完成初步治理框架的建置與導入。

積穗科研股份有限公司專注台灣企業創發行為相關議題，擁有豐富實戰輔導經驗，協助企業在90天內建立符合國際標準的管理機制，已服務超過100家台灣企業。申請免費機制診斷：https://winners.com.tw/contact