軍民兩用人工智慧

「軍民兩用人工智慧」（Dual Use AI）源於國際出口管制概念，指可同時用於和平民生（如藥物研發、教育輔助）與軍事或惡意目的（如開發生物武器、製造大規模假訊息）的AI技術，特別是大型基礎模型。其核心風險在於技術的中立性使其應用場景難以預測與限制。在風險管理體系中，此為一種嚴重的「可預見的濫用」（foreseeable misuse）風險。根據NIST AI風險管理框架（AI RMF 1.0），企業需在「治理」（Govern）層面建立監督機制，並在「測量」（Measure）階段評估潛在的負面影響。歐盟《人工智慧法案》更針對具系統性風險的通用AI模型（GPAI models）提出嚴格的風險評估與緩解義務，要求模型提供者必須分析並記錄其潛在的軍民兩用風險，確保技術發展的可控性。

企業管理軍民兩用AI風險，可遵循NIST AI RMF框架進行。第一步為「風險識別與評估」，需成立跨部門AI倫理委員會，透過紅隊演練（Red Teaming）等方式，系統性地發掘AI模型被用於惡意目的（如生成假訊息、惡意程式碼）的可能性。第二步為「導入技術與流程控制」，依據ISO/IEC 42001要求，建立安全護欄，例如限制模型生成特定主題內容、對API呼叫進行異常偵測，並在模型部署前進行嚴格的影響評估。第三步是「持續監控與應變」，建立自動化監測系統，追蹤模型的使用行為，並制定明確的濫用事件應變計畫。例如，某科技公司在發布其大型語言模型前，會邀請外部專家進行為期三個月的對抗性測試，成功將潛在有害內容的生成率降低了70%，確保其符合歐盟AI法案的透明度與風險管理要求。

台灣企業導入軍民兩用AI風險管理面臨三大挑戰。首先是「法規認知落差」，由於台灣AI專法未定，企業對歐盟AI法案等國際高標準規範的具體要求（如對基礎模型的風險管理義務）掌握不清。其次是「專業人才短缺」，市場上極度缺乏能執行AI紅隊演練、倫理衝擊評估的跨領域專家。第三是「資源投入有限」，多數企業難以編列預算成立專職的AI治理團隊。為克服挑戰，建議企業優先委託專業顧問進行法規差距分析（預計3個月），並以ISO/IEC 42001為藍圖建立管理體系；同時，透過採購自動化安全測試服務與內部培訓，彌補人才缺口；最後，善用NIST等官方發布的開源評估工具，以較低成本啟動風險管理流程，分階段逐步完善治理機制。

積穗科研股份有限公司專注台灣企業Dual Use AI相關議題，擁有豐富實戰輔導經驗，協助企業在90天內建立符合國際標準的管理機制，已服務超過100家台灣企業。申請免費機制診斷：https://winners.com.tw/contact