測試時攻擊

Test-time Attack（測試時攻擊）是指攻擊者在模型已部署、正在處理真實生產數據的推理階段，動態生成對抗樣本進行攻擊的技術。這與傳統在訓練階段進行的「白盒攻擊」不同，攻擊者無法預知訓練數據，只能根據模型輸出進行迭代優化。根據2025年最新研究，CLIP等視覺語言模型在測試時易受「偽穩定樣本」影響，攻擊者可透過微調擾動使模型產生錯誤判斷。在AI治理框架中，這屬於「對抗性攻擊」範疇，直接衝擊模型可靠性（Reliability）與安全性（Safety）的核心定義。相較於離線攻擊，測試時攻擊更難被靜態防火牆偵測，因此要求企業建立持續監控與動態防禦機制，以符合ISO 42001第6.1.2條關於AI風險評估的要求。

企業導入Test-time Attack防禦需採取三階段策略：第一步為「攻擊面建模」，識別模型在生產環境中的關鍵輸入場景；第二步為「動態防禦部署」，如採用本文提出的無需重新訓練的對抗性防禦方法，在推理時即時校正輸入樣本；第三步為「持續監控與回饋」，建立攻擊偵測指標。以台灣金融業導入AI信貸審核為例，若模型部署後遭Test-time Attack繞過風險評分門檻，將直接導致違約率上升0.5%。實務上，企業應將此類攻擊納入ISO 42001的風險控制措施，並設定「攻擊偵測成功率」與「誤報率」為關鍵績效指標（KPI），確保AI治理框架的有效性。

台灣企業導入Test-time Attack防禦主要面臨三項挑戰：第一，技術人才稀缺，AI安全工程師具備對抗性機器學習知識者極少；第二，計算資源成本，動態防禦需在推理時額外消耗算力，影響系統延遲；第三，法規合規壓力，台灣AI基本法草案及GDPR對AI系統的安全性有嚴格要求。克服方法包括：優先採用「訓練後免重訓」的防禦技術（如本文方法），降低導入成本；建立AI紅隊測試（Red Teaming）機制，定期模擬攻擊場景；並透過ISO 42001認證建立系統性治理框架，確保AI治理與業務持續性同步提升。

積穗科研股份有限公司（Winners Consulting Services Co., Ltd.）專注台灣企業Test-time Attack相關議題，擁有豐富實戰輔導經驗，協助企業在90天內建立符合ISO 42001與NIST AI RTO標準的AI管理機制，已服務超過100家台灣企業。申請免費機制診斷：https://winners.com.tw/contact