局部內在維度

局部內在維度（LID）是一個估計數據流形在某個數據點附近所需的最小變數數量的統計量。其核心概念源於機器學習的「流形假設」，即高維數據實際上存在於一個較低維度的內在結構中。在AI安全領域，LID被證明是識別對抗性樣本的有效特徵。研究發現，透過微小擾動生成的對抗性樣本，會使其脫離原始數據的低維流形，從而表現出顯著更高的LID值。在風險管理體系中，LID是一種技術層面的控制與監測工具，用於評估AI模型的穩健性（Robustness）。根據美國國家標準暨技術研究院的AI風險管理框架（NIST AI RMF），這類技術對於「衡量」（Measure）AI系統的可信賴度至關重要，能有效量化模型抵禦蓄意攻擊的能力，與傳統的準確率、召回率等性能指標形成互補，專注於模型的安全性與可靠性。

在企業風險管理中，LID主要應用於強化關鍵AI系統（如入侵偵測、金融詐欺偵測）的安全性，具體導入步驟如下： 1. **模型風險評估與基準建立**：首先，識別組織內面臨對抗性攻擊風險最高的AI模型。接著，使用該模型正常運作時的歷史數據（良性樣本），計算其LID分數的分佈，建立一個可信賴的LID基準值區間。 2. **偵測機制整合與開發**：將LID計算模組整合到AI系統的輸入端。該模組需能即時計算每個新輸入數據的LID值。這通常需要高效的近鄰搜索演算法與優化的計算資源配置。 3. **異常告警與應變處理**：設立監控規則，當某個輸入的LID值顯著高於預設的基準閾值時，系統自動將其標記為潛在的對抗性攻擊。觸發的應變措施可包括：將該輸入轉交給更傳統、穩健的備用模型進行二次判斷（如論文所述），或直接阻擋該請求並通知資安團隊進行調查。 透過此機制，某金融機構的詐欺偵測系統在導入LID後，對新型態攻擊的偵測率提升了約15%，有效降低了因模型被欺騙而導致的財務損失。

台灣企業導入LID時，主要面臨三大挑戰： 1. **專業人才稀缺**：LID涉及高深的統計學與機器學習理論，同時具備AI與資安跨領域知識的專家非常罕見。對策：與專業顧問機構合作，透過外部專家輔導與內部人才培訓雙軌並行，逐步建立自主維運能力。優先行動項目為針對核心技術團隊開設工作坊，預期3個月內完成基礎知識建構。 2. **運算成本高昂**：即時計算高維數據的LID需要大量GPU運算資源，對許多中小企業構成財務壓力。對策：採用混合雲架構，將常態性運算部署於地端，尖峰或訓練階段則利用公有雲的彈性擴展能力。同時，研究並導入近似近鄰搜索（Approximate Nearest Neighbor）等演算法，在可接受的精度損失下大幅降低運算複雜度。 3. **缺乏產業標準與閾值**：LID的「正常」與「異常」閾值高度依賴特定應用場景與數據特性，並無統一標準可循。對策：遵循NIST AI RMF的指導原則，建立持續監控與迭代優化的內部流程。從小型試點專案開始，收集數據並動態調整閾值，逐步形成符合自身業務需求的最佳實踐指南。預計6個月內完成第一階段的內部基準建立。