概念激活向量

概念激活向量（CAV）是一種源於Google研究的AI模型可解釋性技術，旨在衡量一個人類可理解的「概念」對模型預測結果的影響力。其核心定義是在神經網路的某個隱藏層中，找到一個代表特定概念（例如「性別」或「信用風險」）的方向向量。透過計算模型輸出對此向量方向的敏感度，即可量化該概念對最終決策的貢獻程度。雖然CAV本身並非一項國際標準，但它是實現AI治理框架目標的關鍵工具。例如，它能協助企業滿足NIST AI風險管理框架（AI RMF）中對「可解釋性與可詮釋性」的要求，以及ISO/IEC 42001對AI系統透明度的規範。在風險管理體系中，CAV於模型驗證階段扮演著「偏誤偵測器」的角色，能主動發掘並量化潛在的演算法歧視，這與僅解釋單一預測的LIME或SHAP等方法有著本質上的區別。

在企業風險管理中，CAV的應用主要遵循以下步驟，以主動識別並緩解AI模型風險： 1. **風險概念定義與資料收集**：由法遵、風控等領域專家定義需要監控的風險概念，如「具性別偏見的圖像特徵」或「與低收入地區相關的地址」，並收集能代表此概念的正面與負面範例資料。 2. **CAV訓練與萃取**：資料科學家利用前述範例資料，在目標AI模型的特定網路層中訓練一個線性分類器。該分類器的權重向量即為代表該風險概念的CAV。 3. **敏感度分析與風險量化**：計算模型對不同輸入資料的預測結果，對此CAV的敏感度分數（稱為TCAV分數）。若「女性」概念的CAV對「晉升推薦」預測類別產生持續性的負向高分，即量化證明模型存在性別偏誤。一間跨國銀行曾應用CAV審計其信貸模型，發現「特定郵遞區號」概念對核貸率有不成比例的負面影響，違反公平授信原則。經模型調整後，不僅通過了監管審查，其高風險地區的呆帳率預測準確度亦提升了5%，實現了合規與效能雙贏。

台灣企業導入CAV時，普遍面臨三大挑戰： 1. **跨領域知識鴻溝**：法遵或風控人員難以將抽象的合規要求（如公平待客原則）轉化為資料科學家可操作的、具體的概念與資料標註規則。 2. **高品質標註資料匱乏**：訓練有效的CAV需要大量且標註精確的範例資料，許多企業缺乏系統性的資料蒐集與標註流程，導致模型驗證的基礎不穩固。 3. **技術與資源門檻**：CAV的計算涉及深度學習模型內部，對技術人才的專業能力與企業的計算資源（如GPU）要求較高，對中小企業構成進入障礙。 對策如下： - **建立跨職能AI倫理委員會**：由法遵、業務、IT與資料科學家組成，共同制定概念定義與資料標註的標準作業程序（SOP）。優先行動為舉辦工作坊，將關鍵風險轉化為可測量的指標。預期時程：2個月內完成。 - **導入半監督式學習與資料增強**：利用少量標註資料訓練初步模型，再由模型輔助標註大量未標註資料，或利用生成技術擴充樣本，以降低人力成本。優先行動：評估並導入開源標註工具。預期時程：3-6個月。 - **尋求外部專業顧問協助**：與具備AI風險管理實務經驗的顧問公司合作，利用其成熟的方法論與工具，加速導入進程並培養內部人才。