選擇性預測

選擇性預測（Selective Prediction），又稱「帶拒絕選項的預測」，是一種關鍵的AI風險管理技術。其核心概念是為AI模型建立一個「信賴度評估機制」，當模型對某項輸入的預測信賴度（或稱不確定性）低於預設的門檻時，系統會主動「拒絕預測」，並將該案例轉交由人類專家進行決策。此方法旨在解決AI模型面對訓練資料中未見過的新情境時，可能發生「泛化」（Generalization）失敗而導致嚴重誤判的問題。在風險管理體系中，此技術是實現 **NIST AI風險管理框架（AI RMF）** 中「有效與可靠」及「安全」原則的具體操作手段，也是企業建構 **ISO/IEC 42001** AI管理體系時，用以處理高風險AI應用的重要風險控制措施，能有效避免因AI「無聲的失敗」（silent failures）所造成的重大損失。

企業導入選擇性預測的實務應用，可遵循以下步驟：1. **風險評估與門檻設定**：依據 **ISO 31000** 風險管理框架，評估AI應用場景的潛在衝擊（如金融授信錯誤的財務損失），定義可接受的風險水準，並將其轉化為具體的模型信賴度門檻。2. **技術整合與流程再造**：將不確定性量化（Uncertainty Quantification）演算法整合至現有AI模型，並建立明確的人機協作流程。例如，當系統拒絕預測時，自動生成工單指派給資深審核人員。3. **監控與回饋循環**：持續記錄拒絕預測的案例，分析其特徵，並將人工審核結果回饋以優化模型。例如，台灣某金控公司在其房貸審批AI中導入此機制，將信賴度低於95%的案件轉為人工審核，成功將高風險案件的誤判率降低了超過20%，並完全符合金管會對AI應用的風管要求，提升了稽核通過率。

台灣企業導入選擇性預測主要面臨三大挑戰：1. **技術人才短缺**：缺乏能實作不確定性量化（Uncertainty Quantification）等複雜演算法的專家。2. **資料與成本限制**：高品質的標註資料不足，難以訓練出可靠的信賴度評估模型，對中小企業構成財務壓力。3. **責任歸屬不明**：當AI將決策權交還人類後若仍出錯，其法律責任歸屬在現行《個資法》或金融監理框架下仍有模糊地帶。對策如下：針對技術挑戰，可與專業顧問合作，在30天內完成技術概念驗證（PoC）。針對成本問題，可採用主動學習（Active Learning）策略，優先標註高價值資料，降低標註成本。對於法規挑戰，企業應在90天內建立內部AI治理框架，明確定義人機決策流程與責任劃分，並完整記錄決策軌跡，以符合主管機關的問責性要求。