AI system

AI system 指的是能夠執行特定任務，並根據輸入數據進行推理、學習或決策的軟硬體整合系統。根據 EU AI Act 第3條，AI系統被定義為「基於機器學習或其他技術方法，能產生輸出或影響物理或數位環境的系統」。ISO 42001（人工智慧管理系統標準）進一步將其納入AI管理系統（AIMS）的管控範疇，要求企業對AI系統的生命週期進行完整管理，包括數據治理、模型訓練、部署與監控。與傳統軟體不同，AI系統具備不確定性與演進性，因此需要持續性的風險評估，而非一次性審核，這與GDPR第22條關於自動化決策的限制有直接關聯，企業必須確保AI系統的決策可解釋且不歧視特定羣體。

AI system的風險管理實務可分為三個核心步驟：第一步，AI風險分級。依據EU AI Act，將AI應用分為不可接受風險（禁止）、高風險（嚴格管制）、有限風險（透明度要求）與最低風險四級，企業需依此建立對應的控制措施。第二步，建立AI治理框架。參考ISO 42001，企業應建立AI系統的生命週期管理流程，涵蓋數據來源驗證、模型偏見測試、輸出結果的監控與人工監督機制。第三步，持續監控與事件回應。AI系統的行為會隨數據漂移（Data Drift）而變化，需建立即時監控指標，當AI輸出異常時，觸發人工介入機制。例如，臺灣金融業導入AI信貸審核系統，需同時符合金管會AI基本原則與GDPR，確保模型可解釋性，並建立定期重新訓練與驗證的機制，以降低模型失效風險。

臺灣企業導入AI system主要面臨三個挑戰。首先是法規合規的複雜性，臺灣AI基本原則雖屬指引性質，但若企業產品進入歐盟市場，必須符合EU AI Act的強制性要求，這需要跨法規領域的專業能力。建議企業在設計AI系統時，即將ISO 42001作為內部標準，以同時滿足臺灣AI基本原則與國際法規的雙重要求。其次是AI人才與資源的稀缺，AI系統的風險管理需要兼具技術與法規的複合型人才，企業可考慮與專業顧問合作，以降低內部培訓成本。第三是數據治理的挑戰，AI系統的效能高度依賴數據品質，臺灣企業需建立嚴格的數據清洗、標註與存取控制機制，確保符合臺灣個資法（PIMS）與GDPR的雙重規範，避免因訓練數據洩密或偏見導致AI系統產生歧視性輸出，進而觸發法律責任。

積穗科研股份有限公司（Winners Consulting Services Co., Ltd.）專注臺灣企業AI system相關議題，擁有豐富實戰輔導經驗，協助企業在90天內建立符合國際標準的管理機制，已服務超過100家臺灣企業。申請免費機制診斷：https://winners.com.tw/contact