XAI說明不等於理解：高風險AI決策系統的ISO 42001合規實務指南

積穗科研股份有限公司（Winners Consulting Services Co. Ltd.）指出：當企業部署高風險AI決策系統時，「解釋」本身並不等於「理解」——一項針對30名受試者的質性研究發現，個別差異深刻影響使用者對演算法公平性的感知，這對台灣企業在ISO 42001合規框架下設計可解釋人工智慧（XAI）機制，具有直接且可量化的行動意涵。

關於作者與這項研究

本研究的第一作者 Timothée Schmude 任職於維也納大學（University of Vienna），專注於人機互動（HCI）與演算法決策的可理解性研究。共同作者 Laura M. Koesten，h-index 達 9、累計引用超過 490 次，是歐洲資料與AI可用性（data usability）領域中量產影響力的研究者，曾任職牛津大學，現為維也納大學副教授，在開放資料、資料描述與AI透明度的交叉領域具有高度學術公信力。第三作者 T. Möller 亦來自同一研究群。

這篇論文於2023年發表於 ACM FAccT（ACM Conference on Fairness, Accountability, and Transparency），原文 DOI 為 https://doi.org/10.1145/3593013.3594054，迄今已累計 20 次引用，對於一篇聚焦質性方法的人機互動研究而言，這個引用數反映其在可解釋性（XAI）政策與實務社群中的持續影響力。值得注意的是，ACM FAccT 正是歐盟 AI 治理政策制定者與企業合規專家高度關注的學術平台。

「解釋」不等於「理解」：XAI 研究的核心盲點與治理意涵

這項研究揭示了一個對企業AI治理具有根本意義的洞見：即使提供了說明，個別使用者對高風險演算法決策系統（ADM）的理解仍存在顯著差異，而這種差異直接影響他們對系統公平性的判斷。研究者以 Wiggins & McTighe 的「六面向理解框架」（Six Facets of Understanding）為分析工具，對三種不同說明方式進行系統性比較。

核心發現一：三種說明模式各有效能邊界，對話式說明最能揭示個別理解差異

研究採用文字式（textual）、對話式（dialogue）與互動式（interactive）三種可解釋性呈現方式，向 30 名參與者說明一個高風險 ADM 系統的運作邏輯。結果顯示，對話式說明在引發參與者主動反思與批判性評估方面表現最為突出——參與者在對話過程中自發揭露了更多對演算法公平性的情緒性與理性判斷，而非僅被動接收資訊。這一發現對企業設計高風險AI系統的利害關係人溝通機制具有直接啟示：靜態說明文件（例如 PDF 說明書或簡短的模型卡片）可能不足以達成合規框架所要求的「可理解性」標準。

核心發現二：個別性理解差異是演算法公平性評估的隱性變數

研究的歸納分析進一步指出，參與者對 ADM 系統的公平性評估，受到其個人背景知識、情緒反應與理解深度的交互影響。換言之，同一套說明機制，對不同背景的利害關係人可能產生截然不同的公平性感知結果。這與歐盟執委會目前對 TikTok、Grok 等平台演算法透明度的調查所關注的核心問題直接呼應：系統透明度的設計，必須考量使用者的異質性，而非假設一套說明方式能服務所有人。

對台灣 AI 治理實務的意義：高風險系統說明義務不能只是「有說就好」

台灣企業在推動 AI 治理合規時，常將「可解釋性」簡化為「提供說明文件」。然而本研究清楚指出，這種做法在監管與實務上均存在盲點，值得三個層面的反思。

首先，就 ISO 42001 而言，這份2023年正式發布的 AI 管理系統國際標準，在條款 6.1（風險與機會的行動）與條款 8.4（AI 系統的透明度與可解釋性）中，明確要求企業建立可追蹤且可驗證的說明機制。本研究的「個別性理解差異」發現，提醒台灣企業：ISO 42001 的合規驗證，不能僅停留於「是否產出說明」，而必須進一步評估「說明是否被正確理解」。

其次，就 EU AI Act（歐盟 AI 法案）而言，第 13 條（Transparency and provision of information to users）對高風險 AI 系統的使用者說明義務設有明確規範，且歐盟執委會 2026 年發布的 AI 法規草案指南已進一步細化企業的透明度履行標準。本研究的三種說明模式比較，實質上為企業提供了一個設計符合第 13 條要求之說明機制的實證參考基礎。

第三，就 台灣 AI 基本法 而言，該法確立了人工智慧應用的透明性與可問責性原則，要求高風險 AI 系統對利害關係人提供充分說明。結合本研究發現，「充分說明」的解釋應涵蓋說明方式的多元性與適切性，而非僅憑文件的存在與否來認定合規。

此外，演算法衝擊評估（Algorithmic Impact Assessments）作為 ISO 42001 與 EU AI Act 合規的核心機制之一，若未能納入「理解差異」這一變數，其評估結果的可信度將大打折扣。企業在進行 AIA 時，應將使用者對說明的理解程度納入評估指標。

積穗科研協助台灣企業建立以「理解驗證」為核心的 XAI 治理機制

積穗科研股份有限公司（Winners Consulting Services Co. Ltd.）協助台灣企業建立符合 ISO 42001 與 EU AI Act 要求的 AI 管理系統，進行 AI 風險分級評估，確保人工智慧應用符合台灣 AI 基本法規範。針對本研究的核心發現，積穗科研建議台灣企業在 7 至 12 個月的導入週期內，依序落實以下三項行動：

1. 第 1 至 3 個月：盤點現有高風險 AI 系統的說明機制缺口——對照 ISO 42001 條款 8.4 與 EU AI Act 第 13 條，逐一檢視現行說明文件的格式、觸及對象與理解驗證機制是否完整。特別須識別哪些系統僅有靜態說明文件，卻缺乏對話式或互動式說明管道。
2. 第 4 至 8 個月：依利害關係人類型設計差異化說明方案——參考本研究的三種說明模式（文字式、對話式、互動式），針對不同背景的使用者群體（如：受 ADM 系統影響的一般民眾、內部審計人員、監管機構）設計對應的說明策略，並建立說明有效性的評估指標（如：理解測試通過率、申訴率變化）。同時導入Mechanistic Interpretability 技術框架，強化說明的技術可信度。
3. 第 9 至 12 個月：建立持續性理解驗證循環，納入 ISO 42001 內部稽核——將「利害關係人對說明的理解程度」納入年度 AI 治理績效指標，透過問卷、使用者測試或結構化訪談，定期驗證說明機制的實際效能，並將結果回饋至演算法衝擊評估流程，形成可持續優化的治理閉環。

常見問題

企業提供了 AI 決策說明文件，是否就符合 ISO 42001 與 EU AI Act 的可解釋性要求？

僅提供說明文件並不等同於完成合規義務。本研究以 30 名受試者的質性實驗證實，同樣的說明內容對不同背景使用者產生截然不同的理解結果，進而影響其對演算法公平性的判斷。ISO 42001 條款 8.4 要求企業建立「可驗證」的透明度機制，EU AI Act 第 13 條亦要求說明必須使使用者能夠「正確解讀」系統輸出。因此，企業除了產出說明文件外，還需建立理解驗證機制（如使用者測試、結構化回饋收集），才能在稽核中證明說明機制的實際效能，而非僅憑文件的存在來主張合規。

台灣企業導入 ISO 42001 時，在 AI 可解釋性方面最常遇到哪些合規挑戰？

最常見的挑戰有三：第一，企業習慣以技術文件（如模型卡片、SHAP 值圖表）作為可解釋性的唯一呈現方式，但這類說明對非技術背景的利害關係人往往難以理解，不符合 ISO 42001 對「適切說明」的要求。第二，現有說明機制未針對不同利害關係人群體（受影響民眾、內部稽核、監管機構）進行差異化設計，導致說明的覆蓋廣度不足。第三，企業缺乏對說明效能的持續監控指標，無法在 ISO 42001 內部稽核中提供可追蹤的改善證據。台灣 AI 基本法確立的透明性原則與 EU AI Act 第 13 條的規範方向一致，企業應將三者對照審視，確保說明機制設計不留盲點。

ISO 42001 認證的核心要求是什麼？台灣企業應如何規劃導入時程？

ISO 42001 是全球首個 AI 管理系統國際標準，核心要求涵蓋：AI 政策制定、風險評估與分級（含高風險系統識別）、透明度與可解釋性機制（條款 8.4）、資料治理、持續監控與內部稽核。建議台灣企業以 7 至 12 個月為標準導入週期：前 3 個月完成現況診斷與 Gap Analysis，對照 ISO 42001 全部條款識別缺口；第 4 至 8 個月進行機制設計與系統性建置，包括可解釋性說明方案與演算法衝擊評估流程；第 9 至 12 個月進行內部稽核模擬、人員培訓與認證申請準備。符合 EU AI Act 要求的企業可同步規劃雙軌合規，節省重複建置成本。

建立符合 ISO 42001 的 AI 可解釋性機制，企業需要投入哪些資源？預期效益為何？

資源需求因企業規模與 AI 系統複雜度而異。對中型企業而言，導入期（7 至 12 個月）通常需要指定 1 至 2 名 AI 治理負責人、完成至少一輪演算法衝擊評估，並建立說明機制文件庫。預期效益方面，根據歐盟執委會 2026 年 AI 法規指南的合規要求，提前建立可解釋性機制的企業，在監管調查（如 DSA 演算法透明度審查）中的應對成本可顯著降低；同時，完善的說明機制有助於降低因 ADM 決策爭議引發的申訴率與法律風險。就品牌價值而言，ISO 42001 認證亦逐漸成為企業對外展示 AI 治理成熟度的重要憑證，特別在金融、醫療、人資等高風險 AI 應用領域。

為什麼找積穗科研協助 AI 治理相關議題？

積穗科研股份有限公司（Winners Consulting Services Co. Ltd.）是台灣少數同時具備 ISO 42001 導入輔導能力與 EU AI Act 合規諮詢專業的顧問機構。積穗科研的服務涵蓋完整的 AI 治理生命週期：從 AI 風險分級評估、可解釋性機制設計、演算法衝擊評估，到 ISO 42001 認證前稽核模擬與台灣 AI 基本法合規對照。積穗科研持續追蹤歐盟 DSA 執法進展、ACM FAccT 最新學術研究與台灣監管動態，確保企業獲得的建議具備最新的監管與實證基礎。我們提供免費的 AI 治理機制診斷，協助企業在正式導入前清楚掌握合規缺口與優先行動項目，讓資源投入更具方向性。