欺騙性人工智慧系統

欺騙性人工智慧系統（deceptive AI systems）指其設計目的或實際效果，在於透過部署潛意識技術或利用特定群體的脆弱性（如年齡、身心障礙），來實質性地扭曲個人行為，並對該個人或他人造成或可能造成身心傷害。此概念在歐盟《人工智慧法》（AI Act）第5條中被明確定義為「禁止實踐」的AI類型，屬於不可接受風險。在風險管理體系（如ISO 31000）中，這類系統構成嚴重的合規風險與營運風險。它與「說服性技術」（persuasive technology）的關鍵區別在於其「欺騙」意圖與「造成重大損害」的後果。例如，一個旨在引導使用者做出非理性財務決策的聊天機器人，即屬此類。企業必須建立嚴格的AI倫理審查流程，確保其AI應用不越過說服與操縱之間的紅線，以符合法規要求並維護使用者信任。

在企業風險管理中，應對欺騙性AI系統需採取系統化方法。第一步是「AI系統盤點與風險篩查」，全面清查企業內部使用的所有AI系統，並根據歐盟《人工智慧法》第5條的標準，識別哪些系統可能具備操縱或欺騙潛力，例如個人化推薦引擎或行銷聊天機器人。第二步是「影響評估與控制措施設計」，對高風險系統，採用NIST AI風險管理框架（AI RMF）進行深度評估，分析其扭曲使用者行為的可能性與潛在傷害程度，並設計具體控制措施，如提供明確的AI互動告知、賦予使用者「一鍵退出」的權利、或導入演算法偏見偵測工具。第三步是「持續監控與獨立審計」，建立自動化監控機制，追蹤系統行為是否隨時間推移產生非預期的操縱效果，並定期委由第三方進行獨立審計。某跨國電商曾主動調整其定價演算法，移除利用使用者瀏覽紀錄進行急迫性操縱的變數，使合規風險事件減少了約40%，並順利通過年度數據倫理審計。

台灣企業在應對欺騙性AI系統風險時，主要面臨三大挑戰。首先是「法規接軌落差」，台灣尚無專門的AI法規，企業在判斷何謂「欺騙性」時缺乏明確本地標準，尤其當產品需銷往歐盟時，合規難度大增。其次是「技術辨識困難」，對於大型語言模型（LLM）等複雜系統，其決策過程如黑盒子，難以從技術上完全證明其不具備潛在的操縱意圖。最後是「治理人才短缺」，兼具AI技術、法律與倫理專業的跨領域人才不足，難以建立有效的內部審查與監督機制。對策上，企業應優先「主動採納國際高標準」，將歐盟《人工智慧法》作為內部AI開發的黃金標準。技術上，應「投資可解釋AI（XAI）工具」，提升模型透明度，並建立人類監督（Human-in-the-loop）流程。組織上，應立即「成立跨職能AI倫理委員會」，整合法務、技術與業務部門，並規劃於6個月內完成全員AI倫理基礎培訓，建立風險意識文化。