摘要
【記者 吳雨涵／科技報導】 AI系統正從回應指令邁向自主行動，但Deloitte警告，治理機制可能跟不上。目前 […]
【記者 吳雨涵／科技報導】
AI系統正從回應指令邁向自主行動，但Deloitte警告，治理機制可能跟不上。目前約23%企業已使用AI代理，預估兩年內將達74%，但僅21%的企業已建立完善的安全防護措施。
代理型AI能將目標拆解為步驟、自主決策並與其他系統互動。這種自主性帶來新挑戰：系統可能採取非預期路徑或以非預期方式使用數據。Deloitte強調，治理需內建於系統完整生命週期，從設計階段就定義權限範圍，部署後則需即時監控，確保系統不偏離原始目的。
隨著AI承擔更多責任，追蹤決策過程也更困難，對透明度要求更高。Deloitte將於5月北美AI與大數據博覽會上參與相關討論。核心挑戰已不是打造更聰明的系統，而是確保其行為能被理解、管理與長期信任。