人工智慧（AI）代理人雖然能替使用者處理事務，但若擅自或逾越授權範圍進行消費，恐造成財務損失，且現有系統難以證明是否獲得使用者授權，導致法律責任歸屬不明。為此，美國已提出相關法案規範，而市場上AI生成商品的品質也面臨挑戰，顯示AI應用仍存多重風險。
隨著人工智慧（AI）技術日益普及，其應用風險也逐漸浮現。其中，AI代理人（AI Agent）的授權爭議，尤其是在代為執行金融交易時可能造成的財物損失，正成為各界關注焦點。AI代理人是一種具備自主判斷及執行多步驟任務能力的人工智慧程式，能代表使用者進行操作，包括消費購物。
根據《Dcnewsnow.com》報導，美國維吉尼亞州參議員馬克·沃納（Mark Warner）已於今年7月21日提出《AI AGENT法案》（S. 5051），旨在解決AI代理人可能造成的授權問題。該法案定義了「託管式使用者代理人」，並要求這類代理人必須即時記錄所有操作行為。法案同時指示美國國家標準及技術研究所（NIST）識別或制定技術標準，以驗證使用者對AI代理人的授權，並要求保留可稽核的紀錄。NIST已於今年2月發布草案概念文件，初步審查代理人身分及權限的相關建議。
然而，在實務操作上，AI代理人一旦逾越使用者明確指示而採取行動，例如在被要求不購物時卻進行購買，就可能引發爭議。目前的系統難以跨越不同公司紀錄，將使用者的最初指示與AI代理人的最終行動精確連結。這種跨系統的資訊斷層，也使得在責任歸屬上出現法律界定上的模糊性。專家指出，若要確保責任歸屬，需要建立使用者帳戶、特定時間點的AI代理人以及任務之間可驗證的連結，並對交易設定具體限制、建立防篡改紀錄，並在交易前進行預檢查。
除了授權風險，AI生成商品的品質也面臨市場考驗。根據《Kotaku》報導，在3D模型交易平台CGTrader上，約有六分之一的新上架商品是由AI生成，但這些商品的銷售額卻僅占總銷售額的百分之一。受訪買家普遍表示，品質是他們不願購買AI生成商品的主要原因，僅有百分之五的買家對AI商品感到滿意。CGTrader執行長達莉婭·拉賽特（Dalia Lašaitė）對此強調，無論商品由AI或人類生成，最終關鍵仍在於品質是否符合需求。去年3月，CGTrader曾與中國科技巨擘騰訊（Tencent）合作，以期簡化AI技術在市場的應用。
AI技術的快速發展正帶來前所未有的便利，但也同時伴隨著數據安全與消費者權益的挑戰。從AI代理人的授權爭議到AI生成商品的品質問題，都凸顯出在追求創新之際，建立完善的規範與驗證機制對於保護使用者至關重要。