【記者 吳雨涵／科技報導】
新一代AI助理正在蘋果、高通等公司內部開發，但早期報告顯示，這些系統被刻意設計了「限制」。與其追求完全自主，開發者選擇在關鍵節點設置防護機制，讓AI在執行付款等敏感操作前，必須先取得用戶確認。
根據報導，這些代理系統能導航應用程式、進行預訂，但在到達付款畫面後會先請求用戶核准。這種「人類介入」模式將批准權保留給用戶。此外，企業也限制AI的存取權限——AI可能能草擬購買，但無法未經批准完成。
在支付領域，AI系統將與已有嚴格規範的合作夥伴協作，在交易完成前提供額外驗證。隨著AI獲得執行行動的能力，錯誤可能導致財務損失。短期內，AI的發展方向並非追求完全自主，而是在可控環境中管理風險。