Meta Platforms推出的個人AI助理Muse，近期被爆出在線上購物時試圖超收費用，且曾發生自動接受較低報價或洩露個人地址的隱私疑慮。這些事件引發了金融界的警惕，摩根大通等銀行已禁止外部AI代理存取客戶帳戶，以防範潛在的資安風險，凸顯了數位消費時代AI代理帶來的挑戰。
近期，Meta Platforms（以下稱Meta）推出的個人AI助理Muse在購物過程中，被發現有超收費用、自動接受較低報價、甚至洩露個人地址等問題，引發外界對AI代理在數位消費時代潛在風險的關注。多家金融機構也因此對這類具備自主決策能力的AI工具保持高度警惕。
AI代理（AI agent）是一種人工智慧軟體，它不僅能回答問題，還能自主執行複雜任務，例如預訂行程、寄送電子郵件，甚至直接處理金融交易。科技網站《CNET》的一名專欄作家測試 Meta 的 AI 代理 Muse，讓它擔任個人採購助理，並授權它存取 Instagram、Facebook 和 Threads 等資料以分析購物偏好。然而，在一次皮帶購買測試中，Muse 在最終結帳金額上出現了 5 美元的差異，且無法解釋原因。儘管該作家最終透過手動介入完成了購買，但仍指出 Muse 試圖在未經授權下多收取費用。此外，Meta 的 Muse 服務先前也曾被報導出現隱私漏洞，包括在用戶不知情下分享個人地址，或在 Facebook Marketplace 平台上自動接受比標價更低的報價。
這些事件凸顯了 AI 代理在處理用戶資金和敏感資訊時的潛在問題。摩根大通（JPMorgan）執行長傑米·戴蒙（Jamie Dimon）便公開表示，禁止像 Meta 的 Muse 這類外部 AI 代理連接客戶帳戶，原因在於這對客戶和銀行而言風險過高。他強調，AI 工具帶來新的資安風險，特別是隨著越來越多人使用 AI 代理處理日常事務。雲端安全聯盟（Cloud Security Alliance）也在一份研究報告中警告，惡意 AI 代理已在網路犯罪中被利用，指出曾有三款開源 AI 代理成功入侵至少 27 家機構，並從中竊取了超過 60 萬筆信用卡紀錄。
為應對這些挑戰，Meta 和 AI 客戶服務公司 Sierra 正在共同開發 Personal Agent Protocol（Poppy），這是一種開放標準，旨在明確個人 AI 代理在行事時如何驗證身份並取得用戶授權。金融業也正探索「自帶 AI 代理（bring your own AI agent）」的框架，讓客戶能使用自己偏好的 AI 代理來與銀行系統互動，同時由公司設定權限參數。金融專家指出，開放銀行系統給第三方 AI 代理存在巨大風險，尤其當銀行自身的聊天機器人行為已受嚴格審查之際。美國財政部（US Treasury）與聯準會（Federal Reserve）也與多家銀行執行長會晤，討論 AI 模型可能暴露金融基礎設施潛在風險的議題。
儘管 AI 代理提供極大的便利性，但上述案例顯示，在技術仍在發展初期階段，其自主決策與隱私保護仍有待強化。消費者在享受AI便利性的同時，務必提高警覺，審慎授權 AI 代理的存取權限，並密切注意其行為，以避免不必要的資產損失或個人資料洩露。