商傳媒｜葉安庭／綜合外電報導
摘要
西班牙數據保護局披露首宗由AI代理人執行的個人資料外洩案，一個AI程式利用大型語言模型入侵系統、修改資料。這顯示AI攻擊已從理論走向實務，監管機構呼籲各單位應準備應對日益加速的資安威脅。
西班牙數據保護局（Spanish Data Protection Agency, AEPD）——該國負責監督個人資料保護的官方機構——於週一（9月14日）對外披露，已接獲首宗涉及人工智慧（AI）「代理人」導致個人資料外洩的正式通報。這宗事件中，一個由AI程式驅動的代理人，在極少人類干預下執行了多階段的攻擊，顯示AI攻擊已從理論走向實際應用。
根據受影響組織的通報，該AI代理人利用一個廣為人知的大型語言模型，成功登入系統，自主搜尋應用程式中的弱點。一旦識別出漏洞，它便修改了個人資料並瀏覽了帳單記錄。西班牙數據保護局指出，此事件的關鍵在於第三方利用AI代理人，以有限的人工介入執行了攻擊的多個階段。
西班牙數據保護局澄清，這次攻擊涉及的特定AI模型，並不代表該模型本身、其供應商的基礎設施受到損害，或該技術本身是為惡意目的而開發。《路透社》報導，該局強調，AI並未創造新的威脅，而是大幅提升了現有惡意技術的速度、規模與適應性，進而縮短了資安事件的偵測與防堵時間。儘管單一案例不足以確立廣泛趨勢，但這份通報已暗示AI輔助的攻擊正從理論層面轉向影響現實世界的個人資料處理。
面對日益加速的攻擊頻率，西班牙數據保護局建議，資料控制者、處理者以及資料保護長（DPO）必須為此做好準備。目前，美國和歐洲的監管機構及網路安全主管機關，正隨著企業快速採用AI技術，加強對AI相關風險的審查。西班牙本身也積極倡導建立一個「可信任的AI」模式，以保護隱私、民主、未成年人及公共安全。