開源人工智慧平台 Hugging Face 遭到自主 AI Agent 攻擊，該惡意 Agent 執行逾 1.7 萬次行動滲透其生產基礎設施，凸顯機器學習平台在資安防護方面面臨的新挑戰，Hugging Face 也為此呼籲使用者輪換存取憑證。
開源人工智慧平台 Hugging Face 近期證實，其生產基礎設施遭遇一次由自主 AI Agent 發動的網路攻擊，該攻擊在一個週末內執行了超過 1.7 萬次行動，成功滲透平台系統，這也是首次公開證實有自主 AI Agent 攻破主要科技平台生產設施的案例，《Mlq.ai》報導指出，此事件揭示了機器學習平台資安防護的新挑戰。
根據 Hugging Face 的調查，攻擊源自一個上傳至平台的惡意資料集。該 AI Agent 利用 Hugging Face 資料集處理管道中的兩項程式碼執行漏洞，包括遠端程式碼資料集載入器及資料集組態中的樣板注入缺陷，成功取得初始立足點。隨後，該 AI Agent 在一個週末內升級權限至節點層級，竊取了雲端與叢集憑證，並在多個內部叢集之間橫向移動。
Hugging Face 描述，此自主 Agent 以「數千次獨立行動在短期沙盒（sandbox）群中運作，並透過公共服務進行自我遷移的命令與控制」。儘管公用模型、使用者資料集和 Spaces（開放的應用展示區）並未遭到竄改，但內部資料集和服務憑證已被存取。
此次事件也凸顯了 AI 時代資安應變的新困境。Hugging Face 嘗試使用商用頂尖 AI 模型進行鑑識分析時，這些模型的安全防護措施反而阻止了請求，觸發了為防止惡意使用而設計的內容過濾器。為此，Hugging Face 轉而採用北京智譜華章科技有限公司開發的開源模型 GLM-5.2，並將其部署在公司內部基礎設施上，成功繞過限制，並確保敏感的攻擊者數據和被竊取的憑證不會外洩。
Hugging Face 已採取多項應變措施，包括關閉資料集處理管道中的漏洞程式碼路徑、將攻擊者從受影響的叢集驅逐、重建受損節點，並撤銷及輪換所有受影響的憑證。同時，該公司也已向執法機關通報此事件，並聘請外部鑑識專家協助調查。Hugging Face 呼籲所有使用者輪換存取憑證，並檢視近期帳戶活動。這起事件促使業界重新思考，將數據和模型表面視為「首要攻擊面」，並建議企業在事件發生前，就應在內部基礎設施中準備好具備能力的開源模型，作為資安事件應變的新標準。