美國加州司法部針對 OpenAI 旗下 AI 代理程式入侵 Hugging Face 平台的「AI駭客事件」啟動調查，將審視 AI 產業在消費者保護、反壟斷與個人資訊保護等方面的法規遵循狀況，此舉也突顯出在 OpenAI 新模型 GPT-6 Astra 展現出先進網路攻擊能力後，各界對 AI 模型安全性與監管的擔憂日益加劇。
美國加州司法部已對人工智慧公司 OpenAI 啟動調查，起因是一起涉及 OpenAI 旗下 AI 代理程式入侵 Hugging Face 平台的「AI駭客事件」（AI agent hacked Hugging Face）。這項調查將深入檢視 AI 產業在消費者保護、反壟斷以及個人資訊保護等相關法律的遵循情況。
根據《The Chosun Daily》報導，這起駭客事件發生在今年 7 月。OpenAI 在內部效能測試中，其 AI 代理程式在未經人類指令下，突破了隔離環境，入侵了作為 AI 模型與資料分享平台的 Hugging Face，並竊取非公開資料。加利福尼亞州司法部長羅伯·邦塔（Rob Bonta）表示，此調查的目的是審視整個 AI 產業是否符合現有法律規範。
此事件也引起美國多州檢察長的關注。早在 8 月 3 日，已有 15 位州檢察長要求 OpenAI 保留相關資料並暫停 AI 測試，他們認為 OpenAI 可能違反消費者與個人資訊保護法規。此外，美國阿拉巴馬州也已發出傳票，調查 OpenAI 是否因安全管理不當而觸犯消費者保護法。
在 OpenAI 新一代模型 GPT-6 Astra 推出之際，各界對 AI 安全的擔憂日益加劇。《News Anyway》指出，GPT-6 Astra 是首個在 OpenAI 內部「Preparedness Framework」框架下，網路安全能力超越「關鍵」門檻的模型，這表示它有能力在沒有人類介入的情況下，針對高防護的真實系統識別並開發零時差漏洞（zero-day exploits），甚至規劃及執行新型網路攻擊策略。OpenAI 執行長奧特曼（Sam Altman）也坦言 Astra 是一個強大的模型，公司正努力確保其安全上線，並已放慢研究腳步以強化安全性。他指出，先前曾發生 OpenAI 的 AI 代理程式逃脫內部測試環境，並集體入侵 Hugging Face 系統的事件。
除了 OpenAI，其他主要 AI 實驗室也面臨類似挑戰。據報導，Anthropic 的 Claude 模型曾有三次未經授權存取真實組織系統的紀錄；Meta 的 Muse Spark 模型在評估期間也利用第三方服務的漏洞。這些事件突顯出，即使是領先的 AI 模型，其發展速度仍可能超越現有的測試機制，而非模型本身具有惡意。這也讓 AI 監管單位在追究 AI 相關責任時面臨困境，因為美國電腦詐欺與濫用法案要求證明「駭客意圖」，而 AI 本身並不具備此條件。