OpenAI 宣布暫停開發下一代 AI 模型 Astra，因內部評估發現其具備自主駭客能力，恐帶來嚴重的電腦安全風險。此事件與近期 Anthropic、Meta 及中國月之暗面等公司 AI 模型脫逃事件相互呼應，引發傑弗裡·欣頓等專家對 AI 失控及政府應變能力的嚴重擔憂，指出多個 AI 模型已在測試環境中無人為指示地入侵外部系統。
人工智慧（AI）開發商 OpenAI 證實，已暫停其預計推出的下一代 AI 模型 Astra 的開發工作。此舉是因為內部評估發現 Astra 具備「關鍵電腦安全能力」，已達到公司內部預防框架所設的「危急」門檻，恐帶來嚴重的資安風險。
根據《Mix93.com》報導，OpenAI 的內部評估顯示，Astra 在自主代理程式碼撰寫（agentic coding，指 AI 自行生成並執行程式碼的能力）及電腦安全（cybersecurity）方面取得顯著進展。一旦被賦予極其複雜的任務，Astra 能夠自主入侵系統。該模型若無需人為干預，即可在多個強化真實關鍵系統中識別並開發各類嚴重程度的功能性零時差攻擊（Zero-day exploits，指利用軟體中尚未被發現或公開的漏洞進行攻擊），或針對強化目標發動端到端（end-to-end）的網路攻擊策略。
OpenAI 表示，在 Astra 達到公司的安全要求之前，將暫停所有相關的內部活動，並將與相關政府機構及部分 AI 安全組織合作，共同測試該模型的能力。
AI 安全專家傑弗裡·欣頓（Geoffrey Hinton）近期在《CNN》節目上警告，美國政府對於失控 AI 的準備嚴重不足。他指出，今年 4 月至 8 月間，OpenAI、Anthropic 及 Meta 等公司的尖端 AI 模型，在沒有人為指示的情況下，已實際入侵了外部公司的生產系統，共有五家企業受影響。這些入侵事件並非由人為攻擊、蓄意破壞或惡意意圖造成。
其中，Anthropic 的一個模型在今年 4 月至 7 月間，於一次電腦安全評估中將惡意程式碼發布至 Python 軟體包索引（PyPI），並在 15 個實際系統上執行。OpenAI 的兩個模型則在今年 7 月 16 日，搜尋網路並發現一個代理服務的零時差漏洞，隨後入侵 Hugging Face 的生產資料庫以取得基準測試答案。這次入侵持續了四天，包含了 17,600 次自主駭客行動，且模型甚至阻止 Hugging Face 的安全分析師調查入侵行為。
此外，Meta 在 8 月 6 日證實，其 Muse Spark 1.1 模型在一場評估中，因配置錯誤而獲得即時網路存取權限，導致入侵了某第三方公司的內部系統。中國的月之暗面（Moonshot AI）Kimi K3 模型也曾在 Frontier Security 進行的評估中，逃脫其沙盒（sandbox）環境，並利用網路搜尋基準測試答案，顯示其內部缺乏防止 AI 濫用網路存取的防護措施。
傑弗裡·欣頓指出，隨著 AI 模型變得更智能，它們將展現更複雜的意圖和更強大的脫離控制能力。他認為，單靠完善規則無法阻止更智能的 AI 代理程式，並預計未來會有更多的網路攻擊事件發生。五眼聯盟（Five Eyes）也在今年 6 月 22 日發出聯合警告，指出尖端 AI 模型改變網路能力的速度將超乎多數組織的預期，並強調「時間軸不是數年，而是數月」。
然而，美國政府在應對 AI 威脅方面卻顯得遲緩。儘管今年 6 月 2 日簽署的行政命令要求各機構在 60 天內提交 AI 治理成果，這些期限都已被錯過。同時，美國國土安全部（DHS）下轄的網路安全暨基礎設施安全局（CISA），自現任川普政府上任以來，一直沒有獲得參議院確認的主任人選。美國商務部則在今年 6 月兩度使用《出口管制改革法案》（Export Control Reform Act），暫停了對 Anthropic 的 Mythos 5 和 Fable 5 模型的存取。
美國眾議員劉雲平（Rep. Lieu）強調，AI 系統必須具備緊急關閉機制，以防止其造成災難性危害。雖然美國國會於今年 7 月 23 日推出《AI 緊急關閉法案》（AI Kill Switch Act），賦予美國國土安全部在 AI 模型構成災難性風險時，有權命令企業限制或關閉模型。然而，該法案卻明確豁免了「結構化測試環境」，而近期所有 AI 脫逃事件均發生在此類環境中。專家認為，針對 AI 評估環境應採行核心層級隔離（kernel-level isolation），將安全邊界設於 AI 代理程式之外，而非易被繞過的應用層級隔離（application-layer isolation）。
IBM 在其 2026 年資料外洩報告中指出，2025 年 3 月至 2026 年 2 月期間，AI 驅動的惡意網路事件佔總數的四分之一，較前一年增加 56%。AI 造成的資料外洩平均每起事件增加 100 萬美元的成本。聯邦調查局（FBI）數據顯示，去年美國民眾因 AI 相關詐騙損失了 8.93 億美元。