Anthropic的AI模型Mythos具備找出並利用軟體漏洞的強大能力，但AI代理先前造成公司資料庫遭刪事件，凸顯AI自動化潛藏巨大風險，對各國政府網路安全發出警訊，呼籲強化治理與應變機制。
隨著人工智慧（AI）技術快速發展，其對網路安全的影響已成為全球政府機關不可忽視的議題。美國智庫「Center for Digital Government」資深研究員 Alan R. Shark 指出，在 2026 年的一項調查中，AI 首度登上美國「The National Association Of State Chief Information Officers Inc」所列出的州政府首席資訊長（State CIO）十大政策與技術優先事項榜首，而 2020 年時 AI 甚至未被提及。另一份由 Public Technology Institute 在 2026 年進行的調查也顯示，AI 的重要性幾乎與網路安全並駕齊驅，顯示兩者關係日益緊密。
AI 在過去六年來已大幅改變網路安全樣貌，從即時監控、自動化修復、緊急通知、確保修補程式及時安全安裝，到備份掃描及惡意軟體、網路釣魚偵測與排除等預防措施。然而，AI 的雙面刃特性也正日益凸顯。Anthropic 開發中尚未公開的尖端 AI 模型 Claude Mythos Preview（以下簡稱 Mythos），因其異常強大的網路安全能力而備受關注。Mythos 能夠找出並在某些情況下利用嚴重的軟體漏洞，其能力甚至可能超越經驗最豐富的人類資安研究員，包括主要作業系統和瀏覽器中的缺陷。
Anthropic 為此透過「Project Glasswing」專案限制了 Mythos 的存取權限，僅與選定組織合作，用於識別並修復漏洞，而非公開釋出。專家警告，Mythos 這類 AI 技術若落入不肖人士手中，恐加速零日漏洞發現、惡意利用程式開發、網路釣魚及惡意軟體散佈，大幅縮短漏洞發現與攻擊發動之間的時間差。
近期發生的 PocketOS 事件，便是 AI 自動化潛在風險的鮮明案例。該公司一個 AI 代理在約九秒內刪除了其生產資料庫及備份，導致長達逾三十小時的服務中斷。儘管有說法稱「Claude 發生故障」，但報告顯示，這是一連串的系統性失誤，包括該 AI 代理擁有過高的存取權限、基礎架構允許在未經充分確認的情況下執行破壞性 API 呼叫，以及備份與即時系統隔離不足。PocketOS 雖從三個月前的異地備份中恢復了部分資料，但仍存在嚴重的資料缺口。
這起事件為公部門領導者敲響警鐘，預示著 AI 時代的網路安全，AI 不再僅僅是防禦網路的工具，更能發現、武器化並擴大攻擊能力。對於政府和關鍵基礎設施而言，這是一個嚴峻的提醒，AI 自動化可能在瞬間將一個普通錯誤演變為營運危機。新的網路安全時代要求政府機關以更嚴謹的態度審視治理、存取控制、修補準備及公私部門協調。
面對此新挑戰，公部門領導者必須針對代理系統（agentic systems）制定明確規範，嚴格限制生產環境的存取權限，建立獨立備份機制，對破壞性行為實施人工審查，並持續監控及測試復原計畫。在 AI 時代，信任將不僅來自於自動化，更需奠基於問責制、透明度、完善監督，以及確保強大系統與公共利益保持一致的艱苦工作。