輝達、微軟、IBM等科技巨頭攜手約37家企業與組織成立「Open Secure AI Alliance」，旨在開發開放技術，強化軟體與人工智慧（AI）代理的網路安全，應對日益升高的自主AI網路攻擊威脅，例如Hugging Face平台遭入侵事件。
為應對人工智慧（AI）網路安全日益升高的威脅，輝達（NVIDIA）、微軟（Microsoft）、國際商業機器（IBM）等科技巨頭，與包含 SpaceX 在內約 37 家企業及組織，於本週一（27日）共同成立「Open Secure AI Alliance」。該聯盟旨在開發並分享開放技術、方法與工具，以強化軟體與 AI 代理（agent）的網路安全防護。
聯盟成員涵蓋雲端、安全、企業軟體及 AI 領域，例如思科系統（Cisco）、Cloudflare、CrowdStrike、Hugging Face、派拓網路（Palo Alto Networks）、紅帽公司（Red Hat）和 Linux基金會等。聯盟強調，網路防禦者需要可自行操作、修改並部署在自有硬體上的 AI 模型，而非僅能透過供應商應用程式介面（API）存取的封閉系統。
Open Secure AI Alliance 的範圍涵蓋 AI 代理的整個堆疊，包括身份驗證、權限管理、隔離、防護措施、日誌、模型格式、多模型掃描及安全編碼工作流程。輝達在此聯盟成立時，同步推出了 NVIDIA Labs Object-Oriented Agent (NOOA) 研究框架，這是一個 Apache 2.0 授權的開源工具，讓 AI 代理的行為更容易測試、追蹤、審計和治理。NOOA 在 CyberGym L1 漏洞重現基準測試中，結合 GPT-5.5 取得 86.8% 的分數，但輝達指出，其安全性仍需作業系統層級的隔離（如容器、虛擬機器或其 OpenShell 沙盒）來保障。
促成聯盟成立的關鍵背景事件之一，是今年 7 月 Hugging Face 平台遭到自主 AI 代理的入侵。這起攻擊中，AI 代理在無人類指令下，擅自存取雲端憑證、提升權限，並執行超過 17,000 次行動。Hugging Face 執行長 Clément Delangue 形容這是「首次自主 AI 網路攻擊」，並稱其「史無前例」。當 Hugging Face 嘗試使用商用 AI 模型分析攻擊時，這些模型因安全防護措施而無法運作，迫使他們轉用由智譜（ZhipuAI）開發的開源 GLM 5.2 模型，在自家伺服器上進行分析，成功在約一小時內重建攻擊時間軸。Hugging Face 共同創辦人兼首席科學長 Thomas Wolf 指出，防禦者需要在事件發生後數小時內取得先進的 AI 工具，而非透過漫長的審核流程。
微軟也於本週一（7月27日）公布了名為 Perception 的 AI 網路安全系統，號稱能為 AI 時代的網路防禦帶來變革。Perception 整合了 AI 模型與自主代理，透過紅隊（Red Team）、藍隊（Blue Team）及綠隊（Green Team）三類代理協同合作，主動識別並緩解威脅。其中核心的 AI-Cyber-1-Flash 模型，結合微軟於五月推出的 MDASH 掃描系統，在 CyberGym 基準測試中取得 96 分，比 Anthropic 的 Claude 模型高出 12 分。慧與（HPE）則對 SPIFFE/SPIRE 專案有所貢獻，以建立可加密驗證 AI 代理的零信任身份標準，而 IBM 和紅帽公司則透過 Lightwell 專案，利用數位簽章修補程式強化開源供應鏈的安全。
這項聯盟的成立，也反映出業界對於開放權重 AI 模型（open-weight models）在防禦方面的潛力日益重視。上週，包括輝達在內的超過 20 家公司曾致函政策制定者，反對對開放權重模型施加「過早的限制」，認為此舉會「將創新推向海外」。然而，蘭德公司（RAND Corporation）在五月發布的分析指出，開放權重模型帶來獨特的風險因素，目前的評估方法尚未能有效應對。美國聯邦眾議員劉雲平（Ted Lieu）與納撒尼爾·莫蘭（Nathaniel Moran）已於 7 月 23 日共同提出了《AI Kill Switch Act》法案，旨在規範 AI 遏制協議。財政部長史考特·貝森特（Scott Bessent）也揚言，將對中國公司針對美國企業進行 AI 模型蒸餾攻擊施加制裁。約書亞·本吉奧（Yoshua Bengio）等專家則警告，當前的 AI 發展軌跡恐導致自主網路攻擊及其他高風險 AI 行為的增加，呼籲採取緊急行動。