即時快訊
數產署表揚13家友善電商企業推動安心網購 Perky榮獲MUSE國際設計雙銀獎,女性營養品牌累積六項國內外肯定 金門酒廠「一穀作契」100%本土契作好品質 獲得農業部農糧署國產農糧原料酒推薦 「公益同行・原社共好」 29家績優合作社齊聚華山 公彩成果展現就業與福利新動能 孕育兆美元輝達的傳奇美式餐廳 創辦紀念座位牌保留至今 美國屋頂太陽能發電量近十年暴增近五倍 全球運動AI市場名單出爐 日本企業掛零歐美科技巨頭強勢壟斷 創投看好AI降低門檻 一人微型創業成美國就業新趨勢 年末聚會前的輪廓焦慮?醫師 : 「看不出做過」成自然美感新趨勢 印度航太新創搶攻火箭引擎商機 獲利基訂單拚太空產業分工
圖/本報資料庫
科技生活

·5 個月前·何映辰
#Anthropic#AI資安#Mythos#美國政府#AI治理
圖/本報資料庫
圖/本報資料庫
商傳媒|何映辰/台北報導
摘要

Anthropic開發的AI模型Mythos在測試中,僅數小時內就揭露了美國政府機密系統的多處資安漏洞,導致川普政府對AI技術風險產生高度關切並實施出口管制,引發了資安專家對AI治理與國家安全的熱烈討論。

人工智慧(AI)公司 Anthropic 開發的 AI 模型 Mythos,近期在一項資安測試中,於數小時內發現美國聯邦政府機密系統多項潛在安全漏洞,引發華府對先進 AI 能力與國家安全風險的高度關注,也讓 AI 應用、網路安全及監管政策之間的平衡,再度成為討論焦點。

根據《New York Post》報導,這項測試屬於 Anthropic 推動的「Project Glasswing」計畫,由公司與美國政府相關機構合作,希望利用先進 AI 協助發掘政府及關鍵基礎設施中的資安弱點,提升整體防禦能力。

維吉尼亞州民主黨參議員馬克·華納(Mark Warner)表示,美國國家安全局(NSA)局長 Joshua Rudd 曾向其說明,Mythos 模型在短短數小時內便找出大量原本需要數週才能發現的系統漏洞。不過,美國官員也強調,模型快速辨識漏洞,並不代表同樣能立即利用漏洞發動攻擊,兩者仍有本質差異。

事件也使 Anthropic 與川普政府之間出現明顯歧見。報導指出,在部分官員擔憂先進 AI 能力可能遭到濫用後,美國政府已針對 Mythos 與 Fable 等模型祭出出口限制措施,Anthropic 隨後停止提供相關模型存取服務,以配合政府規範。

Anthropic 則認為,這些模型主要用途在於協助發現系統漏洞、提升防禦能力,而非增加攻擊風險,因此相關限制並非必要。部分白宮官員則質疑,公司過去曾多次警告 AI 可能帶來重大風險,如今卻淡化模型能力所代表的國安意涵。

另一方面,美國政府近期也開始建立更完整的 AI 國家安全治理機制。川普總統日前簽署行政命令,要求先進 AI 系統於公開發布前,可納入最長一個月的國家安全風險審查機制,希望降低高能力 AI 模型可能帶來的潛在風險。

Anthropic 執行長 Dario Amodei則持續呼籲建立國際 AI 安全合作機制,並表示公司正與美國政府保持溝通,希望在維護國家安全與促進 AI 創新之間取得平衡。他也主張,各國應共同建立一致的 AI 治理規範,而非採取彼此分歧的監管模式。

不過,此事件也引發不同聲音。部分產業人士認為,這次事件可能有助於凸顯 Anthropic 模型的技術能力,具有一定程度的市場宣傳效果。此外,超過百位資安專家與產業人士已聯名呼籲美國政府重新檢討相關限制,認為先進 AI 已成為網路防禦的重要工具,若限制防禦研究人員使用高能力模型,反而可能削弱美國及盟友的資安防護能力。

整體而言,這起事件反映出生成式 AI 已逐步從提升生產力的工具,發展為牽動國家安全、網路攻防及科技治理的重要戰略資產。未來如何在促進技術創新、維護資訊安全與建立合理監管之間取得平衡,將成為全球 AI 發展的重要課題。


在 Google 搜尋的熱門報導中優先看到商傳媒
加入為 Google 偏好來源