即時快訊
搶攻綠色算力與電力藍海!YUNOVA雲鑠正式亮相 攜手全球AI GPU伺服器大廠緯創 導入WATS 架構開拓AIDC商機 從日本到台灣!肌養品牌 Yii 承載《易經》哲學 重新詮釋秋冬換季保養 一碗雞湯藏著台灣香氣!興蓬萊傳承三代台菜 蹄膀、羊奶埔雞湯端上2027團圓桌 美股估值逼近網路泡沫高峰 外媒籲散戶勿陷恐慌拋售陷阱 微軟 Xbox 迎 25 週年 四世代主機演進史一次看 全球房地產報酬低迷 機構投資人掀換經理人潮 海尼根斥資7.5億歐元買庫藏股 第二階段回購逾千萬股 黃仁勳突卸任執行長 輝達股價單月重挫28%面臨考驗 生成式AI產值2035年估破兆美元 OpenAI與Anthropic狂吸資本建護城河 美股轉戰日股別踩雷 拆解交易制度與選股七大關鍵差異
圖/本報資料庫
科技生活

·5 個月前·責任編輯
#Anthropic#AI安全#數據保護#Claude Fable 5#美國聯邦政府
圖/本報資料庫
圖/本報資料庫
商傳媒|責任編輯/綜合外電報導
摘要

AI 公司 Anthropic 旗下的兩款先進模型 Claude Fable 5 和 Mythos 5,因美國聯邦政府一項涉及國家安全和「越獄」技術的出口管制指令,被迫全面停止全球服務,突顯了企業在使用AI工具時,對數據存取、模型依賴以及資安風險管理存在的嚴重可視性缺口。

全球兩款高效能人工智慧(AI)模型 Claude Fable 5 和 Mythos 5,於日前突遭下架,突顯了AI技術發展中數據安全與合規性的潛在風險。開發商 Anthropic 因接獲美國聯邦政府的出口管制指令,被迫在短時間內將這些模型全面停止服務。

根據《Security Boulevard》報導,此事件發生在美國東部時間 6 月 12 日傍晚 5 時 21 分,Anthropic 收到美國聯邦政府的出口管制指令。該指令援引國家安全考量,要求 Anthropic 阻止任何外籍人士(無論是否在美國境內)使用 Claude Fable 5 和 Mythos 5。此禁令甚至涵蓋了 Anthropic 內部任職的外籍員工。

Anthropic 面臨的挑戰是,對於服務數億使用者的應用程式介面(API)金鑰,要即時可靠地核實每個使用者的國籍幾乎不可能。因此,為了遵守指令,該公司唯一可行的方式,就是對所有使用者全面關閉這兩款模型。當晚,Anthropic 在模型服務中直接回傳「無法使用」的訊息,證實了服務中斷。

據Anthropic說明,美國聯邦政府此舉是因應一起「越獄」(jailbreak)技術。這種技術涉及讓模型讀取程式碼庫並找出其中弱點,類似於資安防護人員日常使用的偵測工具。Anthropic 也指出,市面上許多其他模型也能做到類似功能。這次事件凸顯,先進AI模型的風險往往不在模型本身,而在於模型能夠存取的數據,以及它能對這些數據採取的行動。例如,一個能讀取程式碼並指出弱點的系統,意味著對敏感資料有深度的存取權限。

資安公司 Snyk 在其分析中表示:「模型冗餘(model redundancy)已成為韌性要求,而非單純的效能註腳。」這意味著將單一託管模型視為硬性依賴,將會造成單點故障。無論是系統當機或政府指令,這都構成嚴重的資安問題。許多組織對於其AI工具所依賴的工作流程、以及哪些敏感數據經由AI模型傳輸等基本問題,都無法明確回答。

Fable 5 的暫停事件免費揭露了組織在可視性上的缺口,且未造成任何實際數據外洩。資安專家建議,組織應著重了解自身環境,明確地圖繪製 AI 工具如何存取敏感數據,而非僅嘗試預測下一個法規指令。MIND 公司也指出,他們的服務正是協助企業發現並分類敏感數據,同時監控這些數據在各種應用程式與生成式AI(GenAI)工具之間的流動,確保在採用AI技術的同時,能有效掌控數據安全。


在 Google 搜尋的熱門報導中優先看到商傳媒
加入為 Google 偏好來源