
人工智慧公司 Anthropic 正擴大其強大資安模型 Claude Mythos 的存取權限,同時推出專為法律領域量身打造的 AI 工具套件,旨在提升網路安全防護並擴展法律服務的數位化應用。
人工智慧(AI)公司 Anthropic 正擴大其核心 AI 模型 Claude Mythos 的應用範圍,不僅逐步開放這個原本因安全考量而受限的資安漏洞挖掘利器,更進一步推出專為法律領域打造的全新產品套件,旨在擴展法律AI工具的可近用性。
Claude Mythos 是一款能發掘軟體漏洞並生成有效攻擊鏈的 AI 模型,其能力甚至能將多個低嚴重性缺陷組合成高嚴重性威脅。Anthropic 最初為此模型設下限制,認為其潛在風險過高,不宜全面釋出。該公司透過「Project Glasswing」專案,僅向約 50 個精選夥伴開放 Mythos 的存取權,合作夥伴包括美國科技巨擘思科(Cisco)、甲骨文(Oracle)和微軟(Microsoft)。
Anthropic 計畫將 Project Glasswing 的合作夥伴擴展至美國聯邦政府及盟邦政府。該公司預計在不久的將來,待開發出更強大的安全防護措施後,將全面釋出「Mythos 級」模型,並預期這類模型將在未來 6 到 12 個月內普及。Anthropic 表示,現階段由於尚未能充分詳述夥伴利用 Mythos 所發現的成果,以免將終端使用者置於風險之中。
據《ISMG News》報導,Project Glasswing 參與夥伴已利用 Mythos 在重要軟體中找出超過 10,000 個高嚴重性或關鍵嚴重性漏洞,其中 6,202 個存在於開源軟體中。光是針對 1,752 個高嚴重性或關鍵漏洞的第三方審查就確認其中 91% 為有效缺陷。然而,開源軟體維護者也面臨挑戰,大量 AI 輔助生成的錯誤報告導致重複現象嚴重,難以負荷處理。微軟旗下的 GitHub 因此調整了其漏洞獎勵計畫,針對本月稍早那些未展示實際資安影響的提交,將僅提供「GitHub 周邊商品」。
Cloudflare 身為 Project Glasswing 的參與者,發現若將 Mythos 視為漏洞挖掘工具而非聊天介面,並以小規模任務驅動,能獲得更好的成果。Cloudflare 首席資安長 Grant Bourzikas 指出:「當多個代理程式處理範圍明確的問題並去重複化結果時,涵蓋範圍會提升。」Anthropic 也將為經過審核的資安團隊提供新工具,包括自訂指令、程式碼庫映射工具、掃描子代理、分類發現結果及報告撰寫功能,同時還有一個掃描程式碼庫以識別潛在攻擊目標的威脅模型建構器。學術界也正與 Anthropic、Google、OpenAI 合作,開發新的基準測試工具,例如卡內基美隆大學(Carnegie Mellon University)和 Bugcrowd 合作的 ExploitBench,以及加州大學柏克萊分校(UC Berkeley)、Max Planck Institute for Security and Privacy、加利福尼亞大學聖塔芭芭拉分校和亞利桑那州立大學合作的 ExploitGym。
此外,Anthropic 也正積極投入法律科技領域。根據《law360》報導,該公司已推出一系列針對法律應用設計的產品套件,以擴大專業人士對於法律 AI 工具的運用。
