企業AI滲透率衝四成 紅隊測試成智慧代理防駭新防線
科技生活

·幾秒前·林昭衡
#AI Agent#資安#紅隊測試#Gartner#人工智慧
企業AI滲透率衝四成 紅隊測試成智慧代理防駭新防線
商傳媒|林昭衡/綜合外電報導
摘要

高德納預估 2026 年底四成企業將導入具自主行動力的 AI Agent。資安新創 BotGauge 推出紅隊測試平台,提供逾兩百種模擬攻擊手法,助企業在駭客入侵前先揪出智慧代理的防護漏洞。

隨著具備自主執行能力的 AI Agent 快速進入企業工作流程,資安防護的核心正面臨重大變革。根據國際研調機構高德納諮詢公司(Gartner)最新預測,2026 年底前將有高達 40% 的企業應用程式搭載特定任務型 AI Agent,相較於 2025 年不足 5% 的普及率,呈現爆發性成長。

AI Agent 是能根據目標自主規劃步驟、呼叫外部軟體工具並存取資料庫的智慧代理系統。由於這類系統擁有調用企業內部工具與權限的能力,一旦遭到惡意操弄,可能直接導致敏感資料外洩或系統被不當操作。

外媒《HackerNoon》報導,資安新創公司 BotGauge AI Inc. 於 10 月 28 日推出專為智慧代理設計的紅隊測試平台,並在知名科技產品社群 Product Hunt 登上當日精選第三名。該平台重構為「Agent 控制層」,提供超過 200 種客製化攻擊手法,模擬提示詞注入(Prompt Injection)、工具濫用、資料竊取、目標劫持以及越獄攻擊(Jailbreak)。

紅隊測試(Red-teaming)指的是資安人員站在攻擊者角度,以主動模擬駭客手法的對抗性測試,提前揪出系統潛在破綻。BotGauge AI Inc. 共同創辦人兼執行長 Pramin Pradeep 指出:「傳統軟體測試只問一件事:這項功能是否符合預期?但智慧代理需要回答第二個問題:當有人惡意誘導它違規時,它會怎麼做?這第二個問題就是紅隊測試。」

目前監管機制也加速對對抗性測試提出要求,包括美國國家標準及技術研究所(NIST)的 AI 風險指引,以及歐盟的《人工智慧法案》(EU AI Act),皆明確納入相關規範。專家建議,開發者在將 AI Agent 導入生產環境前,應清查其能存取的所有工具與權限,並對照開放式網頁應用程式安全專案的OWASP LLM Top 10或MITRE ATLAS等資安框架,在每次版本發布前落實主動防禦測試。


在 Google 搜尋的熱門報導中優先看到商傳媒
加入為 Google 偏好來源