資安公司 Qualys 今日宣布為其 TotalAI 產品增添 AI 治理功能，旨在協助企業從設計到生產全面管理 AI 系統風險，解決「影子 AI」問題，並符合美歐等地的監管要求。
Qualys 今日（29日）宣布，已為其 TotalAI 安全產品增添人工智慧（AI）治理功能，旨在協助企業資訊安全長（CISO）在 AI 系統的開發與實際運作環境中，全面管理潛在風險。這項擴展服務能夠讓組織從設計階段到生產環節，偵測、測試、監控並治理其 AI 系統，以解決「影子 AI」（Shadow AI，指員工在資安團隊不知情下使用的 AI 服務）、模型異常行為，以及向董事會與監管機構證明已落實控制措施的普遍擔憂。
國際資料公司（IDC）研究總監 Grace Trinidad 指出，AI 技術的發展速度已超越現有控制措施的建構速度。她強調，資安團隊不能再將 AI 風險視為獨立項目，而是必須將其整合至持續性的曝險管理中，涵蓋從偵測、評估、運行時可見性到治理，以確保企業能安全且規模化地採用 AI。
TotalAI 的新功能建立在 Qualys 的 Enterprise TruRisk Platform 之上，並沿用相同的 TruRisk 評分機制，與現有的漏洞、雲端資產和容器管理保持一致。該產品能識別各式 AI 部署，包括瀏覽器上的 AI 使用、雲端 AI 服務、AI 代理程式、模型以及模型上下文協議（Model Context Protocol, MCP）伺服器等，特別針對可能脫離正式審批流程的部署提供可見性。這對於解決許多組織面臨的「影子 AI」問題至關重要，因為未經管理的 AI 使用會增加追蹤、實施控制和調查事件的難度。
Qualys 總裁暨執行長 Sumedh Thakar 表示：「隨著現代企業普遍運用 AI，問題已從『我的 AI 是否安全？』轉變為『我能否向董事會和監管機構證明我的 AI 是安全的？』」他強調，TotalAI 提供企業一個統一的平台，能持續評估、治理並確保 AI 風險安全，其即時透明度和嚴謹性正是 Qualys 一貫的特色。
為確保 AI 系統安全，TotalAI 的測試功能包含對大型語言模型（LLM）的檢查，例如提示注入（Prompt Injection）和越獄（Jailbreak）等攻擊手法，以防範模型被惡意指令控制或脫離預設限制，確保輸出內容的安全性。此外，它還對 MCP 伺服器進行紅隊測試（模擬駭客攻擊），防範工具中毒、伺服器端請求偽造（SSRF）及地毯式拉扯攻擊等風險，所有測試均對應 OWASP LLM Top 10 和歐盟人工智能法案（EU AI Act）的規範。
透過底層 eBPF 檢測技術，TotalAI 能揭示 AI 工作負載在伺服器上的運行狀況，提供傳統掃描器或日誌型方法可能遺漏的可見性。這項技術旨在將 AI 安全性更早地整合到軟體開發流程中，在系統進入生產環境前，就能識別程式碼中的漏洞、錯誤配置和外洩的機密資訊。Qualys 將其方法與美國和歐盟正在興起的 AI 安全使用政策要求相連結，幫助資安主管不僅止於技術測試，更能有效證明治理控制的活躍與有效性。