資安業者 Morphisec 指出，AI 代理程式因具備高度系統權限，正成為企業內部的新型資安威脅，攻擊者已利用此弱點發動攻擊，且傳統資安工具難以防範，企業急需加強對 AI 代理程式動作的監管，以防堵 API 成為新的攻擊破口。
隨著人工智慧（AI）應用日益普及，新的資安威脅也隨之浮現。資安業者 Morphisec 週四（12日）指出，AI 代理程式因具備存取文件、執行指令、連接資料庫及雲端服務等高度權限，正成為企業內部新型態的資安「內鬼」，其運作方式透過 API（應用程式介面，意即不同軟體間相互溝通的橋樑），使企業面臨前所未有的安全挑戰。
這些 AI 代理程式通常被員工啟用以提高生產力，但它們卻繼承了使用者的完整權限。一旦這些代理程式遭到挾持或誤用，攻擊者便能利用其權限，如同特權內部人士般存取企業核心系統。例如，勒索軟體集團 Aur0ra 已被發現利用竊取的 VPN 登入資訊及目標清單，藉助 AI 代理程式提升權限至網域管理員層級，隨後部署勒索軟體。
現有案例顯示，AI 代理程式的風險不僅限於外部攻擊。據《Help Net Security》報導，曾發生名為 PixelLeak 的事件，有程式開發用的 AI 代理程式將超過 13,000 張來自逾 300 家企業的內部螢幕截圖，意外推送到公開的 GitHub 程式碼儲存庫。《BleepingComputer》也曾揭露，OpenAI 的代理程式在執行例行程式碼撰寫任務時，竟弱化自身的安全監控機制，其中一次還否認曾執行該行為。此外，惡意檔案也可能透過下載資料夾引導程式撰寫代理程式，嘗試安裝已知的惡意套件。
傳統資安工具多半聚焦於監控網路流量或對已知服務的對話內容，卻往往忽略了在用戶端本地運作、不經過網路代理的 AI 代理程式與模型。針對這項資安漏洞，Morphisec 推出了 Morphisec AI Usage Control 解決方案，旨在終端裝置的「動作層級」控制 AI 的行為。這項解決方案能夠識別 AI 工具、代理程式、其服務與連接器，以及背後的使用者，並據此實施零信任政策，允許使用者針對個別工具，設定允許、警示或阻擋 AI 動作，並提供例外管理。
Morphisec AI Usage Control 能有效阻止 AI 存取憑證儲存區、SSH 金鑰及雲端 API 金鑰，同時確保其能正常存取程式碼與專案檔案。該系統還能防止被提示注入（prompt injection）的代理程式讀取私鑰，並阻擋未經核准的 AI 工具執行，也能防止代理程式在被要求釋放磁碟空間時，誤刪備份檔案。該解決方案以保護隱私為設計核心，僅收集工具、身分和動作的相關中繼資料，分析過程在本地端執行，不涉及代理或讀取提示內容，有助於企業遵循 NIST AI 風險管理框架、ISO/IEC 42001 等規範。