【記者 吳雨涵／科技報導】 企業AI代理（Agentic AI）正以驚人速度自主執行程式碼、呼叫內部API、竄 […]
【記者 吳雨涵／科技報導】
企業AI代理（Agentic AI）正以驚人速度自主執行程式碼、呼叫內部API、竄改雲端儲存庫——傳統的政策管控根本追不上。為了解決這個日益嚴重的治理漏洞，微軟發布了一套全新的開源工具包，專注於「運行時安全」（runtime security），在模型嘗試執行行動的當下即時監控、評估與阻擋。
過去AI整合多半是「對話式介面」或「顧問型副駕駛」，擁有唯讀權限，人類牢牢掌握執行環節。但現在企業部署的代理框架可直接採取獨立行動，將模型直接連接到內部API、雲端儲存庫與CI/CD管線。一個自主代理可以讀取郵件、決定撰寫腳本、再將腳本推送到伺服器——若缺乏嚴格治理，一次提示注入攻擊（prompt injection）或單純的幻覺（hallucination），就可能導致代理覆寫資料庫或外洩客戶記錄。
微軟的解決方案是在工具呼叫層（tool-calling layer）即時攔截。當AI代理需要查詢庫存系統或執行外部功能時，會產生一個命令。微軟的框架在語言模型與企業網路之間插入政策執行引擎，攔截請求，比對中央治理規則。若行動違反政策（例如只被授權讀取庫存資料的代理試圖下採購單），工具包就會阻斷API呼叫並記錄事件，交由人類審查。
這套工具以開源授權釋出，關鍵在於現代軟體供應鏈高度混雜開源函式庫與第三方模型。若微軟將其鎖定在專有平台上，開發團隊很可能為了趕進度而繞過安全機制。開源後，無論企業運行的是本地開源模型、競爭對手Anthropic的模型，或混合架構，都能整合這套治理控制項。安全廠商也可在此基礎上疊加儀表板與事件回應整合，加速整個生態系成熟。
除了安全，工具包也涵蓋財務與營運監管。自主代理在推理與執行循環中不斷消耗API token，新創與企業已面臨token成本爆炸。運行時治理可設定硬性上限：限制代理在特定時間內的行動次數、API呼叫頻率，防止失控流程在幾小時內累積鉅額雲端帳單。
微軟表示，運行時治理層提供了合規所需的量化指標與控制機制。單純信賴模型供應商過濾不良輸出的時代已結束，系統安全現在取決於實際執行模型決策的基礎設施。企業若想在未來的自主工作流程中站穩腳步，現在就必須導入嚴格的運行時控制。