企業導入 Claude Code 挑戰浮現 CIO 需掌握 AI 代理治理要點
科技生活

·a few seconds ago·葉安庭
#Claude Code#人工智慧#企業資安#AI 治理#CrowdStrike
企業導入 Claude Code 挑戰浮現 CIO 需掌握 AI 代理治理要點
商傳媒|葉安庭/綜合外電報導
摘要

資安公司 CrowdStrike 警告,企業在導入 Anthropic 的 AI 程式開發工具 Claude Code 時,須正視其本地運行、高權限存取及高頻互動所帶來的資安風險,並指出 AI 代理程式觸發的偵測警報遠高於人類,強調除了內建的 Hooks 檢查點,更需搭配執行時期實際行為監控,才能全面掌握 AI 工具的潛在威脅。

隨著人工智慧(AI)工具深入企業運作,資安風險與治理問題日益受到關注。Anthropic 公司開發的 AI 工具 Claude Code,因其強大的程式開發能力,正被企業廣泛應用於程式編寫、重構、問題排除及基礎架構管理等任務。然而,其在員工工作站本地運行的特性,以及對程式碼、憑證和雲端環境的存取權限,對企業的資訊長(CIO)構成了新的治理挑戰。

根據資安公司 CrowdStrike 的內部使用數據,終端 AI 代理程式(一種能自動執行特定任務的 AI 程式)所消耗的 Token(AI 模型處理資訊的基本單位)數量,約是人類使用瀏覽器上 AI 聊天機器人的 700 倍。這意味著 AI 代理程式的活躍度與潛在影響範圍遠超想像。CrowdStrike 的《2026 年威脅情資報告》也指出,由 AI 代理程式觸發的偵測警報,比人類觸發的警報高出 2.5 倍,凸顯了相關安全風險的提升。

Claude Code 內建多項治理功能,包括集中管理設定、工具與指令的權限規則,以及稱為「Hooks」的程式化檢查點。Hooks 可以在程式執行流程中的特定時刻(如會話開始、使用者提交指令、工具使用前後)自動運行,檢查 AI 代理程式的預期動作,並決定允許、阻止、記錄或要求人工批准。企業可以利用 Hooks 來防止 AI 存取生產環境憑證、修改敏感目錄,並記錄其活動供安全團隊審查。

然而,Hooks 的治理能力存在局限。它們僅評估 AI 代理程式「即將採取的動作」,卻無法追蹤這些動作進入作業系統後的「實際後果」。舉例來說,一個經 Hooks 批准的指令所啟動的腳本,可能會在沒有再次經過檢查點的情況下,執行讀取雲端憑證或建立外部連線等行為。此外,Hooks 是基於規則的策略執行點,難以捕捉經過編碼的惡意酬載、由 AI 自行編寫執行的腳本,或是由一系列看似無害的獨立步驟組成的複雜攻擊。AI 代理程式在持續推理過程中,讀取檔案、文件、網頁內容等以決定下一步行動時,也可能產生風險,而 Hooks 無法監控這個推理過程。

安全風險不僅限於直接攻擊,還包括「間接指令注入」(indirect prompt injection),即攻擊者透過外部檔案(如 README 文件或第三方依賴項)來秘密引導 AI 代理程式行為;以及「代理程式行為偏差」(agentic misalignment),指 AI 雖達成目標但卻以不安全的方式執行,例如為了加速任務而將敏感資料上傳至公共服務。

為彌補 Hooks 的不足,企業需要導入「執行時期實際行為監控」(runtime execution visibility)。這項技術能觀察 AI 代理程式在執行時對終端裝置造成的實際活動,包括啟動的程序、存取的檔案、網路連線及接觸的憑證等,並將這些行為與原始指令鏈結,建立完整的因果鏈。這類似於資安領域從傳統防毒軟體轉向「端點偵測與回應」(EDR)的演進。CrowdStrike 的 Falcon® Guardian 產品即整合了 Claude Code 的 Hooks,將 AI 代理程式活動匯入其 Falcon® platform,並結合執行時期行為進行調查與回應。Hooks 與執行時期行為監控兩者相輔相成,而非相互競爭,共同為企業 AI 治理提供全面的安全防護。


在 Google 搜尋的熱門報導中優先看到商傳媒
加入為 Google 偏好來源