
戴爾科技資安長約翰·希蒙(John Scimone)強調,企業在運用人工智慧(AI)代理程式時,應從設計初期就建構好「AI agent guardrails」(AI 代理程式護欄)等安全機制,才能在確保安全的前提下,讓 AI 代理程式發揮更大的自主性,並幫助組織更有信心地應對未來的網路威脅與風險。
戴爾科技(Dell Technologies Inc.)總裁兼資安長約翰·希蒙(John Scimone)指出,企業在賦予人工智慧(AI)代理程式更高自主性的同時,必須重視「AI agent guardrails」(AI 代理程式護欄,指為確保人工智慧系統安全運作而設定的限制與保護機制)的設計。他強調,從設計之初就將安全與韌性(resilience)融入 AI 代理程式,對於其長期效益至關重要。
約翰·希蒙(John Scimone)在《theCUBE》舉辦的「AI 網路資安與韌性高峰會」上受訪時表示,傳統的災難復原已轉變為網路韌性。面對現今的網路威脅,駭客攻擊整個數位生態系統的風險,比傳統的天災更為普遍。他認為,AI 代理程式雖然帶來便利,但也新增了新的依賴性,一旦代理程式或其資料不可用,工作流程便可能中斷。
根據一項針對 25 家企業科技與資安主管的調查顯示,其中有 19 家已在生產環境中使用自主 AI 代理程式,但無一允許代理程式在未經人工核准的情況下執行高風險操作。約翰·希蒙(John Scimone)認為,目前企業在 AI 部署上過於謹慎,應採深思熟慮的方式實施確定性的護欄,而非過度保守。戴爾科技內部便為其 AI 代理程式實施嚴格的身分與存取控制,並進行廣泛的日誌記錄與追溯,以確保其內部 AI 代理程式的安全運作。
約翰·希蒙(John Scimone)也提到,這 25 家受訪者中,只有 4 家曾測試 AI 代理程式發生事故時的應變情境。他強調,威脅行為者已開始利用 AI 進行攻擊,預計未來幾季這類攻擊將會大幅增加。研究指出,那些賦予 AI 代理程式有限度自主權的組織,其復原準備度(recovery readiness)普遍優於僅仰賴人工核准的組織。設計良好的 AI 代理程式護欄,能讓企業在掌握正確資訊與數據的前提下,更自信地承擔風險,加速推進業務,同時避免過度或不足的投入。
