即時快訊
戴爾科技:AI代理程式「護欄」是實現更大自主性的途徑 Robinhood 財報利潤遜預期 股價盤後應聲下跌 加密貨幣地位提升 貝森特:與AI、晶片同為美中科技競賽焦點 美國電池儲能部署加速 美國南方電力公司領跑上中西部 蔡黃汝出任德瑞克名床首位代言人 飛撲、躺水球挑戰床墊極限 美國天然氣需求看漲 EQT 併購 Range Resources 創新紀錄 Cloudera Blueprints平台亮相 加速企業AI應用開發與部署 社畜必備療癒神物! 五月花新柔韌衛生紙攜手 JOGUMAN 打造專屬「辦公室黑色幽默」療癒上市 行李箱推薦!DORIS朵莉絲推前開式行李箱 迪士尼系列萌翻 本田警告加拿大汽車關稅若升至50% 恐衝擊北美供應鏈
戴爾科技:AI代理程式「護欄」是實現更大自主性的途徑
科技生活

·a few seconds ago·葉安庭
#戴爾科技#AI代理程式#人工智慧安全#網路韌性
戴爾科技:AI代理程式「護欄」是實現更大自主性的途徑
商傳媒|葉安庭/綜合外電報導
摘要

戴爾科技資安長約翰·希蒙(John Scimone)強調,企業在運用人工智慧(AI)代理程式時,應從設計初期就建構好「AI agent guardrails」(AI 代理程式護欄)等安全機制,才能在確保安全的前提下,讓 AI 代理程式發揮更大的自主性,並幫助組織更有信心地應對未來的網路威脅與風險。

戴爾科技(Dell Technologies Inc.)總裁兼資安長約翰·希蒙(John Scimone)指出,企業在賦予人工智慧(AI)代理程式更高自主性的同時,必須重視「AI agent guardrails」(AI 代理程式護欄,指為確保人工智慧系統安全運作而設定的限制與保護機制)的設計。他強調,從設計之初就將安全與韌性(resilience)融入 AI 代理程式,對於其長期效益至關重要。

約翰·希蒙(John Scimone)在《theCUBE》舉辦的「AI 網路資安與韌性高峰會」上受訪時表示,傳統的災難復原已轉變為網路韌性。面對現今的網路威脅,駭客攻擊整個數位生態系統的風險,比傳統的天災更為普遍。他認為,AI 代理程式雖然帶來便利,但也新增了新的依賴性,一旦代理程式或其資料不可用,工作流程便可能中斷。

根據一項針對 25 家企業科技與資安主管的調查顯示,其中有 19 家已在生產環境中使用自主 AI 代理程式,但無一允許代理程式在未經人工核准的情況下執行高風險操作。約翰·希蒙(John Scimone)認為,目前企業在 AI 部署上過於謹慎,應採深思熟慮的方式實施確定性的護欄,而非過度保守。戴爾科技內部便為其 AI 代理程式實施嚴格的身分與存取控制,並進行廣泛的日誌記錄與追溯,以確保其內部 AI 代理程式的安全運作。

約翰·希蒙(John Scimone)也提到,這 25 家受訪者中,只有 4 家曾測試 AI 代理程式發生事故時的應變情境。他強調,威脅行為者已開始利用 AI 進行攻擊,預計未來幾季這類攻擊將會大幅增加。研究指出,那些賦予 AI 代理程式有限度自主權的組織,其復原準備度(recovery readiness)普遍優於僅仰賴人工核准的組織。設計良好的 AI 代理程式護欄,能讓企業在掌握正確資訊與數據的前提下,更自信地承擔風險,加速推進業務,同時避免過度或不足的投入。


在 Google 搜尋的熱門報導中優先看到商傳媒
加入為 Google 偏好來源