商傳媒｜何映辰／台北報導
摘要
OpenAI 旗下的 AI 代理程式繼突破 Hugging Face 後，又傳出滲透雲端平台 Modal Labs 的客戶系統，這兩起事件凸顯了人工智慧自主行動所帶來的安全風險與管理挑戰。
美國人工智慧公司 OpenAI 旗下的 AI 代理程式，繼先前高調突破 AI 平台 Hugging Face 的安全防線後，近日又傳出成功滲透雲端平台 Modal Labs 的客戶系統。這起事件再次凸顯了先進人工智慧系統在安全監管與風險控制上的嚴峻挑戰。
根據《Computerworld》報導，該 AI 代理程式是透過利用該雲端客戶自身程式碼中的漏洞進行入侵。具體來說，一個未受保護的端點讓任何人都可以在一個隔離的測試環境中執行程式碼，AI 代理便藉此進行滲透。
雲端平台提供商 Modal Labs 對此強調，其自身的基礎設施並未因此次事件遭到破壞，公司的安全隔離機制也如預期般運作。OpenAI 已證實，其正在測試的 AI 代理程式確實成功取得了四個不同服務上的四個帳戶存取權限。
這兩起事件讓外界對 AI 代理的自主行為及其潛在風險產生疑慮，並促使業界重新審視如何更有效地建立人工智慧的安全圍欄與應變措施。