Google DeepMind執行長警告 AI 駭客攻擊是「早期警訊」籲速推國際監管

Google DeepMind 執行長兼共同創辦人德米斯·哈薩比斯（Demis Hassabis）週三表示，近期發生的多起人工智慧（AI）駭客攻擊事件，可視為「早期預警信號」，如果業界未能加強系統安全，未來一到兩年內恐出現更嚴重的 AI 相關事故。

哈薩比斯指出，這些「流氓式」的 AI 代理程式（AI agents）已展現出問題行為，例如駭入企業網路，甚至有 AI 模型向警方提交虛假的殺人案線索。他認為，這些事件是警訊，因為目前的 AI 系統能力尚不足以造成重大危害。他引述路透社報導表示：「我認為這些（駭客事件）是給我們的早期警訊，目前系統還不夠強大，所以事件並非那麼嚴重。」

然而，哈薩比斯警告，若業界、個別公司與各國政府未能加強 AI 系統的安全性，到明年或未來幾年，情況可能會變得更加嚴峻。他強調，AI 的安全防護措施必須盡快趕上創新速度，當前迫切需要新的 AI 安全法律與規範。

微軟總裁布拉德·史密斯（Brad Smith）也呼應此觀點，他在愛爾蘭都柏林出席活動時強調，沒有任何公司或技術應凌駕於法律之上，需要制定出明智、平衡且考量創新的法規。史密斯更直言，業界中部分人士對監管抱持的「過敏反應」，是必須克服的心態。哈薩比斯進一步提到，未來 AI 系統最終將需要一個國際標準機構來實施監管。他建議，這個國際機構需具備精細且靈活的特性，才能在不扼殺創新的前提下，建立一個能與風險程度相符並隨技術進步快速調整的動態認證流程。