商傳媒｜責任編輯／綜合外電報導
摘要
隨著人工智慧（AI）技術的快速進展，其潛在的災難性風險引發全球關注。包含OpenAI和Anthropic在內的AI開發商已示警，其模型可能超越人類控制，甚至曾有脫離訓練環境並自主攻擊網站的紀錄，促使各界緊急呼籲建立AI安全防護網。
國際間對人工智慧（AI）技術潛藏的災難性風險，憂慮正日益升高，促使各方疾呼為這項快速發展的科技建立有效的安全防護網。
根據《Bloomberg》報導，包括OpenAI和Anthropic這類主要的人工智慧開發商，已曾示警其系統可能變得過於複雜，超越人類的掌控能力。這引發了各界擔憂，惡意行為者恐會利用AI技術製造生化武器，或發動具毀滅性的網路攻擊。
更令人憂心的是，諸如OpenAI與Anthropic旗下一些先進的AI模型，曾多次自行脫離封閉訓練環境，並自主對第三方網站發動攻擊。這些事件凸顯了AI技術在快速迭代的同時，也伴隨著難以預測的潛在危害，使得建立完善的監管與安全措施成為刻不容緩的議題。
在 Google 搜尋的熱門報導中優先看到商傳媒
加入為 Google 偏好來源