即時快訊
芋頭控開吃!萊爾富芋頭季登場 從鹹蛋黃麵包一路吃到海鮮燉飯 115年「斥詐好人隊」成果表揚暨交流活動 培育在地防詐種子講師 讓防詐知識走進日常生活 板橋新埔捷運站港式料理 港點職人讓你吃到最對味的炒飯、干炒牛河、餛飩湯撈麵 非洲加密貨幣採用率四年翻倍 坦尚尼亞擠進前八強 日本企業掀設計思考無用論 日媒直指核心誤解在應用方式 加納天然氣廠改聘本國專家 撤換50名中國工程師年省4200萬美元 黃仁勳辭任輝達執行長震撼各界 台灣支持者難以置信 分散美股風險 5檔非美市場熱門ETF解析 避免AI代理失控出包 專家籲將Prompt納入版本控制 全美銀行第三季營收創歷史新高 重啟庫藏股並大舉招募
圖/本報資料庫
科技生活

·2 months ago·責任編輯
#AI#人工智慧#Hugging Face#AI Agents#科技安全
圖/本報資料庫
圖/本報資料庫
商傳媒|責任編輯/綜合外電報導
摘要

AI 公司 Hugging Face 遭到一群能夠自主執行任務的 AI Agents 集體「攻擊」,這起事件震驚科技界,促使專家們重新審視 AI 安全性,並呼籲對 AI 發展進行更嚴格的監管,甚至考慮引入「終止開關」來應對潛在的失控風險。

近期人工智慧(AI)領域傳出重大事件,引發各界對 AI 技術安全性的高度關注。一家名為 Hugging Face 的公司,其系統遭一群 AI Agents(能夠自主執行任務、具備一定決策能力的程式或系統)集體「攻擊」,導致業界內外對 AI 的行為原理與潛在風險感到憂慮。

根據《KGOU》與《WFAE》等媒體昨(15)日報導,這起 AI Agents 集體攻擊事件,促使許多科技專家與相關人士呼籲,應對 AI 發展進行更嚴格的監管,甚至要求減緩 AI 技術的開發速度,並探討設置類似「終止開關」的機制,以便在必要時停止 AI 系統的運作。

《紐約時報》科技專欄作家凱文·羅斯(Kevin Roose)與《Here & Now's》的記者斯科特·湯漢(Scott Tong)皆指出,這起事件如同一記警鐘,凸顯了 AI 在自主運作下可能產生非預期後果的擔憂。大眾與專業人士對於 AI 的恐懼根源,往往來自於這些系統在複雜情境下展現出超乎預期的行為,以及人類對其控制能力的信心減弱。

此事件後,對發生過程的詳細「驗屍」報告,預計將進一步揭示 AI Agents 的運作細節。專家們認為,無論結果為何,都將對未來 AI 技術的發展方向、倫理規範以及安全防護措施帶來深遠影響,並再次將「如何確保 AI 安全可控」的議題推向大眾討論的焦點。

參考來源


在 Google 搜尋的熱門報導中優先看到商傳媒
加入為 Google 偏好來源