即時快訊
數產署表揚13家友善電商企業推動安心網購 Perky榮獲MUSE國際設計雙銀獎,女性營養品牌累積六項國內外肯定 金門酒廠「一穀作契」100%本土契作好品質 獲得農業部農糧署國產農糧原料酒推薦 「公益同行・原社共好」 29家績優合作社齊聚華山 公彩成果展現就業與福利新動能 孕育兆美元輝達的傳奇美式餐廳 創辦紀念座位牌保留至今 美國屋頂太陽能發電量近十年暴增近五倍 全球運動AI市場名單出爐 日本企業掛零歐美科技巨頭強勢壟斷 創投看好AI降低門檻 一人微型創業成美國就業新趨勢 年末聚會前的輪廓焦慮?醫師 : 「看不出做過」成自然美感新趨勢 印度航太新創搶攻火箭引擎商機 獲利基訂單拚太空產業分工
美國國務院委託民間團隊研究指出,AI技術快速的發展與進步,最終恐將導致人類滅絕。圖/翻攝自X平台
科技生活

·3 年前·許方達
#AI風險#歐盟#AI法案
美國國務院委託民間團隊研究指出,AI技術快速的發展與進步,最終恐將導致人類滅絕。圖/翻攝自X平台
美國國務院委託民間團隊研究指出,AI技術快速的發展與進步,最終恐將導致人類滅絕。圖/翻攝自X平台
摘要

美國國務院委託AI安全風險顧問公司Gladstone AI進行研究,報告示警,最先進的AI系統在最糟糕的情況下,可能「對人類物種構成滅絕等級的威脅」。

商傳媒|記者許方達/綜合報導

AI迎來爆炸性成長世代,但「水能載舟亦能覆舟」,國際上不少專家擔憂,AI是否終有一天會對人類帶來無法逆轉的傷害。根據外媒報導,近期一份研究報告指出,AI應用技術的快速進展,恐帶來「災難性風險」,最糟糕的狀況恐怕是「最先進的AI系統對人類物種構成滅絕等級的威脅」。

這份研究是由美國國務院委託AI安全風險顧問公司Gladstone AI著手進行,期間訪問200多位AI產業高層、網路安全研究人員、大規模毀滅性武器專家及政府國安官員。

報告示警AI恐廣泛造成兩大核心危險,包括:一、最先進AI系統可能被當做武器,造成無法逆轉的損害。二,AI實驗室內私下擔憂,AI發展到某個程度後,開發人員會對他們自己開發的系統「失去控制」,帶來對全球安全潛在性的「毀滅性後果」。

報告急迫呼籲美國政府,必須「迅速且果決」採取新措施,以應對這項威脅,包括成立一個新的AI機構,制定「緊急規範保護」,同時限制電腦運算能力投入訓練AI模型的程度。

面對「AI軍備競賽」,專家擔憂AI和AGI(通用性AI)技術的興起,恐怕會產生類似核武等級的迫害,威脅全球安全穩定現況。Gladstone AI共同創辦人兼執行長哈里斯(Jeremie Harris)受訪表示,「包括在世界頂尖AI會議上發表的實證研究和分析,有愈來愈多證據顯示,要是超過相當能力的門檻,AI就有可能變得不受控制」。

圖片來源:翻攝自X平台

與此同時,歐洲議會13日以「壓倒性票數」通過全球首個AI法案(EU AI Act),將以廣泛法規規範,來管理包括聊天機器人ChatGPT等AI系統。歐盟「AI法案」會依照風險高低為依歸,要求高風險AI的廠商,必須先執行風險評估並確保產品符合法規,才能讓產品上市。違者恐遭處750萬至3500萬歐元(約821萬至3832.7萬美元)不等的罰款。

「AI法案」也限制政府在公共場所,使用即時生物識別監視技術,該技術用來防止真正的威脅,例如恐怖攻擊。歐洲議會通過法案文本後,歐盟27國接著預料於4月給予正式批准,法規最後將於5或6月發布在歐盟公報。這套規範將於法案正式成為法規之後12個月生效,而企業必須於兩年內遵守大部分規範。

在 Google 搜尋的熱門報導中優先看到商傳媒
加入為 Google 偏好來源