美國國務院委託AI安全風險顧問公司Gladstone AI進行研究，報告示警，最先進的AI系統在最糟糕的情況下，可能「對人類物種構成滅絕等級的威脅」。
商傳媒｜記者許方達／綜合報導
AI迎來爆炸性成長世代，但「水能載舟亦能覆舟」，國際上不少專家擔憂，AI是否終有一天會對人類帶來無法逆轉的傷害。根據外媒報導，近期一份研究報告指出，AI應用技術的快速進展，恐帶來「災難性風險」，最糟糕的狀況恐怕是「最先進的AI系統對人類物種構成滅絕等級的威脅」。
這份研究是由美國國務院委託AI安全風險顧問公司Gladstone AI著手進行，期間訪問200多位AI產業高層、網路安全研究人員、大規模毀滅性武器專家及政府國安官員。
報告示警AI恐廣泛造成兩大核心危險，包括：一、最先進AI系統可能被當做武器，造成無法逆轉的損害。二，AI實驗室內私下擔憂，AI發展到某個程度後，開發人員會對他們自己開發的系統「失去控制」，帶來對全球安全潛在性的「毀滅性後果」。
報告急迫呼籲美國政府，必須「迅速且果決」採取新措施，以應對這項威脅，包括成立一個新的AI機構，制定「緊急規範保護」，同時限制電腦運算能力投入訓練AI模型的程度。
面對「AI軍備競賽」，專家擔憂AI和AGI(通用性AI)技術的興起，恐怕會產生類似核武等級的迫害，威脅全球安全穩定現況。Gladstone AI共同創辦人兼執行長哈里斯(Jeremie Harris)受訪表示，「包括在世界頂尖AI會議上發表的實證研究和分析，有愈來愈多證據顯示，要是超過相當能力的門檻，AI就有可能變得不受控制」。
圖片來源：翻攝自X平台
與此同時，歐洲議會13日以「壓倒性票數」通過全球首個AI法案(EU AI Act)，將以廣泛法規規範，來管理包括聊天機器人ChatGPT等AI系統。歐盟「AI法案」會依照風險高低為依歸，要求高風險AI的廠商，必須先執行風險評估並確保產品符合法規，才能讓產品上市。違者恐遭處750萬至3500萬歐元(約821萬至3832.7萬美元)不等的罰款。
「AI法案」也限制政府在公共場所，使用即時生物識別監視技術，該技術用來防止真正的威脅，例如恐怖攻擊。歐洲議會通過法案文本後，歐盟27國接著預料於4月給予正式批准，法規最後將於5或6月發布在歐盟公報。這套規範將於法案正式成為法規之後12個月生效，而企業必須於兩年內遵守大部分規範。