聯合國發布最新報告警告，人工智慧（AI）的發展速度已超越政府監管，全球面臨AI失控風險。報告列舉AI在醫療科學等領域的巨大潛力，但也點出假訊息、性虐待深偽技術、網路犯罪與環境衝擊等嚴重威脅，並強調各國政府需建立更強大的國際合作與獨立監管框架，才能確保AI的發展不至於失控。
聯合國一份最新報告指出，人工智慧（AI）的發展速度已遠超各國政府的監管能力，世界正瀕臨失控邊緣。報告強調，AI的應用能力在過去幾年呈現驚人躍進，其影響層面廣泛，從醫療、科學研究到經濟社會，但同時也帶來前所未有的挑戰與危險。
根據報告內容，AI已不再僅限於回應指令，其「代理（Agent）」功能日益強大，能夠自主規劃任務、使用數位工具、撰寫軟體，並在極少或完全無需人工干預的情況下完成複雜工作。AI的正面效益包括預測超過兩億種蛋白質結構、加速藥物研發與疫苗開發、提升抗生素抗藥性研究。在醫療領域，醫師利用AI早期偵測乳腺癌，開發中國家的醫護人員也透過在地語言的AI工具，改善病患照護。此外，AI驅動的預警系統正協助辨識糧食不安全問題，並提升身心障礙人士對科技的近用性，擴展個人化教育與心理健康支持的機會。
然而，AI的快速發展也伴隨新的危險。報告揭露，AI助長了性虐待內容與深度偽造（Deepfake）影像的散播，其中婦女和兒童面臨的風險最大。AI能生成與真實資訊幾乎無異的假訊息，嚴重動搖公眾對事實的信任，甚至威脅民主基礎。犯罪分子也利用AI進行網路攻擊、詐欺及社交工程詐騙。部分AI系統可能強化有害的信仰或行為，導致精神健康危機，甚至增加自殺風險。
隨著AI變得更加自主，專家警告，若缺乏更強大的安全防護措施，監測與治理將變得更為困難。此外，驅動AI的資料中心對能源需求龐大，導致溫室氣體排放增加，加劇全球暖化。儘管AI已在全球普及，但其資源與技術仍高度集中於少數國家。報告指出，美國擁有全球頂尖人工智慧超級電腦約四分之三的運算能力，中國則佔約15%，兩者合計近九成。大多數先進AI模型也由這兩個國家的公司開發。許多開發中國家因缺乏運算基礎設施、技術專業、資料、投資與在地語言資源，難以充分從AI獲益。
聯合國獨立國際人工智慧科學專家小組（UN Independent International Scientific Panel on Artificial Intelligence）指出，現行的治理體系並非為如此快速演進的技術而設計。儘管全球已有逾40個AI治理框架與道德準則，但這些規範零碎、不一致，且鮮少經過實際測試。許多安全評估也由開發技術的公司自行進行，缺乏獨立性。該專家小組建議，需要更強而獨立的評估、國際合作以及通用標準，以確保AI系統安全、透明且負責任。
為此，聯合國於2025年成立了由全球各區域40位專家以個人身份組成的「聯合國獨立國際人工智慧科學專家小組」。該小組的角色在於提供科學諮詢而非監管。其研究成果將匯入將於今年7月6日在瑞士日內瓦展開的「聯合國全球人工智慧治理對話 (UN Global Dialogue on AI Governance)」，屆時各會員國將共同討論管理這項技術的國際策略。該專家小組強調，人工智慧本質上無所謂好壞，其最終影響將取決於各國政府、企業與社會在今日所做的決策。