微軟共同創辦人比爾·蓋茲警告，人工智慧（AI）若遭惡意使用，恐導致「十億人死亡」的毀滅性後果，他呼籲政府應介入制定嚴格監管規範。此番言論引發 AI 業界與政治圈熱議，部分 AI 公司領導人支持放慢開發腳步，但也有人質疑這是否為競爭策略，而前 AI 研究人員則因安全疑慮紛紛辭職。
微軟共同創辦人比爾·蓋茲（Bill Gates）近日發出嚴峻警告，表示若人工智慧（AI）落入惡意分子手中，其強大力量恐導致「十億人死亡」的毀滅性後果。他強調，這並非指 AI 會自主決定滅絕人類，而是惡意分子若結合最先進的 AI 工具，其破壞力將超越以往任何武器，特別是在武器開發或生物恐怖主義等領域，AI 能被用於設計大規模殺傷性武器或生物製劑。
比爾·蓋茲在接受《全國廣播公司》（NBC）節目「Meet the Press」訪問時指出，要區分善意科學研究（例如設計新藥）與惡意生物恐怖主義工具的開發難度極高，因此必須監控複雜的 AI 模型並記錄其使用方式。他強烈支持政府介入制定安全規範，而非僅依賴企業自律，認為此舉只會為產業帶來少量額外成本，並不會顯著減緩 AI 進步的速度。
然而，AI 業界與政府對此議題意見分歧。Anthropic 執行長達里奧·阿莫代（Dario Amodei）曾呼籲 AI 公司「放慢前沿研究腳步」，獲得 OpenAI 執行長奧特曼（Sam Altman）與特斯拉創辦人馬斯克（Elon Musk）的認同。他們甚至建議由獨立評估機構，以近似員工的身分深入 AI 實驗室進行安全審查。過去兩年，包括 OpenAI、Anthropic 和 Google DeepMind 在內的多家主要 AI 公司，已有超過 12 位關鍵研究人員因擔憂安全風險及技術發展過快而辭職。
部分前 AI 研究人員，例如曾任 Anthropic 研究員的 Jacob Coxon，認為公司間對「超級智慧」的競賽是在「拿生命賭博」，並指未來一到兩年將是 AI 安全的關鍵時期。他甚至曾在社群媒體平台 X 上發文，呼籲暫停技術開發。前 Google DeepMind 研究員 Robert O’Callahan 也因擔憂 AI 進步過快對人類造成負面影響而離職，認為他的團隊旨在加速 AI 發展的目標，目前對人類而言並非好事。
美國政治人物對 AI 監管的態度也南轅北轍。現任總統唐納·川普（Donald Trump）曾駁斥 AI 造成生存風險的說法是「騙局」，並強調美國必須在 AI 領域保持領先地位。美國眾議院議長邁克·約翰遜（Mike Johnson）則表示需要制定安全規範，但也警告不要倉促立法，以免損害國家安全。前總統巴拉克·歐巴馬（Barack Obama）則據傳在私人聚會中警告，AI 技術在私人手中若發展過快，將變得危險，並敦促民主黨為 AI 的公共討論建立框架。
對於比爾·蓋茲的警告，也有不同聲音。AI 加速主義者 Guillaume Verdon 質疑 AI 是否具備大規模滅絕的能力，並要求提出更具體的數學模型證明。Pitchbook 資深研究分析師 Harrison Rolfes 則認為，AI 巨頭們強調安全風險並呼籲監管，可能是一種高明的策略，旨在透過安全措施為自己築起競爭壁壘，阻礙規模較小的競爭者發展，最終讓龍頭公司獲取豐厚利潤。
參考來源
-
Conditions for a US Stock Market Crash Are in Place; Experts…（BigGo Finance）
-
Prediction: A Stock Market Crash Is Coming. Here’s the One M…（The Motley Fool）
-
As AI giants warn of existential risk, they can also build a…（Fortune）
-
AI could cause a billion deaths: Why Bill Gates warning is d…（Zee News）
-
AI Researchers Resign Citing Safety Risks, Gates Warns of Bi…（The Chosun Daily）
-
AI could be used to kill 1 billion people, Bill Gates warns（New York Post）
-
Bill Gates Warns AI Could Cause 'A Billion Deaths' as He Cal…（RadarOnline）
-
'They genuinely believe it': Australian AI researcher on fea…（POLITICO）
-
Bill Gates Says A.I. Could Kill At Least A Billion People（TMZ）
-
Bill Gates issues chilling warning that AI could ‘cause a bi…（LADbible）