矽谷新創 Foundation 推出武裝機器人 Phantom，倡議讓 AI 在戰場上自主決策，引發各界對人工智慧軍事應用倫理的激烈辯論，包括聯合國呼籲禁止及部分 AI 公司表達擔憂。
矽谷新創公司 Foundation 正在開發擬人化武裝機器人，其創辦人 Sankaet Pathak 力主讓人工智慧（AI）在戰場上自主決策，引發各界對自主武器倫理與監管的激烈辯論。這項發展正值川普政府加速推動 AI 軍事科技之際，加劇了相關討論。
Foundation 於 2024 年成立，其 Phantom 機器人模型在今年 5 月曾發布裝填迫擊砲的影片。Sankaet Pathak 認為，中國和俄羅斯並未抵制機器人武器化，因此美國不應畫地自限。該公司已獲得五角大廈一筆 2400 萬美元的合約，並已在烏克蘭測試其機器人。川普總統亦曾公開表示，其政府將「負責任地加速在情報與作戰領域應用 AI」。
然而，這項趨勢引發了廣泛的倫理疑慮。聯合國秘書長安東尼奧·古特雷斯（António Guterres）本月呼籲國際法禁止自主武器，強調「某些決定，特別是奪走人命，必須永遠由人類決定。」良十四世教宗（Pope Leo XIV）也公開反對這類武器的發展。美國參議員陸天娜（Kirsten Gillibrand）對五角大廈在缺乏適當防護措施下部署 AI 表達擔憂，稱這可能導致「災難性後果」。
AI 產業內部也出現分歧。Anthropic 執行長達里奧·阿莫代（Dario Amodei）在今年春季曾向五角大廈尋求保證，要求其系統不會被用於全自主武器，並表示旗下 AI 模型 Claude 尚不足以應對生死決策。但川普政府官員要求其技術可用於「所有合法目的」，甚至一度將 Anthropic 視為國安風險。OpenAI 則與軍方達成合作，但聲明其技術在未獲人類適當授權及操作參數設定前，不會用於使用武力的系統。上週，舊金山 OpenAI 辦公室外曾有抗議活動，反對其與五角大廈的合作。
美國官員在聯合國場合上指出，AI 和自動化能使武力使用更精確，並稱人類在武裝衝突中的判斷常有缺陷，不應因此阻礙技術創新。前美國國防官員邁克爾·霍洛維茨（Michael Horowitz）也表示，五角大廈政策規定，雖然人類責任的最終落點可能改變，但責任絕不會消失。不過，加拿大工程師瑞恩·加里耶皮（Ryan Gariepy）則質疑 AI 尚未準備好做出關乎生死的決定，他指出：「這項技術尚未成熟，它們常以意想不到的方式失靈。」
面對全球自主武器的發展浪潮，這波趨勢也為台灣在國防科技自主研發的道路上帶來新的戰略思考。如何在強化國防能力的同時，建立兼顧科技倫理與國際規範的自主武器研發框架，將是台灣未來需面對的重要課題。