AI 公司 Anthropic 一邊警告人工智慧恐造成人類滅絕，執行長也呼籲放慢 AI 開發，但同時該公司卻在招募專員，負責制定其 AI 模型在常規武器應用上的政策界線，甚至其 AI 工具已被報導實際運用在美國的軍事行動中，顯現出 AI 倫理發展的複雜矛盾。
人工智慧公司 Anthropic 一面擔憂 AI 恐導致人類浩劫，一面卻於本週稍早發布職缺，招募專責經理人，負責制定其 AI 模型在常規武器應用上的界線。此舉突顯 AI 發展的倫理困境，以及理論風險與現實應用之間的張力。
這份職位隸屬於 Anthropic 的安全防護團隊（Safeguards team），旨在為其大型語言模型 Claude 的使用設限。根據職位說明，由於基礎技術的「雙重用途」特性，要在可接受與有害的要求之間劃定明確界線極為困難，「相同的能力既能服務民用工程研究，也可能構成武器系統」。
該職位將處理 AI 在武器系統中的各種應用，範圍涵蓋廣泛。職位說明指出，常規武器日益由軟體定義，風險已遠超槍械範疇，包括模型操作武器系統、撰寫導引程式碼，乃至將雙重用途平台武器化。該角色需處理從各類武器，到無需人類授權即可選定並攻擊目標的自主系統等所有武器類別的政策制定。
就在此職位發布前，Anthropic 執行長達里奧·阿莫代（Dario Amodei）於 9 月 12 日發表一篇文章，呼籲領先的 AI 公司放慢發展腳步。他警告，AI 可能帶來網路癱瘓、開發生物武器等理論上的滅絕威脅，但其關注點並非 AI 現有在武器系統中的應用。
然而，Anthropic 在擔憂 AI 潛在威脅的同時，其 AI 工具卻被報導實際應用於美國的軍事行動中。過去，Anthropic 曾因拒絕讓其模型用於無需人類干預的武器系統，而終止與美國國防部的合作關係。但據《Gizmodo》報導，美國對伊朗的攻擊，以及突襲委內瑞拉並俘虜委內瑞拉總統馬杜羅的行動中，皆疑似使用了 Anthropic 的 AI 工具。這種對 AI 潛在滅絕風險的警示，與其工具實際涉足現代戰爭武器系統之間的落差，讓 AI 倫理的探討更顯複雜與迫切。