美國五角大廈以國家安全為由，宣布終止與AI公司Anthropic的合作關係。五角大廈擔憂Anthropic在戰時可能禁用或操控其Claude AI模型，若其企業「紅線」遭跨越，恐對軍事行動構成「不可接受的風險」。Anthropic已對此「供應鏈風險」分類提出法律挑戰，而微軟則對Anthropic表達支持，呼籲政府勿危及AI生態系統。
美國政府近期與人工智慧（AI）開發商 Anthropic 爆發爭議，五角大廈（Pentagon）已宣布終止與其合作關係，指稱該公司的 Claude AI 模型對軍事行動構成「不可接受的風險」，恐危害國家安全。
根據《Barron's》今（18）日報導，在美國總統川普（Donald Trump）政府內部被稱為「戰爭部」（Department of War, DoW）的五角大廈，是針對 Anthropic 提出的法律訴訟做出上述回應。五角大廈在提交給加州聯邦法院的文件中表示，其之所以決定切斷與 Anthropic 的聯繫，是因為「擔憂允許 Anthropic 持續存取戰爭部的技術與作戰基礎設施，將對戰爭部的供應鏈帶來不可接受的風險」。
文件進一步指出，AI 系統極易受到操控。五角大廈擔憂，若 Anthropic 自認其企業的「紅線」遭到跨越，該公司恐在進行中的軍事作戰行動之前或期間，試圖禁用其技術或預先改變其模型的行為。Anthropic 拒絕同意軍方將其 AI 技術用於「任何合法用途」的立場，因此被視為對國家安全構成「不可接受的風險」。美國政府也表示，Anthropic 的整體行為使其質疑 Anthropic 是否為值得信賴的合作夥伴。
Anthropic 目前正對五角大廈及其他聯邦政府機構，就其被列為「供應鏈風險」提出挑戰。此類別通常保留給來自外國敵對國家的組織，例如中國科技巨頭華為。一旦被列入此名單，理論上所有美國政府供應商都將被禁止與該公司進行商業往來。
值得注意的是，軟體巨擘微軟（Microsoft）已表態支持 Anthropic。微軟本身不僅使用 Anthropic 的 Claude 模型，同時也是美國軍方的供應商。微軟上週向法院提交了一份法庭之友意見書，主張「現在並非將政府協助推動的 AI 生態系統置於危險之中的時機」。
此前，Anthropic 的 Claude AI 模型曾被指控用於識別美國在伊朗轟炸的目標，但該公司對此予以否認。Anthropic 方面長期以來堅持其系統不應被用於美國境內的大規模監控，或開發致命的完全自主武器系統。