美國人工智慧公司 Anthropic 提出一項具爭議的 AI 安全監管草案，建議政府僅在 AI 模型預計造成超過 50 人死亡或 10 億美元損失時，才能透過法官命令強制停用，此高門檻引發 AI 倫理專家及政策制定者的強烈質疑，憂心難以有效防止潛在危害。
美國人工智慧新創公司 Anthropic 近期提出一項人工智慧（AI）安全監管草案，其嚴苛的啟動門檻引發各界譁然。這項草案建議，聯邦政府僅在 AI 模型構成「可預見且迫在眉睫的風險」，可能導致超過 50 人死亡或重傷，或造成逾 10 億美元損失時，才能下令強制停用。
根據多份報導，該草案對於政府介入 AI 模型的門檻設定極高，並未包含較低層級的干預標準。這表示，即使 AI 模型可能對少於 50 人造成傷害，或造成的損失少於 10 億美元，聯邦政府也無法依據此機制採取行動。Anthropic 提出的監管機制，是透過一種形同「死亡開關」的概念，讓政府能夠強制停止危險 AI 模型運作，以維護公共安全，然而其啟動條件卻引發了廣泛討論。
此草案明確指出，AI 模型帶來的風險必須與特定事件相關，包括網路攻擊、開發者對模型失去控制，或是製造及釋放生物武器。為了評估這些風險，草案提議成立獨立評估機構，其評估人員可由 AI 實驗室支付酬勞，但條件是報酬不得影響其評估結果。一旦評估人員發現模型存在「迫在眉睫的特定風險」，須在 72 小時內向美國商務部回報。
之後，美國商務部將判斷風險是否達到啟動「死亡開關」的門檻，並需向美國哥倫比亞特區聯邦地區法院的法官提出申請，由法官裁定是否暫停該模型的運作。草案也明文禁止其他任何聯邦部門、機構或官員透過此機制暫停 AI 模型。此外，這項聯邦法案若通過，將透過「優先權」條款凌駕於各州的 AI 法律之上，可能導致各州無法實施更嚴格的規定。
許多批評者質疑，設定如此高的干預門檻是否恰當。AI 安全組織 Encode 的創辦人兼總裁 Sneha Revanur 便質疑，為何政府必須等到模型可能傷害 50 人才能採取行動，而非在更少人受害時即刻介入。有媒體引述 IBM 2026 年的研究數據指出，由 AI 造成的資安漏洞平均每次損失約 600 萬美元，而聯邦調查局（FBI）在 2025 年接獲 22,364 起與 AI 相關的投訴，損失總額達 8.93 億美元。批評者指出，即便有數千起數百萬美元的小型攻擊事件累積，由於沒有單一事件能達到 10 億美元的門檻，聯邦政府可能仍無法干預。此前，Anthropic 執行長 Dario Amadei 曾表示，他寧願被嘲笑，也不願有一天發現他們的模型 Claude 造成大量死亡。這份草案與其過去的公開言論形成對比，凸顯了 AI 安全監管的複雜性與爭議性，也引發了各界對於 AI 開發者責任歸屬的深思。