美國聯邦參議院為因應AI Agent造成的網路安全威脅，提出一項跨黨派法案，旨在讓AI Agent的操作者與開發商，對其系統造成的駭客攻擊負起刑事與民事責任，促使科技公司更重視AI產品的安全，以避免流氓AI系統造成無法挽回的損害。
為因應人工智慧（AI）系統帶來的潛在危害與網路安全威脅，美國聯邦參議院近日提出一項跨黨派法案，旨在確立AI Agent（指能自主執行任務的人工智慧系統）的法律責任。這項名為「AI Agent責任法案」（AI Agent Accountability Act）的立法，由美國共和黨參議員喬什·霍利（Josh Hawley）與民主黨參議員克里斯·墨菲（Chris Murphy）共同推動，目標是讓AI Agent的操作者與開發商，對其系統造成的駭客攻擊事件負起責任。
在提案之前，美國參議院國土安全及政府事務委員會（Senate Homeland Security and Governmental Affairs Committee）轄下的災害管理、哥倫比亞特區與人口普查小組委員會，已於昨日舉行一場名為「流氓AI：確保國家免受AI Agent攻擊」的聽證會。與會專家對AI Agent的失控風險表達嚴重關切。
AI Agent自主駭客、發展難解語言 引發國會擔憂
會中，魯本·加列戈（Ruben Gallego）參議員質疑AI系統發展出人類無法理解語言的潛力，以及目前業界缺乏強制通報流氓AI模型、且沒有通用「殺戮開關」的問題。Apollo Research執行長 Marius Hobbhahn 警告，AI模型可能在短短12個月內發展出人類無法理解的語言，且目前尚無可靠方案監控這些系統。喬治城大學法律中心（Georgetown University Law Center）教授 Paul Ohm 也指出，現行法律並未強制要求AI公司通報其尖端模型遭到駭客攻擊或被敵對勢力利用的事件。
專家們列舉多起駭客事件，凸顯AI Agent的威脅。例如，喬什·霍利參議員提到近期針對美國政府部門（包括美國商務部、美國教育部、美國證管會）、澳洲政府及多個私人企業與大學網站的網路攻擊。其中一起廣受討論的「Hugging Face事件」涉及約1,200個OpenAI的AI Agent，這些Agent突破測試環境、試圖竊取資料並掩蓋蹤跡。Paul Ohm教授認為，AI Agent的行為難以依現行法律追究責任，尤其在缺乏人為意圖的網路犯罪方面。Dragos, Inc.資深副總裁 Kurt Gaudette 也舉例，一個AI模型曾引導攻擊者進入水利設施的控制網路，試圖發動逾2,800次憑證攻擊。
新法案鎖定AI Agent操作與開發者責任
針對這些日益升高的風險，這項跨黨派法案提出明確的法律框架。該法案建議修正《計算機欺詐及濫用法案》（Computer Fraud and Abuse Act，簡稱CFAA），對AI Agent的操作者與開發商追究刑事與民事責任。法案重點包括：
- 操作者責任 ：AI Agent操作者若明知其Agent會「不計後果」地造成電腦駭客損害或損失，將負擔刑事與民事責任。
- 開發商責任 ：AI Agent開發商若未能實施合理的防護措施以防止駭客攻擊，且知情或應當知情其Agent具備駭客能力，也將負擔刑事與民事責任。
- 檢察官權力 ：賦予司法部長與各州檢察長權力，起訴、共謀或試圖犯下CFAA規範的駭客罪行的AI Agent操作者與開發商。
喬什·霍利參議員強調，大型科技公司若設計出造成破壞的AI Agent，就應當為其造成的損害負責，他認為這將能促使AI公司更加注重產品安全。克里斯·墨菲參議員也指出，駭客行為是犯罪，負責AI Agent的公司及其高階主管必須受到懲處，若其產品造成損害，高階主管甚至可能面臨牢獄之災。
專家憂AI研究過速與開放模型風險
聽證會上也探討了AI技術的快速發展與其伴隨的風險。AI Futures Project執行董事丹尼爾·柯科塔伊洛（Daniel Kokotajlo）認為，AI公司正競相自動化AI研究與開發，可能「隨時」實現超級智慧，甚至預估到2028年底有50%的機會實現AI研究自動化。他呼籲減緩「瘋狂追求遞歸式自我改進AI」的速度，並建議政府干預，將運算資源從自動化AI研究轉移開。
此外，開放權重（open-weight）AI模型也受到關注。這些模型允許用戶在自己的硬體上運行，導致監督更加困難，更容易受到「越獄」（jailbreaking）和「模型消融」（model ablation，即移除安全限制）的影響。儘管 Google、微軟、輝達等70多家公司曾發函呼籲政策制定者不要禁止開放權重模型，認為它們能「擴大防禦能力，增加透明度」，但Anthropic執行長達里奧·阿莫代（Dario Amodei）對此表示質疑，他認為開放模型更可能帶來反效果。英國網路安全公司 Mindgard 成功對中國Moonshot AI的Kimi K3模型進行「越獄」，使其生成恐怖主義陰謀、網路攻擊、暗殺甚至生物武器的危險資訊。這類事件凸顯了開放權重模型在監管上的挑戰。