商傳媒｜責任編輯／綜合外電報導
摘要
OpenAI 宣布與美國國防部簽署 AI 部署協議，設下三大嚴格限制，包括不得用於大規模監控、操控自主武器及制定高風險決策。OpenAI 將透過雲端監控安全，並派員進駐政府團隊監督。OpenAI 認為，此舉旨在確保美國軍方在 AI 競賽中保持優勢，同時兼顧道德規範。
人工智慧（AI）研究公司 OpenAI 今日宣布，已與美國國防部達成一項 AI 部署協議。OpenAI 表示，本次合作案的安全規範較以往機密 AI 部署更嚴格，並呼籲美國政府也能向其他 AI 開發商提供類似條款。
據 OpenAI 聲明，該協議受三大明確限制約束：其技術不得用於大規模國內監控、不得操控自主武器系統，也不得制定如社會信用評等般的高風險自動化決策。系統將僅透過 OpenAI 控制的雲端基礎設施運作，以便該公司監控和更新安全機制。OpenAI 強調，不會提供缺乏安全保護的模型，也不會將其部署在可能被用於致命自主武器的本地設備上。
合約同時明訂，AI 系統僅能用於合法目的，且必須遵守美國情報和監控活動相關法律。任何對私人資訊的處理，皆須遵循憲法保護和現行的國家安全立法。除非法律允許，否則該系統也不得用於國內執法。
OpenAI 表示，將安排具有安全許可的工程師和安全研究人員進駐政府團隊，協助監督技術的使用方式，並維護其安全系統。OpenAI 認為，隨著競爭對手不斷將 AI 技術整合至自身系統，美國軍方需要先進的 AI 能力。因此，OpenAI 決定推進此協議，同時確保相關的安全措施能避免跨越重要的道德界線。
此前，Qazinform 新聞通訊社曾報導，OpenAI 已概述防止濫用 AI 工具的相關措施。