即時快訊
膠原蛋白分子越小越好?藥師解析胜肽種類與選購重點 桃園牛羊肉吃到飽一次滿足!羊大骨、羊膝到全羊切 五種湯底自由搭配 斗六手機維修品牌歷經十年重新扎根!從北部學藝到雲林開店 延續不放棄的精神 別讓異味壞了體面 iROO Fresh Cloth「男人臭不了」打造清新社交新日常 首屆「臺鐵數據力」得獎名單揭曉 106組團隊角逐 20組決選數據創意交鋒 高雄土木技師公會40週年逾萬人次同樂 桶裝水、接管式飲水機、淨水設備與自行燒水,哪種適合家庭與企業? 小寵物益智木製玩具熱銷缺貨 零食變尋寶遊戲激發覓食天性 英國團隊攻克罕見肺癌突變 實驗新藥助腫瘤縮小逾八成 晨星發布市場溫度計 七大長期指標罕見全高於均值
美國政府擴大AI模型測試 強化安全監管
科技生活

·7 個月前·責任編輯
#美國#人工智慧#AI#安全監管#CAISI#微軟
美國政府擴大AI模型測試 強化安全監管
商傳媒|責任編輯/綜合外電報導
摘要

美國政府透過 Center for AI Standards and Innovation (CAISI),與微軟、xAI、Google DeepMind 等公司合作測試AI模型,強化安全監管,同時川普政府也正建立更全面的白宮AI監督機制。

美國政府正積極強化對人工智慧(AI)模型的安全評估與監管。隸屬於美國商務部國家標準及技術研究所(National Institute of Standards and Technology)的 Center for AI Standards and Innovation(CAISI)已宣布,將在頂尖企業發布其 AI 模型前,進行安全性測試,此舉旨在識別並降低潛在的安全風險。

CAISI 週二表示,已與微軟(Microsoft)、xAI 及 Google DeepMind 達成測試與目標研究協議,目的為更好地評估前沿 AI 技術能力,並提升 AI 安全的整體水準。這批協議延續了 2024 年與 OpenAI 和 Anthropic 簽署的類似合作,相關內容已依照川普政府(Donald Trump)的新指令進行重新協商。CAISI 主任 Chris Fell 指出:「獨立、嚴謹的測量科學對於理解前沿 AI 及其國家安全影響至關重要。這些擴大的產業合作有助於我們在關鍵時刻,為公共利益擴展工作範疇。」

值得注意的是,Anthropic 上個月發表了全新的 AI 模型 Mythos AI,該模型擅長於識別軟體內的弱點與安全漏洞。Mythos AI 初期僅限於亞馬遜(Amazon)和微軟等特定公司使用,主要應用於防禦性安全工作及「Project Glasswing」這項網路安全計畫。至今,CAISI 已完成了逾 40 次的 AI 模型評估。

與此同時,川普政府也正考慮發布一項行政命令,以建立由白宮主導的 AI 監督流程,顯示美國官方對於人工智慧技術發展的重視及審慎態度。


在 Google 搜尋的熱門報導中優先看到商傳媒
加入為 Google 偏好來源