即時快訊
普丁APEC盛讚印尼經濟 宣布俄國明年將簽署雙邊協議 德國Circus SE攜自研廚房機器人進軍美國市場 邁向淨零新紀元!臺中市太陽光電裝置容量突破1GW里程碑 八年成長逾6倍 全球減肥藥邁入口服時代 英美核准免挨針新藥 臺灣基本工資調升帶動門檻 外籍投資移民2027年起月收須達6.18萬 印度貿易逆差飆破3300億美元 總理莫迪喊話企業走出內需舒適圈 美太陽能廠手握逾 3.5 GW 訂單 T1 Energy 擴大德州製造版圖 歐洲央行示警AI估值過高 地緣與貿易風險恐引爆市場重定價 歐盟擬收緊補貼規則 福特示警衝擊汽車供應鏈如自殘 馬來西亞科技商進軍美國 推AI軟體與培訓估進帳500萬美元
Anthropic執行長籲限制頂尖AI模型 開放權重恐釀Web3發展隱憂
科技生活

·4 個月前·方承業
#Anthropic#Dario Amodei#人工智慧#Web3#開放權重模型
Anthropic執行長籲限制頂尖AI模型 開放權重恐釀Web3發展隱憂
商傳媒|方承業/綜合外電報導
摘要

Anthropic執行長達里奧·阿莫代質疑開放頂尖人工智慧模型的權重能確保安全,擔憂將失去監管能力,這場爭論也可能影響美國監管機構對AI模型的態度,進而對區塊鏈上開源AI等Web3去中心化專案的未來發展帶來監管上的挑戰。

人工智慧公司Anthropic執行長達里奧·阿莫代(Dario Amodei)近日再次重申,釋出頂尖人工智慧模型(frontier AI model,指能力極強、接近或超越人類智慧的AI系統)的核心參數(即開放權重),並非如部分人士所稱,能更容易建立安全防護網。他強調,一旦這些模型的權重公開,將導致營運方失去撤銷存取、修補漏洞或監控使用情況的能力,可能帶來無法彌補的危害。

達里奧·阿莫代區分了小型開放模型與頂尖系統的差異。他承認,小型開放模型在研究和競爭上確實能帶來益處。然而,他特別擔憂的是那些能力強大、一旦釋出便可能造成嚴重損害的頂尖AI系統。早在2023年,達里奧·阿莫代便曾在美國參議院作證時指出,開放釋出先進AI模型是一條「危險的路徑」。

根據《Axios》7月22日的報導,Anthropic與OpenAI在對美國政策制定者的遊說上,立場趨於一致,共同警告中國(China)若釋出不受安全限制的強大開放權重模型,將可能導致潛在的敵對勢力取得西方公司刻意加以防護的AI能力。然而,美國監管機構目前認為,沒有足夠證據證明需要對開放權重模型實施廣泛限制,同時也肯定了維持小型模型開放所帶來的競爭與研究優勢。

這場開放權重與AI安全性之間的爭論,可能對去中心化人工智慧(decentralized AI)的發展產生深遠影響。如果達里奧·阿莫代的觀點最終獲得支持,導致頂尖AI模型受到發布限制,那麼相關的監管框架可能會影響未來Web3領域的去中心化AI專案。那些在區塊鏈基礎架構上建立開源AI的專案,將可能面臨直接的監管阻力。相反地,如果開放權重模型的倡導者勝出,且美國政府繼續保持目前的放任態度,則將印證開放存取強大技術能創造更多安全性的原則。

【提醒您】

加密資產價格波動劇烈,本文僅供參考,不構成投資建議


在 Google 搜尋的熱門報導中優先看到商傳媒
加入為 Google 偏好來源