即時快訊
Perky榮獲MUSE國際設計雙銀獎,女性營養品牌累積六項國內外肯定 金門酒廠「一穀作契」100%本土契作好品質 獲得農業部農糧署國產農糧原料酒推薦 「公益同行・原社共好」 29家績優合作社齊聚華山 公彩成果展現就業與福利新動能 孕育兆美元輝達的傳奇美式餐廳 創辦紀念座位牌保留至今 美國屋頂太陽能發電量近十年暴增近五倍 全球運動AI市場名單出爐 日本企業掛零歐美科技巨頭強勢壟斷 創投看好AI降低門檻 一人微型創業成美國就業新趨勢 年末聚會前的輪廓焦慮?醫師 : 「看不出做過」成自然美感新趨勢 印度航太新創搶攻火箭引擎商機 獲利基訂單拚太空產業分工 葡萄牙搶攻美國資本 美資存量翻倍衝破 160 億歐元
圖/示意圖
科技生活

·4 個月前·責任編輯
#人工智慧#開放權重#開源模型#Meta#OpenAI
圖/示意圖
圖/示意圖
商傳媒|責任編輯/綜合外電報導
摘要

全球人工智慧(AI)產業正因模型開放模式掀起論戰,Meta等公司主張開放權重或開源模型,認為能促進透明化與降低成本,但OpenAI等業者則擔憂模型遭惡意利用的風險,這場爭議也促使各國政府加速制定相關規範。

全球人工智慧(AI)產業正經歷一場深刻的分裂,主要圍繞在功能強大的 AI 模型究竟應採「開放」或「閉鎖」模式。這場辯論被視為一場影響未來十年科技發展的哲學與技術之爭。

開放原始碼與開放權重模型差異

「開源」(open-source)與「開放權重」(open-weight)是兩種常見的「開放」模式,但兩者之間存在關鍵差異。根據開放原始碼促進會(Open Source Initiative)在 2024 年的定義,開源 AI 模型將完整的「模型堆疊」(model stack),包含程式碼、架構、文件、訓練方法與部分資料集等,對外公開。這意味著使用者可以自由使用、研究、修改及分享模型,帶來更高的透明度與可稽核性。

相對而言,開放權重 AI 模型僅釋出已訓練完成的「模型權重」(model weights)供大眾下載與微調。模型權重是控制模型如何處理輸入與輸出的關鍵設定。然而,開放權重模型通常不會公開其所有訓練資料、程式碼或開發細節。因此,雖然使用者可以執行及客製化開放權重模型,但無法像開源模型一樣完全檢視或重現其內部運作。

現行市場上,OpenAI 的 ChatGPT、Google 的 Gemini 及 Anthropic 的 Claude 等均屬專有(或稱閉鎖)AI 模型,其程式碼與設定皆不對外公開,使用上通常需付費並受嚴格的授權條款約束。

科技巨頭各有立場

Meta 公司是開放權重模型的積極倡導者,其 Llama 系列模型便是代表。Meta 認為,模型透明化對於提升安全性與問責性至關重要,能幫助降低成本並促進客製化。Meta 的首席 AI 科學家楊立昆(Yann LeCun)曾指出,閉鎖模型恐造成「AI 殖民主義」。2025年,Meta 釋出具 4050 億參數的 Llama 3.1,讓尖端 AI 技術更容易取得。報導指出,中國研究人員已透過微調 Llama 模型,使其在中文處理能力上達到或超越閉鎖模型水準,並有助於規避美國對先進晶片的出口管制。

然而,OpenAI 與 Google 等公司則傾向支持閉鎖模型。OpenAI 執行長奧特曼(Sam Altman)曾直言,輕率地釋出模型權重是「魯莽」的行為。他們擔憂開放模式可能被惡意利用,例如大規模生成生物武器設計或散布精密假資訊。有研究顯示,自 Llama 3.1 釋出數週內,便有研究人員發現移除安全防護措施的方法,甚至有國家級行為者將其微調用於監控。

風險與監管挑戰

開放模型的支持者認為,許多安全突破來自外部研究人員在可存取模型中發現漏洞。例如,Anthropic 公司便曾透過研究開源模型,獲得對 AI 欺騙行為的見解,隨後應用於其閉鎖的 Claude 系統。透明度倡議者主張,若無法檢視模型權重,開發過程無異於「盲目飛行」。

不過,開放模式的潛在風險也確實存在。一份史丹佛大學的分析指出,開放權重模型被不成比例地應用於垃圾郵件、詐騙與帳戶濫用。開源模型儘管提供了最高的透明度,但也更容易被惡意行為者移除安全控制、修改用於有害目的或建立不受控的分支版本。而開放權重模型的主要風險則在於,組織可能因缺乏模型建構過程的完整可見性,難以全面評估治理、合規與安全問題。

目前,歐盟的《人工智慧法案》(EU AI Act)已包含可能要求模型透明化的條款。美國國會也正在推動主要的 AI 立法,而白宮已將 AI 政策列為優先事項。隨著 Meta 持續為 Llama 4 的釋出做準備,且 OpenAI 正測試超越 GPT-4 功能數倍的模型,這場關於 AI 開放性的爭議,預期在未來六個月內將更趨白熱化,並對產業產生決定性影響。


在 Google 搜尋的熱門報導中優先看到商傳媒
加入為 Google 偏好來源