即時快訊
Perky榮獲MUSE國際設計雙銀獎,女性營養品牌累積六項國內外肯定 金門酒廠「一穀作契」100%本土契作好品質 獲得農業部農糧署國產農糧原料酒推薦 「公益同行・原社共好」 29家績優合作社齊聚華山 公彩成果展現就業與福利新動能 孕育兆美元輝達的傳奇美式餐廳 創辦紀念座位牌保留至今 美國屋頂太陽能發電量近十年暴增近五倍 全球運動AI市場名單出爐 日本企業掛零歐美科技巨頭強勢壟斷 創投看好AI降低門檻 一人微型創業成美國就業新趨勢 年末聚會前的輪廓焦慮?醫師 : 「看不出做過」成自然美感新趨勢 印度航太新創搶攻火箭引擎商機 獲利基訂單拚太空產業分工 葡萄牙搶攻美國資本 美資存量翻倍衝破 160 億歐元
裝置端AI關鍵突破:PrismML模型縮小技術獲蘋果等巨頭評估
科技生活

·4 months ago·何映辰
#科技#人工智慧#裝置端AI#蘋果#PrismML
裝置端AI關鍵突破:PrismML模型縮小技術獲蘋果等巨頭評估
商傳媒|何映辰/台北報導
摘要

新創公司PrismML開發出能大幅縮小大型語言模型體積的技術,蘋果等科技巨頭正評估其應用,這項進展對於記憶體受限的裝置端人工智慧發展至關重要。

近期,新創公司PrismML憑藉其創新的AI模型縮小技術,在人工智慧(AI)領域引起廣泛關注。該技術能大幅壓縮大型語言模型(LLM)的體積,例如將原本54GB的Qwen 3.6模型,縮小至驚人的4GB,此舉對裝置端AI(on-device AI)的發展具有重要意義。

根據《AppleInsider》報導,PrismML執行長巴巴克·哈斯比(Babak Hassibi)已於7月14日證實,包括蘋果在內的多家科技公司,正在評估這項技術。由於這項模型縮小技術可能帶來巨大的市場優勢,業界已開始出現關於收購的討論。若有公司能獨家取得PrismML的技術,將使其在競爭激烈的AI市場中佔據有利地位。報導指出,蘋果近期也調整了收購策略,傾向於投入數億甚至數十億美元收購單一公司。

目前,蘋果在推動裝置端AI方面面臨記憶體限制的挑戰,特別是對於多數入門級消費性裝置而言。儘管部分AI相關任務可透過裝置進行處理,但仍有許多功能需要仰賴雲端伺服器。為此,蘋果已透過蒸餾(distillation)與訓練的過程,成功將部分Gemini(Google DeepMind研發的語言模型系列)功能,轉換為適用於iPhone的小型化模型,使得iOS 27和macOS 27 Golden Gate上的Siri表現有所提升。

不過,蘋果也表明,最強大的裝置端AI模型,將不會全面普及至所有裝置。這些高效能模型將專屬於特定高階iPhone及Mac機型,例如配備12GB記憶體的iPhone Air和iPhone 17 Pro,以及同樣搭載12GB記憶體或更高規格的M4 iPad和M3 Mac。


在 Google 搜尋的熱門報導中優先看到商傳媒
加入為 Google 偏好來源