即時快訊
地緣經濟風險衝擊美股 供應鏈成投資人新考驗 從哈佛輟學到 210 億美元身價 AI 晶片新創 Etched 估值狂飆 市值是投資判斷關鍵指標:從輝達到美光 一次看懂公司規模與潛力 Starlink Mobile預估營收上看250億美元 對美國電信商構成嚴峻挑戰 創投大老維諾德·柯斯拉公開抨擊旗下新創 引發業界對VC角色爭議 從臺韓交流到釜山快閃 屏東以山海魅力拓展韓國旅遊市場 美股領跑歐股十餘年 專家:歐洲企業缺乏規模經濟為關鍵 第六屆臺灣氣候行動博覽會 高雄國立科學工藝博物館盛大開幕 日本數據中心儲存市場蓬勃發展 AI與DX推動年增10.8% 亞洲經濟表現強勁 機構投資者配置卻仍偏低
裝置端AI關鍵突破:PrismML模型縮小技術獲蘋果等巨頭評估
科技生活

·2 months ago·何映辰
#科技#人工智慧#裝置端AI#蘋果#PrismML
裝置端AI關鍵突破:PrismML模型縮小技術獲蘋果等巨頭評估
商傳媒|何映辰/台北報導
摘要

新創公司PrismML開發出能大幅縮小大型語言模型體積的技術,蘋果等科技巨頭正評估其應用,這項進展對於記憶體受限的裝置端人工智慧發展至關重要。

近期,新創公司PrismML憑藉其創新的AI模型縮小技術,在人工智慧(AI)領域引起廣泛關注。該技術能大幅壓縮大型語言模型(LLM)的體積,例如將原本54GB的Qwen 3.6模型,縮小至驚人的4GB,此舉對裝置端AI(on-device AI)的發展具有重要意義。

根據《AppleInsider》報導,PrismML執行長巴巴克·哈斯比(Babak Hassibi)已於7月14日證實,包括蘋果在內的多家科技公司,正在評估這項技術。由於這項模型縮小技術可能帶來巨大的市場優勢,業界已開始出現關於收購的討論。若有公司能獨家取得PrismML的技術,將使其在競爭激烈的AI市場中佔據有利地位。報導指出,蘋果近期也調整了收購策略,傾向於投入數億甚至數十億美元收購單一公司。

目前,蘋果在推動裝置端AI方面面臨記憶體限制的挑戰,特別是對於多數入門級消費性裝置而言。儘管部分AI相關任務可透過裝置進行處理,但仍有許多功能需要仰賴雲端伺服器。為此,蘋果已透過蒸餾(distillation)與訓練的過程,成功將部分Gemini(Google DeepMind研發的語言模型系列)功能,轉換為適用於iPhone的小型化模型,使得iOS 27和macOS 27 Golden Gate上的Siri表現有所提升。

不過,蘋果也表明,最強大的裝置端AI模型,將不會全面普及至所有裝置。這些高效能模型將專屬於特定高階iPhone及Mac機型,例如配備12GB記憶體的iPhone Air和iPhone 17 Pro,以及同樣搭載12GB記憶體或更高規格的M4 iPad和M3 Mac。


在 Google 搜尋的熱門報導中優先看到商傳媒
加入為 Google 偏好來源