即時快訊
搶攻綠色算力與電力藍海!YUNOVA雲鑠正式亮相 攜手全球AI GPU伺服器大廠緯創 導入WATS 架構開拓AIDC商機 從日本到台灣!肌養品牌 Yii 承載《易經》哲學 重新詮釋秋冬換季保養 一碗雞湯藏著台灣香氣!興蓬萊傳承三代台菜 蹄膀、羊奶埔雞湯端上2027團圓桌 美股估值逼近網路泡沫高峰 外媒籲散戶勿陷恐慌拋售陷阱 微軟 Xbox 迎 25 週年 四世代主機演進史一次看 全球房地產報酬低迷 機構投資人掀換經理人潮 海尼根斥資7.5億歐元買庫藏股 第二階段回購逾千萬股 黃仁勳突卸任執行長 輝達股價單月重挫28%面臨考驗 生成式AI產值2035年估破兆美元 OpenAI與Anthropic狂吸資本建護城河 美股轉戰日股別踩雷 拆解交易制度與選股七大關鍵差異
圖/本報AI製圖(示意圖)
科技生活

·7 個月前·康語柔
#大型語言模型#離線AI#智慧型手機#Google Gemma#行動科技
圖/本報AI製圖(示意圖)
圖/本報AI製圖(示意圖)
商傳媒|康語柔/綜合外電報導
摘要

科技媒體《XDA Developers》報導,透過 Google 優化後的 Gemma 4 模型,現在已能流暢地在智慧型手機上離線執行大型語言模型(LLM),且其應用效益超出預期,為個人裝置AI發展開啟新可能。

行動裝置在不依賴網際網路連線的情況下,也能流暢運行大型語言模型(LLM),這項技術突破正逐步實現。科技媒體《XDA Developers》近期報導指出,有使用者成功地在智慧型手機上離線運行了完整的LLM,其實用程度遠超預期。

過去,在個人裝置上運行大型語言模型一直面臨挑戰。以 MacBok Air 為例,即使配備 8GB 記憶體,也難以順利執行本地端 LLM。其主要障礙在於,本地端模型需要將包含所有訓練權重與參數的完整模型,載入到裝置的記憶體中。

然而,Google 推出的 Gemma 4 系列模型,特別是其中的 E2B 和 E4B 版本,已針對輕量化與高效能進行優化。這些模型旨在以更少的參數提供更精準的輸出,大幅降低了對硬體的要求,使其能夠在智慧型手機或筆記型電腦等裝置上順暢運行。根據報導,Gemma-4-E2B-it 模型的安裝檔案約為 2.5GB,而 Gemma-4-E4B-it 則為 3.61GB。

報導提及,該名使用者已在 iPhone 15 Pro Max 上成功運行 Gemma-4-E2B-it 模型,並對其表現印象深刻。本地端大型語言模型的優勢顯而易見:使用者不需支付任何費用,所有操作都在裝置上進行,確保了個人資料的隱私與安全。

實務應用方面,這款模型對於日常輕量級任務表現出色,例如快速清理文字、起草電子郵件、解釋概念等。對於學生而言,它更是一個強大的學習工具,能夠協助理解複雜概念、進行自我測驗,甚至提供逐步解題的教學。儘管 Gemma 4 目前尚無法完全取代 ChatGPT、Claude 或 Gemini 等雲端大型語言模型處理所有任務,但其在離線環境下所展現的實用性,無疑為行動裝置 AI 應用開闢了新的發展方向。


在 Google 搜尋的熱門報導中優先看到商傳媒
加入為 Google 偏好來源