即時快訊
手遊專用AI變聲耳機問世 主打300毫秒即時轉換角色音 AI挖洞、駭客攻產線!AIoT設備成資安破口 CRA合規刻不容緩 第九屆物聯網安全高峰論壇12/2登場 宥宥婦幼深耕蘆洲20年 兩位女醫師加入婦科團隊 台灣媽媽把營養軟糖做到全球40國 Herbaland禾寶藍寫下加拿大創業故事 IT管理大廠Kaseya推MCP伺服器 直連AI模型搶攻維運自動化 以太幣重挫跌破 1,800 美元 鏈上數據曝散戶斷頭與巨鯨逢低建倉分歧 破除企業AI部署即停滯痛點 新創募資1.1億美元主打持續自我優化 24家加密庫存企業市值跌破持幣價值 溢價買幣模式亮紅燈 打造AI旅遊規劃助理 美國新創獲凱鵬華盈領投1200萬美元 摩根大通打造單一AI模型 信用卡詐欺偵測率大增85%
圖/AI示意圖
科技生活

·1 年前·責任編輯
#輝達#Groq#Feynman
圖/AI示意圖
圖/AI示意圖
商傳媒|記者責任編輯/綜合外電報導
摘要

AI晶片戰局有望從訓練邁向推論,輝達(NVIDIA)近日與美國新創Groq簽署非獨家技術授權協議,引發業界對其下一代Feynman晶片可能導入LPU(Language Processing Unit)架構的高度關注。法人預期,若結合台積電先進混合接合技術,輝達將有望進一步拉開與競爭對手在AI推論市場的差距,掀起一波架構與封裝整合的新戰局。

AI晶片龍頭輝達(NVIDIA)近期積極擴張推論市場版圖,據Groq官方公告指出,雙方已簽署非獨家的推論技術授權協議,Groq創辦人Jonathan Ross及核心工程團隊將加入輝達,協助導入語言處理加速器(Language Processing Unit,簡稱LPU)等相關技術。外界解讀此舉有望強化輝達在推論架構的整體表現,為未來晶片設計與軟硬體整合奠定新基礎。

根據科技媒體《Wccftech》報導與GPU分析社群推測,輝達下一代GPU平台代號為「Feynman」,可能採用1.6奈米製程、命名為A16。業界觀察者推估,未來版本的Feynman晶片若採用Groq的LPU架構,或有機會以3D堆疊方式整合SRAM與運算邏輯單元,藉由台積電(TSMC)SoIC混合接合技術進行垂直堆疊,以提升資料傳輸頻寬與運算效率。

知名GPU觀察者AGF指出,此一堆疊概念類似於AMD X3D架構,在主運算核心上方疊加SRAM或LPU晶片模組,並透過穿矽通孔(TSV)與Hybrid Bonding實現低延遲連結。該架構可望提升AI推論模型的暫存速度與回應效能,並降低高階製程因建構SRAM所帶來的面積與成本浪費問題。

然而,專家亦指出此設計恐將面臨技術挑戰。首先在散熱方面,堆疊LPU模組可能導致熱功率密度上升,需仰賴先進冷卻與封裝方案解決;其次,LPU的固定順序執行特性與輝達現行CUDA架構所支援的彈性運算流程存在差異,未來若要完全整合,勢必仰賴軟硬體協同優化。

儘管目前NVIDIA與Groq未公開進一步的技術整合時程與產品計畫,市場普遍預期,此次合作將助輝達在推論運算領域加強腳步,並與目前主打低功耗定制化加速器的Groq、Tenstorrent、Intel Gaudi等競爭者展開技術角力。

法人指出,此次非併購式的IP授權與工程團隊整合,展現輝達「滲透式整合」的布局策略,未來若成功將LPU設計導入Feynman平台,並透過台積電先進封裝技術量產落地,將進一步鞏固其AI推論供應鏈核心地位。Feynman平台能否維持CUDA生態系兼容性與架構彈性,也將是後續觀察焦點。


在 Google 搜尋的熱門報導中優先看到商傳媒
加入為 Google 偏好來源