即時快訊
市值是投資判斷關鍵指標:從輝達到美光 一次看懂公司規模與潛力 Starlink Mobile預估營收上看250億美元 對美國電信商構成嚴峻挑戰 創投大老維諾德·柯斯拉公開抨擊旗下新創 引發業界對VC角色爭議 從臺韓交流到釜山快閃 屏東以山海魅力拓展韓國旅遊市場 美股領跑歐股十餘年 專家:歐洲企業缺乏規模經濟為關鍵 第六屆臺灣氣候行動博覽會 高雄國立科學工藝博物館盛大開幕 日本數據中心儲存市場蓬勃發展 AI與DX推動年增10.8% 亞洲經濟表現強勁 機構投資者配置卻仍偏低 韓國手機龍頭易主:從 Anycall 到 Galaxy 展現品牌 DNA 韌性 記者如何解讀 AI 法規 洞悉技術背後潛在風險
圖/本報資料庫
科技生活

·2 months ago·林昭衡
#Databricks#AI#成本優化#智慧路由#編碼任務
圖/本報資料庫
圖/本報資料庫
商傳媒|林昭衡/綜合外電報導
摘要

Databricks 推出 Unity AI Gateway 平台的「智慧路由」功能,透過自動分析 AI 編碼任務複雜度並匹配最佳模型,能在維持頂尖效能的同時,將企業每項任務的成本降低逾三成,目前已推出測試版。

美國資料與人工智慧(AI)平台公司 Databricks 於昨日宣布,在其 Unity AI Gateway 平台推出「智慧路由」(Smart Routing)功能。這項新技術專為優化企業 AI 工作負載設計,特別是編碼任務,能夠在不犧牲頂尖效能的前提下,將每項任務的成本降低超過三成。

近年來,AI 模型的數量呈現爆炸性增長,《Databricks》指出,光是 2026 年就新增了 33 款模型。這些模型在功能上區分為不同等級,許多日常的編碼工作,例如簡單的錯誤修復或單一檔案編輯,其實並不需要動用到最昂貴、效能最強大的模型。企業若能善用成本較低的模型,可望節省逾五成的開銷,然而,面對眾多模型與輔助工具(harnesses,指協助運用模型的框架或程式介面),使用者往往難以抉擇。

智慧路由透過自動分析任務的複雜度,將其匹配給最適合且最具成本效益的模型。這項功能採用「任務感知路由」(task-aware routing)機制,它會在任務開始時評估其複雜性,並建議一個最佳的模型與工具組合,以維持快取(cache)效率。該路由系統會使用較便宜、低延遲的模型進行初步分類,判斷任務類型與程式語言類別,再根據結果選擇或降級至更便宜的模型,或升級至更昂貴的頂尖模型來處理複雜工作。

根據《Databricks》發布的數據,智慧路由在內部編碼工作負載上,與如 Opus 5 等領先模型相比,每項任務成本僅為其 65%。在公開基準測試中,智慧路由更以不到一半的成本,達到與 Opus 5 相同的效能水準。整體而言,透過將簡單任務交由較便宜的模型處理,複雜任務升級至頂尖模型,Databricks 的智慧路由最終實現了超過三成的成本節省,內部測試更達到 35%,公開基準測試則達到 56% 的顯著效益。

智慧路由可原生整合於 Claude Code 與 Codex 等 AI 編碼工具中。此外,透過 Omnigent 軟體,開發團隊能更充分運用智慧路由的強大功能,讓系統自動選擇模型與編碼框架,而非手動配置。Databricks 強調,這種「最大化價值」(valuemaxxing)的策略,其目標是優化每美元投入所帶來的生產力輸出,而非僅著重於 Token 使用量,確保企業在 AI 部署上達到效能與成本的最佳平衡。

目前,Databricks 的智慧路由功能已透過 Unity AI Gateway 平台推出測試版(Beta),旨在為尋求降低 AI 營運成本的台灣及全球企業,提供一種有效且智慧化的解決方案。


在 Google 搜尋的熱門報導中優先看到商傳媒
加入為 Google 偏好來源