即時快訊
印度AI策略轉向:跳脫模型競賽,專攻「AI模型路由器」 黑神話音樂會臺北站圓滿落幕 經典曲目串起文化 皮膚科醫師分享熟齡保養觀 從日常護理打造簡單保養習慣 員林串燒店跨足午餐市場!以熱銷丼飯打破居酒屋夜間少食印象 韓國自由行不只追K-Culture!hopnhop推出一站式旅遊平台 繁中服務串聯韓國行程與在地體驗 大型石油公司減支仍增產 AI與鑽井效率重塑能源產業 Anthropic公開AI發展測量工具 揭自動化、算力與代理監管 Massotti Ventures 設千萬美元基金 助阿根廷新創進軍矽谷 KuantoKusta 正式上線 布局亞洲市場打造領先數位交易新生態 越南留學​​:您需要知道的資訊
圖/本報資料庫
科技生活

·a few seconds ago·責任編輯
#印度AI#AI模型路由器#科技新創#AI策略#半導體策略
圖/本報資料庫
圖/本報資料庫
商傳媒|責任編輯/綜合外電報導
摘要

在全球大型科技公司競相開發基礎AI模型的趨勢下,印度新創公司正採取差異化策略,專注於發展「AI模型路由器」,這項技術能智慧管理多個AI模型,根據需求導向最合適的模型,幫助企業高效利用AI並提升資料安全性。

在全球人工智慧(AI)發展趨勢中,印度正採取一項獨特的策略,有別於大型科技公司競相投入鉅資開發基礎AI模型,印度新創正將目光投向「AI模型路由器」(AI model routers)領域。這項創新途徑旨在優化AI模型的實際應用與管理,為企業提供更高效、具成本效益的AI解決方案,同時也為印度在全球AI生態系中開闢利基市場。

AI模型路由器,其功能類似於智能交換機(switchboard),是一種介於使用者與多個AI模型之間的智能層。它能分析使用者需求,智慧地將請求導向最適合的AI模型。此技術考量多種因素,例如成本、速度、準確性、可靠性及資料治理。例如,日常的客服問答或電子郵件摘要可由較小、成本較低的模型處理;而程式開發或複雜推理等任務則會導向功能更強大的模型。這種路由層還能針對敏感資訊設定存取規則,確保資料安全性,使企業在無需逐一管理個別模型的情況下,有效運用各種AI工具。

AI專家及 AI & Beyond 共同創辦人暨執行長 Jaspreet Bindra 指出,對於多數新創公司而言,直接與已投入數十億美元開發基礎模型的全球科技巨頭競爭是極為困難的。Bindra 認為,模型路由器並非要與基礎模型競爭,而是協助企業更好地利用日益增長的現有模型。

印度多家新創公司正積極投入此領域。Indierouter AI 已於今年 7 月開放候補名單,並在 8 月 20 日進入公開測試階段,吸引了約 150 名開發者參與。Indierouter AI 共同創辦人兼架構師 Bharat B 表示,公司認為印度市場並非缺乏模型,而是在於如何提供與路由開放模型。因此,他們選擇專注於在印度當地 GPU 基礎設施上提供服務和路由,並內建計費與合規功能,解決了這方面的實際短缺。Indierouter AI 在海德拉巴營運其推論能力,服務尋求印度基礎設施上AI模型的開發者和企業。

另一家音視訊分析新創 Staqu Technologies 已將模型路由功能整合至其代理框架中,並透過其 AI 模型路由器服務超過 100 家客戶,目標在明年內將客戶數擴展至 200 家以上。Staqu Technologies 執行長暨共同創辦人 Atul Rai 強調,其路由框架已實際應用於人臉辨識、車牌辨識、暴力偵測、屬性搜尋及步態再識別等 AI 部署。此外,NthEye 也將分層路由架構整合到其核心系統,並已為五個政府客戶提供高風險部署服務,預計未來 12 個月內將服務 25 家機構客戶。

由於 AI 模型的表現會因語言、產業和應用場景而異,模型路由對印度企業尤其重要。此技術能避免企業在每次互動都使用昂貴的模型,並為敏感資料處理建立規則。AI 模型路由公司的機會在於發展出智能化的協調平台,不僅僅是 API 聚合器,更能理解業務需求、選擇最佳模型、監控效能、優化成本,並提供企業對 AI 基礎設施的能見度和控制權。