即時快訊
「薔琵颱風」第四、第五作戰區超前部署完成防颱整備 數位黃金市場潛力驚人 研究預估規模上看7000億美元 巴西金融巨頭Nubank獲條件核准 強攻美國市場挑戰重重 專家:房地產投資報酬率勝股市 賣房入股前三思 美中建立貿易與AI對話機制 半導體國安管制仍未鬆綁 英國航太系統獲美國太空軍合約 開發新世代衛星通訊終端 40歲依舊少年感滿滿!SJ東海跨界代言大研生醫 全新廣告《Good Day》傳遞健康生活態度 機器人革命錢景誘人挑戰仍鉅 技術、成本、勞工成關鍵阻礙 美國海上直升機產業迎復甦轉機 油價攀升與新政策成關鍵 AI工具自動操作手機 便利背後隱藏資安隱憂
擺脫AI盲點與猜測 企業級應用急需「情境化」能力
科技生活

·21 days ago·何映辰
#人工智慧#大型語言模型#企業應用#情境化#自主決策
擺脫AI盲點與猜測 企業級應用急需「情境化」能力
商傳媒|何映辰/台北報導
摘要

為讓AI在企業內做出可靠的自主決策,技術專家指出AI需從單純的「相關性」轉向深入的「情境」理解,透過「情境化」技術將企業專屬資訊整合至模型中,以提升決策精準度並減少「幻覺」產生,但此過程仍面臨幻覺風險及惡意利用等挑戰。

隨著人工智慧(AI)從提升生產力逐步邁向企業內的自主決策,其能否可靠地做出判斷,關鍵在於對「情境」(Context)的理解,而非僅是表面的「相關性」(Relevance)。若缺乏對特定情境的深入掌握,AI如同盲人,將無法有效運作,進而影響決策品質。這項將AI與特定背景資訊整合的過程,在技術上稱為「情境化」(Contextualization)。

《Communications of the ACM》指出,大型語言模型(LLM)主要透過公共資料進行訓練,這限制了它們在特定產業和企業環境中的應用成效。Dawiso 的企業資料架構師 Martin Nevický 強調:「沒有情境,AI就是盲的。」他解釋,模型大多基於其訓練的全球資料來預測下一個 Token(指詞彙、字元或次詞元等最小處理單元),但若能提供企業專屬的正確資訊,AI的回答將更為精準且有根據,將原本的「猜測」轉化為近乎「事實」的判斷。這意味著更高的可靠性、更少的「幻覺」(指AI產生看似合理但實際上錯誤或虛構的資訊),以及對模型決策的更高信任度。

Forrester 首席分析師 Bernhard Schaffrik 表示,企業全面導入AI的主要障礙在於內部各自為政的資料孤島,以及需要將AI深度整合到營運模式中。要克服這些挑戰,AI需要透徹了解企業的實際運作方式。處理程序智慧(Process Intelligence)數據能提供這種洞察,當與生成式AI結合時,即可為AI提供必要的營運情境,使其產生可靠、相關且與營運模式一致的結果。

Celonis 企業AI首席科學家 Devavrat Shah 指出,AI模型雖然可能理論上了解發票或供應鏈運作方式,卻不清楚特定企業獨有的審批規則、營運依賴關係,或哪些例外情況合理、哪些不合理。若AI缺乏這種營運理解,將只能依賴通用模式進行「有根據的猜測」,這對企業而言代價高昂。他強調:「AI缺乏的並非更多智慧,而是情境。」當AI能實時理解企業運作時,便能正確推論、可靠執行,並獲企業信任以支援及自動化角色,而非僅僅提供建議。

然而,「情境化」的應用並非易事,它受制於不同情境、語言、文化和地區等多重因素。即便如此,具備情境層的LLM仍無法完全避免幻覺的產生,因為這些模型的設計基於相似性搜索而非確定性邏輯,無法確保結果完全可重複。此外,情境本身也可能被惡意利用,例如透過「情境炸彈」(Context Bombing)技術進行網路攻擊。Martin Nevický提醒,即使有情境層,模型也非預設安全,且若客戶端的AI聊天機器人資料映射不當,敏感資訊可能意外洩露,導致法規、聲譽與法律問題。

鑑於監管、資金與客戶信任面臨風險,以循序漸進的方式應用情境成為正確之舉。透過確保資料妥善記錄、持續驗證情境的有效性,並避免讓AI在未經檢查的原始資料上運作,企業才能讓AI擺脫猜測,真正根據業務的實際情況進行推論。


在 Google 搜尋的熱門報導中優先看到商傳媒
加入為 Google 偏好來源