專家指出，企業導入人工智慧（AI）面臨治理複雜、成本攀升雙重挑戰，建議需有明確的目標、健全的治理框架、將模型與任務匹配以選擇更具成本效益的方案，才能有效管控風險並實現 AI 價值。
隨著人工智慧（AI）技術的快速發展，企業在導入 AI 應用時，面臨的挑戰不僅止於技術層面，更涵蓋了複雜的治理議題與不斷上升的成本壓力。專家指出，企業需要明確的目標、健全的治理框架以及更具成本效益的模型選擇，才能成功駕馭這波 AI 浪潮。
Crusoe 雲端工程資深副總裁 Kyle Sosnowski 指出，目前大多數企業尚未將 AI 有意義地整合至營運中，僅有少數雲原生新創公司深入應用。根據麥肯錫公司（McKinsey）的調查，僅有 40% 的大型企業和 22% 的小型企業將 AI 應用擴展至實驗階段之外。其中，聊天機器人是採用率最高的 AI 工具，達到 47%，而程式開發與其他 AI 代理工具的採用率約為 20%。
Sosnowski 認為，許多企業常將 AI 使用量與 AI 產能混淆，導致成本問題。他強調，企業在進入 AI 領域時應「懷抱明確目標」，避免無目的性地部署 AI。過度鼓勵 AI 輸出量不僅耗費組織資源，也造成讀者負擔。Sosnowski 以收到一份七頁 AI 生成文件為例，表示他更想聽到作者本人的觀點，而非 AI 的冗長報告。
除了目標不明確，AI 治理也變得前所未有的複雜。隨著歐盟人工智能法案（EU AI Act）中針對高風險 AI 系統的義務於 2026 年 8 月 2 日生效，數位主權的概念已從單純追蹤資料儲存位置，擴展至 AI 層面。Red Hat 英國公共部門技術策略師 Erica Langhi 強調，真正的數位主權不僅限於擁有本地資料中心，還包括「絕對有權修改、重新訓練和移植模型，無需依賴第三方看門人」。
諮詢公司 Slalom 的資深首席 John Michaelides 提醒，以往判斷資料主權僅需確認資料駐留地點，但 AI 的出現已將控制權與地理位置脫鉤。現在，企業需考慮至少五個獨立的控制點：資料駐留位置、推論（Inference）執行地點、模型權重儲存位置、加密金鑰持有者，以及協調與身份層的營運者。這些控制點可能由不同司法管轄區的不同實體管理，使得監管變得更加複雜。真正的 AI 主權意味著必須在地域、技術和營運三個層面控制整個執行鏈，以確保當局能夠證明其治理、問責制和控制能力。
為有效控制成本，Sosnowski 建議企業應將 AI 模型與任務匹配。他觀察到許多公司在導入 AI 時，直接購買 OpenAI 或 Anthropic 等供應商的頂級企業訂閱服務，卻未考慮到並非所有應用情境都需要前沿模型。對於如試算表摘要、文件整理或內部工作流程自動化等較簡單的任務，開放模型（Open models）或較便宜的模型通常已足夠。他指出，前沿模型則適用於複雜推理、多步驟工作流程和技術性任務。
專家們普遍認為，企業必須建立標準化的內部功能，確保所有 AI 部署都具備相同的驗證方式與嚴謹性，並配合良好的資料衛生習慣，包括使用不同的加密金鑰分別加密模型與資料，並限制各方對架構不同部分的存取權限。這不僅能防範資料破碎化與安全風險，也有助於在面對監管單位時，展現對 AI 系統的完整掌控與問責能力。
Crusoe 正在建構一個專為高強度運算 AI 和 HPC 工作負載而設計的雲端平台，旨在協助企業有效管理 AI 基礎設施，應對這些新興挑戰。