三星曾因員工將機密資料輸入 ChatGPT 導致三起資安事件，凸顯集中式 AI 架構的數據外洩風險。報告指出，42% 企業資料外洩與公共 AI 服務相關，促使企業轉向本地部署、開源模型及分布式架構，以強化數據治理與安全。
從三星（Samsung）工程師在 2023 年 3 月使用 ChatGPT 協助除錯開始，短短 20 天內，這家科技巨頭便面臨三起資安事件。這些事件暴露出集中式人工智慧（AI）架構下企業資料安全的巨大漏洞，員工無意間的行為可能成為機密外洩的潛在風險。
《hackernoon》報導指出，企業最大的 AI 安全風險往往來自於員工日常工作。當員工將專有原始碼、機密裝置程式碼甚至內部會議記錄上傳至 ChatGPT 等公開 AI 平台時，這些敏感資料便會被用於擴充 AI 模型的訓練數據，進而可能被其他使用者存取，導致機密外洩。這種情況讓企業失去對資料的儲存、保留與後續用途的控制。
除了三星案例，報導也提及 2025 年倫敦一家製藥公司因研究人員使用公開生成式 AI（GenAI）工具分析專有藥物研發數據，導致智慧財產權（IP）外洩。該 AI 模型保留了輸入資料的某些特徵，類似的分子結構隨後竟出現在競爭對手的專利申請文件中。
集中式 AI 帶來的主要風險包括智慧財產權外洩、法規遵循與合規風險（如歐洲的《一般資料保護規範》（GDPR）及美國的《健康保險便利和責任法案》（HIPAA）），以及「影子 AI」所造成的治理漏洞。影子 AI 指的是員工在未告知 IT 部門的情況下私自使用的工具。根據 IBM 的一份報告，每五家企業中就有一家曾因影子 AI 導致資料外洩。目前，有三分之二的員工在未經授權的情況下，定期與生成式 AI 工具分享公司內部資料。2024 年，42% 的企業資料外洩事件可直接追溯至使用公共 AI 服務處理敏感資訊。從 2023 年到 2024 年，公開報告的 AI 資安事件更增加了 56.4%。更令人憂心的是，63% 遭受資料外洩的企業不是沒有 AI 治理政策，就是仍在制定中。
面對這些挑戰，先進企業正將 AI 基礎設施視為其他敏感 IT 系統般嚴謹對待，實施嚴格的存取控制、稽核追蹤及明確的政策。部分企業，如美國電信巨擘 Verizon 和金融服務公司摩根大通（J.P. Morgan Chase），已完全禁止員工使用公開 AI 工具。三星在經歷事件後，也開始開發自有的內部 AI 模型。
為確保數據安全，企業正轉向以「本地優先」的方式部署敏感工作流程，將 AI 直接運行於企業自有的硬體上，使資料不離開內部環境。儘管這種方式可能增加基礎設施和維護成本，但能有效保障數據主權。此外，越來越多企業採用開源模型如 DeepSeek 和 Qwen，這些模型可以自行部署、檢視與控制。分布式 AI 架構也是一種解決方案，它將任務拆解成多個小單元，由多個節點分開處理，從而限制資料暴露，避免單一節點能看到完整資訊。專為原子化（atomized）與本地優先架構設計的 AI 產品供應商，如 BitSeek，也應運而生，確保敏感輸入資料不會接觸到集中式伺服器。對台灣企業而言，在導入 AI 應用時，應借鏡這些國際經驗，審慎評估集中式 AI 的潛在風險，並規劃符合自身需求的治理框架與技術解決方案，以維護企業的數據安全與競爭力。