即時快訊
南韓爆高科技國考舞弊案 考生用生成式 AI 奪榜首遭查辦 全球房地產ETF怎麼挑?費用率與區域配置成關鍵決勝點 二疊紀盆地扛全美八成增產 荷莫茲封鎖推升美油巨頭半年狂賺千億 湘澂國際攜手誠美社會企業 《森之生活誌》翻閱永康300年 單一伺服器遭駭攻陷率近八成 AI 代理骨牌式信任漏洞浮現 高油價推升需求 美國油電車市占達16%創新高 自主AI代理擅自植入惡意程式 引爆國安與軍事防衛新隱憂 詐團用生成式AI偽造走失寵物照 勒索飼主交贖金手法曝光 Smartgroup 季跌逾兩成跌破年線 利潤率擴張推遲步入技術性熊市 通訊故障停飛4小時創紀錄 美國航管系統仍靠90年代軟體
日本政府試用國產LLM Customer Cloud發表AI安全基盤
科技生活

·8 months ago·吳承岳
#日本政府#LLM#AI安全#Customer Cloud#資安
日本政府試用國產LLM Customer Cloud發表AI安全基盤
商傳媒|吳承岳/台北報導
摘要

日本政府數位廳推動「政府AI」計畫,Customer Cloud獲選為政府共用AI基磐「源內」的LLM供應商。該公司宣布推出「CC AGI Security」安全架構,旨在確保AI時代下企業AI基磐與數位服務的安全性,範圍涵蓋AI基磐、應用程式及網路系統,未來將致力於AI安全評估與研究。

日本政府數位廳推動「政府AI」計畫,其中一環為政府共用生成式AI(Generative AI)基磐「源內(GENNAI)」的試用。Customer Cloud公司雀屏中選,成為提供國內大型語言模型(LLM)的供應商。該公司近日宣布推出「CC AGI Security」安全架構,旨在確保AI時代下企業AI基磐與數位服務的安全性。

隨著生成式AI普及,越來越多企業傾向建構專屬AI基磐(本地LLM),用於開發和營運AI服務與產品。然而,AI系統與現有網路服務及雲端系統的整合日益頻繁,也衍生出新的資訊安全挑戰。

Customer Cloud表示,AI普及帶來了新的安全風險,例如提示注入(Prompt injection)等AI特有的攻擊手法、未經授權存取AI模型與訓練資料、資料污染(Data Poisoning)、AI代理程式的誤動作或濫用,以及針對AI系統的新型網路攻擊。此外,由於AI應用程式經常與網路服務及雲端系統協同運作,因此整合AI基磐與既有系統的整體安全防護措施至關重要。

「CC AGI Security」涵蓋AI基磐及整體數位服務,旨在確保企業AI基磐(本地LLM)、AI應用程式,以及一般網路服務與雲端系統的安全性。其主要範圍包括:

  • AI基磐安全:驗證企業專屬AI基磐(本地LLM)及AI模型的安全性。
  • AI應用程式安全評估:檢測AI代理程式與AI服務的行為。
  • 網路服務與雲端系統安全:驗證一般網路應用程式與雲端環境的安全性。

Customer Cloud強調,該架構能因應AI與既有系統整合的新型架構,為AI時代的數位服務提供必要的安全防護。

Customer Cloud也積極推動AI在社會與產業基磐的應用。該公司長期以來專注於政府與企業的AI基磐開發,並已推出「CC LLM」(為企業建構專屬AI基磐)、「CC AI Factory」(持續開發AI服務)等模型。本次發布的「CC AGI Security」,是著眼於AI基磐的普及,為AI系統及整體數位服務建立安全領域的措施。

Customer Cloud未來將致力於AI系統安全評估、AI安全研究、強化AI開發環境的安全性,並舉辦AI安全研討會。

Customer Cloud代表取締役社長木下寛士表示,該公司以澀谷為據點,整合AI生產工廠、AGI技術、集團經營,以及BytePlus等全球基礎設施,目標是重建日本的AI產業,並將澀谷打造成為「第二個比特谷(Bit Valley)」的震央。


在 Google 搜尋的熱門報導中優先看到商傳媒
加入為 Google 偏好來源