圖/示意圖
產官資訊

·幾秒前·責任編輯
#AWS#人工智慧#生成式AI#資訊安全#雲端運算
圖/示意圖
圖/示意圖
商傳媒|責任編輯/綜合外電報導
摘要

AWS 推出針對 AI Agent 的三階段負責任治理藍圖,規劃 12 週時程協助企業分清平台與應用團隊職責,在自主代理擴大導入時守住資料與合規防線。

隨著具備自主決策能力的 AI Agent(人工智慧代理)成為企業技術焦點,如何安全落地並兼顧法規成為關鍵課題。雲端服務巨擘 AWS 近期發布針對 Agentic AI 的「負責任 AI」階段性實踐框架,提出為期 12 週的建構藍圖,明確界定基礎架構與應用開發團隊的協作權責,協助企業在部署自動化流程時降低營運風險。

過去傳統的負責任 AI 實踐主要以模型為核心,聚焦在機器學習的模型訓練、測試與推論階段;但如今自主執行的 AI Agent 會主動串接企業內部系統、動用工具並執行任務,讓防護重心轉向更動態的整體系統運作。

AWS 指出,企業在導入這類架構時,普遍面臨四大核心挑戰:執行期行為難以完全預測、資料存取與權限邊界控管、法規快速更迭,以及團隊間協作機制不清。對此,該框架將負責維護底層環境的「平台工程團隊」與專注於商務邏輯的「應用開發團隊」分工——由平台團隊建立安全邊界與基礎防護,應用團隊則在規範的防護框架內建構具體功能,避免彼此權責重疊或產生技術缺口。

該治理藍圖共分為三大成熟度階段:第一階段為「治理基礎」,重點在於風險分類、法務合規審查以及雲端登陸區基礎架構設定,主打安全性與隱私權;第二階段進入「概念驗證部署」,導入安全護欄、脈絡錨定與關鍵操作的「真人覆核」機制,強化系統產出真實度與可控性;第三階段為「評估與強化」,涵蓋公平性基準測試、可解釋性分析,以及持續性的紅隊安全演練。

在實際應用層面,金融科技公司 Robinhood 藉由 Amazon Bedrock 開發防範金融犯罪的生成式 AI Agent。該專案在 60 天內累積了 2,000 次與專家判斷一致的決策並通過人工作業審核,最終在符合金融監管規範的前提下,順利提升了 20% 的作業效率。

針對評估標準,該架構設計了 1 至 5 分的成熟度評量指標,凡得分低於 4 分即代表系統仍存有顯著風險。企業除可參考 AWS 負責任 AI 資源 與架構文件外,也應在模型升級或新增業務情境等關鍵時間點,定期重新評估內部治理架構,確保自動化代理能在受控邊界內穩定運作。


在 Google 搜尋的熱門報導中優先看到商傳媒
加入為 Google 偏好來源