即時快訊
蔣萬安選情回穩 竹縣藍白隱合 最新網路調查徐欣瑩領先鄭朝方7.3% 升息壓力考驗AI股評價 00418A鎖定獲利已兌現的實力派 AI下一棒還沒漲遠!00418A仍在10元附近 現在進場門檻不高 高利率下選股更要挑 00418A鎖定300大升級受惠股 南亞不只做塑膠!電子材料接AI商機 00418A布局轉型成長股 00418A越跌越買誰?穩懋增42%、南亞增22% 隔日雙雙上漲 台積電只占7.33%!00418A把近45%火力放在下一批成長股 爆量26萬張也沒被炒貴 00418A股價10.08元、分批布局正當時 一個人也能吃燒肉!貴族世家個人燒肉全台首店開幕 套餐199元起 中化控股家庭日深耕公益 攜手博幼基金會 融入多元健康議題 擴大永續影響力
圖/示意圖
科技生活

·a day ago·葉安庭
#AI#資料合約#系統架構#資訊安全
圖/示意圖
圖/示意圖
商傳媒|葉安庭/綜合外電報導
摘要

為防止自主 AI 在執行操作時釀成錯誤,專家提出「行動就緒合約」架構,要求系統在觸發外部動作前必須通過五項機器驗證,補足傳統資料合約的盲點。

自主人工智慧(AI)系統若在未嚴格驗證的情況下對外觸發動作,可能帶來難以挽回的系統風險。資深資料工程師 Aditya Ranjan 在美國電腦協會旗艦期刊《Communications of the ACM》撰文提出「行動就緒合約」(Action-Readiness Contract, ARC)概念,主張在自主 AI 系統對外部環境產生實質影響前,必須即時通過一組以機器自動評估的證據要求,確保系統決策合理且安全。

現行的資料合約標準,如 Open Data Contract Standard (ODCS),主要規範資料結構、語意與服務水準期望。Aditya Ranjan 指出:「現有的資料合約很有用,但它們處理的是不同層面的問題。那些協定本身並無法在 Agent 提出操作的當下,證明特定動作是否具備合理性,這正是我想解決的缺口。」他強調,即使每項技術檢查都順利通過,AI 產生的採購單依然可能是錯誤的。

ARC 架構沿襲了美國國家標準技術研究所(NIST)在零信任架構中提出的「策略決策與執行分離」原則,與既有的身分驗證、授權機制及安全策略並行運作。該合約由五大斷言(predicates)組成:資料新鮮度(Freshness)、資料溯源(Provenance)、授權狀態(Authorization)、可觀測性(Observability)以及運作安全性(Operational safety)。

在決策邏輯上,ARC 採取極為保守的防護設計:只有當五大斷言全部順利通過,系統才會發出許可(ALLOW);若授權或運作安全檢驗失敗,則直接拒絕(DENY);一旦出現證據遺失或有未解的檢查項目,系統便進入暫緩(HOLD)狀態,避免自主系統因資訊不全而盲目執行關鍵任務。


在 Google 搜尋的熱門報導中優先看到商傳媒
加入為 Google 偏好來源