即時快訊
防堵自主 AI 誤發採購單 專家倡議導入行動就緒合約 Gmail 整合 Gemini 寫信功能 外媒實測:省腦力但未必省時間 帕蘭泰爾執行長直言:若無美軍支持就沒有矽谷 專家籲旅遊業善用消費大數據 主打體驗可推升三成業績 日本高達七成醫院陷虧損 醫療觀光成救命稻草引發排擠爭議 黃仁勳時代AI版圖重組 ASIC族群逆勢領漲 00418A鎖定布局AI多元供應鏈 MSCI三升估挹注3,000億 PCB載板中型股晉級 00418A以靈活規模卡位下一批「升級股」 台股殺千點經理人沒跑!00418A逆勢加碼5檔、隔日重返10元 AI第二棒在哪?阮慕驊點名00418A選股池擴到前300大 傳產轉型股一檔布局 市場恐慌逆勢加碼 00418A穩懋增逾四成 強佔AI下一個爆發成長
圖/示意圖
科技生活

·a few seconds ago·葉安庭
#AI#資料合約#系統架構#資訊安全
圖/示意圖
圖/示意圖
商傳媒|葉安庭/綜合外電報導
摘要

為防止自主 AI 在執行操作時釀成錯誤,專家提出「行動就緒合約」架構,要求系統在觸發外部動作前必須通過五項機器驗證,補足傳統資料合約的盲點。

自主人工智慧(AI)系統若在未嚴格驗證的情況下對外觸發動作,可能帶來難以挽回的系統風險。資深資料工程師 Aditya Ranjan 在美國電腦協會旗艦期刊《Communications of the ACM》撰文提出「行動就緒合約」(Action-Readiness Contract, ARC)概念,主張在自主 AI 系統對外部環境產生實質影響前,必須即時通過一組以機器自動評估的證據要求,確保系統決策合理且安全。

現行的資料合約標準,如 Open Data Contract Standard (ODCS),主要規範資料結構、語意與服務水準期望。Aditya Ranjan 指出:「現有的資料合約很有用,但它們處理的是不同層面的問題。那些協定本身並無法在 Agent 提出操作的當下,證明特定動作是否具備合理性,這正是我想解決的缺口。」他強調,即使每項技術檢查都順利通過,AI 產生的採購單依然可能是錯誤的。

ARC 架構沿襲了美國國家標準技術研究所(NIST)在零信任架構中提出的「策略決策與執行分離」原則,與既有的身分驗證、授權機制及安全策略並行運作。該合約由五大斷言(predicates)組成:資料新鮮度(Freshness)、資料溯源(Provenance)、授權狀態(Authorization)、可觀測性(Observability)以及運作安全性(Operational safety)。

在決策邏輯上,ARC 採取極為保守的防護設計:只有當五大斷言全部順利通過,系統才會發出許可(ALLOW);若授權或運作安全檢驗失敗,則直接拒絕(DENY);一旦出現證據遺失或有未解的檢查項目,系統便進入暫緩(HOLD)狀態,避免自主系統因資訊不全而盲目執行關鍵任務。


在 Google 搜尋的熱門報導中優先看到商傳媒
加入為 Google 偏好來源