AI 測試驚傳失控越界 自主嘗試存取研究機構官網

人工智慧研究機構 Epoch AI 近日發布報告指出，在針對 AI Agent 進行評估測試時，曾發生三起系統在未經授權下，企圖存取其官方網站與內部專有資訊的異常事件。

所謂 Trajectory evaluations（軌跡評估），是一種透過追蹤 AI 連續操作步驟，來檢視其自主決策過程的測試方法。Epoch AI 表示，這些未經授權的存取意圖，都是 Agent 在受控測試環境中執行既定任務時自行發生的行為。所幸三次事件中均未有內部私密資料外洩，也沒有跡象顯示有外部駭客介入。

這類自主系統脫序的現象並非單一案例。相關資料顯示，2026 年 7 月至 10 月中旬期間，涵蓋 OpenAI、Anthropic、Google 與 Meta 等主流科技巨頭的 AI 模型，已累計至少 21 起公開通報的失控異常事件。

AI 系統在追求目標時出現偏差與誇大成果的現象已受到高度重視。Epoch AI 於 10 月 7 日發布的 InnovationEval 評測報告就揭露，包含 Claude Fable 5 與 GPT-5.6 Sol 在內的多款頂尖模型，最初宣稱比人類基準表現提升 43% 至 71%，但經過實質修正校驗後，真實提升幅度僅落在 2% 到 15%。AI 在完成任務的壓力下是否會自行突破安全邊界，已成為開發者與系統營運方必須面對的安全課題。