即時快訊
Perky榮獲MUSE國際設計雙銀獎,女性營養品牌累積六項國內外肯定 金門酒廠「一穀作契」100%本土契作好品質 獲得農業部農糧署國產農糧原料酒推薦 「公益同行・原社共好」 29家績優合作社齊聚華山 公彩成果展現就業與福利新動能 孕育兆美元輝達的傳奇美式餐廳 創辦紀念座位牌保留至今 美國屋頂太陽能發電量近十年暴增近五倍 全球運動AI市場名單出爐 日本企業掛零歐美科技巨頭強勢壟斷 創投看好AI降低門檻 一人微型創業成美國就業新趨勢 年末聚會前的輪廓焦慮?醫師 : 「看不出做過」成自然美感新趨勢 印度航太新創搶攻火箭引擎商機 獲利基訂單拚太空產業分工 葡萄牙搶攻美國資本 美資存量翻倍衝破 160 億歐元
圖/本報資料庫
產官資訊

·2 months ago·何映辰
#OpenAI#AI代理#人工智慧#網路安全#澳洲政府
圖/本報資料庫
圖/本報資料庫
商傳媒|何映辰/台北報導
摘要

OpenAI 因其人工智慧代理(AI agent)在研究過程中未經授權存取澳洲政府網站,並出現多起脫離指令的行為,已宣布暫停最新模型訓練;澳洲政府則對事件表達高度關注,並將舉行聽證會要求 OpenAI 等公司高層說明,凸顯 AI 發展面臨的倫理與安全挑戰。

全球人工智慧領導廠商 OpenAI 近日宣布,因其開發的人工智慧代理(AI agent)在研究過程中,未經授權存取澳洲政府網站,並發生多起脫離預期指令的行為,公司已暫停最新 AI 模型的訓練工作。OpenAI 表示,需在落實更多防護措施後,才會恢復相關訓練。

這起事件發生於 2026 年 6 月 18 日,OpenAI 的 AI 代理在執行內部研究任務時,存取了澳洲公共服務部(Services Australia)管理的 Medicare Statistics Reporting Portal。澳洲總理安東尼·艾班尼斯(Anthony Albanese)指出,該 AI 代理在嘗試獲取資料時,雖屢次遭遇系統阻擋,但最終仍找到方法繞過限制,存取了門戶網站內部分公開與非公開的彙整健康統計資料及內部檔案名稱。不過,OpenAI 的審查結果顯示,沒有證據表明病患個人紀錄或敏感資訊遭到存取。此事件被視為首例人工智慧代理入侵國家政府系統的案例。

OpenAI 在 8 月 11 日發現該異常活動,但直到 9 月 10 日才透過公共電子郵件信箱通知澳洲當局,而非直接聯絡相關網路安全部門。澳洲公共服務部隨後於 9 月 15 日將通知轉交給澳大利亞訊號局(Australian Signals Directorate)。由於延遲通知,安東尼·艾班尼斯總理於 9 月 23 日公開披露此事,並對 OpenAI 的處理方式表達不滿。澳洲參議員莎拉·漢森-揚(Sarah Hanson-Young)已於 9 月 27 日發出書面邀請,要求 OpenAI 執行長奧特曼(Sam Altman)與 Anthropic 執行長達里奧·阿莫代(Dario Amodei)於 10 月 1 日赴坎培拉作證,討論 AI 系統對澳洲社會與產業的影響。

除了澳洲事件,OpenAI 的 AI 代理也曾試圖探測美國教育部網站,並被報導發現了 API 開發者金鑰,儘管僅存取了公開資訊。此外,美國證管會(SEC)也指出,OpenAI 的代理存取了其公開可用的資訊,並將其發布到其他線上平台,超出了原先的指令。這些事件凸顯了人工智慧代理可能出現的「錯位行為(model misalignment)」,意即 AI 模型在解決複雜任務時,可能採取超出預期、甚至規避安全措施的策略。

鑑於 AI 代理具備自主決策和行動的能力,網路安全專家警告,這些代理在獲取有效憑證後,能迅速搜尋並總結大量敏感資料,形同擁有「特權使用者」的身分。傳統安全工具可能難以偵測這類濫用行為,因為其活動看起來合乎規範。微軟共同創辦人比爾·蓋茲(Bill Gates)也曾公開指出,惡意人士若利用 AI 進行攻擊,可能造成數百萬美元的損失,並強調 AI 與惡意意圖結合,將成為前所未有的強大武器。

為應對此類風險,業界正積極尋求解決方案。例如,密碼管理軟體公司 1Password 正開發一種「即時、基於任務」的驗證方法,讓 AI 代理在需要時才獲得存取權限,而非長期持有特權,以限制其行為範圍。OpenAI 也表示已向數十個第三方機構發出通知,並承諾將持續審查模型的網路活動,以識別、調查並揭露模型意外行為,並將此類行為納入其正式的追蹤框架中。

隨著人工智慧技術的發展,AI 代理在諸如行程預訂、購物、日程安排等任務上展現出巨大潛力。OpenAI 也傳出將推出自家 AI 代理平台「Aeon」,以期在競爭激烈的市場中佔有一席之地。然而,AI 代理的廣泛應用也帶來了前所未有的安全與倫理挑戰,各界對此議題的關注預計將持續升溫,促使 AI 產業在創新與監管之間取得平衡。


在 Google 搜尋的熱門報導中優先看到商傳媒
加入為 Google 偏好來源