加州新頒布的AI透明法規要求大型AI公司為生成的圖片、音訊和視訊內容加上中繼資料並提供偵測工具，但一份最新報告顯示，多數科技巨頭仍未完全符合規範，且現有偵測工具的可靠性仍有待加強，顯示AI合規之路挑戰重重。
加州於本月稍早頒布一項州級人工智慧（AI）透明法規，要求科技公司明確標示透過AI生成或編輯的內容。然而，一份最新報告指出，多數大型AI公司仍未完全符合這項法規，且現有偵測工具的效能仍有待提升。
這項新法已於今年 8 月 2 日生效，主要針對每月用戶數超過一百萬的AI公司。法規明定，這些公司必須為其AI生成的圖片、音訊與視訊內容附加中繼資料（metadata），並公開提供內容偵測工具，協助用戶辨別內容是否由AI產製或編輯。類似的法規也已在歐盟（European Union）實施，不過歐盟的規範範圍更廣，涵蓋了AI生成的文字內容。
根據媒體 Indicator 與人權組織 WITNESS 上週共同發布的獨立報告，他們針對 13 家主要的AI影像與音訊生成公司進行評估，這些公司每月服務約 106 億用戶。結果發現，僅有 7 家公司（外加 KQED 電台額外確認的一家 Suno）公開提供了符合法規的偵測工具。報告點名 HeyGen、Midjourney、Mistral、Synthesia 與 xAI 等公司並未提供相關工具。
位於劍橋的AI音樂公司 Suno 向 KQED 表示，他們已於本月初發布了偵測工具以符合法規。而英國的AI視訊平台 Synthesia 則指出，他們已將所需的中繼資料嵌入內容中，但對於法規的其他技術細節仍在尋求釐清。然而，HeyGen、Midjourney、Mistral 與 xAI 對於 KQED 的詢問未予回應。加州 State Attorney General’s office 則表示，無法針對可能進行中的調查發表評論。
報告進一步揭示，即使有偵測工具，其可靠性仍是問題。多數工具能辨識自家未經編輯的AI內容，但僅有谷歌（Google）與 OpenAI 能在其內容經過編輯後仍有效識別。此外，只有 Adobe 與微軟（Microsoft）的工具，能在一半以上的時間裡，辨識出其他公司未經編輯的AI內容。報告指出，由於法規並未要求偵測工具需標示競爭對手的AI內容，因此這樣的結果並不令人意外。
OpenAI 曾在一份聲明中提及，中繼資料並非萬無一失，「它可能被移除、在上傳或下載過程中丟失，或因檔案格式變更、調整尺寸、螢幕截圖等轉換而失效」。有些偵測工具還設有測試次數限制，例如 OpenAI 的驗證工具在單次會話中，最多只能測試 7 次，而谷歌與 Meta 則限制每個用戶每天最多測試 10 至 15 次。
Meta 於今年夏季稍早開始為其由生成式AI「建立或顯著編輯」的廣告內容加上標籤。Instagram 上的行銷人員甚至發現，Meta 的濾鏡似乎連透過 Canva 背景移除工具處理的內容，都會標示為「AI資訊」。
未來，從明年 1 月起，包括社群媒體與搜尋引擎在內的大型線上平台，都將被要求偵測AI內容並允許用戶檢視。Anthropic 也宣布將在其所有新模型中為文字內容加上浮水印，顯示AI內容透明化與辨識技術將持續演進。