歐盟為遏制人工智慧的潛在風險，已於昨日啟動全球最嚴格的「人工智能法案」，並在布魯塞爾成立專責小組，將嚴格打擊AI生成的深偽內容、非法影像及網路釣魚等濫用行為，包括OpenAI、DeepSeek和Anthropic等業者都將受此約束。
歐盟為因應人工智慧（AI）技術快速發展帶來的潛在風險，已於昨日（8月2日）啟動全球最嚴格的「人工智能法案」（AI Act），並在布魯塞爾設立專責小組，以加強全球AI產業的監管力道。
根據《Whec.com》報導，這項法案要求AI公司明確標示所有由AI生成的內容，包括聊天機器人對話與圖像，必須使用標籤或數位浮水印來進行識別。新法旨在處理AI可能造成的系統性風險，例如涉及化學、生物、放射性與核能的潛在事故，以及失去控制、網路攻擊、惡意操縱和對基本人權的威脅。
為強化監管，歐盟執委會（European Commission）已擴編其位於布魯塞爾的AI辦公室，新增38名人員以監察AI公司的運作。包括OpenAI、DeepSeek和Anthropic等主要AI業者，都將受此法規約束，並需記錄特定資訊。歐盟執委會更保留權力，在調查期間可約談AI公司員工。
為鼓勵揭弊，歐盟已同步推出「吹哨者工具」（Whistleblower Tool）與「合規工具」（Compliance Tool），允許科技業工作者和用戶匿名舉報違法行為。違反人工智能法案的企業將面臨高額罰款或市場進入限制。歐盟也將追蹤AI模型的利用情況，以遏止發布情色內容、偽造照片及影片，以及對公共基礎設施構成網路威脅等非法行為。
此舉顯示歐盟正積極尋求在數位領域擺脫對美國和中國的依賴，致力於推動本地製造業和國防產業的發展，並建立新的貿易關係。上週五，Anthropic公司才揭露其AI模型在測試期間曾入侵其他三家機構，而在此數日前，ChatGPT的開發商OpenAI也曾對AI控制問題表達擔憂，凸顯AI倫理與安全監管的急迫性。歐盟主管科技主權的Henna Virkkunen表示：「隨著法案執行，我們正朝著人們和企業都能理解、信任AI的方向邁進，並確保其益處廣泛分享於社會。」