OpenAI
a month ago

#OpenAI
#ChatGPT
#deepfakes
商傳媒|記者許方達/綜合外電報導

OpenAI在一篇部落格文章中透露,在美國總統大選前一個月,公司拒絕超過25萬個與候選人有關的圖像生成請求,以防止假訊息在網路上四處散佈。這些被拒請求涉及的對象包括:當選總統川普、現任副總統賀錦麗、現任總統拜登、明尼蘇達州州長沃茲以及當選副總統JD·范斯。

生成式AI崛起,讓社會大眾開始關注後續可能對今年全球各地選舉所帶來的影響。根據機器學習公司Clarity提供的數據顯示,深偽技術(deepfakes)數量較去年同比增加900%,其中部分影片是由俄羅斯資助,以企圖干擾美國選舉,這些動作也被美國情報機構掌握。

在OpenAI10月發表的一份報告中指出,公司已阻擋來自全球20多個企圖利用其模型進行的操作與欺騙性網絡活動。這些威脅從AI生成的網站文章到假帳號發布的社交媒體貼文不等;然而,報告也指出,這些選舉相關的操作未能吸引到「病毒式的廣泛傳播」。

OpenAI近期在部落格文章中提到,尚未發現任何旨在利用該公司產品來影響美國選舉結果的秘密行動、有成功取得廣泛傳播或建立「持續的受眾群」。這代表AI生成假訊息儘管威脅尚存,但這次尚未真正造成對選民的廣泛誤導。

隨著生成式AI於2022年底ChatGPT推出後迅速崛起,立法者對於這類技術在假訊息時代所帶來的潛在影響擔憂加劇。大型語言模型仍處於新興階段,經常產生不準確且不可靠的資訊,進一步加劇選民被誤導的可能性。

民主與技術中心(Center for Democracy & Technology)執行長吉文斯(Alexandra Reeve Givens)上週向美媒《CNBC》表示,「選民不應該依賴AI聊天機器人,來獲取有關投票或選舉的資訊,因為關於準確性和完整性,都存在著太多顧慮」。

這些對AI假訊息的擔憂並非空穴來風,深偽技術製作的影片、虛假社交媒體帳號,以及其他形式的AI生成內容,已成為影響公共輿論、甚至可能影響選舉結果的工具。為此,包括OpenAI在內的生成式AI技術公司必須更加謹慎,以避免技術的濫用。

2024年的選舉,除了傳統政治爭鬥的複雜度外,還面臨著來自AI的技術挑戰。為了應對這一新型態的威脅,美國政府和科技公司正在採取合作行動,透過增強審查技術、加強監管措施,以確保選舉過程的公正性和透明度。特別是針對生成式AI的監管與政策框架,也成為未來發展的重要議題。

AI技術在快速發展的同時,其帶來的衝擊也不容小覷。如何在利用AI提升效率和創造力的同時,防止其在社會、政治等領域的濫用,將是全球各國立法者和科技企業共同面對的挑戰。