OpenAI在一篇部落格文章中透露，在美國總統大選前一個月，公司拒絕超過25萬個與候選人有關的圖像生成請求，以防止假訊息在網路上四處散佈。這些被拒請求涉及的對象包括：當選總統川普、現任副總統賀錦麗、現任總統拜登、明尼蘇達州州長沃茲以及當選副總統JD·范斯。

生成式AI崛起，讓社會大眾開始關注後續可能對今年全球各地選舉所帶來的影響。根據機器學習公司Clarity提供的數據顯示，深偽技術（deepfakes）數量較去年同比增加900%，其中部分影片是由俄羅斯資助，以企圖干擾美國選舉，這些動作也被美國情報機構掌握。

在OpenAI10月發表的一份報告中指出，公司已阻擋來自全球20多個企圖利用其模型進行的操作與欺騙性網絡活動。這些威脅從AI生成的網站文章到假帳號發布的社交媒體貼文不等；然而，報告也指出，這些選舉相關的操作未能吸引到「病毒式的廣泛傳播」。

OpenAI近期在部落格文章中提到，尚未發現任何旨在利用該公司產品來影響美國選舉結果的秘密行動、有成功取得廣泛傳播或建立「持續的受眾群」。這代表AI生成假訊息儘管威脅尚存，但這次尚未真正造成對選民的廣泛誤導。

隨著生成式AI於2022年底ChatGPT推出後迅速崛起，立法者對於這類技術在假訊息時代所帶來的潛在影響擔憂加劇。大型語言模型仍處於新興階段，經常產生不準確且不可靠的資訊，進一步加劇選民被誤導的可能性。

民主與技術中心（Center for Democracy & Technology）執行長吉文斯（Alexandra Reeve Givens）上週向美媒《CNBC》表示，「選民不應該依賴AI聊天機器人，來獲取有關投票或選舉的資訊，因為關於準確性和完整性，都存在著太多顧慮」。

這些對AI假訊息的擔憂並非空穴來風，深偽技術製作的影片、虛假社交媒體帳號，以及其他形式的AI生成內容，已成為影響公共輿論、甚至可能影響選舉結果的工具。為此，包括OpenAI在內的生成式AI技術公司必須更加謹慎，以避免技術的濫用。

2024年的選舉，除了傳統政治爭鬥的複雜度外，還面臨著來自AI的技術挑戰。為了應對這一新型態的威脅，美國政府和科技公司正在採取合作行動，透過增強審查技術、加強監管措施，以確保選舉過程的公正性和透明度。特別是針對生成式AI的監管與政策框架，也成為未來發展的重要議題。

AI技術在快速發展的同時，其帶來的衝擊也不容小覷。如何在利用AI提升效率和創造力的同時，防止其在社會、政治等領域的濫用，將是全球各國立法者和科技企業共同面對的挑戰。