即時快訊
迎接《俠盜獵車手VI》上市 羅技給全球7,000名員工有薪遊戲假 材料化學運算提速350倍 美團隊AI模型助攻超導篩選 Coinbase執行長語出驚人 十年內99.9%交易將由AI代理人包辦 倍思推14合1擴充基座 單線整合百瓦供電與雙4K螢幕 《勇者鬥惡龍RPG 魔界樹與受命運指引之島》2027年全球同步上線!封閉測試即日起開放招募 電波、音波該如何選擇?謝孟璇醫師解析醫美評估三大關鍵 駭客鎖定能源設施控制系統 美多部會示警面臨實體網攻威脅 粉專遭封鎖!美小企業主讓 AI 代理人自行提告 Meta 求償 7.5 萬美元 開源維護者苦於抓漏 微軟攜手 GitHub 推修復建議試驗 核廢料大減97%轉化為燃料 Newcleo攜手美商建供應鏈
政府形塑網路資訊環境 恐藉AI訓練數據影響言論
科技生活

·6 個月前·葉安庭
#人工智慧#AI#訓練數據#政府監管#言論審查
政府形塑網路資訊環境 恐藉AI訓練數據影響言論
商傳媒|葉安庭/綜合外電報導
摘要

一份最新研究指出,政府能透過形塑網路上可供人工智慧模型學習的資訊環境,進而影響其聊天機器人的輸出言論,尤其是在處理特定國家或敏感政治議題上。

一項最新研究發現,政府可能透過影響人工智慧(AI)模型所學習的網路資訊環境,進而塑造其聊天機器人的輸出內容,尤其是在處理政治敏感議題時。

這項由聖地牙哥加利福尼亞大學(UC San Diego)、普渡大學(Purdue University)及NYU Center for Social Media, AI, and Politics的研究人員共同發表的研究指出,當針對中國相關的政治問題以中文提示時,人類評估者判定,有高達75.3%的回應對中國立場更為有利。相較之下,若是非中國相關的提示,此比例則無顯著差異。

研究共同作者、聖地牙哥加利福尼亞大學政治學教授瑪格麗特·E·羅伯茨(Margaret E. Roberts)闡釋了此一機制:「國家形塑資訊環境,資訊環境形塑訓練數據,而訓練數據又形塑模型的輸出。」她補充道,這並非暗示AI公司刻意討好某些政府,而是大型語言模型(LLMs)促使有權勢的行動者,更具戰略性地思考其在網路上發布的內容。

研究也擴及37個國家進行跨國比較。結果顯示,在國家語言主要集中於單一國家的情況下,來自媒體監管較嚴格的政府與機構,其在該國語言中的模型呈現會比在英文中更為有利。雖然研究作者強調這僅是相關性,但此結果與中國案例中觀察到的機制相符。

研究共同第一作者、普渡大學政治學助理教授Eddie Yang表示:「當相同的政治問題,僅因訓練數據的微小變動而產生系統性差異的回應時,這表明那些額外的文件確實產生了影響。」研究人員採用了多種方法來識別政治權力進入AI系統的途徑,包括分析開源數據、商業系統的記憶化測試、再訓練實驗、人工評估及跨國比較,且最新發布的模型也複製了這些結果。

研究共同作者、NYU Center for Social Media, AI, and Politics研究副教授所羅門·梅辛(Solomon Messing)強調:「訓練數據是現代AI的基石。如果我們想了解這些模型所反映的強大利益,我們需要知道我們是如何獲取這些數據的。這需要從訓練數據的透明度開始。」


在 Google 搜尋的熱門報導中優先看到商傳媒
加入為 Google 偏好來源