即時快訊
數產署表揚13家友善電商企業推動安心網購 Perky榮獲MUSE國際設計雙銀獎,女性營養品牌累積六項國內外肯定 金門酒廠「一穀作契」100%本土契作好品質 獲得農業部農糧署國產農糧原料酒推薦 「公益同行・原社共好」 29家績優合作社齊聚華山 公彩成果展現就業與福利新動能 孕育兆美元輝達的傳奇美式餐廳 創辦紀念座位牌保留至今 美國屋頂太陽能發電量近十年暴增近五倍 全球運動AI市場名單出爐 日本企業掛零歐美科技巨頭強勢壟斷 創投看好AI降低門檻 一人微型創業成美國就業新趨勢 年末聚會前的輪廓焦慮?醫師 : 「看不出做過」成自然美感新趨勢 印度航太新創搶攻火箭引擎商機 獲利基訂單拚太空產業分工
AI生成內容恐損學術誠信 研究發現數千篇論文含假引文
科技生活

·6 個月前·何映辰
#人工智慧#學術誠信#論文造假#假引文#研究倫理
AI生成內容恐損學術誠信 研究發現數千篇論文含假引文
商傳媒|何映辰/台北報導
摘要

最新研究指出,科學論文中出現數千篇疑由人工智慧生成錯誤的內容,特別是偽造引用文獻,已嚴重衝擊學術誠信。專家擔憂,這類錯誤若涉及醫療領域,恐對實際應用造成危害,學術界需強化人工智慧倫理與查證機制。

近期多項研究顯示,科學期刊上出現數千篇疑由人工智慧(AI)生成錯誤的論文,特別是偽造引用文獻的情況急遽增加,已嚴重威脅學術研究的嚴謹性與可信度。此一現象引發學術界高度關注,並對現行查核機制提出嚴峻挑戰。

根據《Research & Development World》報導,一項針對250萬篇論文的研究估計,近3,000篇生物醫學論文包含偽造的參考文獻,2025年偽造引文比例更較2023年激增12倍以上。研究共同作者Maxim Topaz直言這些發現可能只是「保守的低估」。這些錯誤不僅存在於普通研究,甚至波及28項臨床試驗和79項系統性回顧文獻。Medical Evidence Project的法醫元科學家詹姆斯·希瑟斯(James Heathers)也發現,Google學術搜尋上約200篇論文有相同且不尋常的錯誤,如數學家安德雷·柯爾莫哥洛夫(Andrey Kolmogorov)姓氏拼錯,疑源自「論文工廠」。詹姆斯·希瑟斯警告,錯誤論文若涉及病患數據,對臨床實務將構成極高危害。

偵測人工智慧生成文本仍是一大難題,2023年研究顯示,研究人員難以辨識ChatGPT生成的醫學摘要,且人工智慧偵測工具對非英語母語作者存有偏見。面對此挑戰,施普林格·自然(Springer Nature)、科學(Science)等主要期刊雖已明文禁止將AI工具列為作者,要求作者聲明AI使用,並強調作者需負全責。部分出版商更將未聲明使用AI視為科學不端行為,可導致論文撤回或出版禁令。然而,目前多數期刊仍主要依賴作者的誠信聲明來維持學術誠信。


在 Google 搜尋的熱門報導中優先看到商傳媒
加入為 Google 偏好來源