民生好報
2 months ago

#民生好報
摘要

【記者 吳雨涵/綜合報導】 AI的信任危機來了!瑞典研究員憑空捏造了一個叫「Bixonimania」(藍光狂躁 […]

【記者 吳雨涵/綜合報導】

AI的信任危機來了!瑞典研究員憑空捏造了一個叫「Bixonimania」(藍光狂躁症)的眼病,論文裡塞滿了「本文全是編造的」、「感謝星際艦隊學院」這類荒誕彩蛋——結果微軟Copilot、谷歌Gemini、ChatGPT全部信以為真,甚至主動建議患者去看眼科。

更誇張的是,這篇假論文還被印度學者引用進正式期刊論文,通過了同儕審查正式發表,直到《自然》雜誌介入才被撤稿。論文被撤了,作者還不同意。

專家警告:AI只認格式不認內容,學術論文包裝的假資訊最快數週就能滲透主流AI系統。
超過4,000萬人每天用ChatGPT查健康資訊,而AI幻覺率在模擬醫療案例中最高可達83%。
記住一句話:永遠不要完全相信AI的輸出,尤其在醫療和學術領域。