最新研究發現，人工智慧（AI）在生物醫學論文中偽造了超過4,000篇不存在的引用，且此類錯誤三年內暴增12倍，恐誤導臨床指南與病患治療決策，嚴重威脅學術誠信。儘管AI在藥物研發與醫療行政方面展現巨大潛力，此問題凸顯了AI在應用時對資訊真實性與治理框架的迫切需求。
人工智慧（AI）在生物醫學研究中偽造引用的問題日益嚴重，一項最新審計發現，數百萬篇生物醫學論文中，有超過4,000篇含有對不存在研究的引用。哥倫比亞大學護理學院副教授 Maxim Topaz 指出，這類錯誤在過去三年中成長了12倍，恐嚴重威脅學術誠信及病患照護品質。
根據《cbsmoneywatch》報導，這些偽造的引用可能導致臨床指南出現錯誤，因為醫療專業人員在提供照護時，高度依賴這些基於公共研究的指南。Maxim Topaz 警示，醫生可能基於從未存在的研究來做出治療決策，而目前已識別的錯誤皆未獲得修正或撤回，仍可能持續影響病患照護。他提到，有時AI應用程式會不經意地插入虛假引用，即使經過多層同行評審也可能被忽略。這些 AI 生成的虛假引用「看起來完美無缺」，增加了辨識難度。
儘管 AI 在學術研究中帶來了潛在風險，其在醫療領域的應用仍持續拓展。例如，生物科技公司 Owkin 與製藥巨擘阿斯特捷利康（AstraZeneca）已擴大合作，展開為期三年的授權協議，利用 Owkin 的 AI Scientist 平台 K Pro 強化藥物發現與研發工具。該平台將協助分析與預測藥物標靶、資產及臨床試驗的競爭情報，並已與阿斯特捷利康在腫瘤學領域的 AI 應用有過合作。Owkin 產品主管 Jonas Beal 表示，AI 代理系統是製藥研發的未來，將顯著提高生產力。
此外，人工智慧藥物設計公司同構實驗室（Isomorphic Labs）近期也成功募得21億美元的 B 輪資金，由興盛資本（Thrive Capital）領投，包括 Alphabet 公司、GV、MGX、淡馬錫控股（Temasek）及 UK Sovereign AI Fund 等機構也參與投資，將用於擴展其全球業務並加速藥物候選管線的進程。Alphabet 公司總裁兼投資長露絲·波拉特（Ruth Porat）對此表示，AI 在加速藥物發現方面已取得非凡進展。
在醫療行政效率方面，人工智慧同樣扮演關鍵角色。根據《Medicalresearch.com》的報導，美國每年產生約12億份臨床照護文件，醫師花費在電子病歷文件上的時間幾乎是直接病患照護時間的兩倍，導致高比例的職業倦怠。然而，初步數據顯示，AI 技術能改善臨床醫師的文件處理經驗並減少下班後的文件完成時間，同時提高文件準確性。不過，一篇2024年的回顧研究也指出，AI 生成記錄的錯誤管理和法律責任問題，仍需建立更完善的治理框架。