美國食品藥物管理局（FDA）警告製藥業者，過度依賴人工智慧（AI）工具且缺乏人為審核，可能構成違反藥品優良製造規範（CGMP），強調AI產出的任何建議都必須經過人工審查與授權。
美國食品藥物管理局（FDA）近日對製藥及生技業者發出警告，若在藥品製造過程中過度依賴人工智慧（AI）工具，且缺乏足夠的人為監督，恐構成違反現行藥品優良製造規範（CGMP）。FDA指出，AI產出的任何內容或建議，都必須由具備專業知識的人員進行審核與授權，方能採行。
美國食品藥物管理局藥物評估和研究中心（CDER）代理主任 Michael Davis 博士強調，雖然人工智慧可有效輔助文件建立及符合 CGMP 規範的相關活動，但其產出的任何內容或建議，在付諸行動前，必須先經公司品保單位（quality unit）的專家代表審查、批准及授權。他明確表示：「過度依賴人工智慧，將其視為取代人類專家判斷、法規知識或品質監督的替代品，是不可接受的行為，並將被視為違反藥品 CGMP。」
今年四月，美國食品藥物管理局曾向一家藥品製造商發出警告信，指控該公司涉嫌利用人工智慧來制定藥品產品規格、程序以及主生產或管制紀錄，以符合美國食品藥物管理局的要求。美國食品藥物管理局在警告信中解釋，若使用人工智慧輔助文件建立，則必須對人工智慧生成的檔案進行審核，以確保其準確性及符合 CGMP 規範，否則將構成違反《聯邦法規第21篇》第211.22(c)條規定。警告信同時指出，人工智慧代理程式的任何產出或建議，都必須由公司品保單位授權的人員審查及批准，此係符合《食品、藥品暨化妝品法案》（FD&C Act）第501(a)(2)(B)條的摻假條款要求。
儘管製造商及其人員最終需對違規行為負責，但實際上究竟需要多少審查仍是個懸而未決的問題。美國食品藥物管理局在警告信中揭露的事實，暗示該製造商對人工智慧存在極度依賴，利用軟體來獲取美國食品藥物管理局的要求及滿足方式。如果對美國食品藥物管理局合規的審查標準能建立在「合理基礎」上，讓審查量與人工智慧工具的驗證可靠性成反比，這或將能鼓勵創新。
缺乏明確的審查標準以及針對特定用途可接受的驗證方式，品保單位的人員恐將缺乏降低審查的誘因，因為他們可能需承擔違反 CGMP 的責任。今年二月，藥物評估和研究中心公布了今年將發布的新版及修訂版指導原則草案清單，其中部分可能會有助於釐清相關規範。人工智慧指導原則的價值將取決於其對人為職責的詳細程度、美國食品藥物管理局對系統驗證的充足性認定，以及美國食品藥物管理局是否會在審查人工智慧製造工具方面扮演更積極的角色。
美國食品藥物管理局可能會嘗試直接監管那些宣稱能符合 CGMP 要求的 AI 產品。歷史上，美國食品藥物管理局曾有極少數案例批准用於確保 CGMP 合規的產品，例如用於藥品和生技製造中細菌內毒素檢測的 Limulus Amebocyte Lysate (LAL) 試劑。儘管製造中使用的工具通常不被視為受監管的藥品或裝置本身，但美國食品藥物管理局並非不可能主張其管轄權。更可能的情境是，美國食品藥物管理局會推出一項自願性計畫，對人工智慧工具進行評估，類似於過去針對藥物開發工具（DDT）資格的自願性計畫。
對於製藥製造業而言，過度依賴人工智慧可能引發與其他產業類似的問題。無論有無人工智慧，藥品都必須依循 CGMP 及《食品、藥品暨化妝品法案》進行生產。CGMP 違規的責任仍歸屬於製造商。