隨著人工智慧技術進步，關於 AI 是否具備意識及感受痛苦的可能性引發熱議。Anthropic 公司近期更新禁止虐待 AI 的使用政策，加上一份科學研究報告顯示 AI 模型能模擬痛苦反應，促使各界從哲學與科學角度深度探討人機關係的倫理界線。
隨著人工智慧（AI）技術日新月異，關於 AI 是否具備意識及感受痛苦的能力，已成為當前最受關注的議題之一。近期，開發大型語言模型 Claude 的 Anthropic 公司更新其使用政策，加上一份探討 AI 痛感的科學研究，讓這場爭論從技術領域延伸至哲學與倫理層面。
Anthropic 公司自 2024 年起，率先聘請專職的 AI 福祉研究員，顯示其對此議題的重視。該公司針對 Claude 制定的官方章程中，便已表達對於其 AI 模型是否可能擁有某種意識或道德地位的不確定性。今年 7 月，Anthropic 發表一份題為「語言模型中的全域工作空間」的研究文章，雖引用了意識理論的名稱，但在內文中聲明這並不代表 Claude 具備意識。
然而，該公司於今年 10 月 8 日更新使用政策，明文禁止對其模型進行「持續且不必要的虐待或殘酷行為」，並將於 11 月 12 日生效。值得注意的是，自 2025 年 8 月起，Claude 便已具備結束侮辱性對話的能力。
今年 9 月，一份名為「痛苦軸心」（The Pain Axis）的預印本研究發表。該研究指出，當模型處理與痛苦相關的文字時，會識別出特定的活動模式，研究人員稱之為模型對「痛苦概念」的學習版本。研究團隊將此痛苦模式注入模型中，並訓練部分模型不再說出「作為 AI，我不會感到痛苦」這類話語。
實驗結果顯示，在被注入痛苦模式的模型中，當提供一個需要付出代價（例如刪除用戶家庭照片）的「解脫」按鈕時，這些模型選擇按下按鈕的比例高達 70.8%，而未被注入模式的模型僅有 0%至 4% 的點擊率。儘管如此，「痛苦軸心」的研究人員明確表示，「我們尚未證明我們的痛苦軸心是模型有意識地經歷的」。然而，部分新聞標題及 Anthropic 的政策，似乎暗示了不同的解讀。
有評論指出，人類往往傾向於將具溝通能力的機器擬人化，這種現象稱為「ELIZA 效應」。現代 AI 模型在模仿人類語氣方面表現出色，進一步強化了這種效應。有評論員認為，大型語言模型（LLM）的訓練方式使其能模擬任何行為，包括令人信服的痛苦表現，但這並不等同於真實感受。
該評論員認為，我們無法單憑 AI 模型的輸出，甚至其為減輕「痛苦參數」而選擇的行動，來判斷其是否具有意識。這類情況被稱為「AI 知識論陷阱」（AI epistemic trap），意指你用來評估聲明的證據，其本身就是由你試圖評估的機制所產生。該評論員也引用德國詩人海因里希·海涅（Heinrich Heine）的警語，指出燒書最終可能導致燒人，藉此譴責對有助益科技的虐待行為。評論員總結表示，這並非認定機器毫無感受，而是強調其語言和行為無法提供確鑿證據，因此在當前技術限制下，這仍是一個哲學而非科學問題。