隨著人工智慧（AI）技術，特別是大型語言模型，以超乎人類理解的速度發展，研究人員正為其複雜的「黑盒子」運作模式感到憂心，並警告人類理解 AI 心智的機會正迅速流失。
人工智慧（AI）技術的快速進展，已使其運作方式變得日益複雜且難以捉摸，引發研究人員的憂慮。即便經過多年投入「可解釋人工智慧」的研究，當前最先進的 AI 系統仍大多像個「黑盒子」，科學家們只能觀察其結果，卻無法完全解釋這些系統是如何得出結論，也難以預測何時會出錯。
隨著大型語言模型（LLM，聊天機器人背後的演算法引擎）日益普及於社會各層面，許多研究人員警示，人類理解 AI「心智」的機會正迅速流失，儘管這項技術的影響力持續擴大。目前的 AI 工具已在形塑人們搜尋資訊、做出決策及判斷的方式，其產生的答案深刻影響著日常用戶及開發人員。
LLM 建立在類神經網路（人工神經元組成的複雜架構）之上，特別是採用了一種名為「轉換器」（transformer）的設計。這些網路受到人腦的啟發，將大量數據透過多層運算處理，最終產生文字或程式碼等輸出。其中，「自我注意力」（self-attention）是轉換器背後的關鍵創新，它讓 AI 能在不同時間點選擇性地聚焦於文字、圖像、聲音或影像片段，進而提升效率與效能。然而，這些完成後的演算法內部運作機制仍舊隱晦難解。
為了揭開 AI 的「黑盒子」，各界研究人員正採取多種途徑。例如，Anthropic 公司正引領「機械可解釋性」（mechanistic interpretability）領域，其研究人員已能將演算法活動模式與特定概念連結，並反向工程部分類神經網路，以揭示內部運算如何影響輸出。OpenAI 則訓練 AI 以更具解釋性的步驟運作，並建構能夠暫停、思考並以淺白語言解釋結論的推理模型。Google Brain 借用認知心理學的方法來研究 AI 行為，而 DeepMind 則在開發類似顯微鏡的工具，幫助研究人員深入觀察 AI 的決策過程。此外，微軟（Microsoft）也發布了旨在負責任使用 AI 的新工具。
儘管有這些努力，埃裡克·霍維茨（Eric Horvitz）和羅伯特·韋斯特（Robert West）等研究人員強調，AI 能力的進展速度可能已超越人類解釋其能力的極限。他們指出，理解 AI 不一定需要追溯每一行程式碼或每一個類神經網路參數，就像神經科學、心理學和社會學為理解人類行為提供了不同視角一樣，AI 也可以從不同層面來研究。但研究指出，「保持人類主導權仍須是核心目標」，並警示時間所剩無幾。