隨著人工智慧日益深入日常生活，其在機器人等實體世界應用面臨嚴峻挑戰。專家指出，現有 AI 系統雖擅長模式識別，卻缺乏對人類行為、情境脈絡的判斷力。為確保機器人在不可預測的環境中安全運作，未來 AI 訓練需更直接地整合人類輸入與判斷邏輯，以提升 AI 在現實世界中的適應性與可信度。
隨著人工智慧（AI）技術日益整合至日常系統，其應用主要仍局限於軟體介面，難以直接影響實體世界。然而，機器人被視為 AI 的新興應用領域，其成果將直接在真實環境中展現，因此，AI 系統需在動態且難以預測的環境中，學習如何適切地與人類互動並安全操作。
報導指出，在實體環境中，AI 輸出錯誤所帶來的影響，遠比在軟體環境中更加立即且嚴重。例如，在照護、物流或公眾互動等情境下運作的機器人，其時機掌握、情境理解及行為舉止皆至關重要。早期的案例顯示，機器人曾出現不穩定的行為，凸顯出某些在特定情境下無害的行為，在其他情境中卻可能構成危險。這是因為真實世界充滿了不完整資訊、多變條件以及不可預測的人類行為，應對這些複雜情境不僅需要預測能力，更需要反映人類對真實世界情境解讀和行動的判斷力。
目前 AI 系統雖擅長模式識別，卻缺乏對「為何特定行動更為合適」的深刻理解。實體環境中的推理形式，鮮少能被傳統 AI 訓練資料完整捕捉。人類決策仰賴情境、經驗以及對結構化資料集中不存在的細微訊號的解讀。因此，僅靠增加資料量或擴大規模，恐難以讓 AI 系統具備真實世界所需的推理能力。
為了讓 AI 在機器人領域能有效且值得信賴，其訓練過程必須納入更直接的人類輸入。這意味著訓練資料應超越靜態數據，涵蓋人類的推理與判斷。Fountech.ai 創辦人兼執行長 Nik Kairinos 認為，AI 系統需要明確學習，人類應在 AI 演進中扮演更積極的角色，而非僅透過數據間接推斷行為。對於在人類環境中運作的系統而言，捕捉「情境中的推理」而非僅是「結果」至關重要，因為在這些環境中，行為的適切性與能力同等重要。AI 機器人當前面臨的挑戰是，確保部署在人類環境中的系統，從一開始就具備適當的判斷力。與人類互動的系統，必須持續符合人類的期望和行為模式，這要求將人類智慧視為與數據、處理能力同等重要的資源。