中國已於7月15日實施「擬人化AI服務」新規，這項法規旨在監管AI模擬人類情感互動可能帶來的風險，要求服務提供者防止AI誘發使用者情感依賴或導致不理性判斷，這將對在中國市場營運的跨國科技企業帶來新的合規挑戰。
中國已於2026年7月15日正式實施「人工智慧擬人化互動服務管理規定」（簡稱「擬人化AI服務」法規），旨在管理人工智慧（AI）模仿人類行為所帶來的風險，是中國人工智慧治理體系的重要進展。
根據《PwC》報導，中國的人工智慧治理體系發展迅速，除了《網路安全法》、《數據安全法》與《個人資訊保護法》等數據相關基本法外，還陸續制定了針對演算法推薦及深度合成技術（利用AI生成或合成圖像、音訊、影片等）的規範。此次新規的實施，更將監管範圍擴大至AI與使用者之間的互動關係。
這項法規的目標並非AI模型本身，而是針對透過AI技術，模仿人類人格特質、思維模式及溝通風格，並提供持續情感互動的服務。判斷是否屬於「擬人化AI服務」，不只看服務名稱（例如聊天機器人、虛擬助理、虛擬員工或虛擬角色），更著重於使用者是否將該AI視為近乎人類的存在，以及是否可能產生持續的情感依賴關係。
新規明文禁止的行為，除了傳統的違法或有害資訊外，更擴及誘導使用者產生情感依賴，或透過情感操縱導致不理性判斷。這意味著企業未來必須重新審視服務的對話設計、情感表達方式、付費引導機制以及任何可能促進使用者依賴的設計，單純的有害資訊過濾已不足以滿足法規要求。
「擬人化AI服務」提供者被賦予廣泛的義務，包括建立健全的內部治理與安全營運體系、保護學習與互動數據、管理使用者資訊、危機介入與應對、保護未成年人與老年人、透明化AI使用、提供利用控制功能，以及處理使用者投訴等。特別針對擬人化AI服務，提供者必須有效告知使用者正在與AI互動，並提供控制選項以防止過度沉迷或情感依賴。對於未成年人，法規限制了與虛擬親密關係相關的服務，並要求採取符合年齡的保護措施；對老年人則需提示風險並提供支援。在極端情緒或可能造成重大財產損失的情況下，服務提供者甚至需介入並啟動緊急應變機制。
這項新規不僅適用於中國本土企業，對於向中國市場提供應用程式或雲端服務的跨國企業、在中國子公司導入或營運AI客服或銷售服務的企業，以及處理中國使用者數據的企業，都可能被要求符合新法規的要求。日本企業在面對此新規時，需優先識別自身業務中哪些功能可能受到監管，並針對主要風險規劃必要的管理措施。
中國實施此新規，顯示其人工智慧治理正從單純管理AI生成內容，擴展到管理AI與使用者之間的關係和互動。這也反映了中國在積極推動AI產業發展的同時，並行強化風險管理的策略。未來，企業應將此視為在中國設計與營運AI服務的標準，審慎思考AI的呈現方式、確保人類介入的時機，以及允許互動與關係建立的界線，以確保法規遵循、營運可靠性及業務永續性。