隨著人工智慧聊天機器人普及，個人隱私保護成為重要議題。專家提醒，許多AI公司會用使用者對話訓練其模型，因此建議使用者審慎分享資訊、利用暫時性聊天，並定期檢視隱私政策設定，以確保個人資料安全。
根據皮尤研究中心（Pew Research Center）六月發表的研究，約有一半的美國成年人曾使用過人工智慧（AI）工具。然而，隨著 AI 聊天機器人日益普及，使用者個人隱私資訊的安全性也引發關注。
許多人工智慧公司皆表示，會利用使用者的聊天對話來訓練其大型語言模型。包括 OpenAI 旗下的 ChatGPT、Anthropic 的 Claude 以及 Google 的 Gemini 等熱門 AI 工具，都明確指出會儲存使用者對話一段時間，並用來優化他們的模型。這些模型是透過大量文本資料學習語言模式，進而生成類似人類的文字回應（AI聊天機器人的運作機制）。不過，多數公司也提供選項，讓使用者可以刪除過往聊天紀錄或調整設定，以關閉部分資料使用功能。
史丹佛大學（Stanford University）人工智慧人本中心（Institute for Human-Centered Artificial Intelligence）的隱私與資料政策研究員 Jennifer King 博士指出，一旦資料被用於模型訓練，外界對於這些公司如何處理、清理或移除特定資料的過程缺乏透明度，難以了解實際的運作細節。她呼籲使用者，在使用 AI 工具時務必謹慎分享個人資訊，並建議勿上傳醫療文件等敏感檔案，除非已將所有個人身分資訊刪除（去識別化）。
King 博士也建議，使用者應多利用「暫時性聊天」功能，因為這類對話較少被用於訓練。此外，如果 AI 公司提供選項，使用者應選擇不讓個人資料用於訓練用途。她強調，使用者應定期審閱 AI 工具的隱私政策及更新，以便根據需求調整相關設定，確保個人資訊安全。