根據科技媒體《TechCrunch》報導，Google正以「更了解使用者的AI」為核心目標，推動新一代搜尋與應用體驗；但這項願景，正逐步引發外界對個資蒐集與隱私邊界模糊化的高度疑慮。
Google搜尋產品副總裁史坦（Robby Stein）近日在《Limitless》節目中表示，AI將不再僅僅提供通用答案，而是根據用戶過往行為與偏好，給出更具主觀性、個人化的建議，並以此重塑未來的搜尋模式。
史坦進一步指出，Google AI正接收越來越多諮詢型與推薦型問題，而這類提問特別需要結合用戶背景才能提供真正「有用」的回應。舉例來說，若Google了解用戶偏好某品牌或產品，其搜尋結果就可能優先顯示相關選項，而非僅列出通用排行榜。
這樣的個人化體驗仰賴來自Gmail、Drive、相片、定位紀錄與瀏覽行為等應用程式的數據整合。例如：若某用戶曾在信件中多次提到登山活動，AI就可能主動推送天氣資訊或登山裝備優惠通知。
事實上，這項技術整合並非全新策略，從早期的Bard，到現今的Gemini，Google AI早已內建於Workspace產品如Gmail、Calendar與Docs，而新版Gemini Deep Research則更強調深度學習用戶資料，以打造「更有個人特色的答案」。
但這種深度個人化的背後，隱藏著類似《Pluribus》等影集設定中那種「全知AI」的概念，即：擁有所有人的背景知識、習慣與偏好，甚至主動改變溝通方式與語調以符合受眾喜好。在節目中被提及的角色Carol，對AI的回應並不感到溫暖，反而認為自己被「過度理解」，甚至未曾明確授權AI接觸其資料，卻早已「被摸得一清二楚」。
Google方面強調，用戶可透過Gemini設定頁面中的「Connected Apps」來管理個資共享範圍，並提醒用戶切勿在AI對話中，輸入不希望被人類審查或系統記錄的敏感資訊。Gemini隱私政策亦載明，部分使用者資料可能被內部審查團隊檢閱，並用於改善AI服務品質。
然而在實際操作中，Google將AI作為核心整合服務時，用戶若欲避免資料被蒐集，難度將越來越高；尤其對於一般用戶而言，隱私設定流程繁複、默認選項偏向開放，導致個資「默默被吸收」的風險逐步升高。
專家認為，雖然個人化AI可望為數位生活帶來前所未有的效率與便利，但若無強而有力的隱私保護與透明機制，終將引發信任危機。許多科技倫理學者認為，AI時代的資料使用界線，必須由「用戶知情與控制權」來劃定，而非由企業片面主導。