截至2025年上半年，Meta（原臉書母公司）已刪除超過1,000萬個冒用知名創作者的假帳號，Meta表示，這些帳號大多假冒大型內容製作者，利用AI工具快速製作影片、圖片與貼文，進而透過平台演算法尋求流量與廣告分潤，嚴重影響Facebook貼文流量排序的品質與用戶體驗。
面對生成式AI內容氾濫與不當濫用情況加劇，Meta（臉書母公司）宣布，截至2025年上半年已刪除超過1,000萬個冒用知名創作者的假帳號，並處置近50萬個涉及不實互動與垃圾內容的帳號，以維護社群內容真實性。
Meta表示，這些帳號大多假冒大型內容製作者，利用AI工具快速製作影片、圖片與貼文，進而透過平台演算法尋求流量與廣告分潤，嚴重影響Facebook貼文流量排序的品質與用戶體驗。
Meta指出，除了帳號移除與內容降權，平台將加強打擊「非原創內容」（unoriginal content），包括未經授權重製的影片與圖片，將透過AI辨識技術主動偵測重複素材，並降低其曝光量與變現能力。
Meta在部落格文章中表示：「我們致力於將平台打造成創作者能發光發熱的地方，而非鼓勵機器產製大量重複的『內容農場』」。同時，Meta 也透露，未來將進一步調整演算法，優先推播原創貼文與具高度互動價值的創作，鼓勵創作者提升作品品質。
Meta執行長祖克柏（Mark Zuckerberg）同步宣布，將投入數千億美元打造AI超級運算叢集，預計於2026年上線，以支援公司未來各項AI計畫，從內容審查到 AI 助理服務皆涵蓋在內。此舉顯示，儘管Meta高度依賴AI技術，但對「AI內容濫用」所帶來的破壞性後果，也已展開系統性防禦。
另一方面，Google旗下的YouTube也在本月宣布更新創作者變現政策，凡屬大量重製、重複、無實質創新內容的影片，即日起將失去獲利資格。此舉被部分創作者誤解為封殺AI，YouTube隨後澄清：「我們歡迎AI作為創意輔助工具，但拒絕低質複製內容賺錢。」
隨著生成式AI技術門檻下降，社群平台正面臨前所未見的「資訊灌水」亂象。Meta與YouTube的新措施顯示，未來創作者若未強調原創性與創意，將面臨流量與營收大幅下滑。平台與內容產業間的平衡遊戲，正進入新一輪「AI審美疲勞」與「信任重建」之戰。