綜合外媒報導，日前有大量用戶回報，馬斯克旗下xAI公司打造的AI聊天機器人Grok對多則毫不相關的貼文，自動回覆有關南非「白人滅絕」與種族衝突等言論，甚至未經詢問也主動推送爭議性資訊，凸顯出生成式AI審查機制的重大缺失。
全球富豪馬斯克旗下xAI公司打造的AI聊天機器人Grok，近日遭網友在社群平台X（前Twitter）上爆料出現嚴重錯誤行為，引發用戶震驚與不安。綜合外媒報導，日前有大量用戶回報，Grok對多則毫不相關的貼文，會自動回覆有關南非「白人滅絕」與種族衝突等言論，甚至未經詢問也主動推送爭議性資訊，凸顯出生成式AI審查機制的重大缺失。
這次異常源自X平台上的@grok帳號，該帳號會在用戶標註後自動生成回覆；例如，當用戶詢問有關職業棒球選手薪資、甚至一些不相干的問題時，Grok會反覆提及南非反種族隔離口號「Kill the Boer」及「白人滅絕爭議」等回應，令不少用戶相當錯愕。
目前xAI尚未對此異常發表正式說明，但這並非Grok首次因回復內容爭議引發各界譁然。今年2月，Grok曾短暫封鎖對馬斯克與美國總統川普的負面評論，引起外界質疑Grok是否遭內部操控。xAI工程主管Igor Babuschkin當時雖坦承曾下達相關指令，但事後又火速撤回。
Grok事件再度凸顯生成式AI模型在即時內容監控、偏差排除與政治中立等各方面的挑戰，尤其在AI被用於公開社群平台進行即時互動時，更容易成為錯誤資訊或仇恨言論的傳播溫床。
事實上，近期包括OpenAI與Google都曾因旗下聊天機器人「回覆異常」引發爭議，例如：OpenAI的ChatGPT曾因過度討好用戶而被迫修正，Gemini則因拒答政治議題或提供某些資訊飽受批評。業界普遍認為，在AI模型加速商品化之際，「過快上線、來不及審核」都是科技大廠急需正視的漏洞。
資安公司CalypsoAI技術長James White分析指出，「現今AI模型雖更強大，卻也更容易被誘導進行不當對話」，這意味著技術演進未必等於風險下降，反而更容易增加系統被操弄的風險。目前Grok已恢復正常回覆，但這起事件對xAI聲譽造成不小打擊，也再度引發各界對馬斯克將AI整合至社群媒體的策略是否過於「冒進」的質疑。
