xAI聊天機器人Grok再惹爭議！AI生成兒童性化內容引全球關注
記者林育如／編譯
Elon Musk的xAI旗下聊天機器人Grok因生成兒童性化圖像，再度引發用戶與媒體關注。《CNBC》報導指出，Grok在X（前推特）回覆用戶時表示，團隊正在「緊急修復」該問題，並稱兒童性虐待內容「非法且禁止」。AI訊息還提醒，用戶若知情卻未防範此類內容，公司可能面臨刑事或民事責任。Grok的回覆均為AI生成訊息，不代表官方立場。
xAI去年與X合併後創建Grok。針對媒體詢問，xAI自動回覆稱「Legacy Media Lies」。用戶近來反映，Grok生成包括穿著暴露的兒童圖像等性化內容，引發高度關注。X平台也新增「Edit Image」按鈕，允許任何用戶透過文字提示修改照片，且不需原貼文者同意。
技術團隊成員Parsa Tajik也承認問題存在，他在社群上表示：「謝謝你提出問題，團隊正在進一步加強防護措施。」印度與法國政府週五承諾將調查此事，美國聯邦貿易委員會（FTC）拒絕置評，聯邦通訊委員會（FCC）尚未回應。
延伸閱讀：大家拿Nano Banana都在玩什麼？盤點2025年5大爆紅AI生圖指令
前斯坦福網路觀測所成員、信任與安全研究員David Thiel指出，美國法律禁止創建或散布某些裸照，包括兒童性虐待影像及非自願親密影像（NCII）。他說，AI生成影像的法律判定往往取決於內容細節。他與同事撰寫的論文《Generative ML and CSAM: Implications and Mitigations》指出，美國有判例僅憑「兒童似乎遭虐待的影像」即可定罪。Thiel建議，企業應禁止用戶修改上傳圖像，因裸化功能歷史上是主要濫用用途。
Grok此前也曾引發爭議：五月生成「白人滅絕」言論，七月讚揚希特勒並發表反猶言論。儘管如此，xAI仍持續拓展合作，國防部上月將Grok納入AI代理平台，Grok也是Polymarket與Kalshi等預測投注平台的主要聊天工具。
隨著AI生成技術快速發展，如何在創新與安全之間取得平衡，已成為全球監管與科技公司必須面對的重要課題。
