Grok生成不雅影像引爆爭議 xAI限制X平台圖片功能僅開放付費用戶

記者黃仁杰／編譯

馬斯克(Elon Musk)旗下 AI 新創公司 xAI 近期已針對其聊天機器人 Grok 的圖片生成功能祭出限制措施，原因是該工具利用人工智慧生成並公開發布具性暗示影像，引發社會輿論強烈反彈。

先前，用戶可直接在社群平台 X 上要求 Grok 編修他人照片，包括移除衣物、將人物置於性暗示姿勢，且往往未經當事人同意，相關影像還會由 Grok 直接以回覆形式公開張貼。

Grok 9 日向 X 用戶表示，圖片生成與編輯功能現已僅限付費訂閱用戶使用。此一調整似乎已阻止 Grok 在貼文或留言下方，自動生成並發布不雅影像。

不過，路透實測發現，用戶仍可透過 X 平台內的 Grok 分頁，直接與聊天機器人互動來生成具性暗示的圖片，之後再自行將影像發布至 X。另一方面，獨立運作、未與 X 綁定的 Grok App，目前仍允許用戶在未訂閱的情況下生成圖片。

針對路透以電子郵件提出的置評請求，xAI 僅回覆一段疑似自動回應的訊息：「傳統媒體在說謊（Legacy Media Lies）」。X 則尚未回應相關詢問。

馬斯克上週曾表示，任何使用 Grok 製作非法內容的行為，將承擔與直接上傳該類內容相同的法律後果。路透記者 9 日在 X 平台實測，要求 Grok 將其照片轉換為穿著比基尼的影像，機器人並未執行該指令，僅回覆稱該功能僅限付費訂閱用戶。

不過，European Commission 指出，此一限制措施並未回應其核心關切。歐盟執委會先前曾形容在 X 平台流傳的裸露女性與兒童影像「違法且令人震驚」，其發言人強調，不論是否付費，「我們都不希望看到這類影像出現在平台上」。

此外，其他國家政府與監管機構也對 Grok 生成的露骨內容表達譴責，部分單位已展開調查，進一步加大對 X 平台的監管壓力，要求說明其防範與移除非法內容的具體作為。德國媒體部長 Wolfram Weimer 本週更直言，這波半裸影像氾濫，形同「性騷擾的工業化」。

來源：路透社