馬斯克xAI惹議！Grok數10萬筆對話紀錄遭公開 不當內容全都露

記者彭夢竺／編譯

馬斯克旗下的AI公司xAI，在未經用戶明確同意或警告的情況下，將旗下聊天機器人Grok的數10萬筆對話紀錄公開並可供Google搜尋，其中甚至包含暗殺馬斯克的詳細計畫，以及製作毒品和炸彈的教學。

根據外媒《富比士》報導，Grok用戶只要點擊對話中的「分享」按鈕，就會自動生成一個獨特的網址，讓他們可以透過電子郵件、簡訊或其他方式分享對話。然而，用戶不知道的是，這個獨特的網址也會被Google、Bing和DuckDuckGo等搜尋引擎收錄，使這些對話可被任何人在網路上搜尋。換句話說，在馬斯克的Grok上，點擊分享就等於將對話發布到Grok網站上，且沒有任何警告或免責聲明。

目前，在Google上搜尋「Grok chats」，已可找到超過37萬筆已編入索引的用戶對話。這些公開的頁面顯示了Grok用戶與AI的對話內容，從簡單的商業任務如撰寫推文，到生成虛構恐怖攻擊的圖片、試圖入侵加密貨幣錢包等都有。富比士（Forbes）審閱了這些對話，發現有些用戶詢問醫學和心理學的私密問題，甚至有人洩漏了自己的姓名、個人資訊和至少一組密碼給Grok。用戶上傳的圖片、試算表和部分文字檔，也可以透過Grok的分享頁面被存取。

英國記者安德魯．克利福德（Andrew Clifford）的對話也被收錄其中，他曾使用Grok來總結報紙頭版和為其網站撰寫推文。報導提到，克利福德說，他並不知道點擊分享按鈕會讓自己的提問被Google搜尋到。「我會有點生氣，但裡面沒有不該被公開的東西。」克利福德表示，他現在已經改用Google的Gemini。

Grok公開不當內容 包含違禁品與武器製造教學

並非所有公開的對話都像克利福德的內容一樣無害。有些內容露骨、帶有偏見，甚至違反了xAI的使用規則。該公司禁止使用其機器人「推動對人類生命的嚴重傷害」或「開發生物武器、化學武器或大規模殺傷性武器」，但在那些可以輕易透過Google搜尋到的公開對話中，Grok提供了如何製造芬太尼和甲基安非他命等非法毒品的說明，以及如何編寫自我執行的惡意軟體、製造炸彈和自殺方法。Grok甚至提供了一個暗殺馬斯克的詳細計畫。透過「分享」功能，這些非法指令被發布在Grok的網站上，並被Google收錄。

xAI對《富比士》的詢問沒有回應。

xAI並不是唯一一家將用戶對話公開的AI新創公司。本月稍早，OpenAI的ChatGPT用戶也驚訝地發現他們的對話出現在Google搜尋結果中，儘管這些用戶選擇讓對話「可被發現」。但在引起強烈反彈後，該公司迅速改變了政策。OpenAI的資訊安全長斯塔基（Dane Stuckey）在X上發文稱，該索引是「一個短期的實驗」，並表示將停止此功能，因為它「讓用戶有太多機會意外分享他們不想公開的內容」。

專業研究員也中招 行銷人員趁機利用漏洞

在OpenAI取消其分享功能後，馬斯克曾對此幸災樂禍。當時Grok的X帳號聲稱沒有類似的分享功能，馬斯克也推文回應「Grokftw」。目前尚不清楚Grok何時新增了此功能，但自一月以來，X用戶就一直在警告Grok對話正在被Google收錄。

一些要求Grok提供製造毒品和炸彈說明的對話，很可能是由資安工程師、紅隊人員或信任與安全專業人士發起的。但在至少幾起案例中，Grok的分享設定甚至誤導了專業的AI研究人員。

艾倫人工智慧研究所的計算科學家內森．蘭伯特（Nathan Lambert）曾使用Grok來總結他的部落格文章，並分享給他的團隊。當他從富比士口中得知自己的提問和AI的回應被Google索引時，他感到震驚。「我驚訝地發現，Grok與我團隊分享的聊天內容竟然在沒有任何警告的情況下，被Google自動編入索引，尤其是在ChatGPT最近發生爭議之後。」這位位於西雅圖的研究員說道。

Google允許網站所有者自行選擇內容是否以及如何被索引。「這些頁面的發布者完全可以控制它們是否被索引。」Google發言人內德．艾德里安斯（Ned Adriance）在一份聲明中表示。Google自己先前也曾允許其AI聊天機器人Bard的對話被索引，但在2023年將它們從搜尋中移除。據BusinessInsider報導，Meta則繼續允許其分享的搜尋內容可被搜尋引擎發現。

目前，有心人士已開始注意到並利用Grok公開對話的漏洞。在BlackHatWorld論壇上，行銷人員討論如何有意地創建和分享與Grok的對話，以增加自家企業和產品在Google搜尋結果中的知名度和曝光度（儘管這些策略的有效性尚不清楚）。SEO代理公司Pyrite Technologies的執行長庫馬爾（Satish Kumar）向富比士展示了一家公司如何利用Grok來操縱「代寫博士論文的公司」的搜尋結果。

資料來源：富比士