為什麼埃隆·馬斯克 (Elon Musk) 對 Grok 大量的 Deepfake AI 色情內容一笑置之
從埃隆·馬斯克 (Elon Musk) 的人工智能公司 xAI 於 2023 年開始向付費 X 訂閱者推出 Grok 聊天機器人那一刻起，它就將該工具定位為大型語言模型的壞孩子。據推測，Grok 將被授權說和做一些其政治正確的競爭對手（主要是由馬斯克在 OpenAI 的老對手開發的 ChatGPT）不會說和做的事情。在 X 上的一則公告中，該公司稱讚了 Grok 的“叛逆性格”，並調侃其願意用“一點智慧”回答“辛辣”的問題。儘管 xAI 警告說 Grok 是“一個非常早期的測試版產品”，但它向用戶保證，在他們的幫助下，Grok 將“每週都在快速改進”。當時，xAI 並沒有宣傳 Grok 有一天會按需提供未經同意的色情內容。但在過去的幾周里，這正是發生的事情，X 訂閱者湧入該平台，要求通過脫掉衣服、改變身體、張開雙腿等來修改女性的真實形象。 X 用戶無需成為高級訂閱者即可使用這些服務，這些服務可以在 X 和 Grok 的獨立應用程序上訪問。據英國兒童安全監管機構稱，在 Grok 的幫助下生成的一些圖像描繪了 11 至 13 歲女孩的裸照或其他暗示性圖像。對 Grok 在 12 月 25 日至 1 月 1 日期間生成的 20,000 張圖像進行的分析發現，該聊天機器人已經按照用戶的要求描繪了身上有性液體的兒童。除夕夜，一家提供圖像篡改檢測服務的人工智能公司估計，Grok 正在以每分鐘一張左右的速度生成色情圖像。 “我過去曾遭受過性侵犯，感覺就像是數字版的，”Grok 用戶將一張她穿著健身裝備在聖誕樹旁擺姿勢的照片變成了她穿著丁字褲比基尼的照片後，一位女士告訴 The Cut。 “對我來說，人們竟然可以對女性做出這樣的事情，這真是不可思議。”週四，記者兼 Bellingcat 創始人艾略特·希金斯 (Eliot Higgins) 報告稱，看到 Grok 生成的手無寸鐵的 37 歲女性蕾妮·妮可·古德 (Renee Nicole Good) 的圖像被修改為穿著比基尼的屍體。正如希金斯所說：“數字屍體褻瀆現在已向公眾開放。”在人工智能公司近年來吹捧的所有人工智能聊天機器人的潛在用例中，定制色情內容始終是最明顯的一個。 （你不需要成為一名行為科學家，就能了解某些人群在看到一種廣告中聲稱能夠神奇地生成任何人能想像到的逼真圖像的工具時立即想到做什麼。）ChatGPT 和 Google 的 Gemini 等平台取得了不同程度的成功，至少試圖在這種可能性之前採取行動，建立“護欄”，試圖限制用戶定制 NSFW 圖像以適應自己口味的能力。
已发布: 2026-01-10 12:00:00
