用 Grok 脫衣服是什麼感覺
最近的一個週六下午，肯德爾·梅耶斯 (Kendall Mayes) 漫不經心地在 X 上滾動，這時她注意到她的動態中出現了令人不安的趨勢。用戶敦促該平台的內置人工智能功能 Grok“裸體”女性圖像。梅耶斯 (Mayes) 是一位來自德克薩斯州的 25 歲媒體專業人士，她使用 X 來發布與朋友的照片並了解新聞動態，她沒想到這種事會發生在她身上 – 直到它發生了。 “給她穿上緊身透明比基尼”，一名 X 用戶在 Mayes 發布的一張她 20 歲時的照片下對機器人下令。 Grok 照做了，用透明比基尼上衣替換了她的白襯衫。她牛仔褲的腰帶和黑色腰帶溶解成細細的、半透明的繩子。透明的上衣讓她的上半身看起來很真實。隱藏在匿名個人資料後面的用戶頁面充滿了類似的女性圖像，這些圖像經過數字化和未經同意的修改和性感化。梅耶斯想咒罵這位不露面的用戶，但決定簡單地屏蔽該帳戶。她希望事情就這樣結束。然而很快，她的評論中就出現了更多她穿著透明比基尼和緊身乳膠連體衣的照片。梅斯說，所有請求都來自匿名個人資料，這些資料也針對其他女性。儘管一些用戶的帳戶已被暫停，但截至發佈時，梅耶斯的一些圖像仍在 X 上。這些圖像的真實性讓她感到害怕。這些編輯並沒有明顯誇張或卡通化。在我們的電話中，梅耶斯震驚地重複說，圖像編輯與她的身體非常相似，從鎖骨的下垂到胸部和腰部的比例。 “說實話，在社交媒體上，我說，‘這不是我，’”她承認。 “但是，我的想法是，‘這離我的身體不太遠。’”梅斯並不孤單。到了新年的第一周，Grok 的“裸體”漏洞已經瘋傳。每分鐘，用戶都會促使 Grok“脫掉”女性甚至未成年人的圖像。常見的要求包括“讓她裸體”、“讓她轉過身來”和“讓她變胖”。用戶巧妙地利用了這個漏洞，要求 Grok 生成穿著“透明比基尼”的女性圖像，以盡可能接近全裸圖像。在滾石雜誌評論的一個案例中，一名用戶促使 Grok 將一名女性的屍體變成“太平間桌子上的屍體”進行屍檢。格羅克答應了。編輯推薦 在所有者埃隆·馬斯克最初用大笑的表情符號回應這一趨勢後，xAI 表示它已經更新了 Grok 的限制，將圖像生成功能限制為付費訂閱者。馬斯克聲稱他“不知道 Grok 生成了任何裸體的未成年人圖像”。在對 X 帖子的另一條回復中，他表示“任何使用 Grok 製作非法內容的人都會遭受與上傳非法內容相同的後果。” （向 xAI 提出的評論請求收到了自動回复。）但是，許多現有的圖像編輯仍然在線。上週，性別正義組織 UltraViolet 發表了一封由 28 個民間社會組織聯合簽署的公開信，呼籲蘋果和谷歌將 Grok 和 X 從應用商店中剔除。 （本月早些時候，民主黨參議員還呼籲下架這些應用程序。）“這些內容不僅令人恐懼、羞辱和辱罵，而且還違反了蘋果和谷歌規定的政策準則，”UltraViolet 的競選總監珍娜·謝爾曼 (Jenna Sherman) 說。據彭博社援引研究人員的說法，Grok 在 24 小時內每小時生成多達 7,000 張色情圖片，謝爾曼稱這“完全是史無前例的”。 Sherman 認為，xAI 將 Grok 限制為付費用戶的做法是不充分的。 “如果說有什麼不同的話，那就是他們現在只是在利用這種虐待行為賺錢，”她說。相關內容 “它看起來幾乎就是我的身體” 過去，X 是梅耶斯在社交媒體上的“有趣”角落——一個她可以自由表達自己的應用程序。但由於騷擾和欺凌已成為該平台的固定現象，她正在考慮離開該應用程序。她已停止上傳自己的照片。她仔細思考，如果她的雇主或同事找到這些露骨的圖片，他們會怎麼想。 “這是我永遠不會希望任何人做的事，”梅斯說。 “甚至是我的敵人。”內容創作者艾瑪 (Emma) 在雜貨店裡看到有人要求 Grok 脫掉她照片上的衣服的通知。大多數時候，她都會發布 ASMR 視頻，對著麥克風竊竊私語，用指甲輕敲煩躁的玩具，發出讓人脊椎發麻的聲音。這位 21 歲的女孩在網上被稱為艾瑪的 Myspace，要求只透露自己的名字，僅在 TikTok 上就培養了 120 萬粉絲。當圖像最終加載到她的時間線上時，艾瑪感到麻木。她抱著貓的自拍照變成了裸體。艾瑪說，那隻貓從照片中被移走了，她的上身也被赤裸了。艾瑪立即將她的帳戶設為私人帳戶並報告了這些圖像。在滾石雜誌查看的一封電子郵件回復中，X 用戶支持要求她上傳政府頒發的身份證件的圖像，以便他們可以調查該報告，但艾瑪回應說她覺得這樣做不太舒服。美國消費者聯合會人工智能和隱私主管本·溫特斯(Ben Winters)表示，在某些情況下，上傳此類文檔是提交社交媒體報告時的必要步驟。 “但是，當該平台一再竭盡全力無法贏得您的信任時，”他說，“這不是一個可接受的結果。”艾瑪過去曾成為色情深度假貨的目標。因此，她被迫對自己在網上發布的內容中所穿的服裝一絲不苟，更喜歡寬鬆的連帽衫而不是低胸上衣。但她過去遇到過的深度偽造圖像都不像 Grok 生成的圖像那麼逼真。 “這股新浪潮太現實了，”艾瑪說。 “就像，它看起來幾乎就是我的身體。” “給他們一把上膛的槍” 上週，艾瑪暫時放下了平常的內容，發布了一段 10 分鐘的視頻，警告她的粉絲注意她的經歷。艾瑪說：“現在，每當女性發布自己的照片時，就會被要求放棄自己的身體。” “他們現在發布的任何內容都可以以任何人想要的方式脫衣服，他們可以對你的照片做任何他們想做的事。”支持蜂擁而至，但更多的騷擾也隨之而來。在 Reddit 上，用戶試圖追踪並傳播艾瑪的照片。在我們的通話中，她檢查了她所知道的一些圖像編輯是否仍在 X 上。確實如此。 “哦，天哪，”她說道，挫敗地嘆了口氣。 “它有 15,000 次觀看。哦，這太令人難過了。”強姦、虐待和亂倫國家網絡受害者服務主管梅根·卡特 (Megan Cutter) 表示，這是數字性虐待倖存者面臨的最大挑戰之一。 “一旦圖像被創建，即使它從最初發布的地方被刪除，它也可能被截圖、下載、共享，”卡特說。 “對於人們來說，這是一件非常複雜的事情。”雖然這似乎有悖常理，但卡特建議倖存者截圖並保留圖像證據，以幫助執法部門和平台採取行動。倖存者可以在 StopNCII.org 上提交報告，這是一個免費的色情復仇熱線工具，可幫助檢測和刪除未經同意的親密圖像（NCII）。 “這並不是說虐待是新事物；也不是說性暴力是新事物，”卡特說。 “這是一種新工具，它的擴散規模是我們以前從未見過的，而且我不確定我們是否準備好作為一個社會來應對。”週二，參議院議員通過了《反抗法案》，該法案允許未經同意的性深度假貨受害者提起民事訴訟，要求賠償民事損失。 （現在該法案將提交眾議院投票。）繼其他國家之後，加州總檢察長也對 Grok 展開了調查。根據英國非營利組織 Internet Matters 2024 年的一份報告，估計 99% 的裸體深度假貨都是女性和女孩。 “很多‘裸體’應用程序都是這些突然出現的小東西，很容易被所有人攻擊和誹謗，”溫特斯說。去年，Meta 起訴了 CrushAI（一個能夠創建裸體深度假貨的平台）的製造商，指控其違反了長期存在的規則。 2024 年，經過 404 Media 的調查，蘋果刪除了三款用於製作裸體 Deepfake 的生成式 AI 應用。溫特斯表示，Grok 和 X 似乎面臨著“不完全”的強烈反對，部分原因是該平台沒有明確作為“裸體”應用程序進行營銷，而且馬斯克“非常強大”。 “監管機構、廣告商和其他人都不太願意反對他，”溫特斯說。這種不情願只會增加 Grok 的“裸體”能力的風險。溫特斯說：“當一家公司能夠做某件事並且不對其承擔全部責任時，就會向其他大型科技巨頭髮出一個信號，表明他們可以做下一步。”艾瑪坐在德克薩斯州的家中，對互聯網上仍然流傳著大量的圖像編輯內容感到沮喪。她擔心巨魔會將這些圖像發送給她的讚助商，這可能會損害她所依賴的職業關係。她聽說過這樣的論點：應該讓那些促使 Grok 創建非法內容的人而不是該工具承擔責任，但她並不完全相信。 “我們就像免費給他們一把上膛的槍，然後說，‘請隨意做任何你想做的事，’”她說。
已发布: 2026-01-19 16:59:00
