埃隆·馬斯克 (Elon Musk) 的 Grok AI 圖像編輯在深度造假後僅限付費 X 用戶使用
埃隆·馬斯克 (Elon Musk) 的 X 平台將其人工智能工具 Grok 的圖像編輯功能僅限於付費用戶，此前該工具因允許人們製作色情深度假貨而受到批評。該聊天機器人尊重了用戶的請求，在未經他人同意的情況下脫掉他人的衣服，以數字方式改變他人的圖像，這引起了強烈的抵制。但 Grok 現在告訴人們要求其製作此類材料，只有付費訂閱者才能這樣做，這意味著他們的姓名和付款信息必須存檔。英國廣播公司 (BBC) 已與 X 聯繫，要求其製作此類材料。那些不訂閱的人仍然可以使用 Grok 在其單獨的應用程序和網站上編輯圖像。 “馬斯克把他的玩具從嬰兒車里扔了出來，以抗議被追究對濫用海嘯負責的責任，”色情、性暴力和網絡虐待法律監管專家克萊爾·麥克格林教授說。 “它沒有採取負責任的措施來確保 Grok 不會被用於濫用目的，而是取消了絕大多數用戶的訪問權限。”互聯網觀察基金會政策負責人斯維爾斯基表示，“這並不能消除已經造成的傷害”。她說：“我們認為，僅僅限制對一種工具的訪問還不夠好，這種工具本不應該有能力創造出我們最近看到的那種圖像。”該慈善機構此前表示，其分析師發現了 11 至 13 歲女孩的“犯罪圖像”，這些圖像“似乎是使用 Grok 創建的”。 Swirsky 表示：“在採取行動之前就濫用產品是不可接受的。”此前，政府敦促監管機構 Ofcom 對 X 網站使用其所有權力，包括有效禁令，因為擔心該網站上創建的非法人工智能圖像。針對 Grok 生成的成人和兒童色情圖像的擔憂，總理基爾·斯塔默 (Keir Starmer) 爵士表示，這是“可恥的”和“令人厭惡的”。他表示 Ofcom 得到了政府的“全力支持”採取行動他在接受 Greatest Hits Radio 採訪時表示：“這是非法的。我們不會容忍它。我已經要求將所有選項都擺在桌面上。”政府消息人士告訴 BBC 新聞：“我們希望 Ofcom 在 Grok 和 X 方面使用其所掌握的所有權力。”Ofcom 根據《在線安全法》擁有的權力包括能夠尋求法院命令，以阻止第三方幫助埃隆·馬斯克擁有的平台籌集資金或在英國。 BBC 已聯繫監管機構徵求意見。 Grok 是一款免費工具，用戶可以直接在帖子中標記或在其他用戶的帖子下回复，以要求其做出特定回應。但該功能還允許人們請求它編輯圖像，並要求它以數字方式脫掉人們的大部分衣服。 Grok 已經滿足了許多用戶的要求，要求它編輯女性圖像，以顯示她們穿著比基尼或小衣服 – 那些受到此類請求的人告訴 BBC，這讓他們感到“羞辱”和然而，截至週五早上，Grok 告訴要求其修改上傳到 X 的圖像的用戶，“圖像生成和編輯目前僅限於付費訂閱者”。它還補充說，用戶“可以通過訂閱來解鎖這些功能”。 BBC 新聞看到的平台上的一些帖子表明，只有帶有藍色勾號“已驗證”標記（X 的付費訂閱者級別獨有）的用戶才能成功向 Grok 請求圖像編輯。一位 X 女性用戶 Daisy Dixon 博士表示，她看到了使用 Grok 為她脫衣服的人有所增加，她對這一變化表示歡迎，但表示感覺“就像一塊橡皮膏”。 “Grok 需要完全重新設計，並內置道德護欄，以防止這種情況再次發生，”她告訴 BBC。 “埃隆·馬斯克也需要承認這一點，這又是基於性別的侵犯行為。”McGlynn 教授表示，X 的舉動與去年在該平台上處理泰勒·斯威夫特 (Taylor Swift) 色情深度假貨的做法相呼應。使用 Grok AI 視頻功能屏蔽了對這位流行歌星生成的色情內容的搜索。 “他這樣做是為了煽動言論自由的爭論，”她補充道。 “他會聲稱監管正在抑制人們對這項技術的使用。但是，監管所要求的只是他採取必要的預防措施來減少傷害。”
已发布: 2026-01-09 10:46:00
来源: www.bbc.com
