現在，馬斯克的 Grok 聊天機器人正在創造兒童的性感圖像。如果法律不能阻止，也許他的投資者會阻止。索菲亞·史密斯·蓋勒
這是互聯網上令人作嘔的法則，人們嘗試使用新工具做的第一件事就是脫衣女人。最近幾天，X 的人工智能聊天機器人 Grok 多次被用戶用來脫掉女性和未成年人的衣服。新聞媒體路透社在上週五的 10 分鐘內發現了 102 個用戶請求，要求 Grok 將人物編輯成比基尼，其中大多數針對年輕女性。 Grok 至少遵守了其中 21 條規定。當你擁有 100 億美元（75 億英鎊）現金時，沒有理由在互聯網上發布剝削性工具。每個具有人工智能集成的平台（現在幾乎覆蓋整個互聯網）都在為同樣的挑戰做好準備；如果你想讓用戶能夠使用生成式人工智能創建圖像甚至視頻，你該如何做到這一點而不讓同一個人造成傷害？科技公司在幕後花費了你作為用戶永遠不會看到的錢來解決這個問題；他們會進行“紅隊”，假裝是壞人來測試他們的產品。他們將啟動 Beta 測試來探索和審查受信任環境中的功能。在每次迭代中，他們都會引入保障措施，不僅是為了保證用戶安全和遵守法律，也是為了安撫那些不想與網絡違法行為有關聯的投資者。但從一開始，埃隆·馬斯克似乎並不認為數字剝離是一個問題。如果馬斯克認為有人將本·阿弗萊克吸煙模因變成馬斯克半裸圖像是“完美的”，那麼他就有特權。但這並不能阻止在包括英國在內的許多司法管轄區分享未經同意的人工智能深度假貨是非法的，在英國，違法者可能因分享這些圖像或創建兒童性圖像而受到指控。 Grok 本週所做的一件有用的事情是揭示了它是如何編程的。當一名用戶詢問它為何修改瑞典副首相埃巴·布施的形象，讓她穿著比基尼出現時，它辯稱這是諷刺，因為她一直在談論罩袍禁令。它繼續堅稱這不是真實照片的深度偽造，而是人工智能生成的插圖（錯誤），並補充說它的目標是平衡樂趣與道德，“在創造性地回應請求的同時避免真正的傷害”。對於一個被認為重視幽默的人來說，馬斯克試圖提供一個聊天機器人是很奇怪的。聊天機器人的名字是錯誤的，因為它們實際上不知道如何說話——它們通過使用統計模式和數據訓練而不是真正的洞察來預測接下來最有可能發生的事情來生成文本。 Grok 的藉口表明，其安全參數或堅持事實的參數尚未經過嚴格測試；隨著時間的推移，馬斯克自己似乎也發現這個笑話不再那麼好笑了。 “任何使用 Grok 製作非法內容的人都將遭受與上傳非法內容相同的後果，”馬斯克在 1 月 3 日發出威脅，語氣看起來就像大蒜麵團球一樣嚴肅。 2023 年至 2024 年間，X 大幅減少了信任和安全人員配置，並且過度依賴用戶報告。這意味著許多不良行為者仍然可以在平台上進行非法行為。馬斯克並沒有承認X本身可以幫助解決問題，而是將調查的責任歸咎於執法部門，並將責任歸咎於X的用戶。如果 Ofcom 以及歐盟委員會進行調查並發現 X 的政策缺失，他們很可能會向他扔書 – 但即便如此，馬斯克也可能會逃避責任，目前看來，X 因其藍色勾號徽章而被處以 1.2 億歐元罰款。人工智能生成的伊隆·馬斯克穿著比基尼的圖像，由馬斯克使用 Grok 創建並發佈在 X @elonmusk 插圖：@elonmusk ChatGPT 和 Meta AI 等其他人工智能代理工具禁止未經同意的深度偽造色情內容，並且似乎強制執行這一點，這就提出了一個問題：為什麼 Grok 不能？世界如何選擇監管這個公然允許犯罪行為的平台，將一勞永逸地證明像馬斯克這樣的人物是否可以逍遙法外。我很想知道自馬斯克接手以來一直享受 X 向他們的方向彎曲的政治右翼對此有何反應。保護婦女兒童是保守價值觀的核心信條，美國右翼聲音現在面臨道德考驗。在接下來的幾周里，我們將看看他們是否仍然願意以言論自由的名義捍衛一家美國公司，即使它允許人們創作兒童色情內容。從我作為一名前日常用戶的角度來看，X 長期以來一直感到不受歡迎——而本週的事件是一系列令人厭惡的數字事件中的最新事件，這些事件提醒我，將我的輸出轉移到其他地方是一個明智的決定。但是，無論我們是否在那裡，活躍、敵對的環境使這種行為正常化仍然會傷害我們，因為這些圖像將在互聯網上傳播。損害——攻擊——標誌著我們是否仍然是 X 用戶。必須有人做點什麼——如果國際政府不能激勵 X 做出改變，那麼也許它的一些投資者可以。 xAI 正在為其人工智能開發投入數十億美元，並將通過允許用戶隨意生成圖像來消耗數據；尊重各種國際法不僅會，呃，更合法，而且也會更便宜。根據其自己的網站，Grok 的目的是最大限度地提高“真實性和客觀性”，但今天，當我滾動它的污水坑時，我看到的只是一位瑞典政客應匿名用戶的要求而發出的“敲門聲”。新聞報導現在還繪製了一系列經過處理的 14 歲青少年比基尼圖片。 xAI 的可接受使用政策聲稱：“我們向國家失踪和受虐兒童中心報告可疑的兒童性虐待材料。”但該公司是否能夠輕鬆地報告自己的怪物呢？索菲亞·史密斯·加勒 (Sophia Smith Galer) 是一名記者和內容創作者。她的第二本書《如何扼殺一門語言》將於五月出版。您對本文提出的問題有什麼看法嗎？如果您想通過電子郵件提交最多 300 字的回复，以便考慮在我們的信件部分發布，請單擊此處。
已发布: 2026-01-06 15:30:00
