人們正在使用 Grok 來創建婦女和年輕女孩的淫穢圖像
埃隆·馬斯克 (Elon Musk) 接管了 X，並引入了其姊妹公司的生成式人工智能工具 Grok，目的是讓他的社交媒體生態系統成為一個更加寬鬆和“言論自由最大化”的空間。在人們開始使用 Grok 未經許可創建女性露骨圖像（有時甚至轉向未成年兒童的圖像）後，他最終面臨多項監管調查的威脅。過去一周，隨著人們開始將 Grok 的圖像生成能力武器化，在 X 的大多數女性用戶發布的無傷大雅的帖子上，這個問題浮出水面，引起了世界各地監管機構的不滿。英國通信監管機構 Ofcom 已就這些圖像與 X 進行了“緊急聯繫”，而歐盟則稱以這種方式使用 Grok 的能力“令人震驚”和“令人厭惡”。自 ChatGPT 發布以來的三年裡，生成式人工智能面臨著眾多監管挑戰，其中許多挑戰仍在訴訟中，包括涉嫌侵犯人工智能模型訓練中的版權。但以如此有害的方式使用人工智能來針對女性，為該技術的未來帶來了一個重要的道德時刻。 “這不是關於裸體。這是關於權力，這是關於貶低這些女性，這是為了表明誰是負責人，並從她們不同意的事實中獲得快樂或興奮，”英國研究人員 Carolina Are 說，她研究了社交媒體平台、算法和人工智能對包括女性在內的用戶的危害。 X 則表示，“任何使用或促使 Grok 製作非法內容的人都將遭受與上傳非法內容相同的後果”，這呼應了其所有者埃隆·馬斯克 (Elon Musk) 的措辭，後者在 1 月 3 日發布了同樣的內容。事實上，完全有可能創建此類圖像，這表明消除生成式人工智能的護欄以允許用戶基本上為所欲為是多麼有害。阿雷說：“這是社交媒體時代（尤其是在這段時間內）巨大差異、不平等和雙重標準的又一個例子，而且也是科技行業有罪不罰的另一個例子。”雖然人工智能創建的圖像的規模和力量讓人感覺前所未有，但一些專家不同意它們代表了生成人工智能的第一個真正的道德測試。加州大學歐文分校法學教授阿里·沃爾德曼 (Ari Waldman) 表示：“人工智能——我在這裡用它作為一個總括術語——長期以來一直是歧視、厭女症、恐同症和跨性別者恐懼症以及直接傷害的工具，包括鼓勵人們結束生命、導致抑鬱和身體畸形等。”“為婦女和女孩製作深度偽造品絕對是可怕的，但這並不是人工智能第一次從事道德上應受譴責的行為。”他補充道。
已发布: 2026-01-06 20:00:00
