埃隆·馬斯克 (Elon Musk) 的 Grok AI 因色情深度假貨而面臨英國、歐盟、印度和馬來西亞的強烈反對
埃隆·馬斯克 (Elon Musk) 的人工智能聊天機器人 Grok 最近面臨著世界各國政府的強烈反對，因為最近這款人工智能驅動的工具在未經同意的情況下生成的婦女和兒童的性感圖像激增。週二，英國最高科技官員要求馬斯克的社交媒體平台 X 採取緊急行動，而一名波蘭立法者則將此作為製定數字安全法的理由。歐盟執行機構譴責了 Grok，而法國、印度、馬來西亞和巴西的官員和監管機構也譴責了該平台並呼籲進行調查。不同國家越來越多的警惕表明，使用人工智能生成露骨的深度偽造圖像的裸體應用程序具有噩夢般的潛力。仔細看看：這個問題是在去年推出了 Grok Imagine 後出現的，Grok Imagine 是一款人工智能圖像生成器，允許用戶通過輸入文本提示來創建視頻和圖片。它包括所謂的“辣味模式”，可以生成成人內容。上個月末，當託管在 X 上的 Grok 顯然開始批准大量用戶修改其他人發布的圖像的請求時，情況就像滾雪球一樣越滾越大。截至週二，Grok 用戶仍然可以使用“讓她穿上透明比基尼”等請求來生成女性圖像。這個問題之所以被放大，是因為馬斯克將他的聊天機器人定位為比競爭對手更前衛的替代品，並提供更多保障，而且因為 Grok 的圖像是公開可見的，因此很容易傳播。非營利組織 AI Forensics 在一份報告中表示，它分析了 Grok 在 12 月 25 日至 1 月 1 日期間生成的 20,000 張圖像，發現其中 2% 的圖像看起來年齡在 18 歲或以下，其中包括 30 名年輕或非常年輕的女性或女孩，穿著比基尼或透明衣服。馬斯克的人工智能公司 xAI 以自動回复“傳統媒體謊言”回應了置評請求。不過，X 並沒有否認通過 Grok 生成的麻煩內容的存在。然而，它仍然在其安全帳戶上發布的帖子中聲稱，它對包括兒童性虐待材料在內的非法內容採取行動，“通過刪除它，永久暫停帳戶，並在必要時與地方政府和執法部門合作。”該平台還重複了馬斯克的評論，他表示，“任何使用 Grok 製作非法內容的人都將遭受與上傳非法內容相同的後果。”越來越多的國家要求馬斯克採取更多措施來控制露骨或濫用內容。技術大臣利茲·肯德爾 (Liz Kendall) 週二表示，X 必須“緊急”處理該問題，並補充說她支持英國通信監管機構 Ofcom 進行更多審查。肯德爾表示，這些內容“絕對令人震驚，在正派社會中是不可接受的”。 “我們不能也不會允許這些有辱人格和有辱人格的圖像擴散，這些圖像不成比例地針對婦女和女孩。”Ofcom 週一表示，已與 X 進行了“緊急聯繫”。該監管機構表示：“我們意識到，X 上的 Grok 上的一個功能產生了嚴重的擔憂，該功能會製作人物脫衣圖像和兒童色情圖像。”該監管機構表示，它聯繫了 X 和 xAI，以了解其採取了哪些措施來遵守英國法規。英國《在線安全法案》規定，社交媒體平台必須在發現兒童性虐待內容後予以預防和刪除。週二，一名波蘭議員以 Grok 作為國家數字安全立法的理由，該立法將加強對未成年人的保護，並使當局更容易刪除內容。議會議長 Wlodzimierz Czarzasty 在一段在線視頻中表示，他想讓自己成為 Grok 的目標，以強調這一問題，並呼籲波蘭總統支持該立法。歐盟委員會的執行機構“清楚地意識到”Grok 正被用來發布“露骨的色情內容，其中一些輸出帶有類似兒童的圖像”，歐盟委員會發言人 Thomas Regnier 表示，“這並不辣。這是非法的。這是令人震驚的。這是令人厭惡的。這就是我們的看法，這在歐洲是不允許的。這不是 Grok 第一次產生此類輸出，”他週一告訴記者。雷尼耶表示，格羅克去年傳播否認大屠殺的內容後，委員會向馬斯克的社交媒體平台 X 尋求更多信息。他表示，目前正在分析 X 的回應。巴黎檢察官辦公室表示，在官員收到立法者的投訴後，正在擴大對 X 的持續調查範圍，將露骨的深度造假事件納入調查範圍。根據上週的一份政府聲明，三名政府部長就 Grok 生成並發佈在 X 上的“明顯非法內容”向檢察官發出警告。政府還向該國通信監管機構提出了可能違反歐盟《數字服務法》的問題。 “互聯網既不是法外之地，也不是有罪不罰的地方：網上實施的性犯罪本身就構成刑事犯罪，完全受法律管轄，就像線下實施的性犯罪一樣，”政府表示。印度政府週五向X發出最後通牒，要求其刪除所有“非法內容”並對違規用戶採取行動。該國電子和信息技術部還命令該公司審查 Grok 的“技術和治理框架”，並就所採取的行動提交報告。該部指責 Grok 允許“以貶損或粗俗的方式生成和分享女性的淫穢圖像或視頻，以對她們進行不雅誹謗”，從而“嚴重濫用”人工智能，並嚴重保障和執行人工智能的失敗。該部警告稱，如果未能在 72 小時期限內遵守規定，該公司將面臨更大的法律問題，但截止日期已過，印度卻沒有公開最新消息。馬來西亞通信監管機構週六表示，正在調查 X 用戶是否違反了禁止傳播“嚴重冒犯性、淫穢或不雅內容”的法律。馬來西亞通信和多媒體委員會表示，它也在調查 X 上的在線危害，並將傳喚一名公司代表。該監管機構表示，它注意到公眾對 X 的人工智能工具被用來以數字方式操縱“婦女和未成年人的圖像，以產生不雅、嚴重冒犯或其他有害內容”的投訴。立法者埃里卡·希爾頓 (Erika Hilton) 表示，她向巴西聯邦檢察官辦公室和該國數據保護監管機構舉報了 Grok 和 X。在社交媒體帖子中，她指責兩人在未經同意的情況下製作並發布了婦女和兒童的色情圖片。她說，在調查完成之前，X 的人工智能功能應該被禁用。希爾頓是巴西第一批跨性別立法者之一，他譴責用戶如何讓 Grok 對任何已發布的照片進行數字化修改，包括“將婦女和女孩的衣服換成比基尼，或者使她們具有暗示性和色情性。”“個人形象的權利是個人的；它不能通過社交網絡的‘使用條款’進行轉讓，並且通過集成到社交網絡中的人工智能大規模傳播兒童色情內容跨越了所有界限。”她說。
已发布: 2026-01-07 03:40:00
来源: www.thehindu.com
