明尼阿波利斯 ICE 槍擊事件後，人工智能偽造受害者和槍手
明尼阿波利斯一名移民特工發生致命槍擊事件後數小時，受害者和槍手的人工智能深度偽造品充斥在線平台，突顯出重大新聞事件後專家所謂的“幻覺”內容越來越普遍。週三槍擊事件的受害者，37歲的蕾妮·妮可·古德(Renee Nicole Good)，在試圖開車逃離擁擠在她的本田SUV周圍的蒙面特工時，被近距離擊中。法新社在社交媒體上發現了數十條帖子反特朗普政治行動委員會 Mad Dog 負責人克勞德·泰勒 (Claude Taylor) 在 X 上發表的一篇以人工智能圖像為主題的帖子中寫道，“我們需要他的名字。”該帖子獲得了超過 130 萬次觀看。泰勒後來聲稱，他在“得知這是人工智能”後刪除了該帖子，但在線用戶仍然可以看到。多家媒體重播的真實槍擊片段，沒有顯示任何 ICE 特工摘下口罩。許多捏造的內容都是使用 Grok 製作的，Grok 是埃隆·馬斯克的初創公司 xAI 開發的人工智能工具，該工具因新的“編輯”功能而受到嚴厲批評，該功能釋放了一些 X 用戶使用 Grok 以數字方式脫下 Good 微笑的舊照片，以及拍攝後她身體癱倒的新照片，生成顯示她穿著比基尼的 AI 圖像。另一名被錯誤識別為受害者的女性也受到了類似的處理。另一名 X 用戶發布了一名蒙面警察的圖像，並提示聊天機器人：“嘿@grok 摘下這個人的面罩。” Grok 立即生成了該男子不戴面具的超現實圖像。 X 沒有立即發表評論。當法新社聯繫到 xAI 時，xAI 給出了簡短的自動回复：“傳統媒體謊言。”這些病毒式的捏造說明了一種新的數字現實，自稱的互聯網偵探使用廣泛使用的生成人工智能工具來創建超現實的視覺效果，然後在很大程度上減少了內容審核的社交媒體平台上放大它們。聖母大學的沃爾特·謝勒（Walter Scheirer）告訴法新社，“借助先進的人工智能工具，互聯網上的演員現在以與實際發生的情況不相符的方式‘添加’突發新聞的標準做法，通常是政治黨派的方式。”新的發展是使用人工智能來‘填補’故事的空白，例如，使用人工智能‘揭示’ICE官員的面孔，這是幻覺。信息”。謝勒說，在危機事件發生後，人工智能工具也越來越多地被用來“非人化受害者”。一張人工智能圖像將這名被誤認為是古德的婦女描繪成一個噴泉，水從她脖子上的一個洞裡湧出。另一張圖像描繪了她躺在馬路上，脖子放在蒙面特工的膝蓋下，這一場景讓人想起2020年明尼阿波利斯警察殺害一名名叫喬治·弗洛伊德的黑人，該事件引發了全國性的種族正義人工智能的捏造往往被黨派行為者放大，助長了圍繞最近新聞事件的另類現實，包括美國抓獲委內瑞拉領導人尼古拉斯·馬杜羅和去年暗殺保守派活動家查理·柯克。GetReal Security 聯合創始人、加州大學伯克利分校教授 Hany Farid 告訴法新社，人工智能的扭曲是“有問題的”，並且正在加劇“我們信息生態系統日益嚴重的污染”。“我擔心這是我們的新現實”。補充道。發布 – 一月 09, 2026 09:37 am IST
已发布: 2026-01-09 04:07:00
来源: www.thehindu.com
