當用戶遇到索拉時代的災難新聞時，梅麗莎颶風的人工智能視頻充斥社交媒體
颶風梅麗莎本週襲擊了加勒比海，社交媒體上充斥著人工智能生成的內容，模糊了現實與虛構之間的界限。哥倫比亞廣播公司新聞將梅麗莎描述為“大西洋有史以來最強大的颶風之一”，週二在牙買加登陸時強度達到了 5 級。美國有線電視新聞網 (CNN) 報導稱，它已在加勒比海北部造成 7 人死亡，是自 2019 年多里安颶風以來襲擊該盆地的最強風暴。過去幾天，各大社交媒體平台上充斥著人工智能生成的視頻，這些視頻描繪了各種據稱與颶風相關的內容，從巨浪沖進沿海城市到鯊魚掠過洪水、被毀壞的機場和颶風眼的航拍照片，這些視頻收到了超過17,000 次觀看。其中大部分內容都是由 OpenAI 的新文本到視頻應用程序 Sora 2 實現的，該應用程序在不到一個月前發布，允許用戶只需輸入描述即可創建逼真的視頻。這款在 iPhone 上免費的應用程序已被證明既令人著迷又令人不安，在發布幾週內就迅速佔領了社交媒體。但這也引起了人們的警惕，他們擔心他傳播錯誤信息的能力。 TikTok 前信任與安全經理黛西·索德伯格-里夫金 (Daisy Soderberg-Rivkin) 本月早些時候對 NPR 表示：“這就像深度假貨有公關人員和分銷協議一樣。” “這是對一段時間以來令人恐懼的東西的加強，但現在它有了一個全新的平台。”事實證明，相信你在屏幕上看到的內容變得越來越困難。將災難變成標題誘餌 有關自然災害的誤導性內容的傳播是一個真正的威脅，其威脅遠遠超出了通常堵塞社交媒體的人工智能生成的瑣碎內容。俄克拉荷馬大學氣象學教授艾米·麥戈文告訴法新社（AFP）：“這場風暴是一場巨大的風暴，可能會造成災難性的破壞，虛假內容破壞了政府需要準備的信息的嚴肅性。”法新社在周一的一份報告中表示，發現大量人工智能生成的視頻在社交媒體渠道上流傳，其中很多（但不是全部）都標有 OpenAI Sora 水印。這些視頻的範圍從戲劇性的新聞報導和嚴重洪水的場景到捏造的人類苦難。其他視頻顯示，當地人經常用誇張的牙買加口音說話，強化刻板印象，參加聚會、划船、滑水、游泳或以其他方式淡化預報員警告的可能是該島有史以來最嚴重風暴的嚴重程度。據報導，在法新社標記這些視頻後，TikTok 刪除了二十多個視頻以及多個分享這些視頻的賬戶。針對這一評論，TikTok 告訴 Fast Company，其社區準則要求對人工智能生成或經過大量編輯的描繪現實人物或事件的內容進行標記。它指出未標記的內容可能會被刪除、限製或重命名。該平台禁止“誤導公眾重要問題或對個人造成傷害”的內容，即使已被標記。在牙買加，建議尋求有關梅麗莎颶風最新信息的用戶諮詢官方消息來源，包括牙買加信息服務和 TikTok 活動目錄。儘管 Meta 的政策要求對使用人工智能創建的視頻進行標記，但 Facebook 和 Instagram 上仍出現了類似的內容。 OpenAI 和 Meta 沒有回應置評請求。專家擔心人工智能生成的內容可能會掩蓋重要的安全警告。據法新社報導，牙買加信息部長、參議員達納·莫里斯·迪克森敦促公眾依賴官方消息來源。這些風險遠遠超出了自然災害的範疇。在索拉時代，任何人都可以用一條線索創造出幾乎任何可以想像的場景，但專家們長期以來一直對生成人工智能和錯誤信息表示擔憂。例如，研究表明，僅警告標籤可能不足以對抗人工智能生成的謊言，有時可能會對用戶的可信度產生意想不到的影響。 Bluesky 信任與安全主管亞倫·羅德里克斯 (Aaron Rodericks) 在接受 NPR 採訪時指出，公眾還沒有準備好接受現實與虛構之間的這種崩潰。 “在一個兩極分化的世界中，很容易捏造針對某些群體或個人的證據，或者進行大規模欺詐。曾經存在的謠言——例如關於移民或政治人物的捏造故事——現在可以變成看似可信的視頻證據，”羅德里克斯說。而這僅僅是開始。 OpenAI 的 Sora 2 應用程序是許多最近的剪輯的來源，它只是日益強大的視頻創作工具不斷擴展的世界中的最新玩家。僅今年一年，所有平台就出現了一波人工智能驅動的創新浪潮。從 5 月開始，用戶可以在 Instagram 和 TikTok 上與 AI 角色聊天。 AI Alive 工具可以通過單個命令將靜態圖像轉換為視頻。到 9 月，Meta 推出了新的 Vibes 應用程序，具有 TikTok 風格的人工智能生成的提要。它們共同標誌著一場塑造互聯網未來的新競賽。 Fast Company 世界變革創意獎的截止日期是太平洋時間 11 月 14 日星期五晚上 11:59。今天申請。
已发布: 2025-10-29 15:45:00
