深度造假對業務的影響
2023 年 5 月 19 日，當時的 Twitter 上出現了一張照片，顯示五角大樓發生明顯爆炸後冒出濃煙。這張照片很快就瘋傳了。幾分鐘之內，標準普爾 500 指數暴跌，市值蒸發數十億美元。然後真相大白了：該圖像是假的，是由人工智能創建的。市場回升的速度和下跌的速度一樣快，但這一事件標誌著一個重大轉折點：這是股市第一次直接受到深度造假的影響。這不太可能是最後一次。 Deepfake 經濟曾經只是一個小小的好奇心，但現在已發展成為一個價值 75 億美元的市場，有人預測到 2032 年將達到 385 億美元。 Deepfake 現在無處不在，股票市場並不是經濟中唯一容易受到其影響的部分。那些製造深度偽造品的人也以個體企業為目標，有時是為了賺錢，有時只是為了造成損害。德勤 2024 年發布的一項調查顯示，四分之一的高管表示，他們的公司遭遇過針對財務和會計數據的深度造假事件。立法者開始注意到這一日益嚴重的威脅。 2025 年 10 月 13 日，加州州長 Gavin Newsom 將《加州人工智能透明度法案》簽署成為法律。該法律於 2024 年首次推出時，要求大型“尖端提供商”（OpenAI、Anthropic、微軟、谷歌和 X 等公司）實施工具，使用戶更容易識別人工智能生成的內容。這一要求現已擴展到“主要在線平台”（本質上是指社交媒體平台）和內容捕獲設備製造商。 Faisal Hoque 的書籍、播客和他的公司為領導者提供了協調目標、人員、流程和技術的框架和平台，將突破轉化為有意義和可持續的進步。閱讀更多 像這樣的立法是重要的、必要的，而且早就該立法了。但這還遠遠不夠。深度造假對企業的潛在影響遠遠超出任何單一立法所能解決的範圍。如果企業領導者想要解決這些影響，他們必須警惕危險、了解危險，並採取措施限制組織面臨的風險。深度假貨如何威脅商業。以下是深度造假對企業造成損害的三種重要且相互關聯的方式： 1. 直接攻擊 直接攻擊的主要途徑是故意冒充身份，其目的是勒索金錢或信息。即使對於經驗豐富的操作員來說，此類攻擊也可能導致數百萬美元的損失。例如，英國工程巨頭奧雅納去年因欺詐者利用人工智能生成的高管克隆人來下令轉賬而損失了 2 億港元（約合 2500 萬美元）。香港警方稱這起盜竊案是全球最大的深度造假詐騙案之一，並證實視頻會議軟件中使用了虛假聲音和圖像，誘騙一名員工向公司外部的多個銀行賬戶進行 15 筆轉賬。幾個月後，全球最大的廣告公司 WPP 也面臨著類似的威脅，詐騙者克隆了首席執行官馬克·里德 (Mark Reid) 的聲音和圖像，並試圖向同事勒索金錢和機密信息。這次嘗試失敗了，但該公司證實該騙局使用了其領導人的令人信服的深度偽造。創建能夠令人信服地說話和行動的數字替身的能力仍處於起步階段，但欺詐者可用的能力已經非常強大。很快，在大多數情況下，人們將無法僅根據音頻或視覺提示來判斷他們正在與深度偽造品進行交互。不斷上升的驗證成本即使是從未受到直接攻擊的組織，最終也會付出後果。每一次深度造假的傳播——無論是假冒首席執行官、捏造的新聞事件還是虛假廣告——都會增加做生意的集體成本。結果是驗證的負擔越來越大，每個公司現在都必須承擔責任，只是為了證明其信息是真實的，其行為是真實的。公司已經在加強內部安全協議來應對這些威脅。 Gartner 表示，到 2026 年，大約 30% 依賴面部識別安全工具的企業將尋求替代解決方案，因為這些形式的安全由於人工智能生成的深度偽造而變得不安全。用不易受攻擊的替代品取代這些工具將需要大量投資。每增加一層驗證（水印、確定一個人是否為活人的生物識別工具、供應鏈日誌、法醫測試）都會增加成本、減慢決策速度並使工作流程複雜化。隨著深度造假工具變得更加複雜，這些成本只會增加。 3. 信任稅 除了應對深度偽造安全威脅所產生的直接成本之外，僅僅有人使用該技術的可能性就會破壞對所有基於數字媒體的關係的信任。鑑於現在幾乎所有商業關係都依賴某種形式的數字通信，這意味著深度造假有可能破壞幾乎所有商業關係的信任。僅舉一個例子，電話和視頻通話是現代商業通信中最基本、最常用的工具之一。但是，如果您無法確定屏幕上或電話另一端的人就是他們所說的人，那麼您怎麼能相信他們所說的一切呢？如果您經常在溝通渠道可靠性不確定的情況下工作，您如何才能提高工作效率？如果我們開始不信任像我們日常溝通方式這樣基本的東西，結果最終將是一種廣泛的、普遍的懷疑態度，滲透到我們工作場所內外的所有關係中。這些疑慮會降低運營效率，使交易複雜化，並增加遠程通信任務中的摩擦。這就是“信託稅”——在一切都可能是假的世界裡做生意的成本。公司應採取四個步驟。以下是所有企業領導者應對深度造假威脅應採取的四個步驟： 1. 測試重要的內容。對官方聲明使用加密簽名，對高管視頻和通信渠道使用水印，並對敏感內容使用出處標籤。不要試圖確保一切安全——將測試工作集中在謊言造成最大傷害的地方。創建一個“真相來源”中心。創建一個公共驗證頁面，列出您的官方渠道、媒體聯繫人和身份驗證方法 – 利益相關者應該確切知道到哪裡去確認它的真實性。如果您的組織依賴外部信息源來做出快速決策，請確保只能通過類似的經過身份驗證的中心訪問這些信息。 3。為深度造假時代做好準備。在入職、媒體培訓和客戶溝通方面提供深度偽造意識培訓和驗證素養。 4。像對待關鍵基礎設施一樣對待發現工具。投資能夠實時識別受操縱媒體的工具，然後將這些解決方案集成到關鍵工作流程中——財務審批、人力資源面試、投資者溝通。在deepfakes時代，驗證是核心運營能力。從威脅到機遇十多年來，社交媒體的回音室、陰謀論和“另類事實”一直在侵蝕我們共同的現實感。人工智能生成的內容的增加將呈指數級惡化共同參考點的瓦解。上一代網民表示：“要么是照片，要么就沒有發生。”好吧，現在我們擁有了所有我們喜歡的照片，但是我們如何知道它們所顯示的內容是否真的發生過呢？企業領導者無法解決感知現實支離破碎或社區支離破碎的問題。僅靠它們無法恢復對機構的信任或扭轉造成這場危機的文化力量。但他們可以將組織的行為和溝通建立在可驗證的事實基礎上，並可以創建增強信任的系統。以這種方式逆流而上的領導者不僅有助於保護他們的組織免受深度造假的危險。當眼見不再可信時，這些企業也將成為人們在日益不確定的世界中航行所依賴的燈塔。 Faisal Hoque 及其公司的書籍、播客為領導者提供了協調目標、人員、流程和技術的框架和平台，將突破轉化為有意義且可持續的進步。 了解更多 Fast Company 世界變革創意獎的截止日期是太平洋時間 11 月 14 日星期五晚上 11:59。今天申請。
已发布: 2025-11-03 11:00:00
