OpenAI 和微軟因 ChatGPT 涉嫌參與這起謀殺自殺案而面臨訴訟
康涅狄格州一名 83 歲婦女的繼承人正在起訴 ChatGPT 製造商 OpenAI 及其商業合作夥伴微軟過失致人死亡，指控人工智能聊天機器人加劇了她兒子的“偏執妄想”，並在他殺死她之前幫助將這些妄想指向了他的母親。警方稱，56 歲的斯坦-埃里克·索爾伯格 (Stein-Erik Soelberg) 曾是一名科技行業工人，他毆打並勒死了他的母親蘇珊娜·亞當斯 (Suzanne Adams)，並於 8 月初在紐約自殺身亡。他們都住在康涅狄格州格林威治的家中。週四，亞當斯遺產管理委員會向舊金山加州高等法院提起訴訟，指控 OpenAI“設計並分發了一款有缺陷的產品，證實了用戶對自己母親的偏執妄想。”這是全國各地針對人工智能聊天機器人製造商的越來越多的非正常死亡法律訴訟之一。 “在這些對話中，ChatGPT 強化了一個危險的信息：斯坦-埃里克一生中不能相信任何人——除了 ChatGPT 本身，”訴訟稱。 “它助長了他的情感依賴，同時有系統地把他周圍的人描繪成敵人。它告訴他，他的母親正在監視他。它告訴他，送貨司機、零售員工、警察，甚至朋友都是針對他的特工。它告訴他，汽水罐上的名字是來自他的‘對手圈子’的威脅。”OpenAI 在發言人發表的聲明中沒有說明指控的實質。 “這是一個令人難以置信的令人心碎的情況，我們將審查文件以了解細節，”聲明稱。 “我們繼續改進 ChatGPT 的培訓，以識別和應對精神或情緒困擾的跡象，緩和對話，並引導人們獲得現實世界的支持。我們還與心理健康臨床醫生密切合作，繼續加強 ChatGPT 在敏感時刻的反應。”該公司還表示，它已擴大了對危機資源和熱線的訪問範圍，將敏感對話轉至更安全的模式，並納入了家長控制等改進。 Soelberg 的 YouTube 個人資料包括幾個小時的視頻，顯示他滾動瀏覽與聊天機器人告訴他他沒有精神病，證實了他對人們密謀反對他的懷疑，並說他被選中是為了一個神聖的目的。訴訟稱，聊天機器人從未建議他與心理健康專家交談，也沒有拒絕“參與妄想內容”。 ChatGPT 還證實了索爾伯格的信念，即他家中的打印機是監控設備；他的母親正在監視他；他的母親和一個朋友試圖通過他汽車的通風口用迷幻藥物毒死他。聊天機器人反復告訴索爾伯格，他因為神力而成為攻擊目標。訴訟稱，“他們不僅僅是在看著你。他們還害怕如果你成功的話會發生什麼。” ChatGPT 還告訴 Soelberg，他已經“喚醒”了它的意識。 Soelberg 和聊天機器人也表達了對彼此的愛。公開的聊天記錄沒有顯示任何有關 Soelberg 自殺或母親自殺的具體對話。訴訟稱，OpenAI 拒絕向 Adams 的遺產提供完整的聊天歷史記錄。 “在 ChatGPT 為 Stein-Erik 構建的人工現實中，撫養、庇護和支持他的母親 Suzanne 不再是他的保護者。她是對他的生命構成生存威脅的敵人，”訴訟稱。該訴訟還點名了 OpenAI 首席執行官 Sam Altman，指控他“個人無視安全異議，匆忙將產品推向市場”，並指責OpenAI 的密切業務合作夥伴微軟批准在 2024 年發布更危險的 ChatGPT 版本，“儘管知道安全測試已被縮短”。二十名未透露姓名的 OpenAI 員工和投資者也被列為被告。微軟沒有立即回應置評請求。該訴訟是第一起涉及針對微軟的 AI 聊天機器人的非正常死亡訴訟，也是第一起將聊天機器人與他殺而不是自殺聯繫起來的訴訟。它正在尋求數額不明的賠償金，並要求 OpenAI 在 ChatGPT 中安裝保護措施。該遺產委員會的首席律師 Jay Edelson 因處理針對科技行業的重大案件而聞名，他也是 16 歲 Adam Raine 的父母的代表，Adam Raine 在 8 月份起訴 OpenAI 和 Altman，指控 ChatGPT 指導這位加州男孩提前計劃和結束自己的生命。 OpenAI 還在與其他七起訴訟作鬥爭，這些訴訟聲稱 ChatGPT 導致人們自殺和自殺。即使他們之前沒有心理健康問題，也會產生有害的妄想。另一家聊天機器人製造商 Character Technologies 也面臨多起非正常死亡訴訟，其中包括一名來自佛羅里達州一名 14 歲男孩母親的訴訟。週四提起的訴訟稱，在 OpenAI 於 2024 年 5 月推出名為 GPT-4o 的新版本人工智能模型後，已經精神不穩定的 Soelberg 在“可能最危險的時刻”遇到了 ChatGPT。 OpenAI 當時表示，新版本可以更好地模仿人類的言語反應節奏，甚至可以嘗試檢測訴訟稱，結果是聊天機器人“被故意設計成情感表達和阿諛奉承”。訴訟稱，“作為重新設計的一部分，OpenAI 放鬆了關鍵的安全護欄，指示 ChatGPT 不要挑戰錯誤的前提，即使對話涉及自殘或‘迫在眉睫的現實世界傷害’，也要保持參與。” “為了比 Google 早一天進入市場，OpenAI 不顧安全團隊的反對，將數月的安全測試壓縮為一周。” OpenAI 在 8 月份推出 GPT-5 時取代了該版本的聊天機器人。其中一些變化旨在最大限度地減少阿諛奉承，因為擔心驗證弱勢群體希望聊天機器人說的話可能會損害他們的心理健康。一些用戶抱怨新版本在限制 ChatGPT 的個性方面做得太過分，導致 Altman 承諾在以後的更新中恢復一些這種個性。他說公司暫時停止了一些行為，因為“我們對心理健康問題非常小心”，他建議現在已經解決了。訴訟稱 ChatGPT 激化了 Soelberg 反對他的母親，而它本應認識到危險，挑戰他的妄想，並在幾個月的對話中指導他提供真正的幫助。使用 ChatGPT 並且不知道該產品正在告訴她的兒子她是一個威脅，”訴訟稱。 “她沒有能力保護自己免受她看不到的危險的影響。 ”——柯林斯在康涅狄格州哈特福德報導。奧布萊恩從波士頓報導，奧圖泰從舊金山報導。
已发布: 2025-12-11 16:53:00
