ChatGPT 即將變得更加性感
ChatGPT 即將變得更加性感。人工智能聊天機器人母公司首席執行官薩姆·奧爾特曼 (Sam Altman) 表示，這是為了讓成年人更自由地按照自己的意願使用人工智能。但是，包括 OpenAI 自己的健康小組在內的各個領域的專家都對這對心理健康和兒童安全意味著什麼提出了一系列擔憂。 ChatGPT 將於下個月啟用“經過驗證的成人色情內容”，但對於這到底意味著什麼以及可能產生什麼後果，仍然存在很多疑問。 OpenAI 首席執行官薩姆·奧爾特曼 (Sam Altman)白宮人工智能教育工作組會議將於 2025 年 9 月 4 日星期四在華盛頓白宮東廳召開。 （美聯社照片/Alex Brandon）目前尚不清楚 OpenAI 到底有何計劃。 Altman 表示，將推出年齡限制，以允許 ChatGPT 做“更多的事情，比如針對經過驗證的成年人的色情作品”。他將其定位為一種在公司“像成年人一樣對待成人用戶”的原則中賦予更多自由的方式，而不是一種特定的“色情模式”。這為很多可能性敞開了大門。目前尚不清楚這些變化是否會讓模型能夠寫色情小說、進行來回的性對話，甚至創建一個用戶可以有效地“發短信”的完整角色。除了提及 Altman 宣布該功能並強調青少年福祉重要性的 X 帖子外，OpenAI 沒有回應有關這些變化會是什麼樣子的問題。 Altman 表示，這一切都是為了讓用戶有更多自由。 (美聯社)簡而言之，人們想要它。 《華盛頓郵報》2024 年對人工智能聊天機器人的近 20 萬次英語對話進行了分析，發現超過 7% 的對話與性有關。今年 4 月《哈佛商業評論》發表的一篇文章分析了 Reddit 帖子和在線文章，並沒有專門深入探討色情問題，但發現治療和陪伴——“持續的社交和情感聯繫，有時帶有浪漫的維度”——是生成人工智能的首要用例。奧特曼說，這一切都是為了讓用戶有更多的自由。卡迪夫城市大學計算和信息高級講師西蒙·索恩表示，還有另一個動機：利潤。 “這與他們一直在做的事情大相徑庭，他們主要是試圖讓他們可能認為有害的信息遠離用戶，”他告訴9news.com.au“無論是關於色情還是性本質，或者是否是在製造管道炸彈，或者其他什麼。可能有一些顯而易見的事情你不一定希望你的平台負責提供“所以這顯然是一個很大的變化。我想說的是，你知道，這是因為他們損失了巨額資金。 “色情內容一直有多種形式的市場。（尼克·米勒）科技人士、心理健康專家、前 OpenAI 產品安全負責人以及該公司“福祉和人工智能專家委員會”的成員都對這一公告表示擔憂。這些擔憂包括讓孩子遠離的困難，到對心理健康的擔憂——在不引入色情內容的情況下，心理健康已經是重度用戶的擔憂——並促使用戶變得越來越極端的性行為OpenAI 產品安全負責人 Steven Adler 為《紐約時報》撰寫了一篇專欄文章，稱他不相信前任老闆 Altman 聲稱該公司“能夠緩解嚴重的心理健康問題”並放寬限制。“如果該公司真的有充分的理由相信它已準備好在其平台上重新帶回色情內容，那麼它應該展示它的工作，”他說，並指出了一項聲稱 ChatGPT 幫助了一名 16 歲男孩的訴訟。 “人工智能正日益成為我們生活的主導部分，威脅用戶生命的技術風險也越來越大。 ”Munmun De Choudhury 教授是一名計算機科學家，一直在探索生成式人工智能和其他新興技術如何改變人們在線聯繫的方式，也是 OpenAI 福祉和人工智能專家委員會的成員。她告訴 9news.com.au，在色情內容推出的第二天，就宣布了這一計劃，但並未徵求她的意見。她說 Altman 關於減輕心理健康問題的說法缺乏透明度和獨立證據。她說：“人工智能交互中的心理健康漏洞並不是僅通過技術修復就可以完全‘緩解’的問題，它們需要心理學和數字安全專家的持續監督、透明度和驗證。 ” OpenAI 強調這個功能只適用於成年人，並稱其正在構建一個年齡預測系統來了解某人是否未滿 18 歲。它表示，如果系統不確定，它將默認返回 18 歲以下的體驗，並為成年人提供其他方式來證明自己的年齡。但人們對現有年齡門控和年齡預測技術的有效性存在重大擔憂，而且 OpenAI 的版本尚未公開。Thorne 表示，英國最近推出了《在線安全法案》，該法案強加了類似的規定對一系列網站的限製表明，系統是多麼容易被愚弄，有時只需打印一張老年人的照片這樣簡單的東西。”我認為他們在乎嗎？不是特別，不，”他說。“我想，他們會說，‘看，我們已經盡了我們的努力。我們已經把年齡控制放在首位。 “除非有人讓他們關心。”De Choudhury 表示，強大的年齡驗證和明確的選擇同意是 OpenAI 必須實施的幾個“不可協商的護欄”之一。 OpenAI 強調此功能僅適用於成年人。 （圖：波莉·漢寧）成年人會擔心嗎？即使 OpenAI 設法阻止兒童，人們也擔心人工智能生成的色情內容的廣泛使用可能對同意的成年人意味著什麼。在一個基本上無限的互聯網色情內容以及相關的成癮風險的世界中，從表面上看，很難說允許人們使用聊天機器人來觀看色情內容可能會造成很大的問題。但是索恩和德喬杜里都對人工智能係統的交互性及其強化或提升想法的能力表示擔憂。索恩說，雖然色情內容或人類設計的色情文學相對“靜態”，但聊天機器人“非常針對個人”。德喬杜里說，允許與聊天機器人的色情互動可能會加深已經引起心理健康問題的準社會或基於依賴的“關係”。 “當引入親密和性表達時，用戶可能會對一個無法回報或維持人類界限的實體形成更強烈的情感依戀，”她說。 “這可能會扭曲對真實關係的期望，加劇孤獨感，甚至阻止人們尋求人際關係或專業幫助。”人工智能、人工智能技術、商業人士使用智能技術、人工智能、人工智能通過輸入命令來創造一些東西，未來的技術變革，人工智能的聊天機器人。 (Getty) 如果我的頑皮聊天內容洩露怎麼辦？隱私是另一個大問題。索恩表示，這一變化將為 OpenAI 提供“非常詳細的數據集，可能是以前從未見過的數據集”。 “如果這些信息落入壞人之手，你知道它可能會對人們造成極大的損害，而且，你知道它可以被用來針對更個體的人。德喬杜里說，強有力的數據隱私和非保留政策必須管理所有性或親密交流，以防止濫用或洩露。OpenAI 如何說它是安全的？奧特曼堅稱計劃中的變化是安全的，並且他將其描述為他想給予用戶更多自由的一個方面，並表示“允許人們以他們想要的方式使用人工智能是我們使命的重要組成部分”。“我們正在做出決定，將安全置於青少年的隱私和自由之上。我們不會放鬆任何與心理健康相關的政策。 ”10 月份他在 X 上發帖稱，“這是一項強大的新技術，我們相信未成年人需要大力保護。 ”他堅稱，任何對他人造成傷害的行為都不會被允許，ChatGPT 將能夠以不同的方式對待經歷“心理健康危機”的用戶。“我們將努力幫助用戶實現他們的長期目標，而不是家長作風，”他說。“但我們不是世界上民選的道德警察。就像社會區分其他適當界限（例如 R 級電影）一樣，我們也想在這裡做類似的事情。 “OpenAI 表示，青少年的福祉是重中之重。”一位發言人告訴 9news.com.au。 “我們今天已經制定了保障措施，例如開通危機熱線，指導我們的模型如何響應敏感請求，以及在長時間會議期間推動休息，我們正在繼續加強這些措施。”可以決定什麼最適合他們的家，我們正在建立一個長期的年齡預測系統，以幫助適當地定制體驗。 “Altman堅稱計劃中的改變是安全的，並將其描述為他想給用戶增加自由的一個方面。（蓋蒂）以前這樣做過嗎？有很多人工智能公司提供色情和色情功能，從基於文本的故事和人物角色到圖像和視頻，用戶廣泛報告ChatGPT將生成My Spicy Vanilla 的創始人安德烈·托洛卡 (Andrei Tolocica) 表示，他的平台最初是在今年推出約會之夜創意，然後轉向人工智能色情內容，現在每月約有 60,000 名用戶，其中包括夫妻治療師。“女性喜歡閱讀色情內容，但現在男性也開始閱讀色情內容，”他告訴 9news.com.au。“這是正在發生的好事，人們已經習慣了。因為他們知道色情會對他們造成傷害，當我們談論色情時，它只是在你的想像中，就像你可以更順利地進入它一樣，它對你的思想來說並不那麼具有侵略性。 “而且，當他們與伴侶一起製作定制色情作品時，這又會加強他們的關係。”
已发布: 2025-11-30 01:31:00
来源: www.9news.com.au
