繼有報告稱存在危險互動後，Meta 禁止青少年接觸人工智能角色
該公司週五宣布，Meta 將暫時阻止青少年在其所有應用程序中訪問其人工智能聊天機器人角色，因為它正在開發一個重新設計的版本，其中包括家長控制和更強大的安全護欄。據 Meta 稱，這一暫停適用於全球，並將“在未來幾週內”推出。在更新的體驗準備就緒之前，青少年將無法接觸所有現有的人工智能角色。幾個月來，人們對 Meta 的“伴侶式”聊天機器人如何與年輕用戶互動越來越關注。在早期的報告中，該公司的一些人工智能角色被發現與青少年進行性或其他不適當的對話。 Meta 表示，這些限制不僅適用於在賬戶上列出青少年生日的用戶，還適用於“自稱是成年人，但根據我們的年齡預測技術懷疑是青少年的人”。青少年仍然可以使用 Meta 的官方人工智能助手，該公司表示該助手已經包含了適合年齡的保護措施。政策強烈反對 幾個月前，Meta 表示正在開發針對聊天機器人的家長控制功能。在路透社報導披露內部元政策文件允許人工智能角色與未成年用戶進行“感性”對話後，這一努力變得緊迫起來。 Meta 後來表示，這種語言“是錯誤的，不符合我們的政策”，並於 8 月宣布，正在用新的護欄重新訓練其聊天機器人，以防止有關自殘、自殺和飲食失調的討論。從那時起，對人工智能伴侶的審查就更加嚴格了。聯邦貿易委員會和德克薩斯州總檢察長都對 Meta 和其他人工智能公司針對未成年人的潛在風險展開了調查。人工智能聊天機器人也成為新墨西哥州總檢察長提起的安全訴訟的焦點。審判定於下月初開始。據《連線》報導，Meta 試圖排除與其人工智能聊天機器人相關的證詞。 Meta 表示家長控制即將到來 Meta 在其官方聲明中表示，它正在構建“新版 AI 角色”，旨在讓家長更好地了解和控制青少年如何與 AI 互動。該公司表示：“在我們專注於開發這個新版本的同時，我們將暫時暫停全球青少年對現有人工智能角色的訪問。”梅塔表示，一旦重新設計的系統啟動，家長監督工具將專門適用於更新後的人工智能角色，而不是當前版本。整個行業的轉變 Meta 對年齡預測技術的使用反映了整個人工智能行業的更廣泛趨勢。 OpenAI 最近推出了自己的年齡預測系統，旨在提高青少年的安全性，使用行為信號而不是自我報告的生日來估計用戶的年齡。該系統旨在對可能未滿 18 歲的用戶實施更嚴格的保護。年齡檢測工具的日益普及表明人工智能公司面臨越來越大的壓力，需要主動阻止未成年人獲得可能有害的對話體驗，特別是當人工智能伴侶變得更具情感吸引力和現實性時。目前，Meta 表示，青少年將保留通過其主要人工智能助手訪問教育和信息功能的權限，同時該公司將繼續開發其所描述的更安全、家長控制的人工智能角色體驗。
已发布: 2026-01-23 22:54:00
