哈里王子和梅根聯合公開信呼籲禁止人工智能
哈里王子和他的妻子梅根與著名計算機科學家、經濟學家、藝術家、福音派基督教領袖以及美國保守派評論員史蒂夫·班農和格倫·貝克一起呼籲禁止威脅人類的人工智能“超級智能”。這封信由一群政治和地域不同的公眾人物週三發表，直接針對谷歌、OpenAI 和 Meta Platforms 等科技巨頭，這些公司正在相互競爭，創造一種旨在在許多任務上超越人類的人工智能形式。這封信呼籲禁止，除非滿足某些條件。這份長達30個字的聲明稱：“我們呼籲禁止超級智能的發展，只有在科學界達成廣泛共識，認為超級智能可以以安全、可控的方式實現，並得到公眾的大力支持之前，這一禁令才會解除。”這封信的序言指出，人工智能工具可以帶來健康和繁榮，但除了這些工具之外，“許多領先的人工智能公司都有明確的目標，即在未來十年內創造出超級智能，在幾乎所有認知任務上都可以顯著超越所有人。人類的滅絕。”誰簽署了協議以及他們對此有何看法 哈里王子在個人筆記中補充道，“人工智能的未來應該為人類服務，而不是取代人類。我相信，衡量進步的真正標準不是我們行動的速度有多快，而是我們管理的明智程度。沒有第二次機會。”他的妻子蘇塞克斯公爵夫人梅根與蘇塞克斯公爵一起簽署。另一位簽署者、人工智能先驅、加州大學伯克利分校計算機科學教授斯圖爾特·拉塞爾（Stuart Russell）寫道：“這不是傳統意義上的禁令，甚至不是暫停。” “這只是一項提議，要求對其開發人員認為極有可能導致人類滅絕的技術採取足夠的保障措施。這個要求是否太過分了？”簽名的還有計算機科學最高獎項圖靈獎獲得者、人工智能先驅 Yoshua Bengio 和 Geoffrey Hinton。辛頓去年還獲得了諾貝爾物理學獎。兩人都積極呼籲人們關注他們幫助創造的技術的危險。但名單上有一些令人驚訝的內容，其中包括班農和貝克，這封信的組織者、非營利性生命未來研究所試圖呼籲唐納德·特朗普總統的“讓美國再次偉大”運動，儘管特朗普白宮工作人員試圖放鬆對美國人工智能發展的限制。該名單還包括蘋果聯合創始人史蒂夫·沃茲尼亞克（Steve Wozniak）；英國億萬富翁理查德·布蘭森；美國參謀長聯席會議前主席邁克·馬倫（Mike Mullen），曾在共和黨和民主黨政府任職；以及曾擔任巴拉克·奧巴馬總統國家安全顧問的民主黨外交政策專家蘇珊·賴斯。簽署者包括愛爾蘭前總統瑪麗·羅賓遜、幾位英國和歐洲議員、前美國國會議員、演員斯蒂芬·弗萊和約瑟夫·戈登-萊維特，以及曾在音樂創作中使用人工智能的音樂家 will.i.am。 “是的，我們需要特定的人工智能工具來幫助治療疾病、加強國家安全等，”戈登-萊維特寫道，他的妻子塔莎·麥考利 (Tasha McCauley) 在政變之前曾在 OpenAI 董事會任職，政變導致首席執行官山姆·奧爾特曼 (Sam Altman) 於 2023 年暫時辭職。 “但是人工智能是否也應該模仿人類、培養我們的孩子、把我們所有人都變成吸毒者並通過廣告賺取數百萬美元？大多數人不希望這樣。”對人工智能超級智能的擔憂是否助長了人工智能的炒作？這封信可能會引發人工智能研究界關於超人人工智能的可能性、實現它的技術路徑以及它可能有多危險的持續爭論。 “過去，基本上是書呆子與書呆子之間的較量，”生命未來研究所所長、麻省理工學院教授馬克斯·泰格馬克說。 “我覺得我們在這裡真正看到的是批評變得非常流行。”讓更廣泛的爭論變得更加複雜的是，那些追求某些人所說的超級智能和另一些人所說的通用人工智能（AGI）的公司有時也會誇大其產品的功能，這可能會使它們更暢銷，並加劇人們對人工智能泡沫的擔憂。 OpenAI 最近遭到了數學家和人工智能科學家的嘲笑，因為其研究人員聲稱 ChatGPT 解決了未解決的數學問題，而實際上它發現並總結了網絡上已有的內容。 “有很多事情被誇大了，作為投資者你需要小心，但這並不能改變這樣一個事實：如果你縮小視野，人工智能在過去四年裡的發展速度比大多數人的預測要快得多，”泰格馬克說。 Tegmark 的團隊也是 2023 年 3 月（當時仍處於商業人工智能繁榮初期）的一封信的幕後黑手，該信呼籲科技巨頭暫時停止開發更強大的人工智能模型。沒有一家主要人工智能公司注意到這一呼籲。 2023 年這封信中最著名的簽名者埃隆·馬斯克 (Elon Musk) 同時悄悄創立了自己的人工智能初創公司，以與那些他想休息六個月的人競爭。當被問及這次是否再次聯繫馬斯克時，泰格馬克表示，他已經寫信給美國所有主要人工智能開發商的首席執行官，但沒想到他們會簽署協議。 “老實說，我真的很同情他們，因為他們在這場逐底競爭中陷入了困境，以至於他們感受到了繼續前進而不被其他人超越的巨大壓力，”泰格馬克說。 “我認為這就是為什麼對超級智能競賽進行污名化以至於美國政府介入如此重要。”谷歌、Meta、OpenAI 和馬斯克的 xAI 週三沒有立即回應置評請求。 — Matt O’Brien，美聯社科技撰稿人 Fast Company 最具創新公司獎的截止日期延長至太平洋時間今晚 10 月 14 日晚上 11:59。今天申請。
已发布: 2025-10-22 17:00:00
