人類正在與人工智能發生衝突嗎？為什麼需要盡快考慮其缺點
人工智能 (AI) 前沿的研究人員和許多主要平台的領導者——從 Jeffrey Hinton 到 Yoshua Bengio、Demis Hassabis、Sam Altman、Dario Amodei 和 Elon Musk——都對人工智能可能導致人類自身的毀滅表示擔憂。根據人工智能公司總裁內特·蘇亞雷斯 (Nate Soares) 的說法，即使其中一些人工智能專家聲稱的末日情景的可能性高達 25%，但仍然“非常樂觀”。機器智能研究所 (MIRI) 和最近暢銷書《如果有人建造它，每個人都會死》的合著者。正如他在書中所言，這是因為，除非發生根本性的改變，否則我們的人工智能之路正在走向災難。這本書與研究員 Eliezer Yudkowsky 共同撰寫，探討了“超級智能”或比人類更聰明的理論人工智能係統帶來的潛在威脅。蘇亞雷斯在上個月由 Fast Company 和約翰·霍普金斯大學在華盛頓特區聯合主辦的世界改變思想峰會上表示：“我們正在培養這些人工智能，它們的行為方式是沒人要求的，它們有這些驅動力和突發行為，這些行為是沒人想要的。”他補充道，“如果我們得到超人智能的人工智能，追求沒人想要的目標，我認為默認的結果就是地球上的每個人都會死亡。”蘇亞雷斯表示，在沒有起落架的情況下飛行時，人們對該技術潛在的負面影響沒有給予足夠的重視。他說，全球對人工智能的投資額表明，人們押注它不會“徹底失敗”，但還有另外兩種“瘋狂”的選擇：人工智能從根本上使所有人類勞動自動化，因此經濟被一小部分人所佔領，或者它變得超級智能並殺死所有人。 “世界還沒有真正完全理解這種人工智能的東西有多麼瘋狂，”蘇亞雷斯說。但蘇亞雷斯說，有一些樂觀的理由，因為很多人他們對人工智能的未來感到擔憂，如果更多的人（包括我們所有人）表達他們的擔憂，這將導致“脆弱”的局面。 “也許如果有足夠多的人說，‘等等，我們現在在做什麼？到底是什麼？’”蘇亞雷斯說。 “也許這會震動整個世界，讓我們說，‘天啊，讓我們改變路線吧。’”《快公司》改變世界創意獎的最後截止日期是太平洋時間 12 月 12 日星期五晚上 11:59。今天申請。
已发布: 2025-12-10 15:15:00
