這是AI的核心架構缺陷
大型語言模型讓人感覺很聰明，因為它們能夠流利、自信、大規模地說話。但流暢並不等於理解，自信也並非感知。要掌握當今人工智能係統的真正局限性，有助於重新審視一個已有兩千多年曆史的想法。 在《理想國》中，柏拉圖描述了洞穴的寓言：被鎖在洞穴裡的囚犯只能看到投射在牆上的影子。由於從未見過投射這些陰影的真實物體，他們將表象誤認為是現實，並且被剝奪了體驗現實世界的機會。大型語言模型生活在一個非常相似的洞穴中。法學碩士不會感知世界：他們閱讀世界法學碩士不會看到、聽到、觸摸或與現實互動。他們幾乎完全接受文本訓練：書籍、文章、帖子、評論、文字記錄以及從歷史和互聯網上收集的人類表達片段。該文本是他們唯一的輸入。他們唯一的“經驗”。法學碩士只能“看到”影子：人類產生的描述世界的文本。這些文本就是他們的整個宇宙。法學碩士所知道的有關現實的一切都經過語言過濾，由具有不同程度的智力、誠實、偏見、知識和意圖的人編寫。文本不是現實：它是人類對現實的表示。它是經過調解的、不完整的、有偏見的、極其異質的、經常被扭曲的。人類語言反映了觀點、誤解、文化盲點和徹頭徹尾的謊言。書籍和互聯網包含非凡的見解，但也包含陰謀論、宣傳、色情、虐待和純粹的廢話。當我們對法學碩士進行“所有文本”培訓時，我們並沒有讓他們接觸到世界。我們正在讓他們接觸牆上的人類陰影。
已发布: 2026-01-22 18:30:00
