人工智能超大規模企業需要恢復信任——具體方法如下
很難避免得出這樣的結論：人工智能及其相關產業的市場過度膨脹。到 2025 年，僅 Alphabet、Meta、微軟、亞馬遜和甲骨文這五家超大規模企業的資本投資就達 3990 億美元，未來幾年這一數字將增至每年 6000 億美元以上。去年前9個月，美國實際GDP增長率為2.1%，如果沒有人工智能投資的貢獻，實際GDP增長率將為1.5%。這種依賴是危險的。德意志銀行最近的一份報告質疑這種繁榮實際上是否可能是泡沫，並指出該行業史無前例的集中度，目前該行業約占美國總市值的 35%，其中美國前 10 家公司的市值佔全球股票市值的 20% 以上。如果這樣的投資沒有產生任何效益，那將是前所未有的失敗。諾貝爾經濟學獎得主達龍·阿西莫格魯和西蒙·約翰遜在他們的著作《權力與進步》中講述了 19 世紀末法國巴拿馬運河工程的災難性失敗。數以千計的大大小小的投資者失去了財產，2萬名參與該項目的人員無功而返。阿西莫格魯和西蒙寫道，問題在於進步的願景並不包括所有人，並且未能吸收他人的反饋導致決策質量低下。正如他們所觀察到的，“你如何利用技術取決於你試圖描繪的進步方向以及你認為可接受的成本。”快進 150 年，美國經濟的很大一部分同樣依賴於一小群宏偉的夢想家、雄心勃勃的投資者和技術樂觀主義者。他們無視批評者並排擠那些被迫承擔其使命成本的人的能力可能會帶來災難性的後果。營銷魔法無法召喚出值得信賴的人工智能係統。我們必須確保那些構建、部署和使用這些系統的人能夠對我們如何指導這項技術的進步有發言權。不信任和普遍缺乏樂觀 數據表明，迫切需要製定新的路線。即使對生成式人工智能產品市場進行詳盡的分析，也可能很難證明巨額資本投資的可觀回報是多麼現實。麻省理工學院最近的一份報告發現，儘管企業向 GenAI 投資了 300 億至 400 億美元，但 95% 的組織獲得了零回報。很難想像還有哪個行業能夠籌集如此多的資金，儘管產出卻很少。但這似乎是薩姆·奧爾特曼真正的超能力，正如布萊恩·麥錢特（Brian Merchant）所記錄的那樣。與此同時，人們對這項技術的潛力也存在嚴重的不信任和普遍缺乏樂觀情緒。畢馬威在對 47 個國家的 48,000 人進行的最全面的全球調查中發現，54% 的受訪者對信任人工智能持謹慎態度。他們還希望加強監管：70% 的受訪者表示監管是必要的，但只有 43% 的人認為現行法律已經足夠。該報告的結論是，提高人工智能信任度的最有希望的途徑是通過加強保障措施、監管和法律來促進人工智能的安全使用。最明顯的是，這與特朗普政府的立場形成鮮明對比，特朗普政府一再將行業監管視為創新的障礙。但信任赤字不能簡單地通過炒作而消除。它對新興技術的採用和有價值的部署構成了重大的結構性障礙。麻省理工學院報告的主要結論之一是，一小部分公司實際上從生成式人工智能產品中看到了生產力的提高，他們這樣做是因為“他們構建了從反饋中學習的自適應嵌入式系統”。高度集中的採購決策更有可能導致員工被要求使用不適合企業環境的現成產品，並產生員工不信任的輸出，特別是對於風險較高的任務，從而導致變通辦法或使用率下降。問題在於這些工具無法學習和適應。反過來，高管們接收反饋或將其有意義地納入模型開發和調整的機會太少。
已发布: 2026-01-14 10:30:00
