知名人工智能專家Gary Marcus在最新博客中指出，儘管AI炒作仍在持續，大科技公司對這項技術的熱情也沒有減少，但從業二十多年的經驗提醒他，人們對AI改變世界的潛力可能過於樂觀了。
許多企業家都在預言，跟人類一樣聰明的通用人工智能（AGI）即將到來，但Marcus相信實際上AGI距離我們還很遙遠。全世界都在想像AI將如何如何改變世界，但這些想像最後很有可能都會落空——AI也許沒有那麼強大。現在經歷炒作的股票，終究會在AI帶來的營收不及預期時跌回去。
以下為全文譯文：
除了所謂室溫超導體 LK-99的快速崛起和快速衰落之外，我從未見過有什麼東西比生成式人工智能更受追捧。許多公司的估值高達數十億美元，新聞報道不絕於耳；從矽谷到華盛頓，再到日內瓦，所有人都在談論它。
但是，首先，收入還沒有出現，而且可能永遠不會出現。估值預計將達到萬億美元的市場規模，但據傳目前從生成式人工智能獲得的實際收入只有數億美元。這些收入確實有可能增長1000倍，但這只是猜測。我們不應該簡單地假設。
迄今為止，大部分收入似乎來自兩個方面，一是編寫半自動代碼（程式設計師喜歡使用生成工具作為助手），二是編寫文稿。我認為，程式設計師仍將樂於使用人工智能生成輔助工具；其自動完成的特性對他們的工作非常有利，而且他們受過訓練，能夠發現並修復並不常見的錯誤。本科生將繼續使用生成式人工智能，但他們的口袋並不寬裕（他們很可能會轉向開源的競爭對手）。
其他潛在的付費用戶可能會很快失去信心。今天上午，頗具影響力的風險投資人本尼迪克特·埃文斯（Benedict Evans）在X上發表了一系列文章，提出了這一問題：
我那些試圖使用 ChatGPT回答搜索查詢以幫助學術研究的朋友們也面臨着類似的幻滅。一位使用 ChatGPT進行法律研究的律師受到了法官的嚴厲批評，他基本上不得不以書面形式承諾，再也不會在無人監督的情況下使用 ChatGPT。幾周前，一則新聞報道稱，GPT的使用可能正在減少。
如果埃文斯的經歷是煤礦中的金絲雀，那麼整個生成式人工智能領域，至少以目前的估值來看，可能會迅速終結。程式設計師會繼續使用它，那些需要撰寫大量文案來推廣產品以提高搜尋引擎排名的營銷人員也會繼續使用它。但無論是編碼還是高速、質量平平的文案寫作，都遠遠不足以維持當前的估值夢想。
即使是 OpenAI，也很難實現其290億美元的估值；如果年復一年只能實現數千萬或數億美元的收入，那麼估值低至數十億美元的競爭初創公司很可能最終倒閉。微軟今年的股價上漲了近一半，或許主要是由於人工智能的前景，但它的股價可能會下滑；英偉達的股價飆升得更厲害，也可能會下跌。
羅傑·麥克納米（Roger McNamee）是早期軟件風險投資的先驅，他和我前幾天還在討論這個問題。也許在我們倆看來，唯一在經濟上有說服力的使用案例就是搜索（例如，使用由 ChatGPT支持的必應，而不是谷歌搜索）--但這方面的技術問題是巨大的；我們沒有理由認為幻覺問題會很快得到解決。如果不能解決，泡沫很容易破滅。
但現在讓我擔心的不僅僅是整個AIGC經濟——更多地是基於承諾而非實際商業用途——可能會出現大規模、令人痛心的修正，而是我們正在將整個全球和國家政策建立在人工智能生成將改變世界的前提之上，而事後看來，這種前提可能是不現實的。
在全球範圍內，各國在圍繞AI展開對抗，局勢異常緊張，很多時候都圍繞着誰能「贏得人工智能戰爭」的夢想。
但是，如果贏家不是任何人，至少不是在短期內，那又會怎樣呢？
在國家層面上，可能會保護消費者的法規（如關於私隱、減少偏見、要求數據透明、打擊錯誤信息等方面的法規），正在被確保美國生成式人工智能儘快發展的反向壓力所減緩。我們可能無法獲得所需的消費者保護，因為我們正試圖培養一種可能無法按預期發展的東西。
我並不是說任何人的特定政策都是錯誤的，但如果「人工智能將比火和電更強大」這一前提被證明是錯誤的，或者至少在未來十年內沒有得到證實，那麼我們就很有可能因為一個海市蜃樓而陷入許多不必要的緊張關係，同時AI泛濫也會引發一場社交媒體層面的慘敗，消費者在新聞中被利用，錯誤信息佔據主導地位，因為政府不敢嚴厲打擊。我們很難預測這一切的可能性，但這是一個令人警醒的想法，我希望華盛頓和北京都能對此有所考慮。
在我看來，幾乎所有人都犯了一個根本性的錯誤，那就是認為生成式人工智能等同於 AGI（通用人工智能，與人類一樣聰明機智，甚至有過之而無不及）。
工業界的每個人都希望你相信 AGI即將到來。這刺激了他們對必然性的敘述，也推動了他們的股票價格和初創公司的估值。Anthropic公司行政總裁達里奧·阿莫代（Dario Amodei）最近預測，我們將在2-3年內實現 AGI。谷歌 DeepMind行政總裁德米斯·哈薩比斯（Demis Hassabis）也對近期的 AGI做出了預測。
我對此深表懷疑。在生成式人工智能的核心問題上，我們面臨的不是一個，而是許多尚未解決的嚴重問題--從它們容易混淆（產生幻覺）虛假信息，到它們無法與 Wolfram Alpha等外部工具可靠對接，再到它們每個月的不穩定性（這使得它們無法在大型系統中進行工程應用）。
而現實情況是，除了純粹的技術樂觀主義之外，我們沒有任何具體理由認為這些問題即將得到解決。通過擴大系統規模來"擴展"系統在某些方面有所幫助，但在其他方面則不然；我們仍然無法保證任何特定系統都是誠實、無害或有益的，而不是諂媚、不誠實、有毒或有偏見的。人工智能研究人員多年來一直在研究這些問題。幻想這些具有挑戰性的問題會突然全部迎刃而解是愚蠢的。
22年來，我一直在抱怨幻覺錯誤；人們一直在承諾解決方案即將到來，但卻從未實現。我們現在擁有的技術是建立在自動完成的基礎上的，而不是建立在事實基礎上的。
如果幻覺是無法解決的，那麼生成式人工智能可能也無法每年賺取一萬億美元。如果生成式人工智能每年賺不了一萬億美元，那麼它可能也不會產生人們所期待的影響。如果它不會產生這樣的影響，也許我們就不應該以它會產生這樣的影響為前提來構建我們的世界。
