除了被稱為室溫超導(dǎo)體的LK-99可能只是曇花一現(xiàn)外，我從未見過有什么事情比生成式人工智能更受追捧。許多公司的估值達(dá)到數(shù)十億美元，新聞報(bào)道不絕于耳；從硅谷到華盛頓，再到日內(nèi)瓦，所有人都在談?wù)撍��?/p>

但實(shí)際上，目前的收入還未達(dá)到預(yù)期，甚至可能永遠(yuǎn)無法實(shí)現(xiàn)。

這些估值預(yù)計(jì)會(huì)有萬億美元的市場(chǎng)，但目前生成式人工智能的實(shí)際收入據(jù)傳僅為數(shù)億美元。盡管這些收入可能會(huì)增長(zhǎng)1000倍，但這純屬猜測(cè)。我們不應(yīng)該簡(jiǎn)單地假設(shè)它會(huì)實(shí)現(xiàn)。

到目前為止，大部分收入似乎來自兩個(gè)方面， 一是編寫半自動(dòng)代碼（程序員喜歡使用生成工具作為助手），二是撰寫文本 。

我認(rèn)為，程序員將樂于使用生成式人工智能的輔助工具；其自動(dòng)補(bǔ)全特性對(duì)他們的工作非常有幫助，而且他們受過培訓(xùn)，能夠發(fā)現(xiàn)和修復(fù)并不常見的錯(cuò)誤。本科生們將繼續(xù)使用生成式人工智能，但他們的口袋并不寬裕（他們很可能會(huì)轉(zhuǎn)向開源的競(jìng)爭(zhēng)對(duì)手）。

其他潛在付費(fèi)客戶可能很快失去興趣。今天上午，頗具影響力的風(fēng)險(xiǎn)投資家Benedict Evans在“X”（原Twitter）上發(fā)表了一系列文章，提到了這一問題：

我那些試圖使用ChatGPT來回答搜索，以幫助學(xué)術(shù)研究的朋友們也面臨著類似的失望。一位律師在法律研究中使用ChatGPT后受到了法官的譴責(zé)，并書面承諾以后不在無監(jiān)督的情況下使用ChatGPT。幾周前，一則新聞報(bào)道稱，GPT的使用可能正在減少。

如果Evans的經(jīng)歷是一個(gè)警示信號(hào)，那么整個(gè)生成式人工智能領(lǐng)域，在目前的估值下，可能會(huì)迅速走向終結(jié)。程序員會(huì)繼續(xù)使用它，那些需要撰寫大量文案來推廣產(chǎn)品，以提高搜索引擎排名的營(yíng)銷人員也會(huì)繼續(xù)使用它。但無論是編碼還是速度、質(zhì)量平平的文案寫作，都遠(yuǎn)遠(yuǎn)不足以維持當(dāng)前的估值夢(mèng)想。

即使是OpenAI，也很難實(shí)現(xiàn)其290億美元的估值；如果年復(fù)一年只能實(shí)現(xiàn)數(shù)千萬或數(shù)億美元的營(yíng)收，那么估值低至數(shù)十億美元的競(jìng)爭(zhēng)初創(chuàng)公司很可能最終倒閉。微軟今年的股價(jià)上漲了近一半，或許主要是由于人工智能的期望，但其股價(jià)可能會(huì)下跌；NVIDIA的股價(jià)飆升得更厲害，但也可能會(huì)回落。

最近，我和軟件投資領(lǐng)域的早期先鋒Roger McNamee討論了這個(gè)問題。也許唯一真正吸引我們的經(jīng)濟(jì)應(yīng)用場(chǎng)景是搜索。例如，使用由ChatGPT支持的必應(yīng)代替谷歌搜索，但是相關(guān)的技術(shù)問題非常巨大；我們沒有理由認(rèn)為“幻覺”問題會(huì)很快得到解決。如果不能解決，泡沫很容易破滅。

但現(xiàn)在讓我擔(dān)心的不僅僅是整個(gè)生成式人工智能經(jīng)濟(jì)，更多地是基于期望而非實(shí)際商業(yè)用途，將來可能會(huì)出現(xiàn)大規(guī)模、令人痛心的修正，還有我們正在把整個(gè)世界和國(guó)家政策建立在人工智能生成將改變世界的前提之上，而事后看來，這種前提可能是不現(xiàn)實(shí)的。

在國(guó)家層面上，可能會(huì)延緩保護(hù)消費(fèi)者的監(jiān)管措施（例如圍繞隱私、減少偏見、要求數(shù)據(jù)透明性、打擊虛假信息等），因?yàn)榉磳?duì)意見認(rèn)為應(yīng)盡快推進(jìn)生成式人工智能的發(fā)展。我們可能無法獲得所需的消費(fèi)者保護(hù)，因?yàn)槲覀冋�試圖培育一種可能不會(huì)如預(yù)期增長(zhǎng)的東西。

在我看來，幾乎所有人都犯了一個(gè)根本性的錯(cuò)誤，那就是認(rèn)為生成式人工智能等同于AGI（通用人工智能，智能和機(jī)敏程度與人類相當(dāng)或更高）。

也許每個(gè)行業(yè)的人都希望你相信AGI即將來臨。這激發(fā)了他們對(duì)必然性的敘述，并推動(dòng)了他們的股價(jià)和初創(chuàng)公司的估值。Anthropic公司的首席執(zhí)行官Dario Amodei最近預(yù)測(cè)，我們將在2-3年內(nèi)實(shí)現(xiàn)AGI。谷歌DeepMind首席執(zhí)行官Demis Hassabis也對(duì)近期的AGI做出了預(yù)測(cè)。

我對(duì)此深表懷疑。 在生成式人工智能的核心問題上，我們面臨的不是一個(gè)，而是許多嚴(yán)重的、尚未解決的問題 ，從它們?nèi)菀字圃旎糜X與虛假信息，到它們無法可靠地與Wolfram Alpha等外部工具可靠對(duì)接，再到從一個(gè)月到另一個(gè)月的不穩(wěn)定（這使得它們無法在大型系統(tǒng)中進(jìn)行工程應(yīng)用）。

現(xiàn)實(shí)情況是，除了純粹的技術(shù)樂觀主義之外，我們沒有任何具體理由認(rèn)為這些問題的解決迫在眉睫。通過擴(kuò)大系統(tǒng)規(guī)模來擴(kuò)展系統(tǒng)在某些方面有所幫助，但在其他方面則不然；我們?nèi)匀粺o法保證任何特定系統(tǒng)都是誠(chéng)實(shí)、無害或有益的，而不是諂媚、不誠(chéng)實(shí)、有害或有偏見的。

人工智能研究人員多年來一直在研究這些問題。幻想這些具有挑戰(zhàn)性的問題會(huì)突然全部迎刃而解是不現(xiàn)實(shí)的。22年來，我一直在抱怨幻覺錯(cuò)誤；人們一直在承諾解決方案即將到來，但卻從未實(shí)現(xiàn)。因?yàn)槲覀儸F(xiàn)在的技術(shù)是基于自動(dòng)補(bǔ)全，而不是建立在事實(shí)基礎(chǔ)上的。

過去一段時(shí)間，人們對(duì)這種擔(dān)憂充耳不聞；但最近一些科技領(lǐng)導(dǎo)者似乎終于明白了這個(gè)道理。就在幾天前，《財(cái)富》雜志刊登了這樣一則報(bào)道：

如果幻覺問題無法解決，生成式人工智能可能也無法每年創(chuàng)造萬億美元的產(chǎn)值。如果它可能無法創(chuàng)造萬億美元的產(chǎn)值，那么它可能也不會(huì)產(chǎn)生人們期望的影響。如果它不會(huì)產(chǎn)生這種影響，也許我們不應(yīng)該基于這種前提來構(gòu)建我們的世界。

原文由Gary Marcus撰寫，中文內(nèi)容由元宇宙之心（MetaverseHub）團(tuán)隊(duì)編譯，如需轉(zhuǎn)載請(qǐng)聯(lián)系我們。

       原文標(biāo)題 : 如果生成式人工智能被證明是一個(gè)啞彈怎么辦？