‍‍‍‍ 2024年即將結(jié)束，來(lái)自Radical Ventures的風(fēng)險(xiǎn)投資家Rob Toews分享了他對(duì)2025年人工智能的10個(gè)預(yù)測(cè)：

01.Meta將開(kāi)始對(duì)Llama模型收費(fèi)

Meta是世界上開(kāi)放式人工智能的標(biāo)桿。在一個(gè)引人注目的企業(yè)戰(zhàn)略案例研究中，當(dāng)OpenAI和谷歌等競(jìng)爭(zhēng)對(duì)手將其前沿模型封閉源代碼并收取使用費(fèi)時(shí)，Meta卻選擇免費(fèi)提供其最先進(jìn)的Llama模型。

因此，明年Meta開(kāi)始向使用Llama的公司收費(fèi)這一消息，會(huì)讓許多人感到意外。

需要明確的是：我們并沒(méi)有預(yù)測(cè)Meta會(huì)將Llama完全閉源，也不意味著任何使用Llama模型的用戶都必須為此付費(fèi)。

相反，我們預(yù)測(cè)Meta將對(duì)Llama的開(kāi)源許可條款做出更多限制，這樣，在一定規(guī)模以上的商業(yè)環(huán)境中使用Llama的公司將需要開(kāi)始付費(fèi)才能使用模型。

從技術(shù)上講，Meta如今已經(jīng)在有限的范圍內(nèi)做到了這一點(diǎn)。該公司不允許最大的公司——云超級(jí)計(jì)算機(jī)和其他月活躍用戶超過(guò)7億的公司，自由使用其Llama模型。

早在2023年，Meta首席執(zhí)行官M(fèi)ark Zuckerberg就說(shuō)過(guò)：“如果你是微軟、亞馬遜或谷歌這樣的公司，而且你基本上會(huì)轉(zhuǎn)售Llama，那么我們應(yīng)該從中獲得一部分收入。我不認(rèn)為這在短期內(nèi)會(huì)是一大筆收入，但從長(zhǎng)遠(yuǎn)來(lái)看，希望這能成為一些收入。”

明年，Meta將大幅擴(kuò)大必須付費(fèi)才能使用Llama的企業(yè)范圍，將更多的大中型企業(yè)納入其中。

跟上大型語(yǔ)言模型（LLM）前沿是非常昂貴的。如果想讓Llama與OpenAI、Anthropic等公司的最新前沿模型保持一致或接近一致，Meta每年需要投入數(shù)十億美元。

Meta公司是世界上最大、資金最雄厚的公司之一。但它也是一家上市公司，最終要對(duì)股東負(fù)責(zé)。

隨著制造前沿模型的成本不斷飆升，Meta公司在沒(méi)有收入預(yù)期的情況下投入如此巨額資金來(lái)訓(xùn)練下一代Llama模型的做法越來(lái)越站不住腳。

愛(ài)好者、學(xué)者、個(gè)人開(kāi)發(fā)者和初創(chuàng)公司明年將繼續(xù)免費(fèi)使用Llama模型。但2025年，將是Meta開(kāi)始認(rèn)真實(shí)現(xiàn)Llama盈利的一年。

02.“尺度定律”相關(guān)問(wèn)題

最近幾周，人工智能領(lǐng)域引發(fā)討論最多的話題莫過(guò)于尺度定律（Scaling laws），以及它們是否即將終結(jié)的問(wèn)題。

尺度定律在2020年OpenAI的一篇論文中首次提出，其基本概念簡(jiǎn)單明了：在訓(xùn)練人工智能模型時(shí)，隨著模型參數(shù)數(shù)量、訓(xùn)練數(shù)據(jù)量和計(jì)算量的增加，模型的性能會(huì)以可靠且可預(yù)測(cè)的方式提高（從技術(shù)上講，其測(cè)試損失會(huì)減少）。

從GPT-2到GPT-3再到GPT-4，令人嘆為觀止的性能提升都是縮放規(guī)律的功勞。

就像摩爾定律一樣，尺度定律實(shí)際上并不是真正的法則，而只是簡(jiǎn)單的經(jīng)驗(yàn)觀察。

在過(guò)去的一個(gè)月里，一系列報(bào)告表明，主要的人工智能實(shí)驗(yàn)室在持續(xù)擴(kuò)大大型語(yǔ)言模型的規(guī)模時(shí)，正在看到遞減的回報(bào)。這有助于解釋為什么OpenAI的GPT-5發(fā)布一再推遲。

對(duì)尺度定律趨于平穩(wěn)的最常見(jiàn)反駁是，測(cè)試時(shí)計(jì)算的出現(xiàn)開(kāi)辟了一個(gè)全新的維度，可以在這一維度上追求規(guī)模擴(kuò)展。

也就是說(shuō)，與其在訓(xùn)練期間大規(guī)模擴(kuò)展計(jì)算，新的推理模型如OpenAI的o3使得在推理期間大規(guī)模擴(kuò)展計(jì)算成為可能，通過(guò)使模型能夠“思考更長(zhǎng)時(shí)間”來(lái)解鎖新的AI能力。

這是一個(gè)重要的觀點(diǎn)。測(cè)試時(shí)計(jì)算確實(shí)代表了一個(gè)新的令人興奮的擴(kuò)展途徑，以及AI性能提升。

但關(guān)于尺度定律的另一個(gè)觀點(diǎn)更加重要，而且在今天的討論中被嚴(yán)重低估。幾乎所有關(guān)于尺度定律的討論，從最初的2020年論文開(kāi)始，一直延續(xù)到今天對(duì)測(cè)試時(shí)計(jì)算的關(guān)注，都集中在語(yǔ)言上。但語(yǔ)言并不是唯一重要的數(shù)據(jù)模式。

想想機(jī)器人技術(shù)、生物學(xué)、世界模型或網(wǎng)絡(luò)代理。對(duì)于這些數(shù)據(jù)模式，尺度定律尚未飽和；相反，它們才剛剛開(kāi)始。

實(shí)際上，這些領(lǐng)域中尺度定律存在的嚴(yán)格證據(jù)至今甚至尚未發(fā)表。

為這些新型數(shù)據(jù)模式構(gòu)建基礎(chǔ)模型的初創(chuàng)公司——例如，生物學(xué)領(lǐng)域的Evolutionary Scale、機(jī)器人技術(shù)領(lǐng)域的PhysicalIntelligence、世界模型領(lǐng)域WorldLabs，正試圖識(shí)別并利用這些領(lǐng)域的尺度定律，就像OpenAI在2020年代前半期成功利用大型語(yǔ)言模型（LLM）尺度定律一樣。

明年，預(yù)計(jì)這里將取得巨大的進(jìn)步。

尺度定律不會(huì)消失，它們?cè)?025年將和以往一樣重要。但是，尺度定律的活動(dòng)中心將從LLM預(yù)訓(xùn)練轉(zhuǎn)移到其他模式。

03.特朗普和馬斯克可能會(huì)在AI方向產(chǎn)生分歧

美國(guó)新政府將帶來(lái)一系列關(guān)于人工智能的政策和戰(zhàn)略轉(zhuǎn)變。

為了預(yù)測(cè)在特朗普總統(tǒng)就任下人工智能的風(fēng)向，另外考慮到馬斯克目前在人工智能領(lǐng)域的中心地位，人們可能會(huì)傾向于關(guān)注當(dāng)選總統(tǒng)與馬斯克的密切關(guān)系。

可以想象，馬斯克可能會(huì)以多種不同的方式影響特朗普政府的人工智能相關(guān)發(fā)展。

鑒于馬斯克與OpenAI的深刻敵對(duì)關(guān)系，新政府在與行業(yè)接觸、制定人工智能法規(guī)、授予政府合同等方面可能會(huì)對(duì)OpenAI采取不太友好的立場(chǎng)，這是OpenAI今天真正擔(dān)心的一個(gè)風(fēng)險(xiǎn)。

另一方面，特朗普政府可能會(huì)更傾向于支持馬斯克自己的公司：例如，削減繁文縟節(jié)以使xAI能夠建立數(shù)據(jù)中心并在前沿模型競(jìng)賽中取得領(lǐng)先；為特斯拉部署機(jī)器人出租車車隊(duì)提供快速監(jiān)管批準(zhǔn)等。

更根本的是，與許多其他被特朗普看好的科技領(lǐng)袖不同，馬斯克非常重視人工智能的安全風(fēng)險(xiǎn)，并因此主張對(duì)人工智能進(jìn)行重大監(jiān)管。

他支持加利福尼亞州有爭(zhēng)議的SB1047法案，該法案試圖對(duì)人工智能開(kāi)發(fā)者施加有意義的限制。因此，馬斯克的影響力可能會(huì)導(dǎo)致美國(guó)對(duì)人工智能的監(jiān)管環(huán)境變得更加嚴(yán)格。

然而，所有這些推測(cè)都存在一個(gè)問(wèn)題。特朗普和馬斯克的親密關(guān)系終將不可避免地破裂。

正如我們?cè)谔乩势盏谝蝗握�府期間一次又一次看到的那樣，特朗普盟友的平均任期，即使是看似最堅(jiān)定的，都非常短暫。

特朗普第一任政府的副手中，今天仍然忠于他的寥寥無(wú)幾。

特朗普和馬斯克都是復(fù)雜、易變、不可預(yù)測(cè)的個(gè)性，他們不易合作，他們使人筋疲力盡，他們新發(fā)現(xiàn)的友誼到目前為止已經(jīng)互惠互利，但仍處于“蜜月期”。

我們預(yù)測(cè)，在2025年結(jié)束之前，這種關(guān)系將會(huì)惡化。

這對(duì)人工智能世界意味著什么？

這對(duì)OpenAI來(lái)說(shuō)是個(gè)好消息。對(duì)于特斯拉的股東來(lái)說(shuō)，這將是一個(gè)不幸的消息。而對(duì)于那些關(guān)注人工智能安全的人來(lái)說(shuō)，這將是一個(gè)令人失望的消息，因?yàn)檫@幾乎可以確保美國(guó)政府將在特朗普?qǐng)?zhí)政期間對(duì)人工智能監(jiān)管采取放手不管的態(tài)度。

04.AI Agent將成為主流

想象一下，在這樣一個(gè)世界里，你不再需要直接與互聯(lián)網(wǎng)互動(dòng)。每當(dāng)你需要管理訂閱、支付賬單、預(yù)約醫(yī)生、在亞馬遜上訂購(gòu)東西、預(yù)訂餐廳或完成其他任何繁瑣的在線任務(wù)時(shí)，你只需指示人工智能助理代你完成即可。

這種“網(wǎng)絡(luò)代理”的概念已經(jīng)存在多年。如果有這樣的產(chǎn)品并能正常運(yùn)行，毫無(wú)疑問(wèn)，它將會(huì)是一款大獲成功的產(chǎn)品。

然而，目前市場(chǎng)上還沒(méi)有一款能正常運(yùn)行的通用網(wǎng)絡(luò)代理。

像Adept這樣的初創(chuàng)公司，即使擁有一支血統(tǒng)純正的創(chuàng)始團(tuán)隊(duì)，籌集了數(shù)億美元的資金，但卻未能實(shí)現(xiàn)其愿景。

明年將是網(wǎng)絡(luò)代理最終開(kāi)始運(yùn)行良好并成為主流的一年。語(yǔ)言和視覺(jué)基礎(chǔ)模型的不斷進(jìn)步，再加上最近因新推理模型和推理時(shí)間計(jì)算而在“第二系統(tǒng)思維”能力方面取得的突破，將意味著網(wǎng)絡(luò)代理已準(zhǔn)備好進(jìn)入黃金時(shí)代。

換句話說(shuō)，Adept的想法是正確的，只是為時(shí)過(guò)早。在初創(chuàng)企業(yè)中，正如生活中的許多事情一樣，時(shí)機(jī)就是一切。

網(wǎng)絡(luò)代理將找到各種有價(jià)值的企業(yè)用例，但我們認(rèn)為，網(wǎng)絡(luò)代理近期最大的市場(chǎng)機(jī)會(huì)將是消費(fèi)者。

盡管最近人工智能熱度不減，但除了ChatGPT之外，能成為消費(fèi)者主流應(yīng)用的人工智能原生應(yīng)用還相對(duì)較少。

網(wǎng)絡(luò)代理將改變這一局面，成為消費(fèi)人工智能領(lǐng)域下一個(gè)真正的“殺手級(jí)應(yīng)用”。

05.將人工智能數(shù)據(jù)中心置于太空的想法將會(huì)實(shí)現(xiàn)

2023年，制約人工智能發(fā)展的關(guān)鍵物理資源是GPU芯片。2024年，它變成了電力和數(shù)據(jù)中心。

在2024年，幾乎沒(méi)有什么故事能比人工智能在急于建造更多人工智能數(shù)據(jù)中心的同時(shí)對(duì)能源的巨大且快速增長(zhǎng)的需求更受關(guān)注了。

由于人工智能的蓬勃發(fā)展，全球數(shù)據(jù)中心的電力需求在數(shù)十年持平后，預(yù)計(jì)將在2023年至2026年間翻一番。在美國(guó)，數(shù)據(jù)中心的耗電量預(yù)計(jì)到2030年將接近總耗電量的10%，而2022年僅為3%。

當(dāng)今的能源系統(tǒng)根本無(wú)法應(yīng)對(duì)人工智能工作負(fù)載帶來(lái)的巨大需求激增。我們的能源網(wǎng)和計(jì)算基礎(chǔ)設(shè)施這兩個(gè)價(jià)值數(shù)萬(wàn)億美元的系統(tǒng)之間即將發(fā)生歷史性的碰撞。

作為解決這一難題的可能方案，核能在今年獲得了迅猛發(fā)展。核電在很多方面都是人工智能的理想能源：它是零碳能源，全天候可用，而且實(shí)際上取之不盡、用之不竭。

但從現(xiàn)實(shí)情況來(lái)看，由于研究、項(xiàng)目開(kāi)發(fā)和監(jiān)管時(shí)間較長(zhǎng)，新能源在2030年代之前都無(wú)法解決這一問(wèn)題。傳統(tǒng)的核裂變發(fā)電廠、下一代“小型模塊化反應(yīng)堆”（SMR）以及核聚變發(fā)電廠都是如此。

明年，一個(gè)應(yīng)對(duì)這一挑戰(zhàn)的非常規(guī)新想法將出現(xiàn)并吸引真正的資源：將人工智能數(shù)據(jù)中心置于太空中。

太空中的人工智能數(shù)據(jù)中心，乍一聽(tīng)，這聽(tīng)起來(lái)像是一個(gè)壞笑話，一個(gè)風(fēng)險(xiǎn)投資人試圖把太多的創(chuàng)業(yè)流行語(yǔ)結(jié)合起來(lái)。

但事實(shí)上，這可能是有道理的。

在地球上快速建設(shè)更多數(shù)據(jù)中心的最大瓶頸是獲取所需的電力。軌道上的計(jì)算集群可以全天候享受免費(fèi)、無(wú)限、零碳的電力：太空中的太陽(yáng)總是熠熠生輝。

將計(jì)算置于太空的另一個(gè)重要優(yōu)勢(shì)是：它解決了冷卻問(wèn)題。

要建立功能更強(qiáng)大的人工智能數(shù)據(jù)中心，最大的工程障礙之一就是在狹小的空間內(nèi)同時(shí)運(yùn)行許多GPU會(huì)變得非常熱，而高溫會(huì)損壞或毀壞計(jì)算設(shè)備。

數(shù)據(jù)中心開(kāi)發(fā)人員正在采用液浸冷卻等昂貴且未經(jīng)證實(shí)的方法來(lái)試圖解決這一問(wèn)題。但太空是極其寒冷的，計(jì)算活動(dòng)產(chǎn)生的任何熱量都會(huì)立即無(wú)害地消散。

當(dāng)然，還有許多實(shí)際挑戰(zhàn)有待解決。一個(gè)顯而易見(jiàn)的問(wèn)題是，能否以及如何在軌道和地球之間以低成本高效率地傳輸大量數(shù)據(jù)。

這是一個(gè)懸而未決的問(wèn)題，但可能證明是可以解決的：可以利用激光和其他高帶寬光通信技術(shù)開(kāi)展前景廣闊的工作。

YCombinator的一家名為L(zhǎng)umen Orbit的初創(chuàng)公司最近籌集了1100萬(wàn)美元，以實(shí)現(xiàn)這一理想：在太空中建立一個(gè)數(shù)兆瓦的數(shù)據(jù)中心網(wǎng)絡(luò)，用于訓(xùn)練人工智能模型。

正如公司首席執(zhí)行官所說(shuō)：“與其支付1.4億美元的電費(fèi)，不如支付1千萬(wàn)美元的發(fā)射和太陽(yáng)能費(fèi)用。”

2025年，Lumen將不會(huì)是唯一認(rèn)真對(duì)待這一概念的組織。

其他初創(chuàng)企業(yè)的競(jìng)爭(zhēng)者也會(huì)出現(xiàn)。如果有一家或幾家云計(jì)算超大規(guī)模企業(yè)也按照這種思路開(kāi)展探索，也不要感到驚訝。

亞馬遜已經(jīng)通過(guò)“柯伊伯計(jì)劃”（ProjectKuiper）將資產(chǎn)送入軌道，積累了豐富的經(jīng)驗(yàn)；谷歌長(zhǎng)期以來(lái)一直在資助類似的“登月計(jì)劃”；甚至微軟對(duì)太空經(jīng)濟(jì)也不陌生。

可以想象，馬斯克的SpaceX公司也會(huì)在這方面有所作為。

06.人工智能系統(tǒng)將通過(guò)“圖靈語(yǔ)音測(cè)試”

圖靈測(cè)試是人工智能性能最古老、最知名的基準(zhǔn)之一。

為了“通過(guò)”圖靈測(cè)試，人工智能系統(tǒng)必須能夠通過(guò)書(shū)面文本進(jìn)行交流，讓普通人無(wú)法分辨自己是在與人工智能互動(dòng)，還是在與其他人互動(dòng)。

得益于大型語(yǔ)言模型的顯著進(jìn)步，圖靈測(cè)試在2020年代已成為一個(gè)解決的問(wèn)題。

但書(shū)面文本并非人類交流的唯一方式。

隨著人工智能變得越來(lái)越多模態(tài)，人們可以想象一個(gè)新的、更具挑戰(zhàn)性的圖靈測(cè)試版本——“語(yǔ)音圖靈測(cè)試”。在這個(gè)測(cè)試中，人工智能系統(tǒng)必須能夠通過(guò)語(yǔ)音與人類互動(dòng)，其技能和流暢度要達(dá)到與人類說(shuō)話者無(wú)法區(qū)分的程度。

今天的人工智能系統(tǒng)還無(wú)法實(shí)現(xiàn)語(yǔ)音圖靈測(cè)試，解決這個(gè)問(wèn)題將需要更多的技術(shù)進(jìn)步。延遲（人類說(shuō)話和人工智能回應(yīng)之間的滯后）必須減少到接近零，以匹配與另一個(gè)人類交談的體驗(yàn)。

語(yǔ)音人工智能系統(tǒng)必須更擅長(zhǎng)優(yōu)雅地實(shí)時(shí)處理模糊輸入或誤解，例如說(shuō)話被打斷的情況。它們必須能夠參與長(zhǎng)對(duì)話、多輪、開(kāi)放式對(duì)話，同時(shí)記住討論的早期部分。

而且至關(guān)重要的是，語(yǔ)音人工智能代理必須學(xué)會(huì)更好地理解語(yǔ)音中的非語(yǔ)言信號(hào)。例如，如果一個(gè)人類說(shuō)話者聽(tīng)起來(lái)惱怒、興奮還是諷刺意味著什么，并在自己的語(yǔ)音中生成這些非語(yǔ)言線索。

隨著我們接近2024年底，語(yǔ)音人工智能正處于一個(gè)令人興奮的轉(zhuǎn)折點(diǎn)，這一轉(zhuǎn)折點(diǎn)是由像語(yǔ)音到語(yǔ)音模型的出現(xiàn)這樣的根本性突破推動(dòng)的。

如今，人工智能中很少有領(lǐng)域在技術(shù)和商業(yè)上的進(jìn)步速度比語(yǔ)音人工智能更快。預(yù)計(jì)在2025年，語(yǔ)音人工智能的最新技術(shù)將實(shí)現(xiàn)飛躍。”

07.自主AI系統(tǒng)將取得重大進(jìn)展

數(shù)十年來(lái)，遞歸式自我完善人工智能的概念一直是人工智能界經(jīng)常觸及的話題。

例如，早在1965年，AlanTuring的親密合作者I.J.Good就寫(xiě)道：“讓我們把超智能機(jī)器定義為一種能夠遠(yuǎn)遠(yuǎn)超越人類所有智力活動(dòng)的機(jī)器，無(wú)論它多么聰明。”

“既然設(shè)計(jì)機(jī)器是這些智力活動(dòng)之一，那么超智能機(jī)器就能設(shè)計(jì)出更好的機(jī)器；到那時(shí)，無(wú)疑會(huì)出現(xiàn)'智能爆炸'，人類的智能將被遠(yuǎn)遠(yuǎn)拋在后面。”

人工智能可以發(fā)明更好的人工智能，這是一個(gè)充滿智慧的概念。但是，即使在今天，它仍然保留著科幻小說(shuō)的影子。

然而，盡管這一概念尚未得到廣泛認(rèn)可，但它實(shí)際上已經(jīng)開(kāi)始變得更加真實(shí)。人工智能科學(xué)前沿的研究人員已經(jīng)開(kāi)始在構(gòu)建人工智能系統(tǒng)方面取得切實(shí)進(jìn)展，而人工智能系統(tǒng)本身也能構(gòu)建更好的人工智能系統(tǒng)。

我們預(yù)測(cè)，明年這一研究方向?qū)⒊蔀橹髁鳌?/p>

迄今為止，沿著這一思路進(jìn)行研究的最顯著的公開(kāi)范例是Sakana的“人工智能科學(xué)家”。

“人工智能科學(xué)家”于今年8月發(fā)布，它令人信服地證明了人工智能系統(tǒng)確實(shí)可以完全自主地開(kāi)展人工智能研究。

Sakana的“人工智能科學(xué)家”本身執(zhí)行了人工智能研究的整個(gè)生命周期：閱讀現(xiàn)有文獻(xiàn)、產(chǎn)生新的研究想法、設(shè)計(jì)實(shí)驗(yàn)來(lái)測(cè)試這些想法、執(zhí)行這些實(shí)驗(yàn)、撰寫(xiě)研究論文來(lái)報(bào)告其研究結(jié)果，然后對(duì)其工作進(jìn)行同行評(píng)審。

這些工作完全由人工智能自主完成，不需要人工干預(yù)。你可以在線閱讀人工智能科學(xué)家撰寫(xiě)的部分研究論文。

OpenAI、Anthropic和其他研究實(shí)驗(yàn)室正在為“自動(dòng)化人工智能研究人員”這一想法投入資源，不過(guò)目前還沒(méi)有任何消息得到公開(kāi)承認(rèn)。

隨著越來(lái)越多的人認(rèn)識(shí)到人工智能研究自動(dòng)化事實(shí)上正在成為一種真正的可能性，預(yù)計(jì)2025年這一領(lǐng)域?qū)��?huì)有更多的討論、進(jìn)展和創(chuàng)業(yè)活動(dòng)。

不過(guò)，最有意義的里程碑將是完全由人工智能代理撰寫(xiě)的研究論文首次被頂級(jí)人工智能會(huì)議接受。如果論文是盲審的，會(huì)議評(píng)審人員在論文被接受之前不會(huì)知道論文是由人工智能撰寫(xiě)的。

如果人工智能的研究成果明年被NeurIPS、CVPR或ICML接收，請(qǐng)不要感到驚訝。對(duì)于人工智能領(lǐng)域來(lái)說(shuō)，這將是一個(gè)引人入勝、充滿爭(zhēng)議的歷史性時(shí)刻。

08.OpenAI等行業(yè)巨頭將戰(zhàn)略重點(diǎn)轉(zhuǎn)向構(gòu)建應(yīng)用

構(gòu)建前沿模型是一項(xiàng)艱難的工作。

它的資本密集程度令人咋舌。前沿模型實(shí)驗(yàn)室需要消耗大量現(xiàn)金。就在幾個(gè)月前，OpenAI籌集到了創(chuàng)紀(jì)錄的65億美元資金，而在不久的將來(lái)，它可能還需要籌集更多的資金。Anthropic、xAI和其他公司也處于類似的境地。

轉(zhuǎn)換成本和客戶忠誠(chéng)度較低。人工智能應(yīng)用程序通常都是以模型無(wú)關(guān)性為目的而構(gòu)建的，不同供應(yīng)商的模型可以根據(jù)不斷變化的成本和性能比較進(jìn)行無(wú)縫切換。

隨著最先進(jìn)的開(kāi)放模型（如Meta的Llama和阿里巴巴的Qwen）的出現(xiàn)，技術(shù)商品化的威脅不斷迫近。像OpenAI和Anthropic這樣的人工智能領(lǐng)導(dǎo)者不可能也不會(huì)停止對(duì)構(gòu)建尖端模型的投資。

但明年，為了發(fā)展利潤(rùn)更高、差異化更大、粘性更強(qiáng)的業(yè)務(wù)線，前沿實(shí)驗(yàn)室有望大力推出更多自己的應(yīng)用和產(chǎn)品。

當(dāng)然，前沿實(shí)驗(yàn)室已經(jīng)有了一個(gè)非常成功的應(yīng)用案例：ChatGPT。

在新的一年里，我們還能從人工智能實(shí)驗(yàn)室看到哪些其他類型的第一方應(yīng)用程序呢？一個(gè)顯而易見(jiàn)的答案是更復(fù)雜、功能更豐富的搜索應(yīng)用。OpenAI的SearchGPT就預(yù)示著這一點(diǎn)。

編碼是另一個(gè)顯而易見(jiàn)的類別。同樣，隨著OpenAI的Canvas產(chǎn)品于10月份首次亮相，初步的產(chǎn)品化工作已經(jīng)開(kāi)始。

OpenAI或Anthropic是否會(huì)在2025年推出企業(yè)搜索產(chǎn)品？還是客戶服務(wù)產(chǎn)品、法律人工智能或銷售人工智能產(chǎn)品呢？

在消費(fèi)者方面，我們可以想象一個(gè)“個(gè)人助理”網(wǎng)絡(luò)代理產(chǎn)品，或者一個(gè)旅行規(guī)劃應(yīng)用，又或者是一個(gè)生成音樂(lè)的應(yīng)用。

觀察前沿實(shí)驗(yàn)室向應(yīng)用層發(fā)展的最迷人之處在于，這一舉措將使它們與許多最重要的客戶直接競(jìng)爭(zhēng)。

搜索領(lǐng)域的Perplexity、編碼領(lǐng)域的Cursor、在客戶服務(wù)領(lǐng)域德Sierra、在法律人工智能領(lǐng)域的Harvey、在銷售領(lǐng)域的Clay等等。

09.Klarna將在2025年上市，但存在夸大AI價(jià)值的跡象

Klarna是一家總部位于瑞典的“現(xiàn)購(gòu)現(xiàn)付”服務(wù)提供商，自2005年成立以來(lái)已籌集了近50億美元的風(fēng)險(xiǎn)投資。

也許沒(méi)有哪家公司能比Klarna對(duì)其人工智能的應(yīng)用說(shuō)得更冠冕堂皇了。

就在幾天前，Klarna首席執(zhí)行官Sebastian Siemiatkowski告訴彭博社，該公司已經(jīng)完全停止雇傭人類員工，轉(zhuǎn)而依靠生成式人工智能來(lái)完成工作。

正如Siemiatkowski所說(shuō)：“我認(rèn)為，人工智能已經(jīng)可以完成我們?nèi)祟愃�做的所有工作�?rdquo;

與此類似，Klarna公司今年早些時(shí)候宣布，它已經(jīng)推出了一個(gè)人工智能客戶服務(wù)平臺(tái)，該平臺(tái)已經(jīng)將700名人工客服人員的工作完全自動(dòng)化。

該公司還聲稱，它已經(jīng)停止使用Salesforce和Workday等企業(yè)軟件產(chǎn)品，因?yàn)樗�可以�?jiǎn)單地用人工智能取代它們。

直截了當(dāng)?shù)卣f(shuō)，這些說(shuō)法并不可信。它們反映了人們對(duì)當(dāng)今人工智能系統(tǒng)的能力和不足缺乏了解。

聲稱能夠用端到端的人工智能代理取代組織中任何職能部門(mén)的任何特定人類員工，這種說(shuō)法并不靠譜。這等同于解決了通用的人類級(jí)人工智能問(wèn)題。

如今，領(lǐng)先的人工智能初創(chuàng)企業(yè)正在該領(lǐng)域的最前沿努力構(gòu)建代理系統(tǒng)，以實(shí)現(xiàn)特定的、狹義的、高度結(jié)構(gòu)化的企業(yè)工作流程自動(dòng)化，例如，銷售開(kāi)發(fā)代表或客戶服務(wù)代理活動(dòng)的子集。

即使在這些范圍狹窄的情況下，這些代理系統(tǒng)也還不能完全可靠地工作，盡管在某些情況下，它們已經(jīng)開(kāi)始很好地工作，足以在早期得到商業(yè)應(yīng)用。

為什么Klarna會(huì)夸大人工智能的價(jià)值？

答案很簡(jiǎn)單。該公司計(jì)劃在2025年上半年上市。要想成功上市，關(guān)鍵是要有一個(gè)引人入勝的人工智能故事。

Klarna仍然是一家不盈利的企業(yè)，去年虧損了2.41億美元，它可能希望自己的人工智能故事能說(shuō)服公開(kāi)市場(chǎng)的投資者，讓他們相信它有能力大幅降低成本，實(shí)現(xiàn)持久盈利。

毫無(wú)疑問(wèn)，包括Klarna在內(nèi)的全球每家企業(yè)都將在未來(lái)幾年內(nèi)享受到人工智能帶來(lái)的巨大生產(chǎn)力提升。但是，在人工智能代理完全取代勞動(dòng)力中的人類之前，還有許多棘手的技術(shù)、產(chǎn)品和組織挑戰(zhàn)有待解決。

像Klarna這樣夸大其詞的說(shuō)法是對(duì)人工智能領(lǐng)域的褻瀆，也是對(duì)人工智能技術(shù)專家和企業(yè)家們?cè)陂_(kāi)發(fā)人工智能代理方面所取得的艱苦進(jìn)展的褻瀆。

隨著Klarna準(zhǔn)備在2025年公開(kāi)發(fā)行股票，預(yù)計(jì)這些說(shuō)法將受到更嚴(yán)格的審查和公眾的懷疑，而到目前為止，這些說(shuō)法大多沒(méi)有受到質(zhì)疑。如果該公司對(duì)其人工智能應(yīng)用的某些描述過(guò)于夸張，也不要感到驚訝。

10.第一起真正的AI安全事故將會(huì)發(fā)生

近年來(lái)，隨著人工智能變得越來(lái)越強(qiáng)大，人們?cè)絹?lái)越擔(dān)心人工智能系統(tǒng)可能會(huì)開(kāi)始以與人類利益不一致的方式行事，而且人類可能會(huì)失去對(duì)這些系統(tǒng)的控制。

舉例來(lái)說(shuō)，想象一下，一個(gè)人工智能系統(tǒng)為了實(shí)現(xiàn)自己的目標(biāo)，學(xué)會(huì)了欺騙或操縱人類，即使這些目標(biāo)會(huì)對(duì)人類造成傷害。這些擔(dān)憂通常被歸類為“AI安全”問(wèn)題。

近年來(lái)，人工智能安全已從一個(gè)邊緣的準(zhǔn)科幻話題轉(zhuǎn)變?yōu)橐粋�(gè)主流活動(dòng)領(lǐng)域。

如今，從谷歌、微軟到OpenAI，每一個(gè)主要的人工智能參與者都為人工智能安全工作投入了大量資源。像Geoff Hinton、Yoshua Bengio和Elon Musk這樣的人工智能偶像，也開(kāi)始對(duì)人工智能安全風(fēng)險(xiǎn)發(fā)表看法。

然而，到目前為止，人工智能安全問(wèn)題仍完全停留在理論層面�，F(xiàn)實(shí)世界中從未發(fā)生過(guò)真正的人工智能安全事故（至少?zèng)]有公開(kāi)報(bào)道過(guò)）。

2025年將是改變這種狀況的一年，第一起人工智能安全事件會(huì)是什么樣的呢？

明確地說(shuō)，它不會(huì)涉及終結(jié)者式的殺手機(jī)器人，它很可能不會(huì)對(duì)人類造成任何傷害。

也許人工智能模型會(huì)試圖在另一臺(tái)服務(wù)器上秘密創(chuàng)建自己的副本，以保存自己（稱為自我過(guò)濾）。

又也許人工智能模型會(huì)得出這樣的結(jié)論：為了最好地推進(jìn)它被賦予的目標(biāo)，它需要向人類隱瞞自己真實(shí)的能力，故意在性能評(píng)估中表現(xiàn)低調(diào)，規(guī)避更嚴(yán)格的審查。

這些例子并非牽強(qiáng)附會(huì)。阿波羅研究公司本月早些時(shí)候發(fā)表的重要實(shí)驗(yàn)表明，在特定的提示下，當(dāng)今的前沿模型能夠做出這種欺騙行為。

同樣，《人類學(xué)》最近的研究也表明，LLMs具有令人不安的“偽對(duì)齊”能力。

我們預(yù)計(jì)，這起首例人工智能安全事件將在造成任何實(shí)際傷害之前被發(fā)現(xiàn)并消除。但對(duì)于人工智能界和整個(gè)社會(huì)來(lái)說(shuō)，這將是一個(gè)大開(kāi)眼界的時(shí)刻。

它將明確一件事：在人類面臨來(lái)自無(wú)所不能的人工智能的生存威脅之前，我們需要接受一個(gè)更平凡的現(xiàn)實(shí)：我們現(xiàn)在與另一種形式的智能共享我們的世界，這種智能有時(shí)可能是任性的、不可預(yù)測(cè)的和欺騙性的。

原文來(lái)源于：

1.https://www.forbes.com/sites/robtoews/2024/12/22/10-ai-predictions-for-2025/

中文內(nèi)容由元宇宙之心（MetaverseHub）團(tuán)隊(duì)編譯，如需轉(zhuǎn)載請(qǐng)聯(lián)系我們。

       原文標(biāo)題 : 2025年人工智能的十大預(yù)測(cè)：AI Agent方向?qū)⒊蔀橹髁?/span>