AI競賽來到下半場，除了各家都在尋找AI落地的使用場景外，他們越發(fā)覺得自己一直被GPU的供應(yīng)所限制。

整個行業(yè)好像被NVIDIA（英偉達）牽著鼻子走，老黃能拿出什么樣的GPU，就決定了他們能搞出什么樣的AI來。

并且，生成式AI越高越大，單靠英偉達一家，早就沒法滿足這些AI公司日益膨脹的胃口了。

據(jù)報道，英偉達性能最好的芯片 在 2024 年之前就已售空。芯片制造商臺積電（TSMC）的CEO最近不太樂觀，他表示英偉達以及其競爭對手的 GPU 短缺可能會持續(xù)到 2025 年。

這可不是巨頭們想看到的結(jié)果。所以，微軟等AI主力軍紛紛下場自己搞芯片了。身為電商巨頭的亞馬遜自然不愿意掉隊，也加入了這場“造芯”大戰(zhàn)。

亞馬遜的量子“芯”

今天，在亞馬遜“AWS re：Invent 2023”活動中，亞馬遜計算部門資深副總裁 Peter DeSantis推出了亞馬遜的新量子芯片Trainium2 及 Graviton4 處理器。

亞馬遜表示，Trainium2 的性能比 2020 年 12 月推出的第一代 Trainium 提高了 4 倍，能源效率提高了 2 倍。

Tranium2 將在 AWS 云中由 16 個芯片組成的集群中的 EC Trn2 實例中使用，在 AWS 的 EC2 UltraCluster 產(chǎn)品中可擴展到多達 100，000 個芯片。

亞馬遜表示，十萬個 Trainium 芯片可提供 65 exaflops 的計算能力，相當(dāng)于每個芯片可提供 650 teraflops 的計算能力。

可能存在復(fù)雜的因素，使得餐巾紙后面的數(shù)學(xué)不一定非常準(zhǔn)確。但假設(shè)單個 Tranium2 芯片確實可以提供約 200 teraflops 的性能，這使其遠(yuǎn)遠(yuǎn)高于2017 年左右谷歌定制 AI 訓(xùn)練芯片的能力。

亞馬遜表示，由 10 萬個Trainium芯片組成的集群可以在數(shù)周內(nèi)訓(xùn)練出 3000 億個參數(shù)的 AI 大語言模型。這大約是 OpenAI 的GPT－3大小的 1．75 倍。

亞馬遜沒有透露何時可以使用 Trainium2 實例，只是說在“明年的某個時候”。

亞馬遜還推出了該公司第四款定制處理器芯片Graviton4，比前代性能提升 30％，內(nèi)核數(shù)增加 50％，內(nèi)存帶寬增加 75％，可以幫助 Amazon EC2 云服務(wù)的各類工作負(fù)載提供最佳性價比和能效。

這款處理器還對所有高速物理硬件接口加密來提高安全性。

亞馬遜聲稱，與在 Amazon EC2 上運行的上一代 Graviton 處理器Graviton3（但不是更新的Graviton3E ）相比，Graviton4 的計算性能提高了 30％，核心數(shù)量增加了 50％，內(nèi)存帶寬增加了 75％。

亞馬遜表示，在 Graviton3 的另一次升級中，Graviton4 的所有物理硬件接口都經(jīng)過“加密”——表面上可以更好地保護具有更高加密要求的客戶的人工智能訓(xùn)練工作負(fù)載和數(shù)據(jù)。

“Graviton4 標(biāo)志著我們在短短五年內(nèi)推出的第四代芯片，是我們?yōu)閺V泛的工作負(fù)載構(gòu)建的最強大、最節(jié)能的芯片，”布朗在一份聲明中繼續(xù)說道。

“通過將我們的芯片設(shè)計重點放在對客戶重要的實際工作負(fù)載上，我們能夠為他們提供最先進的云基礎(chǔ)設(shè)施�！�

還有個新的AI助手

除了這兩款重磅芯片，亞馬遜在活動上還發(fā)布了一款全新的AI助手——Q。

按亞馬遜的話來說，Amazon Q更多的是面向工作場景，不是為消費者準(zhǔn)備的。

亞馬遜云科技首席執(zhí)行官亞當(dāng)·塞利普斯基（Adam Selipsky）將其描述為能夠“輕松聊天、生成內(nèi)容和采取行動”，“一種新型的生成式人工智能助手，旨在工作中為你提供幫助”。

塞利普斯基說，考慮到這個聊天機器人的對話特性，Q這個名字來源于“問題”（question）這個詞。這也是對詹姆斯·邦德小說中角色Q和《星際迷航》中人物的致敬。

要知道，亞馬遜的創(chuàng)始人杰夫·貝佐斯是個狂熱的《星際迷航》粉。

Amazon Q預(yù)覽版目前已經(jīng)上線，部分功能目前免費對外提供。未來，亞馬遜最終將向企業(yè)用戶收取每人每月20美元的費用，而為開發(fā)人員和IT人員提供功能的版本將收取每人每月25美元。

至此，OpenAI有ChatGPT，微軟有Copilots，谷歌有Bard，亞馬遜也有了Amazon Q。AI四大巨頭聚齊，估計又要有一番大戰(zhàn)了。

而我們，只想看血流成河！