4月9日，英特爾推出了其最新的人工智能芯片Gaudi 3。這家芯片制造商急于生產(chǎn)可以訓練和部署大型AI模型的半導體，例如支持OpenAI的ChatGPT的模型。

新的 Gaudi 3 芯片的能效是英偉達前一代產(chǎn)品H100 GPU的兩倍多，并且可以比H100 GPU 快一倍半。同時Gaudi 3 還有不同的配置，例如在一塊主板上捆綁八個 Gaudi 3 芯片或可以插入現(xiàn)有系統(tǒng)的卡。

英特爾在Meta 的開源 Llama 和阿布扎比支持的 Falcon 等模型上測試了該芯片。Gaudi 3可以幫助訓練或部署模型，包括Stable Diffusion或OpenAI的Whisper語音識別模型。

英特爾表示，其芯片使用的功率低于英偉達的芯片。

據(jù)估計，英偉達擁有80%的AI芯片市場，其圖形處理器（GPU）在過去一年中一直是AI構(gòu)建者的首選高端芯片。

新的Gaudi 3芯片將在第三季度向客戶提供，包括惠普、超微等在內(nèi)的公司將使用這些芯片構(gòu)建系統(tǒng)。但是英特爾沒有提供 Gaudi 3 的價格范圍。

運行生成式 AI 和購買 Nvidia GPU 可能很昂貴，不少公司正在尋找其他供應商來幫助降低成本。除了性能、功耗外，Gaudi 3具有競爭力的價格、獨特的開放式集成片上網(wǎng)絡(luò)，正在使用行業(yè)標準的以太網(wǎng)。通過超級以太網(wǎng)聯(lián)盟 （UEC），英特爾正在引領(lǐng)面向 AI 架構(gòu)的開放式以太網(wǎng)網(wǎng)絡(luò)。該公司推出了一系列人工智能優(yōu)化的以太網(wǎng)解決方案，包括AI NIC（網(wǎng)絡(luò)接口卡）和人工智能連接小芯片。

隨著云提供商和企業(yè)建立基礎(chǔ)設(shè)施來部署人工智能軟件，數(shù)據(jù)中心人工智能市場也有望增長，這表明即使英偉達繼續(xù)制造絕大多數(shù)人工智能芯片，其他競爭對手仍有發(fā)展空間。

為減少對英偉達依賴，谷歌推出ARM服務器芯片

與微軟、亞馬遜一樣，谷歌也推出了多款自研芯片，以減少對英偉達GPU芯片的依賴。

美東時間4月9日周二，谷歌在今年的年度云計算大會Cloud Next 2024上宣布推出一款基于Arm架構(gòu)的數(shù)據(jù)中心芯片Google Axion，以及更新TPU v5p芯片。

谷歌表示表示，Google Axion處理器基于Arm Neoverse V2 CPU構(gòu)建，以Titanium為基礎(chǔ)，性能比通用ARM芯片高30%，而且比英特爾生產(chǎn)的當前一代 x86芯片高50%。預計Axion用于多種谷歌服務，并在“今年晚些時候”向公眾開放。

谷歌云副總裁兼計算和機器學習基礎(chǔ)設(shè)施總經(jīng)理 Mark Lohmeyer 表示：“我們正在讓客戶輕松地將現(xiàn)有工作負載轉(zhuǎn)移到 ARM。Axion 建立在開放基礎(chǔ)之上，在任何地方使用ARM的客戶都可以輕松采用 Axion，而無需重新架構(gòu)或重新編寫應用程序?！?/span>

“谷歌推出的新型 Axion CPU 標志著交付定制芯片的一個重要里程碑，該芯片針對谷歌的基礎(chǔ)設(shè)施進行了優(yōu)化，并構(gòu)建在我們的高性能 Arm Neoverse V2 平臺上。數(shù)十年的生態(tài)系統(tǒng)投資，再加上 Google 的持續(xù)創(chuàng)新和開源軟件貢獻，確保為在各地運行 Arm 的客戶最重要的工作負載提供最佳體驗?！盇rm 首席執(zhí)行官 Rene Haas表示。

事實上，Axion 只是眾多定制發(fā)一份芯片中的最新產(chǎn)品。自2015年以來，谷歌已經(jīng)發(fā)布了五代張量處理單元（TPU）；同時，2018年，谷歌發(fā)布了第一個視頻編碼單元 (VCU)，視頻轉(zhuǎn)碼效率提高了33 倍；另外，2021年，谷歌通過投資“片上系統(tǒng)”(SoC) 設(shè)計，加大了定制計算的投入，并發(fā)布了用于移動設(shè)備的三代Tensor芯片中的第一款。

如今，谷歌推出新的芯片意味著，該公司正在追趕亞馬遜和微軟這些云領(lǐng)域競爭對手的步伐。亞馬遜和微軟2021年就已經(jīng)推出Arm架構(gòu)的CPU，作為提供差異化計算服務的一種方式。而谷歌之前為YouTube、AI及其智能手機推出過定制芯片，但還沒有打造過CPU。

具體來說，Axion將適用于一系列任務，包括支持谷歌的搜索引擎和 AI 相關(guān)的工作。谷歌表示，該芯片可以通過幫助處理大量數(shù)據(jù)并為數(shù)十億用戶部署服務，在AI領(lǐng)域發(fā)揮重要的支持作用。同時，未來谷歌逐步轉(zhuǎn)移到基于Arm云服務器用例上使用，Datadog、Elastic、OpenX 和 Snap都計劃采用 Axion。

除了Axion之外，谷歌還宣布全面推出 TPU v5p，用于訓練和推理的最強大、可擴展且靈活的 AI 加速器，其計算能力是上一代的 4 倍（400%）。

谷歌CEO桑達爾·皮查伊表示，生成式 AI的進步需要強大的底層基礎(chǔ)設(shè)施。谷歌 AI 超級計算機結(jié)合了我們的 TPU、GPU、AI 軟件等，為訓練和服務模型提供性能和成本優(yōu)勢。如今，領(lǐng)先 AI 公司和 Google Cloud 客戶（例如 Anthropic、AI21 Labs、Contextual AI、Essential AI 和 Mistral AI）正在使用其基礎(chǔ)設(shè)施。

數(shù)據(jù)顯示，雖然廣告依然是谷歌最大收入源，但云計算的增長更快，在谷歌的收入中占比不斷提高，已接近占公司總收入的11%。據(jù)Gartner估算，2022 年，谷歌占云基礎(chǔ)設(shè)施市場 7.5% 的份額，而亞馬遜和微軟合計控制著 62% 左右的份額。

谷歌表示，現(xiàn)在已經(jīng)有超過 90% 的 AI 獨角獸企業(yè)在使用谷歌的計算資源、模型和開發(fā)環(huán)境。

如今，谷歌成為繼微軟和亞馬遜之后，第三家用ARM架構(gòu)推出數(shù)據(jù)中心CPU的科技巨頭，這顯示了新的趨勢。而且，谷歌還利用TPU優(yōu)勢，全面提供服務器和數(shù)據(jù)中心閉環(huán)服務，降低英偉達、英特爾、AMD芯片的依賴。

有評論稱，谷歌開發(fā)新芯片是在 AI 競賽白熱化之際減少對外部廠商的依賴。不過，谷歌的官員并沒有將芯片新品視為一種競爭之舉。谷歌負責自研芯片業(yè)務的副總Amin Vahdat說：“我覺得這是做大蛋糕的基礎(chǔ)?！?/span>


大規(guī)模AI計算已經(jīng)進入系統(tǒng)競賽

在Intel Vision大會上，“生成式AI”這一主題可以說是貫穿全程，從數(shù)據(jù)中心的大規(guī)模AI訓練與推理，到AI PC改變端側(cè)生產(chǎn)力，英特爾正竭力展示自己作為先進芯片技術(shù)領(lǐng)導者的競爭力。

如今談到大模型訓練芯片，英偉達當仁不讓是首選供應商，但這棵搖錢樹早已被其他芯片大廠和創(chuàng)業(yè)新秀盯上，英特爾便是其中之一。英特爾正通過推出更具性價比的可擴展系統(tǒng)來打破這種一家獨大的局面，這將為市場帶來另一種選擇。

大規(guī)模AI計算已經(jīng)進入系統(tǒng)競賽，無論是守擂者英偉達，還是英特爾、AMD、Cerebras、Groq等追擊者，都明顯加大對先進Chiplet封裝、先進存儲、先進互連技術(shù)的重視，通過從超越制程和reticle極限的芯片內(nèi)部設(shè)計優(yōu)化，到擴展至大型集群系統(tǒng)的技術(shù)升級，為整個數(shù)據(jù)中心的AI計算提供更高性能和能效的加速。

除了Gaudi 3，英特爾還在Intel Vision大會上分享了數(shù)據(jù)中心至強處理器和AI PC的進展，并現(xiàn)場連線遠在英特爾晶圓廠的同事，演示如何在AI PC上用先進AI技術(shù)輔助芯片檢測。

英特爾宣布面向數(shù)據(jù)中心、云和邊緣的下一代處理器進行品牌煥新，即英特爾至強6。配備能效核的至強6（此前代號為Sierra Forest）將于2024年第二季度推出，配備性能核的至強6（此前代號為Granite Rapids）將緊隨其后推出。

配備性能核的英特爾至強6包含了對MXFP4數(shù)據(jù)格式的軟件支持，與使用FP16的第四代至強處理器相比，可將下一個token的延遲時間縮短至原來的15%，能運行700億參數(shù)Llama-2模型。

英特爾預計將于今年出貨4000萬臺AI PC，以及超過230種的設(shè)計，覆蓋輕薄PC和游戲掌機設(shè)備。新一代英特爾酷睿Ultra客戶端處理器家族（代號Lunar Lake）將于今年推出，具備超過100 TOPS平臺算力，NPU算力超過46TOPS。

英偉達的“鐵王座”還能做多久？

AI浪潮已經(jīng)勢不可擋，AI芯片作為其發(fā)展的底層基石也迎來了前所未有的機遇。據(jù)Gartner最新預測，到2024年AI芯片市場規(guī)模將較上一年增長25.6%，達671億美元。預計到2027年，AI芯片市場規(guī)模將是2023年規(guī)模的兩倍以上，達到1194億美元。

在這樣的背景下，“算力霸主”英偉達被捧上神壇，以高達80%的占有率幾乎壟斷了市場，賺得盆滿缽滿。英偉達數(shù)據(jù)中心業(yè)務的營收再創(chuàng)新高，帶動2024年財年Q4季度總營收狂漲265%。由于這份遠超預期的財報數(shù)據(jù)，英偉達一夜?jié)q出2770億美金市值，相當于：一夜?jié)q出阿里巴巴+百度+京東。

英偉達的“狂飆”也引來了眾多挑戰(zhàn)者。亞馬遜、谷歌、微軟、華為、百度等巨頭積極推動自研芯片，寒武紀、摩爾線程、燧原科技等新銳力量崛起。據(jù)外媒報道，英偉達在提交給美國證券交易委員會的文件中，其中包含AI芯片等多個類別里，首度將華為認定為“最大競爭對手”。

理想與狂熱交織下，人們不免好奇：英偉達的“鐵王座”還能坐多久？