英偉達(dá)近日發(fā)布2024財(cái)年第四財(cái)季及全年財(cái)報(bào)后，英偉達(dá)創(chuàng)始人、總裁兼首席執(zhí)行官黃仁勛在回答分析師提問時(shí)表示，AI芯片供不應(yīng)求的狀況將貫穿全年。

黃仁勛稱，總的來說我們的供應(yīng)正在改善，供應(yīng)鏈伙伴對(duì)英偉達(dá)的支持非常大，從晶圓，包裝，存儲(chǔ)，電源調(diào)節(jié)器，到收發(fā)器，網(wǎng)絡(luò)和電纜等。

大家理解的英偉達(dá)GPU就是一個(gè)芯片，但其實(shí)Hopper架構(gòu)GPU中有35000個(gè)零件，是非常復(fù)雜的東西，所以人們稱它為人工智能超級(jí)計(jì)算機(jī)是有充分理由的。

我們預(yù)計(jì)供不應(yīng)求的情況還將持續(xù)，并貫穿全年，但我們將盡最大努力緩解短缺問題。每當(dāng)我們推出新產(chǎn)品的時(shí)候，是從零增長到非常大數(shù)字的過程，不可能在一夜之間做到這一點(diǎn)，增長是持續(xù)爬坡式的，不會(huì)一步到位，黃仁勛稱。

目前我們正在努力實(shí)現(xiàn)H200的擴(kuò)產(chǎn)，但不可能在短期內(nèi)跟上需求，我們也在實(shí)現(xiàn)Spectrum-X的擴(kuò)產(chǎn)，這款接入全球以太網(wǎng)的全新產(chǎn)品需求非常不錯(cuò)。


全新AI芯片橫空出世

響應(yīng)速度比英偉達(dá)快十倍以上

就在全世界還沉浸在Sora帶來的視覺震撼時(shí)，AI圈又出了一個(gè)“王炸”產(chǎn)品，這一次是在芯片領(lǐng)域。

自從AI賽道大熱以來，人們的關(guān)注點(diǎn)主要在各種大模型的競爭，OpenAI、谷歌、Meta等巨頭和各種初創(chuàng)企業(yè)在軟件層面“爭奇斗艷”。而在硬件層面，似乎英偉達(dá)已經(jīng)“一騎絕塵”，該公司生產(chǎn)的GPU芯片“一片難求”，全球AI廠商都爭相求購。

不過就在當(dāng)?shù)貢r(shí)間20日，初創(chuàng)芯片企業(yè)Groq開放了免費(fèi)試用，其芯片響應(yīng)速度震撼了業(yè)界。搭載Groq芯片的大模型回復(fù)用戶的速度極快，達(dá)到普通人打字速度的75倍，比英偉達(dá)芯片的響應(yīng)速度快10倍以上。對(duì)于習(xí)慣了ChatGPT等AI產(chǎn)品“一個(gè)字一個(gè)字蹦出答案”的用戶來說，如今看到AI模型生成文章的速度比“眨眼睛還快”，其震撼程度可想而知。

Groq在20日宣布對(duì)AI云服務(wù)平臺(tái)進(jìn)行免費(fèi)開放體驗(yàn)，該公司官方賬號(hào)還在社媒發(fā)文，鼓勵(lì)粉絲積極參與互動(dòng)。這次Groq在服務(wù)器上運(yùn)行了Meta公司開發(fā)的Llama二代大模型等產(chǎn)品，因?yàn)楹虲hatGPT等閉源產(chǎn)品不同，Llama等模型是開源產(chǎn)品，允許其他廠商使用。

很快，體驗(yàn)了“無卡頓”狀態(tài)的用戶們對(duì)Groq發(fā)出了驚嘆和贊美，“刷屏”了整個(gè)AI圈。比如，一位市場營銷行業(yè)的用戶截屏說明了自己的體驗(yàn)：Groq云服務(wù)平臺(tái)針對(duì)他提出的專業(yè)領(lǐng)域問題，僅用4秒鐘就生成了上千個(gè)英文單詞的回答，而且這一回答真實(shí)可信，并附有注釋和資料來源。

還有人用實(shí)驗(yàn)證明，Groq云服務(wù)平臺(tái)搭配Llama2-70B模型，可以在7分鐘之內(nèi)打出和莎士比亞名篇《哈姆雷特》同樣多單詞量的文章，這一速度至少是普通人打字速度的75倍。有業(yè)界人士評(píng)論稱，Groq芯片在響應(yīng)速度上完全秒殺英偉達(dá)，給那些“喜歡低延遲體驗(yàn)”的用戶帶來了極大的驚喜。

在此之前，用戶們已經(jīng)普遍習(xí)慣了由英偉達(dá)芯片驅(qū)動(dòng)下的AI大模型十分緩慢的答復(fù)速度，“就像看著對(duì)面打字的人一個(gè)字一個(gè)字地往外蹦出答案”。而在Groq云服務(wù)平臺(tái)，用戶可謂“目不暇接”，AI生成答案的速度遠(yuǎn)遠(yuǎn)超過肉眼閱讀的速度。

專業(yè)測評(píng)顯示，Groq芯片搭配Llama二代模型可以達(dá)到每秒近500個(gè)token，如果搭配其他小廠商的模型甚至能達(dá)到每秒700token的文字處理速度。而根據(jù)公開數(shù)據(jù)測算，英偉達(dá)旗下芯片驅(qū)動(dòng)的GPT大模型的文字生成速度大約為每秒40個(gè)token。

眾多科技巨頭布局AI芯片

最近，全球最高市值的科技巨頭微軟宣布計(jì)劃設(shè)計(jì)一款新的網(wǎng)卡芯片，意圖替代英偉達(dá)在市場上的主流產(chǎn)品。外媒The information報(bào)道，微軟的網(wǎng)卡芯片與英偉達(dá)的ConnectX-7卡類似，將其與GPU和 AI 芯片“捆綁”銷售。

然而，微軟并不是唯一一家自研AI芯片的科技巨頭。亞馬遜旗下的云計(jì)算部門AWS和社交媒體巨頭Meta也在積極研發(fā)自家的AI芯片。

AWS推出的基于ARM架構(gòu)的高性能計(jì)算服務(wù)器CPU芯片Graviton 3E和第五代Nitro網(wǎng)絡(luò)芯片硬件，無疑是在增強(qiáng)其在云計(jì)算領(lǐng)域的競爭力。而Meta計(jì)劃部署的第二代自研AI芯片Artemis，則顯示了其在AI領(lǐng)域的野心。

此外，英偉達(dá)的另外一個(gè)重量級(jí)競爭對(duì)手華為，不僅積極部署AI芯片領(lǐng)域，而且還搶占了部分英偉達(dá)市場。英偉達(dá)CEO黃仁勛都表示，華為是英偉達(dá)AI芯片最大的競爭對(duì)手之一。

這些科技巨頭紛紛入局AI芯片市場，無疑給英偉達(dá)帶來了巨大的壓力，這也引發(fā)了業(yè)界的廣泛關(guān)注。

那么，面對(duì)如此多的競爭對(duì)手，英偉達(dá)的AI市場地位真的危險(xiǎn)了嗎？

當(dāng)然，答案并非如此簡單。英偉達(dá)在AI芯片領(lǐng)域的技術(shù)積累和市場份額仍然具有較大優(yōu)勢。其推出的DPU芯片和BlueField-3 SuperNIC等產(chǎn)品，在性能和功能上都有著不俗的表現(xiàn)。

而且，英偉達(dá)也在不斷推出新的技術(shù)和產(chǎn)品，以滿足市場需求并保持技術(shù)領(lǐng)先地位。此外，英偉達(dá)還擁有一批忠實(shí)的客戶和合作伙伴，這些客戶和合作伙伴對(duì)英偉達(dá)產(chǎn)品的信任和支持，也是英偉達(dá)在市場競爭中的重要優(yōu)勢。

然而，面對(duì)競爭對(duì)手的挑戰(zhàn)和市場的變化，英偉達(dá)也需要不斷調(diào)整自己的戰(zhàn)略和產(chǎn)品線，以適應(yīng)市場的需求和變化。


國內(nèi)8家AI芯片廠商進(jìn)展

近年在AI大勢與國產(chǎn)替代東風(fēng)下，國內(nèi)AI芯片廠商抓住機(jī)遇加速發(fā)展，不僅百度、阿里巴巴、騰訊和華為等大廠加速自研AI芯片，而且AI芯片公司不斷涌現(xiàn)，并深受資本市場青睞。

以下將盤點(diǎn)國內(nèi)8家AI芯片廠商進(jìn)展：


百度昆侖芯

百度對(duì)AI芯片的布局最早可以追溯到2011年，經(jīng)過七年發(fā)展，2018年百度自研AI芯片——昆侖1正式亮相，采用14nm工藝與自研XPU架構(gòu)，于2020年量產(chǎn)，主要應(yīng)用于百度搜索引擎、小度等業(yè)務(wù)。2021年3月，百度昆侖芯片完成獨(dú)立融資，同年8月，百度宣布第2代自研AI芯片——昆侖2正式量產(chǎn)，采用7nm制程，搭載自研的第二代XPU架構(gòu)，相比1代性能提升2-3倍，通用性、易用性方面顯著增強(qiáng)。

百度昆侖芯前兩代的產(chǎn)品已有數(shù)萬片部署，第三代產(chǎn)品有望在2024年4月舉辦的百度Create AI開發(fā)者大會(huì)上亮相。


阿里平頭哥

阿里平頭哥于2018年9月成立，是阿里巴巴全資半導(dǎo)體芯片業(yè)務(wù)主體，擁有端云一體全棧產(chǎn)品系列，涵蓋數(shù)據(jù)中心芯片、IoT芯片、處理器IP授權(quán)等，實(shí)現(xiàn)芯片端到端設(shè)計(jì)鏈路全覆蓋。

AI芯片布局上，阿里平頭哥2019年9月推出了其首款高性能人工智能推理芯片——含光800，基于12nm工藝與自研架構(gòu)，集成了170億晶體管，性能峰值算力達(dá)820 TOPS。在業(yè)界標(biāo)準(zhǔn)的ResNet-50測試中，推理性能達(dá)到78563 IPS，能效比達(dá)500 IPS/W。

2023年8月，阿里平頭哥發(fā)布了首個(gè)自研RISC-V AI平臺(tái)，支持運(yùn)行170余個(gè)主流AI模型，推動(dòng)RISC-V進(jìn)入高性能AI應(yīng)用時(shí)代。同時(shí)，平頭哥宣布玄鐵處理器C920全新升級(jí)，C920執(zhí)行GEMM（矩陣的矩陣乘法)計(jì)算較Vector方案可提速15倍。

2023年11月，阿里平頭哥玄鐵RISC-V上新了三款基于軟硬協(xié)同新范式的處理器（C920、C907、R910），大幅提升了加速計(jì)算能力、安全性及實(shí)時(shí)性，有望加速推動(dòng)RISC-V在自動(dòng)駕駛、人工智能、企業(yè)級(jí)SSD、網(wǎng)絡(luò)通信等場景和領(lǐng)域的大規(guī)模商用落地。

騰訊

2021年11月，騰訊宣布在三款芯片上已有實(shí)質(zhì)性進(jìn)展，分別為針對(duì)AI計(jì)算的紫霄、用于視頻處理的滄海以及面向高性能網(wǎng)絡(luò)的玄靈，其中紫霄已經(jīng)流片成功并點(diǎn)亮。

據(jù)悉，紫霄采用自研存算架構(gòu)和自研加速模塊，可以提供高達(dá)3倍的計(jì)算加速性能和超過45%的整體成本節(jié)省。紫霄芯片為騰訊內(nèi)部使用，不對(duì)外銷售，騰訊通過其云服務(wù)出租算力獲利。

近期，媒體報(bào)道知情人士稱騰訊正考慮將紫霄V1作為英偉達(dá)A10芯片的替代品，用于AI圖像和語音識(shí)別應(yīng)用。此外，騰訊還將推出針對(duì)AI訓(xùn)練優(yōu)化的紫霄V2 Pro芯片，以在未來取代英偉達(dá)L40S芯片。


華為

華為在2018全聯(lián)接大會(huì)上提出了華為AI戰(zhàn)略和全棧全場景AI解決方案，并發(fā)布了2顆全新的AI芯片：昇騰910（Ascend 910）和昇騰310（Ascend 310）。

兩款A(yù)I芯片均基于華為自研達(dá)芬奇架構(gòu)，其中Ascend 910（用于訓(xùn)練）采用7nm工藝，半精度達(dá)256TFOPs，功耗為350W，運(yùn)算密度超越了英偉達(dá)Tesla V100和谷歌TPU v3。昇騰310屬于Ascend-mini系列第一顆華為商用AI SoC芯片，面向邊緣計(jì)算等低功耗領(lǐng)域。

基于昇騰910、昇騰310 AI芯片，華為還推出了Atlas AI計(jì)算解決方案。華為昇騰社區(qū)顯示，目前 Atlas 300T 產(chǎn)品有三個(gè)型號(hào)，分別對(duì)應(yīng)昇騰 910A、910B、910 Pro B，最大 300W 功耗，前兩者 AI 算力均為 256 TFLOPS，而 910 Pro B 可達(dá) 280 TFLOPS（FP16）。據(jù)悉，華為昇騰芯片910B在2023年已經(jīng)獲得了大客戶至少5000套的訂單，預(yù)計(jì)會(huì)在2024年交付。業(yè)界認(rèn)為，華為昇騰910B能力已經(jīng)基本做到可對(duì)標(biāo)英偉達(dá)A100。

由于國內(nèi)對(duì)于華為昇騰910B等國產(chǎn)AI芯片的需求激增，路透社近期報(bào)道華為計(jì)劃優(yōu)先生產(chǎn)昇騰910B，而這可能將會(huì)影響到Mate 60系列所搭載的麒麟9000s芯片的產(chǎn)能。


寒武紀(jì)

寒武紀(jì)成立于2016年，專注于人工智能芯片產(chǎn)品的研發(fā)與技術(shù)創(chuàng)新，提供云邊端一體、軟硬件協(xié)同、訓(xùn)練推理融合、具備統(tǒng)一生態(tài)的系列化智能芯片產(chǎn)品和平臺(tái)化基礎(chǔ)系統(tǒng)軟件，產(chǎn)品廣泛應(yīng)用于服務(wù)器廠商和產(chǎn)業(yè)公司。

成立以后，寒武紀(jì)推出多款芯片產(chǎn)品，覆蓋終端、云端與邊緣領(lǐng)域。其中終端芯片包括寒武紀(jì)1A、寒武紀(jì)1H、寒武紀(jì)1M 系列智能處理器；云端智能加速卡包括思元100、思元270、思元 290芯片和思元370；邊緣智能加速卡包括思元220芯片。

其中，思元290智能芯片是寒武紀(jì)的首顆訓(xùn)練芯片，采用臺(tái)積電7nm先進(jìn)制程工藝，集成460億個(gè)晶體管，支持MLUv02擴(kuò)展架構(gòu)，全面支持AI訓(xùn)練、推理或混合型人工智能計(jì)算加速任務(wù)。思元370則為該公司的主力產(chǎn)品，采用是7nm制程工藝，同時(shí)支持推理和訓(xùn)練任務(wù)。此外，思元370也是寒武紀(jì)首款采用chiplet(芯粒)技術(shù)的AI芯片，集成了390億個(gè)晶體管，最大算力高達(dá)256TOPS(INT8)。


璧仞科技

壁仞科技創(chuàng)立于2019年，發(fā)展路徑上，壁仞科技將首先聚焦云端通用智能計(jì)算，逐步在人工智能訓(xùn)練和推理、圖形渲染等多個(gè)領(lǐng)域趕超現(xiàn)有解決方案，實(shí)現(xiàn)國產(chǎn)高端通用智能計(jì)算芯片的突破。壁仞科技已完成B輪融資，總?cè)谫Y額超50億元人民幣，是國內(nèi)成長勢頭最為迅猛的“獨(dú)角獸”企業(yè)之一。

2021年，壁仞科技首款通用GPU芯片BR100系列正式交付開始流片，2022年3月BR100成功點(diǎn)亮，同年8月BR100正式發(fā)布。

據(jù)悉，BR100系列基于壁仞科技自主原創(chuàng)的芯片架構(gòu)開發(fā)，采用成熟的7納米工藝制程，集成770億晶體管，16位浮點(diǎn)算力達(dá)到1000T以上、8位定點(diǎn)算力達(dá)到2000T以上，單芯片峰值算力達(dá)到PFLOPS級(jí)別。同時(shí)，BR100結(jié)合了包括Chiplet（芯粒技術(shù)）等在內(nèi)的多項(xiàng)業(yè)內(nèi)前沿芯片設(shè)計(jì)、制造與封裝技術(shù)，具有高算力、高能效、高通用性等優(yōu)勢。


地平線

地平線是國內(nèi)高效能智能駕駛計(jì)算方案提供商，于2015年7月成立，經(jīng)過幾年發(fā)展，陸續(xù)推出多款A(yù)I芯片，產(chǎn)品主要包含旭日與征程系列，其中旭日系列面向AIOT市場，征程系列面向智能駕駛領(lǐng)域。

目前旭日系列已經(jīng)發(fā)展至第三代，旭日3M和旭日3E，分別對(duì)應(yīng)高端和低端市場。性能方面，只需在 2.5W 的功耗下，旭日3能夠達(dá)到等效 5TOPS 的標(biāo)準(zhǔn)算力，較前一代大幅升級(jí)。

征程系列目前已經(jīng)迭代至第五代，征程5芯片于2021年發(fā)布，2022年9月全球首發(fā)量產(chǎn)，單顆芯片AI算力最高可達(dá)128 TOPS，支持16路攝像頭，可滿足車廠高級(jí)別自動(dòng)駕駛的量產(chǎn)需求。

2023年11月，地平線宣布征程6系列將于2024年4月正式發(fā)布，并于2024年第四季度完成首批量產(chǎn)車型交付。據(jù)悉，已有多家車企與地平線達(dá)成意向合作，包括比亞迪、廣汽集團(tuán)、大眾汽車集團(tuán)旗下軟件公司CARIAD、博世等汽車領(lǐng)域頭部企業(yè)。


燧原科技

燧原科技于2018年3月成立，專注人工智能領(lǐng)域云端和邊緣算力，成立5年多已建成云端訓(xùn)練和云端推理兩條產(chǎn)品線，并開發(fā)出云燧?T10、云燧?T20/T21訓(xùn)練產(chǎn)品以及云燧?i10、云燧?i20等推理產(chǎn)品。

燧原科技已于2023年9月宣布完成D輪融資20億元人民幣，由上海國際集團(tuán)旗下子公司及產(chǎn)業(yè)基金，包括國際資管、國鑫創(chuàng)投、國方創(chuàng)新、金浦投資旗下上海金融科技基金、國和投資聯(lián)合領(lǐng)投，騰訊、美圖公司、武岳峰科創(chuàng)、允泰資本、弘卓資本、紅點(diǎn)中國、廣發(fā)乾和、達(dá)泰資本、浦東投控等多家新老股東跟投。

另據(jù)媒體報(bào)道，燧原科技第三代AI芯片產(chǎn)品將于2024年初上市。