《科創(chuàng)板日報》2月1日訊（記者 黃心怡）隨著大模型行業(yè)逐漸從大規(guī)模訓(xùn)練階段走向推理落地階段，業(yè)內(nèi)分析普遍認(rèn)為，2026年全球AI推理的需求將超過AI訓(xùn)練場景。

不久前，英偉達(dá)以200億美元收購一家AI推理芯片初創(chuàng)企業(yè)Groq的技術(shù)授權(quán)，并把Groq核心團(tuán)隊招入囊中，來補全推理算力拼圖。

在近日的采訪中，曦望董事長徐冰向《科創(chuàng)板日報》記者判斷稱，至2030年，預(yù)計AI推理在整個AI計算市場將占到80%的份額，而聚焦于極致推理的AI芯片，未來會有更強的爆發(fā)性，并會對現(xiàn)有的算力系統(tǒng)造成沖擊。

另有AI芯片產(chǎn)業(yè)鏈人士也對《科創(chuàng)板日報》記者表示，未來，推理請求量與并發(fā)數(shù)將大幅增加，推理算力需求呈指數(shù)級攀升。

▍推理算力需求呈指數(shù)級攀升

“現(xiàn)階段正處于以智能體為代表的人工智能新應(yīng)用爆發(fā)初期，未來推理請求量與并發(fā)數(shù)大幅增加，推理算力需求呈指數(shù)級攀升。”一名AI產(chǎn)業(yè)鏈人士向《科創(chuàng)板日報》記者表示，“隨著推理范式變化，AI智能體將加速落地，其整體算力消耗可達(dá)同參數(shù)規(guī)模大語言模型的10倍以上，對智能算力的需求呈數(shù)量級躍遷。

目前，全球AI算力龍頭正處于由訓(xùn)練轉(zhuǎn)向推理的階段。英偉達(dá)此前完成了對AI推理芯片公司Groq的收購，也是其迄今規(guī)模最大的一筆收購。

Groq是一家專注極致推理的AI芯片企業(yè)，其創(chuàng)始人Jonathan Ross帶領(lǐng)的谷歌TPU原班人馬，用七年時間打造出LPU（語言處理單元）架構(gòu)，曾宣稱其推理性能是英偉達(dá)H100 GPU 10倍，而成本僅為其十分之一。

此外，美國的Etched.ai、Groq等也是主打極致推理芯片路線的企業(yè)。這類公司的核心邏輯是，大模型架構(gòu)已經(jīng)收斂，因此放棄通用訓(xùn)練GPU，更專注于打造最快的AI推理芯片。

在國內(nèi)，也有企業(yè)瞄準(zhǔn)這一方向。

近日，從商湯科技拆分獨立的AI芯片企業(yè)——曦望Sunrise，推出了聚焦于大模型推理的GPGPU 芯片啟望 S3。在DeepSeek V3/R1滿血版等主流大模型推理場景中，S3 的單位 Token 推理成本較上一代降低約 90%。曦望的目標(biāo)是把百萬 Token的推理成本降低至1分錢。為此，曦望聯(lián)合商湯科技、第四范式等，發(fā)起“百萬 Token 一分錢”推理成本計劃。

曦望聯(lián)席CEO王勇認(rèn)為，AI訓(xùn)練芯片賽道逐漸收斂，已經(jīng)變成頭部玩家的游戲。

“如今，市場格局越來越清晰，能做預(yù)訓(xùn)練大模型的公司數(shù)量是有限的，因為門檻越來越高。而推理賽道還沒有收斂。既有AI智能體，大語言模型，也有具身智能模型、世界模型等等，都會需要芯片來做推理任務(wù)。如果能把算力做到極致性價比，那么在下一代的芯片就占據(jù)了極有利的生態(tài)?！?/p>

▍AI應(yīng)用或借力春節(jié)加速落地

從市場格局來看，相比英偉達(dá)在訓(xùn)練端一家獨大。在推理端，由于對成本和能效的極致追求，技術(shù)路線呈現(xiàn)出百花齊放的態(tài)勢，為國產(chǎn)AI芯片廠商帶來機遇。

對于后續(xù)國產(chǎn)AI芯片的市場格局，曦望聯(lián)席CEO王湛認(rèn)為，英偉達(dá)的市值達(dá)到4萬億美金，而中國或許將出現(xiàn)多家市值數(shù)千億，甚至萬億人民幣的GPU公司。

“相較于美國，中國AI產(chǎn)業(yè)呈現(xiàn)出較為明顯的區(qū)域化發(fā)展特征,國內(nèi)不同GPU企業(yè)在各自優(yōu)勢地域市場占據(jù)主導(dǎo).而互聯(lián)網(wǎng)巨頭們除自研芯片外，也在采購國產(chǎn)芯片，并已形成各自的深度合作伙伴關(guān)系。盡管中國GPU企業(yè)的總市值可能難以達(dá)到英偉達(dá)4萬億美元的高度，但即便以4萬億人民幣計算，市場依然蘊藏著巨大的增長空間?！?/p>

當(dāng)前，AI產(chǎn)業(yè)鏈企業(yè)的高估值，也引發(fā)了市場擔(dān)憂。曾領(lǐng)導(dǎo)瑞士銀行商品策略團(tuán)隊的英國分析師朱利安·加蘭認(rèn)為，美國的資本配置不當(dāng)，AI泡沫的狂熱是互聯(lián)網(wǎng)泡沫的17倍，2008年房地產(chǎn)泡沫的4倍。

曾經(jīng)歷過互聯(lián)網(wǎng)泡沫破滅的王湛認(rèn)為，“當(dāng)時的互聯(lián)網(wǎng)泡沫之所以形成，很大程度上是因為盡管市場概念火熱，實際用戶規(guī)模卻非常有限。如今，AI應(yīng)用的月活用戶規(guī)模已經(jīng)破億，其增長速度和行業(yè)滲透率，遠(yuǎn)超當(dāng)年的互聯(lián)網(wǎng)產(chǎn)品，也比整個互聯(lián)網(wǎng)浪潮來得更快、更迅猛?！?/p>

目前，百度、騰訊先后宣布旗下AI應(yīng)用將在今年春節(jié)期間發(fā)放數(shù)億元紅包。阿里旗下的通義千問也計劃加入紅包促銷行列。花旗在研報中表示，回顧以往，春節(jié)活動能有效幫助互聯(lián)網(wǎng)大廠為其消費級應(yīng)用吸引大量關(guān)注。預(yù)計在今年的一系列新春推廣活動后，中國AI應(yīng)用的普及進(jìn)程有望進(jìn)一步加速。

王湛也看好春節(jié)對于AI應(yīng)用的助推作用?！俺蓑v訊、百度等的紅包促銷，不少機器人也要上春晚。今年春節(jié)過完，中國的AI滲透率、使用率會進(jìn)一步的提升，這也代表整個AI產(chǎn)業(yè)價值的提升?！?/p>

在現(xiàn)階段的AI產(chǎn)業(yè)架構(gòu)中，最底層的芯片拿到了絕大部分價值。徐冰表示，AI芯片占據(jù)了整個AI產(chǎn)業(yè)價值70%甚至90%，這是現(xiàn)狀。展望未來， AI芯片或許仍會占據(jù)整體AGI（通用人工智能）價值的大頭。

“試想一下，一旦AGI時代真的到來，機器人的數(shù)量會超過人類。這些機器人需要進(jìn)行7×24小時的推理，所有的這些應(yīng)用，包括物理AI、多模態(tài)等，會讓推理的需求變得沒有天花板。隨著AGI時代的來臨，我們需要構(gòu)建一個推理的算力網(wǎng)絡(luò)，讓普惠的推理算力，能夠為每一臺機器人，每一臺終端設(shè)備，每一個消費者，每一個企業(yè)所用?！?/p>