近日,國(guó)際權(quán)威機(jī)構(gòu)IDC最新發(fā)布的《中國(guó)智算基礎(chǔ)設(shè)施服務(wù)市場(chǎng)(2024下半年)跟蹤》報(bào)告顯示,2024年中國(guó)智算基礎(chǔ)設(shè)施服務(wù)市場(chǎng)迎來(lái)爆發(fā)式增長(zhǎng),整體規(guī)模達(dá)124.1億元,同比增長(zhǎng)57.7%。其中,百度智能云憑借GPU云服務(wù)的卓越表現(xiàn),以及“基礎(chǔ)設(shè)施+平臺(tái)+場(chǎng)景”的閉環(huán)能力,正推動(dòng)智算服務(wù)向產(chǎn)業(yè)化落地深化。在同步發(fā)布的《中國(guó)智算專(zhuān)業(yè)服務(wù)市場(chǎng)報(bào)告》中,百度智能云在解決方案實(shí)施服務(wù)市場(chǎng)中穩(wěn)居行業(yè)第一。
IDC報(bào)告顯示,2025年,DeepSeek的快速出圈,創(chuàng)造了新的市場(chǎng)機(jī)遇,百度智能云不僅提供基礎(chǔ)設(shè)施交付、并通過(guò)“規(guī)劃-建設(shè)-運(yùn)營(yíng)-生態(tài)”的閉環(huán)能力,賦能智算中心全鏈路價(jià)值,同時(shí),依托在AI領(lǐng)域的先發(fā)優(yōu)勢(shì),百度智能云在模型與行業(yè)AI場(chǎng)景方面處于領(lǐng)先地位。
硬核技術(shù)驅(qū)動(dòng)高速增長(zhǎng)
算力需求持續(xù)釋放,推動(dòng)GenAI IaaS服務(wù)市場(chǎng)占比不斷提升。其中GenAI IaaS市場(chǎng)持續(xù)快速迭代,頭部格局加速收斂。百度智能云通過(guò)“國(guó)產(chǎn)芯昆侖芯+百舸GPU算力平臺(tái)”的軟硬一體技術(shù)體系,為AI大模型訓(xùn)練與推理提供高性能、高性?xún)r(jià)比的算力解決方案:
昆侖芯超節(jié)點(diǎn),訓(xùn)推性能跨越式提升:通過(guò)硬件架構(gòu)創(chuàng)新,昆侖芯超節(jié)點(diǎn)突破傳統(tǒng)單機(jī)8卡產(chǎn)品形態(tài),超高密度設(shè)計(jì)使得單柜可容納32/64張昆侖芯AI加速卡。單柜內(nèi)卡間實(shí)現(xiàn)全互聯(lián)通信,帶寬提升高達(dá)8倍,一個(gè)機(jī)柜的算力最高可達(dá)到傳統(tǒng)形態(tài)下8臺(tái)8卡服務(wù)器,實(shí)現(xiàn)對(duì)MoE大模型單節(jié)點(diǎn)訓(xùn)練性能5-10倍、單卡推理效率13倍的大幅提升。
百舸GPU算力平臺(tái),極致的訓(xùn)推加速優(yōu)化:百舸平臺(tái)通過(guò)在各個(gè)層面的優(yōu)化,在各種維度的指標(biāo)上做到了業(yè)界領(lǐng)先水平。在萬(wàn)卡任務(wù)上,百舸平臺(tái)可以保障有效訓(xùn)練時(shí)長(zhǎng)占比達(dá)到99.5%。在推理加速的極致優(yōu)化上,百舸平臺(tái)基于大規(guī)模PD分離式推理系統(tǒng)以及多專(zhuān)家并行機(jī)制,支撐千帆平臺(tái)為40萬(wàn)客戶(hù)提供服務(wù)。上線(xiàn)以來(lái),千帆的推理吞吐提升了20倍,推理速度提升了50%以上。
這一獨(dú)特的技術(shù)優(yōu)勢(shì)也助力百度智能云成功突破頭部科技企業(yè)及中腰部客戶(hù)市場(chǎng),推動(dòng)GenAI IaaS業(yè)務(wù)實(shí)現(xiàn)跨越式增長(zhǎng)。
響應(yīng)市場(chǎng)變革,引領(lǐng)“訓(xùn)推拐點(diǎn)”
隨著DeepSeek等開(kāi)源模型引爆企業(yè)級(jí)推理需求,2025年AI算力正從訓(xùn)練主導(dǎo)轉(zhuǎn)向推理驅(qū)動(dòng)。百度智能云也已完成率先布局:
在算力層面,目前百度智能云成功點(diǎn)亮了昆侖芯P800三萬(wàn)卡集群,也基于百舸GPU算力平臺(tái)適配了國(guó)產(chǎn)化P800芯片,來(lái)提供整個(gè)模型推理服務(wù),為DeepSeek等開(kāi)源模型提供優(yōu)質(zhì)且適配性強(qiáng)的環(huán)境,使模型發(fā)揮出更高的性能。以DeepSeek R1滿(mǎn)血版為例,百舸+昆侖芯的方案,對(duì)推理吞吐和時(shí)延等關(guān)鍵指標(biāo)做了優(yōu)化,單卡吞吐性能相比國(guó)內(nèi)主流芯片方案可以高出90%;在大規(guī)模高并發(fā)場(chǎng)景下,模型推理速度可以提升40%以上。
在平臺(tái)層面,針對(duì)DeepSeek等開(kāi)源模型進(jìn)行了極致的性能優(yōu)化,比如通過(guò)高效的PD分離式推理架構(gòu),實(shí)現(xiàn)模型吞吐的大幅度提升,進(jìn)而顯著降低模型推理成本。同時(shí),針對(duì)有進(jìn)一步應(yīng)用需求的企業(yè),千帆大模型平臺(tái)提供基于模型開(kāi)發(fā)工具鏈進(jìn)行一鍵部署、蒸餾這樣的能力,能讓企業(yè)客戶(hù)更好地將模型用起來(lái),完成特定模型需求的再開(kāi)發(fā),帶來(lái)增益賦能。
在應(yīng)用層面,百度智能云也推出了“精選行業(yè)場(chǎng)景智能體家族”,包括營(yíng)銷(xiāo)供電方案智能體、公路應(yīng)急指揮智能體、座艙大模型智能體、智慧就醫(yī)智能體、生態(tài)環(huán)境監(jiān)測(cè)智能體等,積極探索大模型在智能問(wèn)數(shù)、公文寫(xiě)作、理財(cái)助手、合規(guī)管理、醫(yī)療輔診等行業(yè)垂直業(yè)務(wù)場(chǎng)景中的能力拓展與應(yīng)用進(jìn)化。
智算未來(lái),生態(tài)共贏
智算基礎(chǔ)設(shè)施服務(wù)市場(chǎng)增長(zhǎng)超預(yù)期,GenAI IaaS市場(chǎng)已突破百億規(guī)模且預(yù)計(jì)2029年將突破千億規(guī)模?,F(xiàn)階段來(lái)看,規(guī)?;辉俪蔀槟P托阅芴嵘奈ㄒ怀雎?,硬件迭代改進(jìn),底層算法調(diào)優(yōu),強(qiáng)化學(xué)習(xí)優(yōu)化等技術(shù)突破也與算力擴(kuò)張協(xié)同驅(qū)動(dòng)模型發(fā)展,百度智能云也將持續(xù)推進(jìn)GPU云戰(zhàn)略,實(shí)現(xiàn)國(guó)產(chǎn)芯片與智算基礎(chǔ)設(shè)施平臺(tái)協(xié)同發(fā)展,為人工智能產(chǎn)業(yè)提供高效算力支撐。
友情鏈接: 政府 高新園區(qū)合作媒體
Copyright 1999-2024 中國(guó)高新網(wǎng)chinahightech.comAll Rights Reserved.京ICP備14033264號(hào)-5
電信與信息服務(wù)業(yè)務(wù)經(jīng)營(yíng)許可證060344號(hào)主辦單位:《中國(guó)高新技術(shù)產(chǎn)業(yè)導(dǎo)報(bào)》社有限責(zé)任公司