2025，各行各業(yè)基于DeepSeek探索各自領(lǐng)域的落地方式，由此開(kāi)啟了AI智能化加速的新航程。然而，大模型應(yīng)用落地是一個(gè)系統(tǒng)工程，技術(shù)與資源門檻高，還存在大量未知挑戰(zhàn)。

面對(duì)不確定的海浪，具備全棧能力的云基礎(chǔ)設(shè)施，成為企業(yè)追逐AI的可靠巨輪。

大模型對(duì)云計(jì)算基礎(chǔ)設(shè)施的需求，與傳統(tǒng)云計(jì)算存在顯著差異。比如大模型訓(xùn)練需要萬(wàn)卡級(jí)GPU集群支持，且對(duì)多芯混合訓(xùn)練效能和穩(wěn)定性要求極高。傳統(tǒng)以CPU為中心的云計(jì)算中心，需轉(zhuǎn)向以GPU為核心的智能算力架構(gòu)，并實(shí)現(xiàn)算力資源的極致調(diào)度。

而百度智能云與其他云廠商最大的區(qū)別，就是一直是百度AI技術(shù)和業(yè)務(wù)的堅(jiān)定支持者，常年在AI基礎(chǔ)設(shè)施上進(jìn)行投入。上云用大模型的需求爆發(fā)之后，百度智能云迅速躋身中國(guó)大模型平臺(tái)第一，領(lǐng)航AI云市場(chǎng)。

這一成績(jī)的背后，離不開(kāi)百度所有核心業(yè)務(wù)的算力底座——百舸異構(gòu)計(jì)算平臺(tái)。借助百舸的大規(guī)模推理加速能力，以及自研昆侖芯P800芯片，百度智能云實(shí)現(xiàn)了算力性能與成本的雙重突破。

就在昨天，4月25日召開(kāi)的Create 2025 百度AI開(kāi)發(fā)者大會(huì)上，百度正式點(diǎn)亮了昆侖芯P800的三萬(wàn)卡集群，發(fā)布昆侖芯超節(jié)點(diǎn)。僅有高性能芯片和大規(guī)模集群是不夠的，為了穩(wěn)定、高效地釋放算力價(jià)值，百度智能云也全面升級(jí)百舸推理加速能力。

云計(jì)算的大船，正乘AI之風(fēng)，揚(yáng)時(shí)代之帆，迎來(lái)前所未有的增長(zhǎng)機(jī)遇。這時(shí)候，有必要深入百舸內(nèi)部，去窺探一下百度智能云這艘AI巨輪的加速密碼。

為什么破解算力短缺和計(jì)算成本高的問(wèn)題，僅靠單體硬件和集群還不夠，需要平臺(tái)級(jí)的優(yōu)化助力？

縱觀2025年的大模型算力格局，前有DS技術(shù)突破，算力需求激增；后有海外進(jìn)口芯片供應(yīng)持續(xù)不穩(wěn)定，算力焦慮始終存在。多元異構(gòu)芯片的混合訓(xùn)練，成為國(guó)內(nèi)緩解算力荒的一個(gè)選擇。但異構(gòu)芯片之間的協(xié)議生態(tài)不同，合池訓(xùn)練難度大，對(duì)云基礎(chǔ)設(shè)施提出了挑戰(zhàn)。

首先，集群規(guī)模更大，推理場(chǎng)景下快速定位故障并恢復(fù)，十分考驗(yàn)超大規(guī)模集群的穩(wěn)定性。

此外，異構(gòu)芯片多樣，國(guó)內(nèi)超萬(wàn)卡集群多采用混合芯片方案，但不同架構(gòu)合池訓(xùn)練會(huì)出現(xiàn)性能損失。《AIDC白皮書》顯示，業(yè)界頂尖的千卡智算集群，其算力利用率不超過(guò)60%，萬(wàn)卡集群不超過(guò)55%。提高國(guó)產(chǎn)集群的資源利用率和算效，避免資源浪費(fèi)，刻不容緩。

DeepSeek之后，盡快用上DS等大模型，成為企業(yè)的當(dāng)務(wù)之急，云基礎(chǔ)設(shè)施承載的AI任務(wù)大幅上量。一方面考驗(yàn)云基礎(chǔ)設(shè)施的敏捷性，是否支持在云上快速構(gòu)建和進(jìn)行模型迭代，無(wú)縫集成AI開(kāi)源生態(tài)，也需要調(diào)優(yōu)技術(shù)的加持，從而帶來(lái)極致的推理性能優(yōu)化，降低推理成本。

可以說(shuō)，AI大模型深入千行萬(wàn)業(yè)，上云深度用AI的當(dāng)下需求，進(jìn)一步強(qiáng)化了多元異構(gòu)計(jì)算平臺(tái)的重要性和必要性。滄海橫流處，百度智能云和百舸，已經(jīng)做好了準(zhǔn)備。

一場(chǎng)以AI為核心、多元異構(gòu)算力為底座的云技術(shù)競(jìng)賽，就此拉開(kāi)帷幕。百度智能云率先點(diǎn)亮了昆侖芯萬(wàn)卡集群，今年Create大會(huì)上，又正式宣布點(diǎn)亮3萬(wàn)卡集群。那么，百度是如何解決多芯混訓(xùn)問(wèn)題的？百舸平臺(tái)，是核心驅(qū)動(dòng)。

百舸作為超大規(guī)模GPU算力平臺(tái)，可以對(duì)算力集群的AI-IaaS基礎(chǔ)資源進(jìn)行調(diào)度，打造高性能AI基礎(chǔ)設(shè)施，支持高達(dá)10萬(wàn)卡大規(guī)模集群，提供穩(wěn)定、極速、高效的算力服務(wù)，滿足企業(yè)的訓(xùn)練、精調(diào)、推理的全流程需求。

如果把AI云基礎(chǔ)設(shè)施看作一艘航船，那么百舸的存在，可以發(fā)揮幾個(gè)作用：

作用一，支撐更大的算力船身。百舸平臺(tái)不僅有更強(qiáng)的單節(jié)點(diǎn)性能，同時(shí)通過(guò)昆侖芯超節(jié)點(diǎn)（高密整機(jī)柜），把卡放在同一個(gè)機(jī)柜里，用更快的機(jī)內(nèi)通信替代機(jī)間通信，降低機(jī)柜之間通信的復(fù)雜性、高延遲和帶寬成本，從而支持超大規(guī)模集群建設(shè)。基于百舸，AI基礎(chǔ)設(shè)施可以納管的算力資源規(guī)模大，提供更加充沛、穩(wěn)定的智能算力。

作用二，提供穩(wěn)定的AI體驗(yàn)。當(dāng)計(jì)算機(jī)群出現(xiàn)故障，每一次重寫checkpoint，都會(huì)給大模型的開(kāi)發(fā)和企業(yè)平添波折。百舸平臺(tái)通過(guò)智能調(diào)度與冗余設(shè)計(jì)，實(shí)現(xiàn)99.5%有效訓(xùn)練時(shí)長(zhǎng)，以分鐘級(jí)故障恢復(fù)能力，減少中斷，確保AI任務(wù)連續(xù)穩(wěn)定運(yùn)行。

作用三，為AI任務(wù)加速的高效動(dòng)能。類DeepSeek的長(zhǎng)思維鏈推理模型，增加了思考環(huán)節(jié)，需要輸出的token更多，如果吞吐速度不夠快，用戶就需要長(zhǎng)時(shí)間等待，AI體驗(yàn)很差。百舸的大規(guī)模分布式PD分離推理系統(tǒng)，可根據(jù)不同的模型特點(diǎn)，選擇最優(yōu)的并行策略，做到token級(jí)別的PD負(fù)載均衡，同時(shí)結(jié)合算子融合、all-to-all 通信算子優(yōu)化、異步KV傳輸、雙流編排等技術(shù)進(jìn)一步提升GPU利用率，推理成本節(jié)省95%，總吞吐提升20倍。同時(shí)，百舸還支持私有化部署。也就是說(shuō)，無(wú)論是云上調(diào)用推理模型，還是本地部署，百舸都可以保障高效實(shí)時(shí)的體驗(yàn)。

可以說(shuō)，在百舸平臺(tái)的支撐下，百度得以打造堅(jiān)固的異構(gòu)算力底座，擁有了在大模型時(shí)代遠(yuǎn)航的穩(wěn)定推進(jìn)力，在AI云服務(wù)的競(jìng)爭(zhēng)中處于領(lǐng)先身位。

開(kāi)年以來(lái)，AI云市場(chǎng)進(jìn)入后DeepSeek時(shí)代，頭部云服務(wù)商都在積極升級(jí)AI基礎(chǔ)設(shè)施及服務(wù)。百度能否長(zhǎng)期保持AI云的優(yōu)勢(shì)，還取決于AI底座與產(chǎn)業(yè)的融合深度。

說(shuō)到底，只有讓企業(yè)真正用上AI，用好AI，AI基礎(chǔ)設(shè)施及AI云服務(wù)才能煥發(fā)出最寬廣的價(jià)值。

如何幫助千行百業(yè)高效地接入AI算力與模型，打造自己的AI應(yīng)用？百度智能云AI計(jì)算部負(fù)責(zé)人、百度杰出架構(gòu)師王雁鵬認(rèn)為，支撐AI應(yīng)用的創(chuàng)新大爆發(fā)，基礎(chǔ)設(shè)施必須讓算力不再成為瓶頸，讓算力唾手可得。全新升級(jí)的百舸，就是百度智能云交出的一份答卷，可以用三個(gè)字來(lái)概括：

全。王雁鵬提到，面對(duì)AI模型的爆發(fā)，敏捷的基礎(chǔ)設(shè)施能夠支持各種芯片、模型、框架以及工具鏈。全新升級(jí)的百度百舸算力平臺(tái)，不僅提供高性能的計(jì)算、存儲(chǔ)、網(wǎng)絡(luò)的基礎(chǔ)資源產(chǎn)品，也提供了一鍵式全站AI工程開(kāi)發(fā)平臺(tái)以及各類工具集，能夠一鍵建設(shè)資源池，一鍵部署開(kāi)發(fā)環(huán)境，一鍵部署模型，把GPU的利用率發(fā)揮到極致，為各類開(kāi)源模型帶來(lái)顯著的加速效果。

作為企業(yè)級(jí)的一站式AI工程平臺(tái)，百舸覆蓋AI大模型的全周期、全流程，可以縮短AI開(kāi)發(fā)周期，對(duì)于金融、互聯(lián)網(wǎng)等追求效率、時(shí)間敏感、競(jìng)爭(zhēng)激烈的行業(yè)來(lái)說(shuō)，意義重大。比如百度智能云攜手招行基于昆侖芯國(guó)產(chǎn)算力，接入開(kāi)源模型，幫助招行快速提升了智能客服、多模態(tài)數(shù)據(jù)分析等場(chǎng)景的應(yīng)用效能。

省。領(lǐng)先的AI工程硬核加速能力，也可以讓各領(lǐng)域開(kāi)源模型訓(xùn)推成本更低、周期更短、故障更少，能夠同時(shí)支持成百上千的各種任務(wù)不中斷，大幅節(jié)省了企業(yè)的時(shí)間和資源成本。北京人形機(jī)器人創(chuàng)新中心的通用具身智能平臺(tái)，就依托百度百舸AI異構(gòu)計(jì)算平臺(tái)和穩(wěn)定可靠的AI算力基礎(chǔ)設(shè)施，進(jìn)行模型訓(xùn)練，為人形機(jī)器人打造更聰明的“大腦”。

強(qiáng)。王雁鵬介紹到，把訓(xùn)推系統(tǒng)的能力做到極致，充分壓榨出硬件的算力，是百舸一直以來(lái)追求的目標(biāo)。百舸的原生AI-IaaS 對(duì)接和管理能力，可以發(fā)揮出基礎(chǔ)設(shè)施最大效能，性能更強(qiáng)。

最近，百舸針對(duì)多模態(tài)模型以及智駕模型做了深度優(yōu)化，在多模態(tài)模型上取得了30%，在智駕模型上取得了150%以上的加速效果，助力更多行業(yè)、汽車企業(yè)等智能化降本增效。比如教育機(jī)構(gòu)好未來(lái)，就借助百舸的隊(duì)列超發(fā)能力，充分利用集群閑時(shí)資源，整體資源利用率提升10%以上。

當(dāng)一個(gè)企業(yè)打算落地應(yīng)用大模型，百舸是一條更短、更省、更快的智能化航路。

在未知的海域中探索，望向技術(shù)遠(yuǎn)方的星辰，才能走在正確的方向上。十多年來(lái)，AI指引著百度的航向，從未偏離航道，才能成為大模型時(shí)代AI與云的領(lǐng)航人。

云基礎(chǔ)設(shè)施+AI技術(shù)的優(yōu)勢(shì)，讓百度智能云在大模型時(shí)代快速增長(zhǎng)，成為大量政企上云賦智的首選。而百舸平臺(tái)，也為緩解行業(yè)智能化的算力焦渴，發(fā)揮了關(guān)鍵作用。

早在百度押注AI、大模型、昆侖芯的時(shí)候，就知道必須把多元異構(gòu)計(jì)算集群掌握在自己手中，那么百舸平臺(tái)的出現(xiàn)，也就是水到渠成了。

進(jìn)入2025年，國(guó)產(chǎn)大模型+異構(gòu)算力，正在書寫智能中國(guó)的新篇章。我們已經(jīng)從百舸身上，發(fā)現(xiàn)了百度繼續(xù)領(lǐng)航AI與云時(shí)代的必要條件：

基礎(chǔ)設(shè)施完備。從昆侖芯，到百舸平臺(tái)，AI算力基礎(chǔ)設(shè)施底座是百度業(yè)務(wù)AI重塑的基本保障。

進(jìn)化動(dòng)能強(qiáng)勁。高性能優(yōu)化技術(shù)，降本增效，支撐百度大模型、AI應(yīng)用等低成本高效迭代，持續(xù)進(jìn)化，競(jìng)爭(zhēng)力不斷增強(qiáng)，避免掉隊(duì)。

商業(yè)邏輯清晰。AI即服務(wù)、模型即服務(wù)的商業(yè)邏輯想要成立，必須持續(xù)優(yōu)化token成本，帶給客戶上云用AI的真實(shí)價(jià)值，從而在用戶規(guī)模和資源回報(bào)比上占據(jù)優(yōu)勢(shì)。憑借百舸平臺(tái)能力，新業(yè)務(wù)模式得以成立。

為千行萬(wàn)業(yè)，開(kāi)算力通途，屬于AI與云的時(shí)代才剛剛開(kāi)始。接下來(lái)，百舸支撐的AI云基礎(chǔ)設(shè)施及服務(wù)，不僅是行業(yè)和企業(yè)加速擁抱AI的時(shí)代航船，也將是百度增長(zhǎng)的主航道。

生成海報(bào)

免責(zé)聲明：此文內(nèi)容為第三方自媒體作者發(fā)布的觀察或評(píng)論性文章，所有文字和圖片版權(quán)歸作者所有，且僅代表作者個(gè)人觀點(diǎn)，與極客網(wǎng)無(wú)關(guān)。文章僅供讀者參考，并請(qǐng)自行核實(shí)相關(guān)內(nèi)容。投訴郵箱：editor@fromgeek.com。

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說(shuō)明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。