“一個聰明人從敵人那里得到的東西,比從一個傻瓜朋友那里得到的東西更多?!?/p>
——哲學家格拉西安
這句格言,正在AI領域被現實驗證。美國的限制政策總會告訴我們,哪些東西是發(fā)展AI至關重要的。
2024年10月,美國商務部再次升級制裁,限制中國實體訪問美國的云服務,理由是“防止利用美國基礎設施訓練AI模型”。這標志著美國對華算力基礎設施的“雙管齊下”:先斷GPU芯片,再封云服務,最終目標是讓中國AI陷入算力斷崖。
有讀者會問,DeepSeek降低了單模型算力需求,把英偉達股價都打下來了,怎么AI算力仍然短缺呢?
一方面是總量在增長。正如杰文斯悖論所說,技術進步降低了使用成本時,資源的總消耗量反而會增加。比如燃油效率提高了更省油,但隨著開車變得便宜,人們就會更多選擇開車,結果導致汽油的總消耗量增加。AI也是如此,模型門檻下降導致智能化應用多了,總算力需求也就更大了。
此外,還跟算力集群的利用率有關。一位銀行總工程師分享到,自家搭建的混合異構算力平臺,高峰期算力集群利用率能達到60%就算優(yōu)秀了,花大價錢采購的算卡資源,很多都被浪費或閑置了,加上配套系統與運維成本,整個資金投入非常大。
既然自建算力集群買不到卡、成本高,從云端獲取算力的GPU云服務,就成了絕大多數企業(yè)用好、用活大模型的最佳選擇。
那么,GPU云服務作為AI算力的另一根支柱,中國準備好了嗎?
從云端獲取算力,理想很豐滿,但現實很骨感。GPU云服務還沒有被企業(yè)普遍接受。一位金融從業(yè)者就告訴我們,整個金融行業(yè)對GPU 云的認知還比較模糊,大家習慣了傳統的硬件采購模式,對云服務的接受度并不高。
為什么不高?這有兩個原因:
一是同質化嚴重。對比市面上的GPU云解決方案,會發(fā)現算力層、平臺層都高度同質化,采用的GPU芯片大同小異,平臺功能也差不多。以至于有人覺得GPU云服務商提供的軟件沒什么太大價值。結果就是GPU云市場,目前的競爭主要是卷低價。
二是創(chuàng)新不足。同質化并不意味著GPU云服務的痛點和挑戰(zhàn)都已經被解決了,實際上,同質化正是創(chuàng)新不足的表現。比如說,隨著大模型的參數規(guī)模擴大,一個千卡集群的百P算力,訓一個類Sora大模型就被占滿了,其他客戶需要算力,就得擴大集群規(guī)模,但AI芯片是很敏感的,從千卡到萬卡、超萬卡,故障率和運維難度也快速上升,怎么保證集群的穩(wěn)定性,不能動不動就中斷重寫checkpoint?
花了大價錢買的GPU卡,結果有一半都在“摸魚”,怎么讓資源管理更精益,投資不浪費?
算卡供應鏈的不穩(wěn)定,很多集群的架構不同、批次不同,無法合池訓練,存在資源墻怎么打破?
國產芯片的適配難,新模型的訓練時長比英偉達方案多出好幾倍,一直沿用的訓練推理一體化流程,在異構算力環(huán)境下漏洞百出,又該怎么辦?
不難看到,不是行業(yè)用戶不想用GPU云服務,而是市面上的解決方案都趨于同質化,過早開始卷價格。這種情況,與內卷化的定義異常契合。就像農業(yè)發(fā)展到一個確定形式之后,便停滯不前或無法向更高級轉化。
GPU云市場,還處于方興未艾的發(fā)展初期,各行各業(yè)都需要上云用算來進行AI訓推,有巨大的市場空間等待打開,不應過早跌入同質化、內卷化的泥潭。
但要打破內卷,就得拿出有壁壘的差異化解決方案,讓GPU云算力真正降本增效,從而帶動企業(yè)用戶的增長,以及整個GPU云的產業(yè)升級,就像一塊耕地,通過優(yōu)化種植技術和精耕細作,進一步提高糧食畝產量,從而避免卷入“谷賤傷農”的價格戰(zhàn)內卷。
向技術要答案,一直是百度的特點。AI時代,百度智能云也憑借AI基礎設施和技術能力在云市場異軍突起,率先點亮了國產三萬卡GPU集群,并且實現了幾乎無損的混合訓練能力,集群利用率高達95%以上。憑借GPU云領域的突出能力,百度智能云成為超半數央企的選擇。
我們就以百度智能云為例,拆解一下GPU云逃離內卷的技術密碼。
破解GPU云市場的內卷難題,必然要改變傳統集群規(guī)模拓展難、故障率高、資源利用率低等問題,那就要從基礎設施下功夫。
具體來說,百度智能云以技術為工具,對GPU集群進行了三重改造。讓GPU集群從小農經濟式的粗放經營,變成現代農場一樣的規(guī)?;?、集約化、精益化生產模式。
第一重改造:規(guī)?;尫懦f卡集群的澎湃算力。
“深度思考的大模型,業(yè)務用著不錯,下面要全集團推廣,你們盡快給算力擴容吧”,進入2025年,大模型上量成了IT人的一大挑戰(zhàn)。因為集群規(guī)模擴大一倍,故障率能飆升好幾倍,而實際運算效率卻出現了邊際遞減。如果集群是由不同城市的小規(guī)模集群互聯來構建的,那資源性能損耗就更嚴重了,數據時延也會讓在線推理服務的體驗大打折扣。如果AI思考一次就得十幾分鐘,員工用起來不耐煩,CTO怎么能不著急上火。
所以,百度智能云在構建規(guī)?;疓PU算力集群,面臨的首要技術挑戰(zhàn),就是如何提高集群的穩(wěn)定性,降低故障率,給性能調優(yōu)。
解題思路,就是軟硬協同。有點類似于NVlink+ CUDA聯手,充分釋放N卡算力。那百度智能云靠的就是百舸。百度百舸是專為AI計算設計的高性能算力平臺,讓多個芯片、多個集群都用“普通話”,實現跨芯片“交流”。
硬件資源層,百舸設計了一套新的物理網絡架構,就像是城市里精心規(guī)劃的高效路線,新一代的HPN網絡規(guī)模上支持10萬卡,可同時容納十萬卡并行訓練,這就為計算資源的高效運行提供了有力保障,讓AI模型訓起來更快更穩(wěn)定。
集群組件層,百舸自研的集合通信庫BCCL,可以實現GPU、昆侖芯等標準RDMA設備的互聯互通,使得通信效果達到最優(yōu)。以前沒有統一溝通方式的時候,不同芯片互不打通,常常出現混亂,那協同工作效率自然就很低了。BCC制定了一套統一的通行規(guī)則,就可以讓芯片高效協作,加上自適應并行策略搜索,自動規(guī)劃出最佳方案,就能讓各種硬件充分發(fā)揮作用,提升多芯混合訓練任務的整體效能。
訓推加速層,百舸在AI加速套件AIAK-LLM中構建了Accelerator抽象層,屏蔽硬件差異,相當于為多個集群開辟高速路,快速通信,讓各種硬件都能充分發(fā)揮作用,高效協作,由此來構建極致規(guī)模、極致高密和極致互聯的GPU集群。
想象一下,當企業(yè)使用萬卡、超萬卡集群時,就像一個源源不斷供給養(yǎng)分的算力土壤,無論是金融機構處理海量交易數據,還是運行復雜的科學計算模型,或者是AI智能體實時響應客戶需求,都能游刃有余。
目前,百舸已經具備了成熟的10萬卡集群部署和管理能力,在橫跨幾十公里的集群上,百舸可以把單一訓練任務的性能折損控制在4%以內,也讓百度智能云成為GPU云廠商中納管超大規(guī)模集群的一個標桿。
第二重改造:精益化,PD分離讓AI應用隨時在線。
如今,企業(yè)對算力的需求發(fā)生了巨大轉變,從過去側重于模型訓練,逐漸轉向更注重實時性的推理和后訓練階段,有點像城市交通發(fā)展到了一定階段,新路(訓練)就建得少了,取而代之的是防止車流擁堵(推理優(yōu)化)。
無論是B端用戶還是C端用戶,如果大模型思考十幾秒才給回應,用戶都會不耐煩直接退出,這就是“首token延遲”。為了盡可能滿足用戶“即時反饋”的嚴苛要求,就迫使模型廠商絞盡腦汁。不能忽略的是,算力基礎設施的優(yōu)化,就像是把路鋪平、修上護欄,提升系統的處理能力和并發(fā)效率,從而讓在線服務像上高速一樣順暢運行,大大降低延遲率。
PD分離加速技術成為云廠商們競相展示的“王牌”,而百度智能云的PD分離式推理基礎設施,憑借全局優(yōu)化能力脫穎而出。
物理網絡層面,百度智能云打造了HPN(High-Performance Network)高性能網絡集群,擁有自適應路由算法,像智能導航一樣,避免了大規(guī)模數據傳輸時(如Alltoall)的流量集中問題。全新的拓撲結構,如同重新規(guī)劃的城市路網,降低通信瓶頸,使帶寬有效性達到90%以上,讓交換機轉發(fā)延遲大大降低,集群傳輸又快又穩(wěn)。
流量管理層面,百度智能云自研的高性能KV Cache傳輸庫,為高優(yōu)先級隊列預留帶寬,相當于“特殊車輛優(yōu)先通行通道”;分層傳輸設計支持多層KV Cache復用,相當于潮汐車道,根據數據流量靈活調整傳輸通道,提升通行效率,并且訓推任務互不干擾,貨車轎車“各走各道”,實現了DCN彈性RDMA滿帶寬傳輸,讓數據高效流通。
通信組件層面,百度智能通過Alltoall算子優(yōu)化和動態(tài)冗余專家編排,優(yōu)化計算流與通信流,確保集群中所有GPU通信時間一致,顯著提升吞吐量和性能。
以往企業(yè)使用大模型時,常因算力瓶頸、數據傳輸慢等問題受限,如同灌溉管道不暢影響了養(yǎng)分輸送。而百度智能云將網絡基礎設施、通信組件與上層業(yè)務深度融合,精心修建了一套高效的“算力管網”,可以讓數據、算力在不同業(yè)務場景間快速流動,能夠助力各行各業(yè)快速應用大模型,解決企業(yè)智能化轉型的當務之急。
第三重改造:多元化,一云多芯筑起算力可靠圍墻。
限卡又限云,已經是美國遏制中國AI發(fā)展的明牌。完全依賴英偉達風險太大了,國際形勢變化頻繁,供應鏈隨時可能被卡脖子,企業(yè)構建算力集群,不能押注在單一芯片,會考慮一云多芯。但采購國產芯片分散風險,異構芯片納管與并行計算效率低,不同類型芯片之間協同工作困難重重,算力資源浪費嚴重。
在國內算卡供應緊張的當下,讓多樣化芯片能夠協同訓練,意義不用多說。“一云多芯混訓”的能力,也讓百度智能云成為多數企業(yè)GPU云的選擇,比如長安汽車。
走進長安汽車智算中心,就像是一座算力工廠,依靠百舸平臺與長安汽車自研的 “星環(huán)平臺”,將算力資源發(fā)揮到極致。過去,服務器像低效運轉的老舊生產線,大量算力被閑置浪費。如今,百舸升級的智能調度系統,集群平均算力使用率飆升至90%,綜合資源利用率提升50%。
再比如某個頭部城商行。對銀行來說,業(yè)務可持續(xù)性至關重要,如果用戶訪問不了系統、辦不了業(yè)務是重大事故。既要自主可控的異構算力集群,又要穩(wěn)定可靠的服務保障,對城商行的基礎設施提出了巨大挑戰(zhàn)。該城商行與百度智能云合作,通過異構平臺在算力感知的情況下,進行統一調度,讓不同芯片不再“打群架”,可以被混合管理、混合使用,從而兼顧了算力安全與業(yè)務穩(wěn)定。
再到百度自建的國產昆侖芯 P800 大型單一集群里一看,資源利用率更是高達 98%,讓每一張GPU都物盡其用。
原來,單一服務器最多容納8張計算卡,而昆侖芯超節(jié)點技術可以將64張昆侖芯P800集中于單機柜,并且通信效率堪比單一機型。跨集群層面,百度百舸打通集群內的網絡墻,實現異構芯片互聯互通。通過accelerator 抽象層,屏蔽底層芯片差異,通過統一接口實現異構芯片的“即插即用”;采用自適應并行工具,找到最優(yōu)的切分策略,根據芯片性能自動分配任務,減少性能損失。最終實現了近乎無損的“萬卡級多芯混訓”能力。
在萬卡規(guī)模上,百舸可將兩種芯片混合訓練,目前一共支持 18 種以上芯片類型,徹底解決了一云多芯混訓的復雜難題。
如今,經過規(guī)?;?、精益化、多元化的三重技術改造,GPU云已從零散低效的“算力作坊”,升級為高效精益的“現代農場”。百度智能云也憑借在GPU云服務領域的卓越表現,成為頭部廠商中增速最快的云服務廠商。IDC最新發(fā)布的《中國智算專業(yè)服務市場報告》中,百度智能云憑借AI解決方案實施服務,成為行業(yè)第一,領跑市場。
這說明,依靠技術創(chuàng)新,GPU云廠商可以逃離內卷,為行業(yè)和客戶創(chuàng)造差異化價值,讓GPU云服務在企業(yè)級市場煥發(fā)出充沛的價值。
堅持“技術精耕”,百度智能云走了一條向技術要效益、向技術要價值的良性發(fā)展之路。不僅讓其在GPU云市場建立差異化競爭的壁壘,也為整個行業(yè)從粗放走向精益,從內卷走向高質量發(fā)展,提供了一個很好的參考樣本。
那我們不禁要問,為什么百度智能云能擺脫內卷的漩渦?是什么讓百度智能云有所不同?
一方面,是百度的技術基因,經過多年在AI領域的發(fā)展,百度及百度智能云已經打造了一系列高度適配AI業(yè)務、具有獨特創(chuàng)新能力的“尖刀型”技術,有力地解決GPU云集群建設中的痛點與難點。
另一方面,是百度智能云的發(fā)展路徑清晰,向技術要答案、不走內卷化之路的戰(zhàn)略選擇是明確的,這也決定了百度智能云必須在技術上下苦功、登天梯。面對需求側的企業(yè)客戶,以供給側的高質量GPU云服務,回應AI規(guī)模應用的復雜算力需求;面對云市場的競爭對手,以技術領導力帶動GPU云產業(yè)的高質量發(fā)展,避免裸金屬的紅海價格戰(zhàn),以百舸為核心的能力與服務,開拓更大的價值空間。
GPU云的未來,不是卷“誰更便宜”,而是看“誰敢創(chuàng)新”。真正的技術領導者,將贏下這場AI算力革命的主導權。
免責聲明:此文內容為第三方自媒體作者發(fā)布的觀察或評論性文章,所有文字和圖片版權歸作者所有,且僅代表作者個人觀點,與極客網無關。文章僅供讀者參考,并請自行核實相關內容。投訴郵箱:editor@fromgeek.com。
免責聲明:本網站內容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網站出現的信息,均僅供參考。本網站將盡力確保所提供信息的準確性及可靠性,但不保證有關資料的準確性及可靠性,讀者在使用前請進一步核實,并對任何自主決定的行為負責。本網站對有關資料所引致的錯誤、不確或遺漏,概不負任何法律責任。任何單位或個人認為本網站中的網頁或鏈接內容可能涉嫌侵犯其知識產權或存在不實內容時,應及時向本網站提出書面權利通知或不實情況說明,并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網站在收到上述法律文件后,將會依法盡快聯系相關文章源頭核實,溝通刪除相關內容或斷開相關鏈接。