標題：華為云黃瑾：超節(jié)點六大科技創(chuàng)新引領AI基礎設施革新，CloudMatrix 384重塑未來智能世界

在5月16日舉行的華為云AI峰會上，華為云副總裁黃瑾發(fā)表了主題演講，深入介紹了CloudMatrix 384超節(jié)點技術的優(yōu)勢與細節(jié)。他指出，隨著大模型訓練和推理對算力需求的爆炸式增長，傳統(tǒng)計算架構已難以支撐AI技術的代際躍遷，超節(jié)點架構的誕生不僅是技術的突破，更是以工程化創(chuàng)新開辟AI產(chǎn)業(yè)的新路徑。

首先，CloudMatrix 384超節(jié)點具備六大領先技術優(yōu)勢。一是MoE親和架構，通過分布式推理平臺，實現(xiàn)了高效分布式推理。相比一卡多專家的“小作坊模式”，超節(jié)點更像“大工廠模式”，通過高速互聯(lián)總線，實現(xiàn)一卡一專家高效分布式推理，單卡的MoE計算和通信效率都大幅提升。二是以網(wǎng)強算，雙層網(wǎng)絡架構解決了數(shù)據(jù)堵車問題。CloudMatrix 384構建了AI專屬高架橋，通過MatrixLink服務將單層網(wǎng)絡升級為兩層高速網(wǎng)絡，一層是超節(jié)點內(nèi)部的ScaleUp總線網(wǎng)絡，確保超節(jié)點內(nèi)384卡全對等高速無阻塞互聯(lián)，卡間超大帶寬2.8T，納秒級時延；另一層是跨超節(jié)點間的ScaleOut網(wǎng)絡，可支持微秒級時延，資源彈性擴展。三是內(nèi)存墻的突破。通過EMS彈性內(nèi)存存儲技術，打破了傳統(tǒng)GPU算力與顯存綁定的關鍵障礙，大幅提升了資源利用率、性能和吞吐量。四是長穩(wěn)可靠。通過故障自愈的“AI醫(yī)生”，實現(xiàn)了萬卡故障快速恢復。五是朝推夜訓，算力資源“錯峰用電”，實現(xiàn)了算力資源的充分利用。六是即開即用，“算力水電”普惠模式，讓客戶能夠第一時間享受到即開即用的AI算力資源。

其次，華為云基于CloudMatrix的超節(jié)點集群已經(jīng)在多個地區(qū)規(guī)模上線，覆蓋了政務、零售、醫(yī)療、保險、制造、礦山、旅游等多個行業(yè)。眾多客戶基于華為云昇騰AI云服務部署DeepSeek模型的創(chuàng)新應用，在智能助手、智能客服、互聯(lián)網(wǎng)搜索、內(nèi)容創(chuàng)作等各種場景落地。

黃瑾副總裁強調(diào)，華為云致力于做好行業(yè)數(shù)字化的“云底座”和“使能器”，堅定打造AI算力底座，以安全、穩(wěn)定、高質(zhì)量、持續(xù)創(chuàng)新的AI云服務，賦能千行萬業(yè)應用創(chuàng)新，攜手伙伴、客戶加速行業(yè)智能躍遷。在充滿突破和創(chuàng)新的AI發(fā)展過程中，每一個階段都會產(chǎn)生大量的新技術、新模式，企業(yè)唯有抓住AI時代機遇，才能搶占發(fā)展先機。

CloudMatrix 384超節(jié)點創(chuàng)新系統(tǒng)架構的背后，是華為云堅持“昇騰云服務支持百模千態(tài)，盤古大模型重塑千行萬業(yè)”的戰(zhàn)略。如今AI已經(jīng)成為最有影響力的通用技術，如何將技術價值轉化為應用成果，成為千行百業(yè)面臨的核心課題。華為云超節(jié)點創(chuàng)新系統(tǒng)架構的六大科技創(chuàng)新引領AI基礎設施革新，CloudMatrix 384重塑未來智能世界。

總的來說，CloudMatrix 384超節(jié)點技術是華為云在AI領域的一項重要創(chuàng)新。這項技術的推出不僅提升了AI訓練和推理的性能和效率，同時也為行業(yè)智能躍遷提供了強大的支持。未來，隨著超節(jié)點技術的不斷發(fā)展和完善，我們期待華為云在AI領域取得更多的突破和成就。

生成海報

免責聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性，但不保證有關資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責。本網(wǎng)站對有關資料所引致的錯誤、不確或遺漏，概不負任何法律責任。任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權或存在不實內(nèi)容時，應及時向本網(wǎng)站提出書面權利通知或不實情況說明，并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關文章源頭核實，溝通刪除相關內(nèi)容或斷開相關鏈接。