8月21日至23日,由Linux基金會(huì)、云原生計(jì)算基金會(huì)(CNCF)聯(lián)合主辦的全球頂級(jí)開(kāi)源盛會(huì)KubeCon + CloudNativeCon + Open Source Summit + AI_Dev China 2024, 在中國(guó)中國(guó)香港盛大舉行。作為全球云原生企業(yè)的先鋒,同時(shí)也是開(kāi)源理念的忠實(shí)推動(dòng)者,華為重磅參會(huì),攜手云原生開(kāi)源項(xiàng)目十多位技術(shù)大咖,帶來(lái)實(shí)踐分享、案例剖析、前瞻探索等一系列干貨,為全球開(kāi)源開(kāi)發(fā)者奉上一場(chǎng)技術(shù)盛宴。
云原生與AI融合持續(xù)深化, 華為推動(dòng)全球智能化新浪潮
“從2023年開(kāi)始,AI再次爆發(fā),云原生進(jìn)入AI算力階段,CNCF基金會(huì)推出了Cloud native AI 工作組,開(kāi)始給出了云原生AI的參考架構(gòu)。”任旭東表示,開(kāi)放正讓云原生和AI兩大技術(shù)方向逐漸走向融合,從Cloud Native for AI和AI for Cloud Native 兩個(gè)方向雙向演進(jìn)。
華為首席開(kāi)源聯(lián)絡(luò)官 CNCF基金會(huì)董事 任旭東
●華為Cloud Native for AI實(shí)踐
近年來(lái),華為云陸續(xù)開(kāi)源了KubeEdge、Volcano、Karmada等項(xiàng)目,受到業(yè)界的廣泛關(guān)注支持及落地使用。例如,彭博社旗艦產(chǎn)品彭博終端采用了Karmada來(lái)管理多個(gè)數(shù)據(jù)中心的計(jì)算資源,大幅提高計(jì)算資源的利用率、增強(qiáng)業(yè)務(wù)敏捷性。而B(niǎo)ilibili使用了Volcano作為AI/Big Data/編解碼任務(wù)的調(diào)度器進(jìn)行作業(yè)和資源管理,提升了AI訓(xùn)練任務(wù)效率,大幅降低了Job的更新頻率,提高了視頻編解碼任務(wù)的吞吐量。
●華為AI for Cloud Native實(shí)踐
華為持續(xù)開(kāi)源創(chuàng)新,與全球云原生社區(qū)共同發(fā)展。作為中國(guó)生態(tài)領(lǐng)先的開(kāi)源AI框架MindSpore,基于MindSpore的LLMOps為云原生帶來(lái)更多創(chuàng)新。同時(shí),作為目前中國(guó)領(lǐng)先的開(kāi)源服務(wù)器操作系統(tǒng),openEuler帶來(lái)了與AI結(jié)合的全新智能方案升級(jí),大模型智能體EulerCopilot為操作系統(tǒng)開(kāi)發(fā)運(yùn)維帶來(lái)全新智能體驗(yàn),而智能操作系統(tǒng)進(jìn)一步使能云原生的全面創(chuàng)新。
在現(xiàn)場(chǎng),任旭東宣布o(jì)penEuler開(kāi)源社區(qū)與CNCF基礎(chǔ)設(shè)施團(tuán)隊(duì)合作、基于openEuler的CNCF CI/CD已經(jīng)正式上線,將為CNCF開(kāi)發(fā)者帶來(lái)更多的OS選擇及更多算力資源,為CNCF社區(qū)帶來(lái)更加智能的基礎(chǔ)設(shè)施,并鼓勵(lì)CNCF社區(qū)項(xiàng)目體驗(yàn)。
未來(lái)無(wú)法預(yù)測(cè),但可以被創(chuàng)造,任旭東表示:“一方面,CloudNative For AI ,從訓(xùn)練走向推理,我們堅(jiān)信云原生是AI的最佳底座,必將加速AI的應(yīng)用創(chuàng)新。另一方面,AI For CloudNative,AI將從Devops到LLMOPS,使能云原生開(kāi)發(fā)新范式,加速云原生行業(yè)落地。”
驅(qū)動(dòng)變革,云原生技術(shù)加速行業(yè)創(chuàng)新升級(jí)
會(huì)上,華為云云原生開(kāi)源負(fù)責(zé)人王澤鋒聯(lián)合蔚來(lái)汽車戰(zhàn)略新業(yè)務(wù)數(shù)字系統(tǒng)架構(gòu)師蔣旭輝發(fā)表“云原生技術(shù)加速電動(dòng)汽車創(chuàng)新”主題演講,深入探討云原生技術(shù)在汽車軟件領(lǐng)域中的轉(zhuǎn)變影響和未來(lái)前景。
王澤鋒提到了云原生技術(shù)在各行各業(yè)軟件應(yīng)用構(gòu)建中的技術(shù)與生態(tài)雙重優(yōu)勢(shì),并與蔚來(lái)汽車的架構(gòu)師聯(lián)合講解了以KubeEdge為核心構(gòu)建蔚來(lái)整套車云協(xié)同平臺(tái)的產(chǎn)業(yè)代表方案,該方案首次搭載于量產(chǎn)車型,是云原生生態(tài)領(lǐng)域中一次全新的嘗試,為車企帶來(lái)開(kāi)發(fā)交付效率、團(tuán)隊(duì)協(xié)作等方面的巨大提升。
華為云云原生開(kāi)源負(fù)責(zé)人 王澤鋒
開(kāi)源創(chuàng)新促進(jìn)了行業(yè)解決方案的升級(jí)與快速落地,幫助企業(yè)實(shí)現(xiàn)敏捷開(kāi)發(fā)和高效運(yùn)營(yíng),開(kāi)源社區(qū)的活躍交流也為企業(yè)提供了豐富的技術(shù)支持和資源共享,為行業(yè)帶來(lái)了新的發(fā)展機(jī)遇和競(jìng)爭(zhēng)優(yōu)勢(shì),云原生技術(shù)正深入應(yīng)用于各行各業(yè)。本次大會(huì)上,華為云云原生多個(gè)開(kāi)源社區(qū),聯(lián)合伙伴帶來(lái)行業(yè)案例分享,共同探索云原生開(kāi)源技術(shù)發(fā)展與產(chǎn)業(yè)智能化升級(jí)。
多領(lǐng)域技術(shù)分享,與業(yè)界共探前沿科技
Kuasar社區(qū)負(fù)責(zé)人和WasmEdge社區(qū)Committer進(jìn)行了“使用WasmEdge和Kuasar在Kubernetes上部署LLM工作負(fù)載”主題演講,分享在Kubernetes集群里運(yùn)行大模型負(fù)載的實(shí)踐,解決了大模型應(yīng)用開(kāi)發(fā)和部署的兩個(gè)痛點(diǎn)問(wèn)題,一方面是通過(guò)WebAssembly技術(shù)解決傳統(tǒng)PyTorch復(fù)雜依賴和跨平臺(tái)兼容性問(wèn)題,另一方面Kubernetes集群提供豐富的打包部署、資源管理、自動(dòng)擴(kuò)縮容、監(jiān)控運(yùn)維和服務(wù)發(fā)現(xiàn)能力,這些都將提高大模型應(yīng)用的開(kāi)發(fā)效率,加速云原生與AI生態(tài)的融合發(fā)展。
Kuasar社區(qū)負(fù)責(zé)人(華為云)和WasmEdge社區(qū)Committer演講中
同時(shí),Kuasar社區(qū)Maintainer和Containerd 社區(qū)Maintainer共同分享了Sandbox沙箱在云原生領(lǐng)域的發(fā)展歷程與前沿實(shí)現(xiàn),社區(qū)圍繞Sandbox概念衍生發(fā)展出了一套新的API,Kuasar作為首個(gè)API實(shí)現(xiàn)者,已經(jīng)構(gòu)建出基于MicroVM、App kernel、WebAssembly和runC等形式的Sandbox容器,可以在輕量級(jí)安全容器、公有云遠(yuǎn)程Sandbox以及基于wasm運(yùn)行LLM推理場(chǎng)景下發(fā)揮著巨大的架構(gòu)優(yōu)勢(shì)。本次大會(huì)期間,社區(qū)同步正式發(fā)布v1.0.0版本。
KubeEdge社區(qū)技術(shù)專家分享了KubeEdge 在多個(gè)行業(yè)和場(chǎng)景中的用戶案例展示,結(jié)合智能交通、智慧城市、智慧園區(qū)、智能能源、智能工廠、智能銀行、智能工地、CDN等一系列行業(yè)用例,探討KubeEdge與行業(yè)特定用例的關(guān)系。在當(dāng)前用戶愈加關(guān)心云原生安全的趨勢(shì)下,來(lái)自華為云云原生團(tuán)隊(duì)的KubeEdge社區(qū)專家們也聯(lián)合社區(qū)伙伴,帶來(lái)云原生邊緣計(jì)算場(chǎng)景中的安全威脅模型分析和保護(hù)實(shí)踐等安全話題的技術(shù)分享。社區(qū)技術(shù)專家也進(jìn)一步介紹了KubeEdge技術(shù)和社區(qū)治理方面的進(jìn)展,未來(lái),社區(qū)也將繼續(xù)探索賦能多領(lǐng)域、多場(chǎng)景邊云協(xié)同AI智算。
Volcano云原生批量計(jì)算社區(qū)在本次大會(huì)上帶來(lái)了利用拓?fù)浣:屯負(fù)涓兄{(diào)度加速LLM訓(xùn)練、Volcano 激活下一波智能應(yīng)用、通過(guò)Volcano增強(qiáng)的智能基礎(chǔ)設(shè)施優(yōu)化LLM工作流程等云原生AI領(lǐng)域的熱門(mén)話題分享,同時(shí)社區(qū)專家與調(diào)度領(lǐng)域技術(shù)專家深入研討Kubernetes調(diào)度社區(qū)碎片化現(xiàn)狀及如何應(yīng)對(duì)AI/ML工作負(fù)載帶來(lái)的挑戰(zhàn)。作為業(yè)界首個(gè)云原生批量計(jì)算引擎,Volcano由華為云發(fā)起,主要用于 AI、大數(shù)據(jù)、基因、渲染等諸多高性能計(jì)算場(chǎng)景,對(duì)主流通用計(jì)算框架均有很好的支持,目前在人工智能、大數(shù)據(jù)、基因測(cè)序等海量數(shù)據(jù)計(jì)算和分析場(chǎng)景已得到廣泛應(yīng)用。
Karmada社區(qū)在本次大會(huì)上聯(lián)合社區(qū)伙伴,帶來(lái)1場(chǎng)Keynote主題演講并在7場(chǎng)相關(guān)分論壇中發(fā)表技術(shù)分享。其中,來(lái)自京東云和小紅書(shū)的Karmada用戶伙伴,分別帶來(lái)京東云的大規(guī)模無(wú)服務(wù)器實(shí)踐(在Karmada上的應(yīng)用管理和彈性擴(kuò)展),小紅書(shū)利用多集群架構(gòu)打造彈性和彈性混合云的落地實(shí)踐案例分享。Karmada社區(qū)負(fù)責(zé)人與技術(shù)專家向參會(huì)者們分享了項(xiàng)目最新進(jìn)展,并帶來(lái)使用Karmada和PipeCD解鎖可擴(kuò)展性并簡(jiǎn)化多云管理,Karmada和Istio提高生產(chǎn)分布式云負(fù)載與流量韌性等多個(gè)議題分享。社區(qū)同時(shí)與多位云原生多集群領(lǐng)域?qū)<艺归_(kāi)SIG-Multicluster、開(kāi)發(fā)標(biāo)準(zhǔn)的多集群Inventory API等深入探討,為與會(huì)者帶來(lái)多集群領(lǐng)域的嶄新觀點(diǎn)與啟發(fā)。
華為服務(wù)治理專家在本屆大會(huì)上帶來(lái)4場(chǎng)服務(wù)治理技術(shù)演講,探討Istio 數(shù)據(jù)平面架構(gòu)創(chuàng)新帶來(lái)的全新性能體驗(yàn), Karmada 和 Istio 提高生產(chǎn)分布式云負(fù)載與流量的韌性,服務(wù)網(wǎng)格的未來(lái)是邊車還是無(wú)邊車,用內(nèi)核原生無(wú)邊車架構(gòu)徹底改變服務(wù)網(wǎng)格等流量治理前沿話題。團(tuán)隊(duì)重點(diǎn)介紹了Kmesh內(nèi)核級(jí)流量治理引擎給服務(wù)治理帶來(lái)的創(chuàng)新升級(jí),期望借助在Istio社區(qū)長(zhǎng)期的積累,打造Sidecarless服務(wù)網(wǎng)格業(yè)界標(biāo)桿方案,促進(jìn)服務(wù)網(wǎng)格健康有序的發(fā)展。
昇思MindSpore布道師Selina發(fā)表了《提升大模型開(kāi)發(fā)和訓(xùn)練效率:昇思MindSpore自動(dòng)并行技術(shù)應(yīng)用詳解》的主題演講,深入淺出講解了昇思MindSpore如何通過(guò)自動(dòng)并行技術(shù),顯著提高大模型的開(kāi)發(fā)和訓(xùn)練效率,為AI創(chuàng)新使能加速的實(shí)踐。
同時(shí),10個(gè)云原生、明星開(kāi)源項(xiàng)目(KubeEdge、Volcano、Karmada、Kuasar、Kmesh、Sermant、開(kāi)發(fā)者計(jì)劃、昇思MindSpore、openEuler、openGauss)的參展,不僅彰顯了華為在云原生、開(kāi)源技術(shù)領(lǐng)域的深厚實(shí)力,也吸引了現(xiàn)場(chǎng)全球開(kāi)發(fā)者的駐足交流體驗(yàn)。
華為展區(qū)精彩瞬間
未來(lái),華為將繼續(xù)與全球企業(yè)和開(kāi)發(fā)者攜手,共同應(yīng)對(duì)當(dāng)前的挑戰(zhàn),推動(dòng)AI和云原生技術(shù)的創(chuàng)新與應(yīng)用,為構(gòu)建全球智能化的未來(lái)貢獻(xiàn)力量。
(免責(zé)聲明:本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請(qǐng)進(jìn)一步核實(shí),并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏,概不負(fù)任何法律責(zé)任。
任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí),應(yīng)及時(shí)向本網(wǎng)站提出書(shū)面權(quán)利通知或不實(shí)情況說(shuō)明,并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后,將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí),溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。 )