4月1-2日,2025中國生成式AI大會(GenAICon 2025)在北京舉辦,該會議已成為國內(nèi)AI領(lǐng)域最具影響力的產(chǎn)業(yè)峰會之一。來自學(xué)術(shù)界與產(chǎn)業(yè)界的50+位嘉賓圍繞GenAI應(yīng)用、大模型、AI智能體、具身智能、DeepSeek R1與推理模型等話題,進(jìn)行熱烈分享與討論。
大會現(xiàn)場
云軸科技ZStack CTO王為受邀在“大模型”峰會上發(fā)表主題為《AI 原生實踐:企業(yè)實際場景的 AI 賦能與 Infra 實踐探索》演講,并參加《DeepSeek 給 AI Infra 帶來的啟示與機(jī)會》圓桌討論。
ZStack CTO王為
DeepSeek私有化AI Infra方案成為用戶默認(rèn)選項
王為在演講時提出,DeepSeek 不僅實現(xiàn)了算力平權(quán),而且激活了千行萬業(yè)擁抱AI。繼2月2日ZStack AIOS平臺智塔首發(fā)支持 DeepSeek V3/R1/ Janus Pro三種模型后,3 月 3 日 ZStack 基于 ZStack AIOS 平臺智塔發(fā)布智塔AI一體機(jī) DeepSeek 版,可基于海光、昇騰、英偉達(dá)、英特爾等多種國內(nèi)外 CPU/GPU 私有化部署,滿足企業(yè)進(jìn)行 DeepSeek 本地私有化部署需求。
“這樣的 DeepSeek x AI Infra 技術(shù)方案如今已被云計算技術(shù)圈認(rèn)可,并成為行業(yè)用戶進(jìn)行私有AI應(yīng)用創(chuàng)新的默認(rèn)選項,正被我們的金融、教育、科研、傳媒等行業(yè)用戶部署在生產(chǎn)業(yè)務(wù)中”,王為表示。
AI原生實踐:自己就是最好的練兵場
“作為一家服務(wù)企業(yè)級用戶的云計算企業(yè),ZStack 認(rèn)為把自己作為 AI 原生實踐的練兵場,親自下場會更能理解企業(yè)客戶痛點(diǎn)和需求,從而更好地對外提供服務(wù)”,王為表示,ZStack 自己的 AI 原生實踐從2022年已經(jīng)開始,圍繞企業(yè)級用戶常用的幾個場景持續(xù)迭代,并通過不同模型和應(yīng)用發(fā)掘 AI Infra 新需求,不斷沉淀出場景化的解決方案。
這些場景包括 AI 輔助售后(客服場景)、AI輔助代碼(AI 代碼助手)、AI 幫助文檔(翻譯場景)、AI 輔助測試、AI 輔助銷售。
ZStack AI輔助售后實踐
比如在 AI 輔助售后場景,ZStack從2022年進(jìn)行技術(shù)探索,技術(shù)方案已經(jīng)迭代4次,準(zhǔn)確率從最初的60%到80%;在AI輔助文檔(翻譯場景)中,ZStack Cloud 產(chǎn)品累計發(fā)布正式版本84個,每個版本包含至少幾十篇文檔,數(shù)萬個 DITA 文件、幾百萬漢字、千萬+單詞。
“把自己作為練兵場,對外提供服務(wù)時才能更懂客戶”,王為總結(jié)道。
企業(yè)全棧AI基礎(chǔ)設(shè)施構(gòu)建路徑
“在AI浪潮中,AI Infra已經(jīng)成為數(shù)字經(jīng)濟(jì)的基礎(chǔ)設(shè)施,掌握 AI Infra x 大模型魔法就等于掌握了先進(jìn)生產(chǎn)工具”,王為表示,為了更好地為企業(yè)進(jìn)行私有化 AI 部署,ZStack 推出了新一代 AI Infra 平臺 ZStack AIOS 平臺智塔,實現(xiàn)從智算層、模型層、運(yùn)營與應(yīng)用層幫助企業(yè)用戶構(gòu)建 AI 基礎(chǔ)設(shè)施。
ZStack AI基礎(chǔ)設(shè)施構(gòu)建圖譜
在算力資源調(diào)度管理層面,ZStack AIOS 平臺智塔通過容器化、虛擬化以及裸金屬方式,實現(xiàn)對算力資源的統(tǒng)一靈活調(diào)度。與海光、昇騰、英偉達(dá)、英特爾等多種 CPU/GPU 等深度適配,通過 vGPU 動態(tài)精分,實現(xiàn)算力智能調(diào)度,助力企業(yè)降本增效。
在模型層,ZStack AIOS 平臺智塔支持從輕量到超大規(guī)模的全量模型部署,滿足不同場景需求;深度集成開源模型平臺,支持模型敏捷迭代與版本熱切換;提供可視化精調(diào)工作臺和多維度模型評估體系,助力企業(yè)打造專屬 AI 引擎。
在運(yùn)營與應(yīng)用層,ZStack AIOS 平臺智塔支持低代碼開發(fā)的 AI 應(yīng)用工廠,實現(xiàn)從模型到業(yè)務(wù)的無縫銜接。
此外,在企業(yè)私有化AI上最為關(guān)心的數(shù)據(jù)安全方面,ZStack AIOS 平臺智塔在數(shù)據(jù)、訪問和審計三大維度保障企業(yè)級數(shù)據(jù)安全,部門級數(shù)據(jù)沙箱機(jī)制,實現(xiàn)模型服務(wù)、應(yīng)用數(shù)據(jù)雙重隔離。
AI Infra 平臺三層能力模型
AI Infra 平臺是企業(yè)加速釋放 AI 生產(chǎn)力的關(guān)鍵引擎平臺,它聚焦企業(yè)級 AI 應(yīng)用的私有化部署場景(PrivateAI),是支撐人工智能應(yīng)用開發(fā)、部署、運(yùn)行和管理的一系列基礎(chǔ)工具和軟件平臺,具備算力管理層、模型管理層、應(yīng)用管理層三大能力模型。賽迪顧問認(rèn)為,2025年是中國 AI Infra 平臺應(yīng)用元年,新一代企業(yè)數(shù)智化轉(zhuǎn)型底座 AI Infra 平臺呈現(xiàn)飛速發(fā)展趨勢。
(免責(zé)聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請進(jìn)一步核實,并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏,概不負(fù)任何法律責(zé)任。
任何單位或個人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時,應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明,并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后,將會依法盡快聯(lián)系相關(guān)文章源頭核實,溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 )