云軸科技ZStack CTO王為@中國(guó)GenAI大會(huì):AI原生實(shí)踐重構(gòu)AI Infra新范式

4月1-2日,2025中國(guó)生成式AI大會(huì)(GenAICon 2025)在北京舉辦,該會(huì)議已成為國(guó)內(nèi)AI領(lǐng)域最具影響力的產(chǎn)業(yè)峰會(huì)之一。來(lái)自學(xué)術(shù)界與產(chǎn)業(yè)界的50+位嘉賓圍繞GenAI應(yīng)用、大模型、AI智能體、具身智能、DeepSeek R1與推理模型等話題,進(jìn)行熱烈分享與討論。

云軸科技ZStack CTO王為@中國(guó)GenAI大會(huì):AI原生實(shí)踐重構(gòu)AI Infra新范式

大會(huì)現(xiàn)場(chǎng)

云軸科技ZStack CTO王為受邀在“大模型”峰會(huì)上發(fā)表主題為《AI 原生實(shí)踐:企業(yè)實(shí)際場(chǎng)景的 AI 賦能與 Infra 實(shí)踐探索》演講,并參加《DeepSeek 給 AI Infra 帶來(lái)的啟示與機(jī)會(huì)》圓桌討論。

云軸科技ZStack CTO王為@中國(guó)GenAI大會(huì):AI原生實(shí)踐重構(gòu)AI Infra新范式

ZStack CTO王為

DeepSeek私有化AI Infra方案成為用戶默認(rèn)選項(xiàng)

王為在演講時(shí)提出,DeepSeek 不僅實(shí)現(xiàn)了算力平權(quán),而且激活了千行萬(wàn)業(yè)擁抱AI。繼2月2日Z(yǔ)Stack AIOS平臺(tái)智塔首發(fā)支持 DeepSeek V3/R1/ Janus Pro三種模型后,3 月 3 日 ZStack 基于 ZStack AIOS 平臺(tái)智塔發(fā)布智塔AI一體機(jī) DeepSeek 版,可基于海光、昇騰、英偉達(dá)、英特爾等多種國(guó)內(nèi)外 CPU/GPU 私有化部署,滿足企業(yè)進(jìn)行 DeepSeek 本地私有化部署需求。

“這樣的 DeepSeek x AI Infra 技術(shù)方案如今已被云計(jì)算技術(shù)圈認(rèn)可,并成為行業(yè)用戶進(jìn)行私有AI應(yīng)用創(chuàng)新的默認(rèn)選項(xiàng),正被我們的金融、教育、科研、傳媒等行業(yè)用戶部署在生產(chǎn)業(yè)務(wù)中”,王為表示。

AI原生實(shí)踐:自己就是最好的練兵場(chǎng)

“作為一家服務(wù)企業(yè)級(jí)用戶的云計(jì)算企業(yè),ZStack 認(rèn)為把自己作為 AI 原生實(shí)踐的練兵場(chǎng),親自下場(chǎng)會(huì)更能理解企業(yè)客戶痛點(diǎn)和需求,從而更好地對(duì)外提供服務(wù)”,王為表示,ZStack 自己的 AI 原生實(shí)踐從2022年已經(jīng)開(kāi)始,圍繞企業(yè)級(jí)用戶常用的幾個(gè)場(chǎng)景持續(xù)迭代,并通過(guò)不同模型和應(yīng)用發(fā)掘 AI Infra 新需求,不斷沉淀出場(chǎng)景化的解決方案。

這些場(chǎng)景包括 AI 輔助售后(客服場(chǎng)景)、AI輔助代碼(AI 代碼助手)、AI 幫助文檔(翻譯場(chǎng)景)、AI 輔助測(cè)試、AI 輔助銷(xiāo)售。

云軸科技ZStack CTO王為@中國(guó)GenAI大會(huì):AI原生實(shí)踐重構(gòu)AI Infra新范式

ZStack AI輔助售后實(shí)踐

比如在 AI 輔助售后場(chǎng)景,ZStack從2022年進(jìn)行技術(shù)探索,技術(shù)方案已經(jīng)迭代4次,準(zhǔn)確率從最初的60%到80%;在AI輔助文檔(翻譯場(chǎng)景)中,ZStack Cloud 產(chǎn)品累計(jì)發(fā)布正式版本84個(gè),每個(gè)版本包含至少幾十篇文檔,數(shù)萬(wàn)個(gè) DITA 文件、幾百萬(wàn)漢字、千萬(wàn)+單詞。

“把自己作為練兵場(chǎng),對(duì)外提供服務(wù)時(shí)才能更懂客戶”,王為總結(jié)道。

企業(yè)全棧AI基礎(chǔ)設(shè)施構(gòu)建路徑

“在AI浪潮中,AI Infra已經(jīng)成為數(shù)字經(jīng)濟(jì)的基礎(chǔ)設(shè)施,掌握 AI Infra x 大模型魔法就等于掌握了先進(jìn)生產(chǎn)工具”,王為表示,為了更好地為企業(yè)進(jìn)行私有化 AI 部署,ZStack 推出了新一代 AI Infra 平臺(tái) ZStack AIOS 平臺(tái)智塔,實(shí)現(xiàn)從智算層、模型層、運(yùn)營(yíng)與應(yīng)用層幫助企業(yè)用戶構(gòu)建 AI 基礎(chǔ)設(shè)施。

云軸科技ZStack CTO王為@中國(guó)GenAI大會(huì):AI原生實(shí)踐重構(gòu)AI Infra新范式

ZStack AI基礎(chǔ)設(shè)施構(gòu)建圖譜

在算力資源調(diào)度管理層面,ZStack AIOS 平臺(tái)智塔通過(guò)容器化、虛擬化以及裸金屬方式,實(shí)現(xiàn)對(duì)算力資源的統(tǒng)一靈活調(diào)度。與海光、昇騰、英偉達(dá)、英特爾等多種 CPU/GPU 等深度適配,通過(guò) vGPU 動(dòng)態(tài)精分,實(shí)現(xiàn)算力智能調(diào)度,助力企業(yè)降本增效。

在模型層,ZStack AIOS 平臺(tái)智塔支持從輕量到超大規(guī)模的全量模型部署,滿足不同場(chǎng)景需求;深度集成開(kāi)源模型平臺(tái),支持模型敏捷迭代與版本熱切換;提供可視化精調(diào)工作臺(tái)和多維度模型評(píng)估體系,助力企業(yè)打造專屬 AI 引擎。

在運(yùn)營(yíng)與應(yīng)用層,ZStack AIOS 平臺(tái)智塔支持低代碼開(kāi)發(fā)的 AI 應(yīng)用工廠,實(shí)現(xiàn)從模型到業(yè)務(wù)的無(wú)縫銜接。

此外,在企業(yè)私有化AI上最為關(guān)心的數(shù)據(jù)安全方面,ZStack AIOS 平臺(tái)智塔在數(shù)據(jù)、訪問(wèn)和審計(jì)三大維度保障企業(yè)級(jí)數(shù)據(jù)安全,部門(mén)級(jí)數(shù)據(jù)沙箱機(jī)制,實(shí)現(xiàn)模型服務(wù)、應(yīng)用數(shù)據(jù)雙重隔離。

云軸科技ZStack CTO王為@中國(guó)GenAI大會(huì):AI原生實(shí)踐重構(gòu)AI Infra新范式

AI Infra 平臺(tái)三層能力模型

AI Infra 平臺(tái)是企業(yè)加速釋放 AI 生產(chǎn)力的關(guān)鍵引擎平臺(tái),它聚焦企業(yè)級(jí) AI 應(yīng)用的私有化部署場(chǎng)景(PrivateAI),是支撐人工智能應(yīng)用開(kāi)發(fā)、部署、運(yùn)行和管理的一系列基礎(chǔ)工具和軟件平臺(tái),具備算力管理層、模型管理層、應(yīng)用管理層三大能力模型。賽迪顧問(wèn)認(rèn)為,2025年是中國(guó) AI Infra 平臺(tái)應(yīng)用元年,新一代企業(yè)數(shù)智化轉(zhuǎn)型底座 AI Infra 平臺(tái)呈現(xiàn)飛速發(fā)展趨勢(shì)。

(免責(zé)聲明:本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請(qǐng)進(jìn)一步核實(shí),并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏,概不負(fù)任何法律責(zé)任。
任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí),應(yīng)及時(shí)向本網(wǎng)站提出書(shū)面權(quán)利通知或不實(shí)情況說(shuō)明,并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后,將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí),溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。 )