日前,在中國(guó)深圳舉辦的第20屆華為全球分析師大會(huì),長(zhǎng)江學(xué)者特聘教授、華中科技大學(xué)計(jì)算機(jī)科學(xué)與技術(shù)學(xué)院院長(zhǎng)馮丹對(duì)數(shù)據(jù)中心Diskless架構(gòu)及近數(shù)據(jù)處理發(fā)展趨勢(shì)做出了權(quán)威解讀,為傳統(tǒng)云存儲(chǔ)、大數(shù)據(jù)等計(jì)算域和存儲(chǔ)域不完全分離造成的資源浪費(fèi),提出了一個(gè)新的技術(shù)解決方向,幫助云和互聯(lián)網(wǎng)數(shù)據(jù)中心降本增效,實(shí)現(xiàn)數(shù)據(jù)中心高質(zhì)量演進(jìn)。
馮丹教授提到,傳統(tǒng)存算融合架構(gòu)下,企業(yè)通常采用應(yīng)用與本地盤(pán)耦合的服務(wù)器一體化架構(gòu),存在存力效率低、無(wú)效數(shù)據(jù)遷移、資源浪費(fèi)等典型問(wèn)題:
1. 計(jì)算域和存儲(chǔ)域未徹底分離,仍各自存在獨(dú)立的本地存儲(chǔ),往往按照最大容量預(yù)設(shè)配置,存力利用率低;
2. 采用通用算力進(jìn)行數(shù)據(jù)處理,IO效率低,存儲(chǔ)域仍以CPU為中心,存取性能無(wú)法充分發(fā)揮;
3. 數(shù)據(jù)從盤(pán)到計(jì)算域CPU,需要8次以上數(shù)據(jù)搬遷,無(wú)效搬遷帶來(lái)了網(wǎng)絡(luò)和算力資源的浪費(fèi);
4. 在存算融合的上千節(jié)點(diǎn)大規(guī)模集群中,算力、容量空間配比無(wú)法均衡,擴(kuò)容時(shí)需要額外遷移數(shù)據(jù),不僅帶來(lái)現(xiàn)有業(yè)務(wù)風(fēng)險(xiǎn),還會(huì)浪費(fèi)投資;
5. 數(shù)據(jù)爆發(fā)增長(zhǎng),面向結(jié)構(gòu)化數(shù)據(jù)的數(shù)據(jù)縮減策略不完全適用于非結(jié)構(gòu)化場(chǎng)景。
隨著算力多樣化、高性能網(wǎng)絡(luò)和存儲(chǔ)介質(zhì)的發(fā)展,數(shù)據(jù)中心架構(gòu)從以CPU中心朝著以數(shù)據(jù)為中心的Diskless架構(gòu)演進(jìn)。Diskless架構(gòu)下,單一CPU算力發(fā)展到GPU、DPU、XPU等多樣算力,算力效率得以充分發(fā)揮;網(wǎng)絡(luò)從IP、NOF發(fā)展到高通量的CXL,為算力和存力等硬件解耦奠定了基礎(chǔ);存力也從傳統(tǒng)HDD到SSD,性能、功耗實(shí)現(xiàn)全面提升。在Intel、華為、KIOXIA、阿里云等業(yè)界芯片、存儲(chǔ)、云和互聯(lián)網(wǎng)廠(chǎng)商的積極推進(jìn)下,Diskless架構(gòu)借助專(zhuān)用DPU/IPU等數(shù)據(jù)處理芯片和OceanDisk等專(zhuān)用存儲(chǔ)模塊,進(jìn)一步提升數(shù)據(jù)處理和存儲(chǔ)的效能,充分調(diào)動(dòng)數(shù)據(jù)中心資源。
馮丹教授表示,資源池化共享的Diskless架構(gòu)應(yīng)具備以下關(guān)鍵技術(shù):
1. 網(wǎng)存協(xié)同,DPU硬件卸載加速,數(shù)據(jù)高效協(xié)同處理。通過(guò)DPU等專(zhuān)有數(shù)據(jù)處理模塊,使服務(wù)器CPU全為應(yīng)用服務(wù),基礎(chǔ)設(shè)施與應(yīng)用任務(wù)解耦,將VirtIO、NVMe-oF等CPU計(jì)算效率低任務(wù)轉(zhuǎn)移到DPU的專(zhuān)用加速器執(zhí)行,實(shí)現(xiàn)資源彈性擴(kuò)展。
2. 數(shù)控分離+IO直通,實(shí)現(xiàn)控制流與IO流分離,IO直通到存儲(chǔ)介質(zhì),進(jìn)一步提升存儲(chǔ)效率。通過(guò)數(shù)控分離,可達(dá)到極致IO訪(fǎng)問(wèn)時(shí)延,通過(guò)存儲(chǔ)域IO讀寫(xiě)數(shù)據(jù)流與IO控制處理的分離,使得讀寫(xiě)IO直通到存儲(chǔ)介質(zhì)中,減少I(mǎi)O處理路徑,降低處理復(fù)雜度,極大提升存儲(chǔ)域訪(fǎng)問(wèn)性能。計(jì)算域則可以借助DPU bypass CPU,減少數(shù)據(jù)拷貝開(kāi)銷(xiāo),提升IO訪(fǎng)問(wèn)性能。
3. 盤(pán)控協(xié)同,盤(pán)芯片與控制器芯片配合,提升集成度,達(dá)到最佳成本和能耗。盤(pán)控協(xié)同技術(shù)的關(guān)鍵是要實(shí)現(xiàn)高性能、低成本的大盤(pán),通過(guò)硬件對(duì)盤(pán)控系統(tǒng)內(nèi)的算法進(jìn)行加速,比如利用FPGA實(shí)現(xiàn)FTL/DIF/在線(xiàn)壓縮/加密/EC/GC等硬化,提升性能;盤(pán)內(nèi)和框內(nèi)的各類(lèi)驅(qū)動(dòng)和緩存層合一,實(shí)現(xiàn)盤(pán)框一體,構(gòu)建極致成本和能耗的大盤(pán)存儲(chǔ)。
4. 算子卸載,EC、數(shù)據(jù)縮減等算法通過(guò)硬件卸載到存儲(chǔ)端,實(shí)現(xiàn)近數(shù)據(jù)處理。通過(guò)計(jì)算語(yǔ)義的卸載,存儲(chǔ)直出語(yǔ)義接口,主機(jī)側(cè)軟件棧打薄,減少80%的IO交互次數(shù),實(shí)現(xiàn)對(duì)整系統(tǒng)的CPU和網(wǎng)絡(luò)帶寬節(jié)省。同時(shí),在大數(shù)據(jù)/數(shù)據(jù)倉(cāng)庫(kù)場(chǎng)景,可以利用引擎的下推接口,下推謂詞和投影等運(yùn)算操作到存儲(chǔ)資源池,減少無(wú)效數(shù)據(jù)的搬移。
馮丹教授表示:“從技術(shù)趨勢(shì)來(lái)看,高性能異構(gòu)算力、高速網(wǎng)絡(luò)、大存力新型盤(pán)框、算子卸載等技術(shù)的發(fā)展,帶來(lái)了數(shù)據(jù)中心架構(gòu)的變革,加速了以CPU為中心的耦合架構(gòu)走向徹底存算分離、資源池化共享的以數(shù)據(jù)為中心的Diskless架構(gòu),這種架構(gòu)進(jìn)一步簡(jiǎn)化了數(shù)據(jù)中心基礎(chǔ)設(shè)施構(gòu)建,能夠?qū)崿F(xiàn)存力和算力資源的集約高效發(fā)展,已經(jīng)成為大規(guī)模數(shù)據(jù)中心發(fā)展的重要技術(shù)趨勢(shì)。”
極客網(wǎng)了解到,華為去年發(fā)布的OceanDisk智能盤(pán)框產(chǎn)品,就是一個(gè)標(biāo)準(zhǔn)的大存力新型盤(pán)框產(chǎn)品。
· OceanDisk通過(guò)NoF+高速網(wǎng)絡(luò)連接Diskless服務(wù)器,實(shí)現(xiàn)計(jì)算和存儲(chǔ)獨(dú)立彈性擴(kuò)展,幫助客戶(hù)提高資源利用率,機(jī)柜空間和設(shè)備功耗分別降低40%;
· 內(nèi)置FlashLink? 智能盤(pán)框協(xié)同算法等軟硬結(jié)合技術(shù),帶來(lái)最大250萬(wàn)IOPS,50GB/s帶寬的高性能;
· 依托華為多年存儲(chǔ)研發(fā)實(shí)力,OceanDisk智能盤(pán)框提供硬盤(pán)亞健康管理、智能慢盤(pán)優(yōu)化等技術(shù),保持大規(guī)模數(shù)據(jù)中心10萬(wàn)級(jí)硬盤(pán)的性能穩(wěn)定,大幅降低運(yùn)維難度。
OceanDisk作為業(yè)界首個(gè)面向Diskless架構(gòu)的新型盤(pán)框,將以高性能、高可靠、綠色集約重新定義下一代云和互聯(lián)網(wǎng)數(shù)據(jù)中心存儲(chǔ)架構(gòu)。
- 2024年Q4全球服務(wù)器收入773億美元同比增91%,非x86占比225億美元同比增262.1%
- 面向全球!華為發(fā)布IOC機(jī)場(chǎng)智能運(yùn)控中心等五大航空解決方案
- 微軟停止中國(guó)區(qū)運(yùn)營(yíng)?系外包公司,約2000人項(xiàng)目組被裁撤
- 第九屆華為ICT大賽中國(guó)總決賽收官 84支隊(duì)伍晉級(jí)全球總決賽
- 聯(lián)想集團(tuán)黃建恒:SSG業(yè)務(wù)已連續(xù)15個(gè)季度雙位數(shù)增長(zhǎng)
- 聯(lián)想集團(tuán)ISG總裁:已將多款暢銷(xiāo)服務(wù)器進(jìn)行升級(jí)
- 全球超大規(guī)模數(shù)據(jù)中心數(shù)量五年翻倍,2024年新增137個(gè)!
- 華為楊超斌:行業(yè)智能化是開(kāi)啟產(chǎn)業(yè)新紀(jì)元的磅礴引擎
- 華為郭振興:2025年行業(yè)數(shù)智化將呈現(xiàn)五大特征
- 加速行業(yè)智能化!華為攜手伙伴共筑解決方案競(jìng)爭(zhēng)力,共贏時(shí)代新機(jī)遇
免責(zé)聲明:本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請(qǐng)進(jìn)一步核實(shí),并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏,概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí),應(yīng)及時(shí)向本網(wǎng)站提出書(shū)面權(quán)利通知或不實(shí)情況說(shuō)明,并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后,將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí),溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。