5月22日消息(岳明)在昨天舉行的“GIIC——2024 GPU Infrastructure Innovation Conference暨第四屆中國IDC 行業(yè)DISCOVERY大會”上,中國工程院院士、紫金山實驗室榮譽(yù)主任兼首席科學(xué)家劉韻潔應(yīng)邀出席,并發(fā)表《確定性網(wǎng)絡(luò)為AI大模型發(fā)展提供重要支撐》主旨演講。
劉韻潔指出,互聯(lián)網(wǎng)在消費領(lǐng)域取得了巨大成功,但隨著向生產(chǎn)領(lǐng)域和實體經(jīng)濟(jì)的逐漸滲透,傳統(tǒng)互聯(lián)網(wǎng)“盡力而為”的網(wǎng)絡(luò)能力已經(jīng)很難滿足需求,確定性是下一代網(wǎng)絡(luò)必須面對和解決的問題。這種確定性不僅僅是實體經(jīng)濟(jì)和AI人工智能的需求,在消費互聯(lián)網(wǎng)中也需要。以蘋果推出的可穿戴電子設(shè)備產(chǎn)品——Apple Vision Pro為例,有12個攝像頭,5個傳感器,6個麥克風(fēng),可以在12毫秒內(nèi)把一幅高清圖像展現(xiàn)在面前,而這就需要確定性網(wǎng)絡(luò)能力。
在大模型領(lǐng)域,大模型對算力的需求更為迫切,2012年到2023年,算力需求增加了數(shù)十萬倍,最近五年GPU的算力增加了90倍,但整個網(wǎng)絡(luò)的帶寬才增加了10倍,這個差距現(xiàn)在預(yù)示著將來對整個網(wǎng)絡(luò)帶寬的能力、通訊能力提出更高要求,缺口會越來越大。
數(shù)據(jù)要素確權(quán)也是個重要應(yīng)用領(lǐng)域,怎么把數(shù)據(jù)要素利用好、管理好,把安全性保護(hù)好是非常具有挑戰(zhàn)性的問題。沒有數(shù)據(jù)要素,中國在AI方面也會遇到很大的障礙;如果不能對數(shù)據(jù)要素進(jìn)行很好的隱私保護(hù)和防護(hù),這些數(shù)據(jù)要素就沒法共享,沒法流通,AI的發(fā)展就會遇到障礙。
另外,在大算力時代,分布式算力是必然選擇,“不可能集中在一個地方來做算力,電力問題就解決不了?!睂Υ耍覈岢隽恕皷|數(shù)西算”的布局,但如何把這種算力布局服務(wù)到全國各個行業(yè)、各個大模型?網(wǎng)絡(luò)問題怎么解決?這就面臨一個很大的挑戰(zhàn)——怎樣實現(xiàn)遠(yuǎn)距離無損的傳輸?
劉韻潔指出,遠(yuǎn)距離無損傳輸是一項必須攻克的難題,其中RDMA是一種非常關(guān)鍵的技術(shù),微軟的算力中心70%都是采用RDMA無損協(xié)議進(jìn)行互聯(lián)。華為的試驗數(shù)據(jù)顯示,100GE環(huán)境下,8節(jié)點VGG16模型訓(xùn)練RDMA性能是TCP- IP協(xié)議的8倍多?!耙驗锳I高端芯片對中國的封鎖,中國單點算力的差距跟美國會越來越大。在網(wǎng)絡(luò)能力方面,英偉達(dá)GB200相較于H100又有了成千上百被的提升,說明什么問題?每個芯片在互聯(lián)網(wǎng)能力方面大大提升,所以GPU算力跟網(wǎng)絡(luò)帶寬的需求量增長速度,對網(wǎng)絡(luò)帶寬的需求量會急劇增長?!?
- 中國電信:DeepSeek上線來,自有算力售賣率超90%
- 柯瑞文談天翼云增長放緩:符合市場規(guī)律,智能云是持續(xù)增長底氣
- 天翼云2024年收入1139億元,同比增長17.1%
- 中國電信:2025年資本開支下調(diào)10.6%至836億元,但算力投資不設(shè)限
- 中國電信2024年財報,滿屏的“量子”!
- 公共云與私人云:哪個更適合企業(yè)?
- 中國電信2024年營收5294億元:凈利潤330億元,同比增長8.4%
- 中國五大人工智能數(shù)據(jù)中心:全球人工智能基礎(chǔ)設(shè)施的領(lǐng)航者
- 阿里巴巴蔡崇信:人工智能數(shù)據(jù)中心建設(shè)出現(xiàn)泡沫
- 20億額度!廣州銀行攜手億航智能 助力低空經(jīng)濟(jì)騰飛
免責(zé)聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請進(jìn)一步核實,并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏,概不負(fù)任何法律責(zé)任。任何單位或個人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時,應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明,并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后,將會依法盡快聯(lián)系相關(guān)文章源頭核實,溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。