滿血版DeepSeek落地東南大學(xué)!昇騰先進(jìn)架構(gòu)和卓越性能全程護(hù)航

今年以來,DeepSeek掀起新一輪AI熱潮。2月16日,東南大學(xué)正式官宣,東南大學(xué)網(wǎng)絡(luò)與信息中心,東南大學(xué)鯤鵬昇騰科教創(chuàng)新孵化中心,于全國產(chǎn)云智算一體化平臺成功部署滿血版DeepSeek-R1(671B)大模型并向全校提供服務(wù)。在昇騰先進(jìn)架構(gòu)和卓越性能支持下,幫助用戶擺脫官方服務(wù)算力短缺的窘境,讓更多人用上“滿血版”的DeepSeek-R1,服務(wù)廣大師生學(xué)習(xí)生活、科研辦公等需求。

擁抱國產(chǎn)算力,東南大學(xué)攜手昇騰上線DeepSeek-R1大模型

近年,學(xué)界加快構(gòu)建算力基礎(chǔ)設(shè)施,以適應(yīng)人工智能時代的教學(xué)、科研、辦公需求,東南大學(xué)是最早擁抱國產(chǎn)算力的頂尖高校之一,本次DeepSeek-R1成功本地化部署,正依托于東南大學(xué)2024年1月建成的全國產(chǎn)云智算一體化平臺,該平臺集成鯤鵬通用算力與昇騰AI算力,具備全流程國產(chǎn)化、高性能算力、大規(guī)模自動賦權(quán)體系等特點(diǎn),全校師生“零申請”即可使用昇騰AI服務(wù),同時有著高可用性、數(shù)據(jù)隱私保障、定制化服務(wù)擴(kuò)展等優(yōu)勢,支持國內(nèi)外主流開源大模型,成為高校探路AI時代的典型范例。

一直以來,東南大學(xué)堅(jiān)定國產(chǎn)化技術(shù)發(fā)展路線的戰(zhàn)略方針,在與華為的長期合作中建立了良好的合作基礎(chǔ)與深厚的信任。適逢DeepSeek橫空出世,東南大學(xué)于春節(jié)后開學(xué)季第一時間上線滿血版DeepSeek-R1(671B)大模型,相較蒸餾版性能更強(qiáng),支持復(fù)雜邏輯推理與長文本深度交互,而且功能更全,支持私有知識庫融合,為教學(xué)科研提供定制化能力。在校園網(wǎng)內(nèi),師生通過訪問鏈接,可無限次免費(fèi)體驗(yàn)“滿血版”DeepSeek,徹底告別“服務(wù)器繁忙”的困擾。

破局算力困局:昇騰構(gòu)筑高校AI自主創(chuàng)新基座

早在 DeepSeek 模型發(fā)布之初,昇騰就已深度參與其中,支持用戶在昇騰硬件和MindIE推理引擎上實(shí)現(xiàn)高效推理,同時通過算子優(yōu)化、混合精度計(jì)算、推理適配優(yōu)化等技術(shù),配合全球部署、彈性可擴(kuò)展、持平高端GPU強(qiáng)勁性能等優(yōu)勢,解決大模型部署使用的“算力難題”。因此,昇騰成為眾多企業(yè)機(jī)構(gòu)、校園研所構(gòu)建底層算力支持的首選,以此為基礎(chǔ)將DeepSeek與自身業(yè)務(wù)結(jié)合,發(fā)展更先進(jìn)高效的人工智能服務(wù)。

具體到學(xué)界領(lǐng)域,東南大學(xué)網(wǎng)絡(luò)與信息中心通過昇騰Atlas系列服務(wù)器的澎湃算力,搭載MindIE智能推理引擎的深度優(yōu)化能力,打造出三大核心優(yōu)勢:

性能突圍:基于昇騰達(dá)芬奇架構(gòu)的混合精度計(jì)算技術(shù),推理效率較傳統(tǒng)方案實(shí)現(xiàn)顯著提升,支持單日百萬級交互請求。

自主可控:通過算子級兼容適配與動態(tài)路由技術(shù),構(gòu)建從芯片到框架的全棧技術(shù)鏈。

彈性擴(kuò)展:依托昇騰AI原生算力平臺,算力資源可按需分鐘級擴(kuò)容,完美適配科研攻關(guān)的波動性需求。

東南大學(xué)未來還計(jì)劃進(jìn)一步開放生態(tài)與深度服務(wù):2025年3月起,將面向校內(nèi)科研團(tuán)隊(duì)陸續(xù)開放DeepSeek-R1滿血版API,支持私有知識庫嵌入、領(lǐng)域模型微調(diào)等功能,助力快速構(gòu)建學(xué)科專用AI工具,打造教學(xué)與科研的新范式。

作為校企合作、產(chǎn)教融合的重要平臺,東南大學(xué)鯤鵬昇騰科教創(chuàng)新孵化中心將持續(xù)推動DeepSeek等重要AI創(chuàng)新在高校領(lǐng)域落地,為課程設(shè)置、成果孵化、科研創(chuàng)新提供領(lǐng)先的算力環(huán)境,助力高校師生學(xué)習(xí)AI、擁抱AI、用好AI,勇立人工智能時代潮頭。

(免責(zé)聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請進(jìn)一步核實(shí),并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏,概不負(fù)任何法律責(zé)任。
任何單位或個人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實(shí)內(nèi)容時,應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明,并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后,將會依法盡快聯(lián)系相關(guān)文章源頭核實(shí),溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 )