從“可用”到“好用”，百度智能云如何做大模型的“超級(jí)工廠”？

科技云報(bào)到原創(chuàng)。

如果說(shuō)，過(guò)去兩三年大模型處于造錘子階段，那么今年，更多的則是考驗(yàn)釘釘子的能力，面對(duì)各類業(yè)務(wù)場(chǎng)景大模型是否能夠有的放矢、一擊必中，為千行百業(yè)深度賦能。

當(dāng)前市場(chǎng)上，已經(jīng)有200多把這樣的錘子在瘋狂找釘子。但從實(shí)際應(yīng)用來(lái)看，大模型在文生文、文生圖以及扮演初級(jí)的工作助理等方面還算合格，但要是真正落地到一線場(chǎng)景，解決業(yè)務(wù)痛點(diǎn)，提升生產(chǎn)和服務(wù)效率，還需要下更多功夫。

從最近幾個(gè)月的風(fēng)向看，也不乏有人提出質(zhì)疑，如此之多的大模型，其實(shí)用性到底有幾分？這里面是不是也存在著不小的“泡沫”？無(wú)須諱言，“泡沫”一定是有，為了大模型而大模型的企業(yè)甚至不在少數(shù)。

但不可否認(rèn)是，業(yè)內(nèi)也有以百度智能云為代表的實(shí)干者在持續(xù)探索大模型的實(shí)際價(jià)值，不斷推出可應(yīng)用、可落地、可產(chǎn)生效益的大模型產(chǎn)品和解決方案，通過(guò)AI原生應(yīng)用推動(dòng)企業(yè)以及行業(yè)的創(chuàng)造力和生產(chǎn)力全面提升。

9月25日，2024百度云智大會(huì)正式舉行。本屆會(huì)議不僅圍繞基礎(chǔ)設(shè)施、大模型、開(kāi)發(fā)工具鏈、AI原生應(yīng)用等方面進(jìn)行了多項(xiàng)全新發(fā)布，還為業(yè)界帶來(lái)了大模型產(chǎn)業(yè)落地的最佳實(shí)踐。

“云智一體”戰(zhàn)略牽引，為大模型鋪路筑基

當(dāng)各行各業(yè)擁抱大模型之后，都會(huì)有一個(gè)共識(shí)，MaaS將是一種新的應(yīng)用開(kāi)發(fā)范式。在云計(jì)算時(shí)代，是基于PaaS做SaaS，再提供給用戶；智能化時(shí)代，則回歸到MaaS底座上，再結(jié)合千行百業(yè)的場(chǎng)景，打造智能化應(yīng)用，提供用戶所需要的業(yè)務(wù)價(jià)值。

在“百模大戰(zhàn)”的行業(yè)大環(huán)境下，百度智能云事業(yè)群總裁沈抖曾表示，過(guò)去一年是大模型從技術(shù)變革走向產(chǎn)業(yè)變革的關(guān)鍵一年，而大模型和云計(jì)算緊密結(jié)合，正在成為新型的基礎(chǔ)設(shè)施。從1834年第一臺(tái)現(xiàn)代發(fā)電機(jī)誕生，到1882年美國(guó)建成全球第一座電廠，再到電力成為全球的能源基礎(chǔ)設(shè)施，每一次升級(jí)都能帶來(lái)生產(chǎn)力的巨大躍遷。而且一次比一次速度更快，影響更大。

面對(duì)AI浪潮席卷全球，百度智能云希望更多的創(chuàng)業(yè)者、企業(yè)用戶能夠繁榮大模型生態(tài)。去年10月，百度智能云將戰(zhàn)略升級(jí)為“AI原生時(shí)代的云智一體”，圍繞“云智一體，深入產(chǎn)業(yè)，生態(tài)繁榮，AI普惠”理念，聚焦更高效的算力基礎(chǔ)設(shè)施、更好用的一站式大模型平臺(tái)和AI原生應(yīng)用開(kāi)發(fā)平臺(tái)，以及更豐富的AI原生應(yīng)用樣板間和行業(yè)解決方案，去滿足客戶在大模型時(shí)代的不同業(yè)務(wù)需求。

在“云智一體”戰(zhàn)略框架下，百度智能云自下而上推出一整套AI原生技術(shù)棧，包括異構(gòu)算力基礎(chǔ)設(shè)施“百度·百舸AI異構(gòu)計(jì)算平臺(tái)”、一站式大模型平臺(tái)“千帆ModelBuilder”和AI原生應(yīng)用開(kāi)發(fā)平臺(tái)“千帆AppBuilder”、AI生成式產(chǎn)品“文心大模型”，以及數(shù)字人、智能客服、超級(jí)助理、生成式BI等豐富的AI原生應(yīng)用和行業(yè)解決方案，滿足各行各業(yè)在AI原生時(shí)代的不同業(yè)務(wù)需求，全力賦能千行百業(yè)，加速推進(jìn)產(chǎn)業(yè)智能化。

百度智能云事業(yè)群總裁 沈抖

在IDC近日發(fā)布的《中國(guó)大模型平臺(tái)市場(chǎng)份額，2023：大模型元年——初局》報(bào)告中，百度智能云以19.9%的市場(chǎng)份額居中國(guó)大模型平臺(tái)市場(chǎng)第一。從應(yīng)用角度看，百度智能云能夠連續(xù)多年保持領(lǐng)先優(yōu)勢(shì)主要得益于三方面的原因：一是布局全棧AI技術(shù)，形成端到端的AI優(yōu)化機(jī)制；二是在生成式AI、多模態(tài)、大模型應(yīng)用場(chǎng)景、OCR、對(duì)話式AI等AI軟件方面具備明顯優(yōu)勢(shì)；三是擁有最大的AI及大模型產(chǎn)業(yè)落地規(guī)模，廣泛覆蓋金融、制造、能源、互聯(lián)網(wǎng)等行業(yè)。

作為AI時(shí)代的新型生產(chǎn)力，數(shù)據(jù)、算力和算法成為關(guān)鍵資源。在大規(guī)模前端產(chǎn)品落地后，算力建設(shè)能否及時(shí)跟上，成為AI大模型向各領(lǐng)域進(jìn)一步滲透的關(guān)鍵因素。

面對(duì)大模型高昂的計(jì)算成本和算力資源供應(yīng)短缺的問(wèn)題，如何在大模型訓(xùn)練推理上高效使用算力、擴(kuò)大算力來(lái)源是業(yè)務(wù)的核心考驗(yàn)。

沈抖指出，過(guò)去一年的最深感受就是大模型訓(xùn)練的需求越來(lái)越大，需要的集群規(guī)模也越來(lái)越大。與此同時(shí)，行業(yè)對(duì)推理的成本下降的預(yù)期也越來(lái)越高。這些都對(duì)GPU管理的穩(wěn)定性和有效性提出了更高的要求。此次，百度智能云對(duì)百舸做了大幅升級(jí)。

目前，百度百舸AI異構(gòu)算力平臺(tái)能夠?qū)Σ煌攸c(diǎn)、規(guī)模、集群的智能算力進(jìn)行統(tǒng)一管理，并基于芯片性能優(yōu)化、自動(dòng)芯片選型、潮汐混部等技術(shù)，大幅提升智能算力效能，萬(wàn)卡集群上的模型有效訓(xùn)練時(shí)長(zhǎng)占比超過(guò)99.5%。相同的大模型任務(wù)，百舸能夠幫助客戶將資源成本降低一半。

為了解決算力不足問(wèn)題，“一云多芯”是中國(guó)企業(yè)的必然選擇。百舸已經(jīng)攻克了同一智算集群中混合使用不同廠商芯片的業(yè)界難題，幫助企業(yè)擺脫單一芯片依賴，打造更有性價(jià)比、更安全、更具彈性的供應(yīng)鏈體系。百舸能夠在兼容昆侖芯、昇騰、海光DCU、英偉達(dá)、英特爾等國(guó)內(nèi)外主流AI芯片的同時(shí)，最大限度屏蔽硬件之間的差異，在多芯混合訓(xùn)練任務(wù)中百卡規(guī)模性能損失不超過(guò)3%，萬(wàn)卡規(guī)模性能損失不超過(guò)5%，均為業(yè)界最高水平。

基于強(qiáng)有力的算力平臺(tái)，百度智能云搭建起一站式企業(yè)級(jí)大模型平臺(tái)——千帆。該平臺(tái)不僅提供包括文心大模型4.0、4.0 Turbo和3.5三款旗艦?zāi)Ｐ?、主流開(kāi)源大模型在內(nèi)的近80款大模型服務(wù)，還提供覆蓋開(kāi)發(fā)大模型、AI原生應(yīng)用全生命周期的工具鏈。同時(shí)，為進(jìn)一步實(shí)現(xiàn)AI技術(shù)普惠，平臺(tái)還預(yù)置了ERNIE Speed、ERNIE Lite、ERNIE Tiny三款性價(jià)比較高的主力模型，幫助開(kāi)發(fā)者和企業(yè)降低大模型使用門檻和試錯(cuò)成本，加速業(yè)務(wù)創(chuàng)新。

為了進(jìn)一步降低行業(yè)大模型的開(kāi)發(fā)門檻，百度智能云推出了千帆·行業(yè)增強(qiáng)版，將通用大模型的理解、生成、邏輯、記憶能力，與行業(yè)模型的專業(yè)能力相結(jié)合，搭配體系化的工具和組件，支持從資源管理、大模型服務(wù)到應(yīng)用開(kāi)發(fā)的全過(guò)程，把企業(yè)定制化的部分從“最后一公里”縮短至“最后一百米”，讓行業(yè)的應(yīng)用開(kāi)發(fā)事半功倍。

目前，百度智能云的各類大模型產(chǎn)品已廣泛覆蓋交通、政務(wù)、教育、金融、制造、能源、互聯(lián)網(wǎng)等行業(yè)，并深入到“研、產(chǎn)、供、銷、服”的每個(gè)環(huán)節(jié)中，取得了顯著成效。

截至2024年Q2，千帆大模型平臺(tái)日調(diào)用量超過(guò)7億次，累計(jì)開(kāi)發(fā)出了超過(guò)70萬(wàn)個(gè)AI原生應(yīng)用。

小切口大縱深，從實(shí)踐中來(lái)到實(shí)踐中去

大模型商業(yè)化應(yīng)用的核心在于能否真正解決用戶問(wèn)題。

在經(jīng)歷了“百模大戰(zhàn)”的錘煉之后，企業(yè)們的技術(shù)能力正變得越發(fā)強(qiáng)勁，大模型開(kāi)始走向商業(yè)化落地。今年以來(lái)，中國(guó)10億參數(shù)規(guī)模以上的大模型數(shù)量已超100個(gè)，行業(yè)大模型深度賦能電子信息、醫(yī)療、交通等領(lǐng)域，形成上百種應(yīng)用模式，賦能千行百業(yè)。

隨著技術(shù)迭代曲線放緩、基礎(chǔ)大模型賽道的競(jìng)爭(zhēng)格局企穩(wěn)，生成式AI市場(chǎng)的性質(zhì)正在發(fā)生變化，更多的創(chuàng)新和價(jià)值創(chuàng)造正在向應(yīng)用層匯聚。沈抖曾表示，企業(yè)有多少業(yè)務(wù)場(chǎng)景，未來(lái)就有多少AI原生應(yīng)用。這也印證了百度智能云正在通過(guò)對(duì)產(chǎn)業(yè)痛點(diǎn)的深入洞察和理解，將大模型與實(shí)體經(jīng)濟(jì)及行業(yè)應(yīng)用全域融合，在服務(wù)產(chǎn)業(yè)的過(guò)程中，也進(jìn)一步完善和提升了大模型的行業(yè)能力，形成互為反哺、相互促進(jìn)的正向循環(huán)。

沿著這一邏輯，大模型一個(gè)最為前景的應(yīng)用場(chǎng)景，就是垂直領(lǐng)域?qū)I(yè)服務(wù)。越是復(fù)雜的問(wèn)題，越是專業(yè)的領(lǐng)域，越能孕育出更具價(jià)值的商業(yè)化應(yīng)用。最典型者如金融、政務(wù)、交通等行業(yè)。

在教育領(lǐng)域，教育龍頭企業(yè)好未來(lái)運(yùn)用百度百舸·AI異構(gòu)計(jì)算平臺(tái)，為其自研九章大模型（MathGPT）提供關(guān)鍵支撐。九章大模型在成功內(nèi)測(cè)推出后，已經(jīng)成功在智能硬件學(xué)習(xí)機(jī)xPad實(shí)現(xiàn)了業(yè)務(wù)上線。九章大模型的“數(shù)學(xué)隨時(shí)問(wèn)”功能可以實(shí)現(xiàn)對(duì)80%的數(shù)學(xué)題即問(wèn)即答，暫時(shí)不能回答的最快可在一小時(shí)內(nèi)上傳真人講解視頻、20分鐘內(nèi)生成AI視頻解析。此外，好未來(lái)AI輔導(dǎo)工具xPad2 Pro系列還上線了自研的新功能“AI對(duì)話學(xué)”，該功能基于九章大模型的解題和講題能力，通過(guò)與學(xué)生進(jìn)行啟發(fā)式的對(duì)話交流，打開(kāi)題目的黑盒，快速分析出學(xué)生的薄弱點(diǎn)，從而使教育更具針對(duì)性。

面對(duì)快速增長(zhǎng)的電動(dòng)汽車智能座艙需求，蔚來(lái)汽車基于千帆平臺(tái)，在文心大模型的基礎(chǔ)上通過(guò)提示詞工程打造出了業(yè)內(nèi)首家純端側(cè)部署的多模態(tài)感知大模型——NOMI GPT，助力客戶座艙場(chǎng)景體驗(yàn)創(chuàng)新。

NOMI能夠自然地與用戶互動(dòng)，成為一個(gè)更懂用戶、更聰明的座艙AI小助手。通過(guò)文心大模型，NOMI能夠?qū)τ脩舻挠密噯?wèn)題解答，還能實(shí)時(shí)監(jiān)測(cè)車況，支持用戶口語(yǔ)化模糊查找。比如用戶說(shuō)出目的地城市，NOMI就能幫助用戶推薦景點(diǎn)游玩攻略、景點(diǎn)推介、食宿推薦等；用戶給出關(guān)鍵詞，NOMI可以給出理解并調(diào)整氛圍燈色調(diào)。此外，NOMI還能自定義角色陪聊，具備兒童百科問(wèn)答、學(xué)習(xí)解惑、語(yǔ)言游戲等多種功能。目前，NOMI已經(jīng)陪伴了近20萬(wàn)車主家庭，已經(jīng)成為有溫度的情感陪伴和移動(dòng)的生活空間。

在港航領(lǐng)域，百度智能云與山東日照港聯(lián)合探索大模型港口應(yīng)用場(chǎng)景，推動(dòng)大模型試點(diǎn)應(yīng)用，賦能港航領(lǐng)域產(chǎn)業(yè)鏈上下游企業(yè)和生態(tài)企業(yè)智能化轉(zhuǎn)型升級(jí)。2023年，日照港口貨物吞吐量達(dá)到5.93億噸，躍居全國(guó)第六、世界第七；全市臨港產(chǎn)業(yè)產(chǎn)值占規(guī)上工業(yè)總產(chǎn)值的比重達(dá)85%以上。和一般碼頭有點(diǎn)不一樣的是，這里專做件雜貨。

件雜貨，是對(duì)論件計(jì)數(shù)、形狀各異、大小不一的貨物的統(tǒng)稱。這類貨物的包裝形式、類別各不相同，無(wú)法使用集裝箱運(yùn)輸，還存在不同的存放需求和上船時(shí)間要求，裝卸工具和方案各異，裝卸工藝流程復(fù)雜、人機(jī)交互頻繁。

相比集裝箱碼頭，件雜貨碼頭實(shí)現(xiàn)自動(dòng)化和智能化的難度更高。由于件雜貨的獨(dú)特屬性，碼頭需要可靠、準(zhǔn)確的圖像分析和智能算法，對(duì)貨物進(jìn)行有效識(shí)別、定位并進(jìn)行智能配載。

百度智能云運(yùn)用人工智能技術(shù)，打造智能化系統(tǒng)，為件雜貨碼頭自動(dòng)化、智能化升級(jí)探索可行路徑。通過(guò)百度智能云OCR視覺(jué)識(shí)別技術(shù)，在貨物即將進(jìn)港時(shí)，工作人員就可識(shí)別貨單信息，將具象化的貨物實(shí)體轉(zhuǎn)化為算法支持的數(shù)學(xué)邏輯，從而避免人工錄入造成的失誤，提升數(shù)據(jù)錄入的準(zhǔn)確性，降低貨運(yùn)代理數(shù)據(jù)錄入工作量。

智能化系統(tǒng)可對(duì)整個(gè)港口的堆場(chǎng)進(jìn)行厘米級(jí)的地理信息采集，實(shí)現(xiàn)人員、車輛、設(shè)備、貨物、場(chǎng)地、船舶等要素精準(zhǔn)定位，形成一張“綜合地圖”。數(shù)字化堆場(chǎng)系統(tǒng)會(huì)從TOS系統(tǒng)(Terminal Operating System，碼頭智能生產(chǎn)管理控制系統(tǒng))中獲取各生產(chǎn)要素的實(shí)時(shí)信息，并在高精地圖中進(jìn)行實(shí)時(shí)展示，助力業(yè)務(wù)人員遠(yuǎn)程作業(yè)。

在實(shí)現(xiàn)多維生產(chǎn)要素和生產(chǎn)流程的數(shù)學(xué)建模的同時(shí)，智能化系統(tǒng)基于調(diào)度數(shù)據(jù)優(yōu)化大模型的調(diào)度算法，提供包括智能堆場(chǎng)計(jì)劃、智能泊位計(jì)劃和智能配載計(jì)劃等調(diào)度計(jì)劃策略，再通過(guò)實(shí)時(shí)的人員排班調(diào)度、港機(jī)作業(yè)調(diào)度和水平運(yùn)輸車輛調(diào)度等，實(shí)現(xiàn)件雜貨碼頭自動(dòng)化、智能化運(yùn)轉(zhuǎn)。此外，調(diào)度優(yōu)化大模型還可以提高碼頭作業(yè)全流程的人機(jī)協(xié)同效率，將人工智能算法下沉到各類機(jī)械的調(diào)度和控制中，大大降低碼頭的整體運(yùn)轉(zhuǎn)控制難度，提高控制精度，實(shí)現(xiàn)港口智能化再升級(jí)。

依托百度智能云打造的智能化系統(tǒng)，山東日照港件雜貨碼頭整體運(yùn)轉(zhuǎn)效率提升10%，設(shè)備利用率提升20%，堆場(chǎng)周轉(zhuǎn)率提升20%，堆場(chǎng)利用率提升15%，并實(shí)現(xiàn)大模型在港航領(lǐng)域的成功應(yīng)用。

從“可用”到“好用”，從“潮玩”到“普適”，大模型在千行百業(yè)的場(chǎng)景落地是結(jié)合場(chǎng)景定義、訓(xùn)練、調(diào)優(yōu)、運(yùn)維等多個(gè)步驟的螺旋式上升過(guò)程。作為AI時(shí)代的底座建設(shè)者，百度智能云正結(jié)合軟硬件能力，賦能開(kāi)發(fā)者和生態(tài)伙伴，進(jìn)一步釋放AI的創(chuàng)新潛能。

【關(guān)于科技云報(bào)到】企業(yè)級(jí)IT領(lǐng)域Top10新媒體。聚焦云計(jì)算、人工智能、大模型、網(wǎng)絡(luò)安全、大數(shù)據(jù)、區(qū)塊鏈等企業(yè)級(jí)科技領(lǐng)域。原創(chuàng)文章和視頻獲工信部權(quán)威認(rèn)可，是世界人工智能大會(huì)、數(shù)博會(huì)、國(guó)家網(wǎng)安周、可信云大會(huì)與全球云計(jì)算等大型活動(dòng)會(huì)議的官方指定傳播媒體之一。

生成海報(bào)

免責(zé)聲明：此文內(nèi)容為第三方自媒體作者發(fā)布的觀察或評(píng)論性文章，所有文字和圖片版權(quán)歸作者所有，且僅代表作者個(gè)人觀點(diǎn)，與極客網(wǎng)無(wú)關(guān)。文章僅供讀者參考，并請(qǐng)自行核實(shí)相關(guān)內(nèi)容。投訴郵箱：editor@fromgeek.com。

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書(shū)面權(quán)利通知或不實(shí)情況說(shuō)明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。