隨著DeepSeek在人工智能和大數(shù)據(jù)領(lǐng)域的持續(xù)發(fā)展,其在技術(shù)創(chuàng)新和應用拓展上展現(xiàn)出了驚人的活力。而ChatBI作為下一代BI的革新方向正在重新定義企業(yè)數(shù)據(jù)分析的交互方式和決策模式。許多企業(yè)雀雀欲試開始積極布局這一領(lǐng)域,在年后僅僅不到一個月的時間就有將近幾十家的客戶向永洪科技團隊咨詢關(guān)于ChatBI的相關(guān)技術(shù)與應用,希望借助ChatBI的力量,打破傳統(tǒng)BI的限制,實現(xiàn)更加智能化、人性化的數(shù)據(jù)分析與決策。因此,他們紛紛表示愿意投入資源,與永洪科技團隊攜手合作,加速ChatBI技術(shù)的商業(yè)化進程,以期在發(fā)展中脫穎而出,成為下一個像哪吒一樣引領(lǐng)潮流的佼佼者。
通過綜合分析眾多客戶前期的項目POC以及深入的交流,今天我們將探討三個方面的問題:
永洪的ChatBI到底能幫我們解決什么問題?效果如何?具體使用了什么技術(shù)路線?
到底怎樣將ChatBI落地?需要準備些什么?
ChatBI未來的方向是什么?
解決哪些問題,效果如何?
永洪的ChatBI里面的關(guān)鍵模塊vividime Copilot,既可以解決問數(shù)查數(shù),又可以解決深層次的數(shù)據(jù)問題比如歸因分析、數(shù)據(jù)預測、異常值分析等。再從精度、性能及可信度方面來看:
在精度方面,vividime Copilot通過引入多輪召回、輸入提示補齊、分步驟語義和DSL拆分、后置校驗機制,在復雜業(yè)務場景下仍能保持90%以上的分析準確率。
在性能方面,vividime Copilot問答響應速度也許并不是很理想,相對于速度,我們優(yōu)先考慮問答的正確率和執(zhí)行復雜問答任務的能力。在這方面永洪采用Agent框架設(shè)計,會將問題拆分為多個子任務,在處理較復雜的提問,執(zhí)行鏈路就會變長。同時永洪也采用了類似DeepSeek-R1思考過程的人工設(shè)計的思維鏈(CoT)來拆解問題和描述任務內(nèi)容的處理過程,用來增加模型生成的準確率和穩(wěn)定性,但思維鏈的一個明顯代價就是大量消耗輸出Token數(shù)。在大模型服務器方面永洪建議采用的是Qwen2.5-32B版本,非量化版模型實測推理速度穩(wěn)定維持在約為23token/s,速度并不高,這些都會制約vividime Copilot問答實時響應速度。
在可信度方面,ChatBI在應用中,難免會有錯誤的答案,怎樣先確定思考的過程是否正確?生成的結(jié)果怎樣排查到錯誤,并快速修復?解決這些問題,才能代表一個ChatBI產(chǎn)品具有可信性。永洪給到用戶的是整個分析過程是可以完全可視其推理邏輯,這使得用戶能夠清晰地追蹤和理解每一個分析步驟背后的邏輯依據(jù)。通過判斷生成圖表所綁定的字段以及篩選器來識別數(shù)據(jù)是否準確,對認為不準確可以調(diào)整其中的維度、度量、指標、分組條件、枚舉值、統(tǒng)計值等,按照自己的設(shè)想二次點選生成新的相關(guān)圖表。還可以通過點贊的方式對更改后的準確結(jié)果進行固化。
具體使用了什么技術(shù)路線?
永洪采用NL2SKILL的技術(shù)路線,相比于Text2SQL或NL2SQL,其核心目標不是將自然語言轉(zhuǎn)化為標準化的SQL語句,而是將自然語言轉(zhuǎn)化為端到端的分析技能(元數(shù)據(jù)查詢、繪制圖表、數(shù)據(jù)洞察、圖表解讀等),采用自主設(shè)計的領(lǐng)域描述語言(DSL)定義,覆蓋從數(shù)據(jù)查詢到分析結(jié)果輸出的完整流程。這種路線有三大優(yōu)勢:首先保持最大的靈活性和擴展性,還可避免完全受限于基座大模型的SQL生成能力和某些任務無法用SQL表達的限制,同時用戶提問被大模型轉(zhuǎn)換為圖表的中間語義層DSL描述,能較容易地直接轉(zhuǎn)換為圖表顯示。
整個智能問答過程通過意圖識別與技能分類 → 元數(shù)據(jù)與知識動態(tài)召回 → 任務調(diào)度與子任務編排 →LLM生成響應與DSL轉(zhuǎn)換 → BI引擎解析與執(zhí)行的鏈條將自然語言轉(zhuǎn)化為可落地的分析動作。其核心價值可以降低使用門檻,業(yè)務人員直接獲取洞察,無需理解技術(shù)細節(jié);提升分析深度,融合查詢、計算、建模、可視化多環(huán)節(jié);適應復雜場景,通過動態(tài)調(diào)度應對多變的企業(yè)需求。
怎樣將ChatBI落地?需要準備些什么?
ChatBI項目想要成功落地需要從數(shù)據(jù)、業(yè)務、人三線并進,數(shù)據(jù)線實現(xiàn)元數(shù)據(jù)標準化與知識沉淀;業(yè)務線選擇高價值場景快速驗證,建立用戶信任。人線要有明確的角色和職責,配套的組織驅(qū)動力。
數(shù)據(jù)方面
相對于BI,ChatBI對數(shù)據(jù)質(zhì)量要求更嚴苛,本質(zhì)上是由于自然語言的開放性和模糊性與機器對結(jié)構(gòu)化數(shù)據(jù)的精確性要求之間的矛盾。因此在這種情況下需先保證數(shù)據(jù)準確,在保證數(shù)據(jù)質(zhì)量,如字段名漢字化、字段類型正確、避免字段名歧義,避免數(shù)據(jù)冗余和不一致,加工關(guān)鍵指標(避免“不可回答的問題”)等。在這里加入數(shù)據(jù)模型和指標管理平臺會是一個不錯的選擇。
知識沉淀在永洪通過配置知識庫的方式來解決復雜問題、領(lǐng)域問題。在我們實踐中分為如下四類:
規(guī)則結(jié)構(gòu)化:企業(yè)里獨有的知識,如銷冠、高價值訂單等定義。
上下文感知:特定詞匯,“本單位”、“本部門” 等無法被AI理解的詞匯。
可視化預置:明確展現(xiàn)圖表類型, 如占比分析用餅圖展示,情況結(jié)果用表格展示。
混合檢索:對于開放性的問題,與數(shù)據(jù)字段完全無關(guān)的問題,如輸出營銷總結(jié)?企業(yè)為了員工做了什么努力?
永洪的知識庫配置體系通過規(guī)則結(jié)構(gòu)化、上下文感知、可視化預置、混合檢索四重機制,將分散的企業(yè)知識轉(zhuǎn)化為ChatBI的“認知能力”。
業(yè)務方面
結(jié)合永洪的實踐,我們推薦挑一個業(yè)務場景先試點,可結(jié)合數(shù)據(jù)情況、用戶數(shù)、使用頻次等挑選場景。聚焦價值明顯、可行性高、風險可控的原則,先選擇一個小而具體的場景,確保ChatBI能夠真正解決該場景下的痛點。通過試點,我們可以積累寶貴的經(jīng)驗,了解ChatBI在實際業(yè)務中的表現(xiàn)和局限性,為后續(xù)全面推廣打下堅實的基礎(chǔ)。同時,試點過程中也能夠讓業(yè)務部門感受到ChatBI的價值,增強他們對新技術(shù)的信心和接受度。在試點成功后,我們可以逐步擴大ChatBI的應用范圍,將其融入到更多的業(yè)務場景中。
人方面
結(jié)合上面數(shù)據(jù)和業(yè)務的考量,我們來看chatBI應該是怎樣的落地流程?如下:業(yè)務調(diào)研明確場景——知識提煉——準備數(shù)據(jù)——數(shù)據(jù)預處理——知識庫配置——場景測試(通用化場景測試、業(yè)務化場景測試)——UAT 測試——正式上線——用戶培訓——持續(xù)優(yōu)化。在這個流程中業(yè)務專家、IT專家、數(shù)據(jù)專家都是必不可少的,業(yè)務專家負責明確業(yè)務場景和需求,為ChatBI的應用提供方向;IT專家負責技術(shù)實現(xiàn)和系統(tǒng)集成,確保ChatBI與現(xiàn)有IT架構(gòu)的兼容性和穩(wěn)定性;數(shù)據(jù)專家則負責數(shù)據(jù)的收集、清洗和治理,為ChatBI提供高質(zhì)量的數(shù)據(jù)支持。值得一提的是,領(lǐng)導層的參與也是必不可少的,領(lǐng)導層提供戰(zhàn)略方向,確保ChatBI項目與公司整體戰(zhàn)略保持一致,并在資源分配上給予必要的支持,還能增強項目在組織內(nèi)部的影響力,推動各部門之間的協(xié)作與配合。
ChatBI未來的方向是什么?
從永洪的角度,結(jié)合自身在BI產(chǎn)品上的優(yōu)勢特色,下一步會進一步按照降低使用門檻的方向?qū)崿F(xiàn)智能生成報告,智能查找報告,智能設(shè)置報告,智能操控報告等。同時也會探索產(chǎn)品深度嵌入業(yè)務決策,實現(xiàn)“分析-模擬-決策”閉環(huán),這一閉環(huán)將幫助企業(yè)在數(shù)據(jù)洞察的基礎(chǔ)上,快速響應市場變化,制定并執(zhí)行更加精準有效的決策策略。
最后總結(jié)一下,從LLM的技術(shù)特性與商業(yè)智能(BI)場景的深度融合視角來看,LLM將為BI產(chǎn)品體系帶來革命性能力躍遷。要充分明確各自的優(yōu)勢,LLM以其強大的自然語言處理能力,能夠更好地理解用戶的查詢意圖,提供更加精準、個性化的數(shù)據(jù)分析結(jié)果。而BI產(chǎn)品則擅長將復雜的數(shù)據(jù)轉(zhuǎn)化為直觀、易懂的圖表和報告,幫助用戶快速洞察數(shù)據(jù)背后的商業(yè)價值。將兩者相結(jié)合將開啟智能決策新紀元。
商業(yè)化的 ChatBI 目前面臨著諸多挑戰(zhàn),未來的發(fā)展道路充滿艱辛,需要不斷突破多重瓶頸,各廠商在這一過程中應保持嚴謹?shù)膽B(tài)度,持續(xù)投入大量的資源和精力。永洪堅信智能分析革命必將全面爆發(fā),我們會始終堅守初心,不斷探索創(chuàng)新,致力于提升 ChatBI 的性能和功能,為客戶提供更優(yōu)質(zhì)、更高效的服務。
(免責聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性,但不保證有關(guān)資料的準確性及可靠性,讀者在使用前請進一步核實,并對任何自主決定的行為負責。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏,概不負任何法律責任。
任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時,應及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明,并提供身份證明、權(quán)屬證明及詳細侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后,將會依法盡快聯(lián)系相關(guān)文章源頭核實,溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 )