向量數據庫X云計算驅動大模型落地電商行業(yè),Zilliz聯合AWS探索并貢獻成熟解決方案

近日,由Zilliz 聯合亞馬遜云科技舉辦的【向量數據庫 X 云計算 驅動大模型落地電商行業(yè)】活動在上海圓滿落幕,獲得業(yè)內專業(yè)人士的廣泛好評。

眾所周知,大模型技術的發(fā)展正加速對千行萬業(yè)的改革和重塑,向量數據庫作為大模型的海量記憶體、云計算作為大模型的大算力平臺,是大模型走向行業(yè)的基石。而電商行業(yè)因其高度的數字化程度,成為打磨大模型的絕佳“競技場”。為此,本次活動應運而生。

多位來自向量數據庫公司 Zilliz 與亞馬遜云科技的專家、電商行業(yè)一線的技術大咖在現場貢獻了精彩發(fā)言,和現場觀眾共話大模型在電商行業(yè)中的應用場景、方案解析、最佳實踐等核心話題。其中,Zilliz 資深解決方案架構師沈亮、Zilliz Towhee 開源項目負責人陳將的演講令人印象深刻。

沈亮從向量數據庫的基礎知識講起,由淺入深地過渡到電商行業(yè)落地向量數據庫的場景。他提到,向量數據庫的典型的應用場景包括:在長文本領域,可以進行翻譯、問答、語義檢索、情感分析;在圖片領域可以進行去重、目標檢測、圖片檢索、多模態(tài)的圖文互搜;在視頻領域進行推薦、合規(guī)檢測、分類等。當然,也有很多新興的應用場景,比如在自動駕駛領域可以通過向量檢索幫助系統找出實時判斷過程中沒有分析出來的物體。而電商行業(yè)盈利基本上靠“搜廣推”三板斧,向量數據庫技術結合深度學習能做更高質量的“搜廣推”,這其中一個重要的技術方向是多模態(tài)搜索。沈亮提到,目前大模型在電商領域可以落地的場景包括推薦系統召回、智能客服問答、UGC分析等。

陳將則從技術層面講述了從零到一搭建電商行業(yè)知識庫應用的過程。他表示,當前大語言模型存在一定的局限性,例如缺乏領域特定信息、容易產生幻覺、無法獲取最新信息、預訓練數據無法改變等,知識庫可以改善這一情況。這其中,不得不提到由 Zilliz 提出的新范式——CVP Stack。其中,C 是 ChatGPT,即利用大語言模型實現以 ChatGPT 為代表的智能問答;V 是 Vector database,即通過向量數據庫為 ChatGPT 提供大規(guī)模的、可靠的知識庫;P 是 Prompt as code,即使用提示匹配用戶問題與來自知識庫的參考內容。CVP Stack 的應用場景代表為面向開源用戶和開源社區(qū)運維人員的問答機器人 OSSChat(https://osschat.io/),而在電商領域,電商用戶可以借助問答機器人將商品介紹導入知識庫,搭建知識庫增強問答。

此外,在現場,來自潮流電商得物的 AI 技術專家孟令公則分享了得物基于 Milvus 的大模型實踐。據孟令公介紹,得物目前有上億級別的向量數據存儲在開源向量數據庫 Milvus 上,基于 Milvus 的得物大模型訓練推理平臺可以支持多種類型的業(yè)務平穩(wěn)運行。而未來,隨著大模型應用走向規(guī)?;投鄻踊?,得物也將進行技術上的更深入探索。

(免責聲明:本網站內容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網站出現的信息,均僅供參考。本網站將盡力確保所提供信息的準確性及可靠性,但不保證有關資料的準確性及可靠性,讀者在使用前請進一步核實,并對任何自主決定的行為負責。本網站對有關資料所引致的錯誤、不確或遺漏,概不負任何法律責任。
任何單位或個人認為本網站中的網頁或鏈接內容可能涉嫌侵犯其知識產權或存在不實內容時,應及時向本網站提出書面權利通知或不實情況說明,并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網站在收到上述法律文件后,將會依法盡快聯系相關文章源頭核實,溝通刪除相關內容或斷開相關鏈接。 )