Meta AI推出新型AI模型LIGER:檢索效率與推薦精度的雙重革命
隨著人工智能(AI)的快速發(fā)展,Meta AI的研究人員提出了一種名為LIGER的新型AI模型,該模型巧妙地結(jié)合了密集檢索和生成檢索的優(yōu)勢,顯著提升了生成式推薦系統(tǒng)的性能。LIGER通過將密集檢索和生成檢索的優(yōu)勢融合,為構(gòu)建更高效、更精準的推薦系統(tǒng)提供了新的思路。
在推薦系統(tǒng)中,將用戶與相關(guān)內(nèi)容、產(chǎn)品或服務(wù)聯(lián)系起來是一項重要的任務(wù)。傳統(tǒng)的推薦方法主要依賴于密集檢索,利用序列建模來計算項目和用戶表示。然而,這種方法在處理大規(guī)模數(shù)據(jù)集時,由于需要嵌入每個項目,因此需要大量的計算資源和存儲。隨著數(shù)據(jù)集的增長,這些要求變得越來越繁重,限制了其可擴展性。
為了解決這些問題,Meta AI公司聯(lián)合威斯康星大學(xué)麥迪遜分校、ELLIS Unit、LIT AI Lab、機器學(xué)習(xí)研究所、JKU Linz等機構(gòu),推出了LIGER模型。LIGER混合了生成檢索的計算效率和密集檢索的精度,通過生成檢索生成候選集、語義ID和文本屬性的項目表示,再通過密集檢索技術(shù)進行精練,平衡了效率和準確性。
LIGER采用了雙向Transformer編碼器和生成解碼器。在密集檢索部分,整合了項目文本表示、語義ID和位置嵌入,并使用余弦相似度損失進行優(yōu)化。生成部分則使用波束搜索根據(jù)用戶交互歷史預(yù)測后續(xù)項目的語義ID。通過這種混合推理過程,LIGER降低了計算需求,同時保持了推薦質(zhì)量。
在Amazon Beauty、Sports、Toys和Steam等基準數(shù)據(jù)集上的評估顯示,LIGER的性能持續(xù)優(yōu)于現(xiàn)有最先進模型。例如,在Amazon Beauty數(shù)據(jù)集上,LIGER對冷啟動項目的Recall@10得分達到了0.1008,優(yōu)于TIGER的0.0。在Steam數(shù)據(jù)集上,LIGER的Recall@10也達到了0.0147。此外,隨著生成方法檢索的候選數(shù)量增加,LIGER與密集檢索的性能差距進一步縮小,展現(xiàn)了其適應(yīng)性和效率。
總的來說,LIGER通過結(jié)合密集檢索和生成檢索的優(yōu)勢,顯著提高了生成式推薦系統(tǒng)的性能。它的出現(xiàn)為構(gòu)建更高效、更精準的推薦系統(tǒng)提供了新的思路和方法。未來,我們期待看到更多的創(chuàng)新型AI模型的出現(xiàn),為人工智能領(lǐng)域的發(fā)展注入新的活力。
參考文獻:
Unifying Generative and Dense Retrieval for Sequential Recommendation
[Meta AI新模型:LIGER 帶來檢索效率與推薦精度的雙重革命]
(免責聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性,但不保證有關(guān)資料的準確性及可靠性,讀者在使用前請進一步核實,并對任何自主決定的行為負責。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏,概不負任何法律責任。
任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時,應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明,并提供身份證明、權(quán)屬證明及詳細侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后,將會依法盡快聯(lián)系相關(guān)文章源頭核實,溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 )