12月7日，自然語言處理國際頂會EMNLP 2022在阿聯(lián)酋阿布扎比召開，本次大會，中國研究團隊表現(xiàn)優(yōu)異，阿里巴巴達摩院共有33篇論文被接收，是論文入選數(shù)量最多的研究機構之一。達摩院相關研究成果涵蓋跨模態(tài)理解和生成預訓練、知識增強的多語言預訓練、具有自我評估能力的機器翻譯等領域，多項成果已在魔搭社區(qū)ModelScope平臺開放。
EMNLP 2022在阿布扎比召開
EMNLP是自然語言處理領域高影響力的會議之一，其在Google Scholar計算語言學刊物指標中排名第二。和傳統(tǒng)學術會議不同，EMNLP更注重自然語言算法與各領域應用的結(jié)合，吸引了Google、微軟、麻省理工學院等全球頂級科技公司和研究機構的參與。據(jù)介紹，今年大會主會和Findings共接收1381篇論文，其中主會接收論文829篇，接收率創(chuàng)新低僅為20%。達摩院共有22篇論文被主會接收，11篇論文被接收為Findings（不上主會報告的論文）。
達摩院NLP實驗室資深算法專家邴立東在本次大會上共有8篇論文入選主會，個人入選論文數(shù)量位居全球研究者前列。他表示：“今年大會學術界和工業(yè)界的研究趨勢仍在發(fā)生微妙的變化，語言模型 (Language Model) 相關的研究熱度居高不下，有155篇論文在標題里提到了該關鍵詞，此外跨模態(tài)預訓練、文本生成、對比學習等領域的論文數(shù)量也在持續(xù)增長。”
EMNLP 2022大會首日議程
以大模型為例，達摩院創(chuàng)新性地提出了skip-connected網(wǎng)絡結(jié)構，可解決當下多模態(tài)預訓練模型訓練和推理效率低，以及跨模態(tài)對齊模塊中存在語義信息被視覺序列掩蓋的問題，該網(wǎng)絡可提高視覺表示中self-attention的計算效率，提速至少4倍。實驗結(jié)果顯示，基于該網(wǎng)絡，達摩院通義AliceMind體系下的多模態(tài)預訓練模型mPLUG用1300萬公開圖文數(shù)據(jù)預訓練的模型，超越了傳統(tǒng)模型上億訓練數(shù)據(jù)的效果。相關研究可應用于圖像描述、圖文檢索、視覺定位和視覺問答等領域，基于該底座，達摩院于2021年在VQA(視覺問答）任務上實現(xiàn)了首次超越人類結(jié)果的突破。
據(jù)介紹，達摩院研發(fā)的阿里通義AliceMind體系涵蓋預訓練模型、多語言預訓練模型、超大中文預訓練模型等，具備閱讀理解、機器翻譯、對話問答、文檔處理等多種能力，該模型體系已斬獲36項冠軍。
- 愛奇藝加碼微短劇 上線“跳看”和AI智能助手“桃豆”
- 愛奇藝殺入直播帶貨，不賣“貨架”賣“劇情”
- 保時捷911 Spirit 70上海車展全球首發(fā)：售價266.8萬元，限量1500臺
- 長城山海炮Hi4-T上海車展首發(fā)：預售價22.88萬元起
- 斑馬智行發(fā)布融合端到端智艙框架：提升5倍人機交互效能
- 東風汽車全系自主品牌亮相上海車展 重磅發(fā)布“天元智能”技術品牌
- 內(nèi)存廠商加速DDR4退場，市場前景仍不明朗
- 愛奇藝大會推內(nèi)容電商與智能助手“桃豆”，欲破業(yè)績困局
- 英特爾委托臺積電代工，高端芯片競賽或處下風
- 稀土管制重創(chuàng)特斯拉，馬斯克呼吁降關稅
免責聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性，但不保證有關資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責。本網(wǎng)站對有關資料所引致的錯誤、不確或遺漏，概不負任何法律責任。任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權或存在不實內(nèi)容時，應及時向本網(wǎng)站提出書面權利通知或不實情況說明，并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關文章源頭核實，溝通刪除相關內(nèi)容或斷開相關鏈接。
