追一科技AI Lab團(tuán)隊(duì)獲CoQA閱讀理解冠軍
近日,由斯坦福大學(xué)發(fā)起的對話式問答挑戰(zhàn)賽 CoQA (Conversational Question Answering Challenge)中,追一科技 AI Lab團(tuán)隊(duì)超越微軟團(tuán)隊(duì)成為榜單第一,刷新了之前微軟等團(tuán)隊(duì)創(chuàng)造的CoQA紀(jì)錄。
閱讀理解是目前語言AI最受關(guān)注、進(jìn)步最快的技術(shù)方向,全球有兩大頂級比賽最受矚目,分別是注重一問一答的SQuAD和多輪對話問答的CoQA。相比SQuAD,CoQA比賽重點(diǎn)挑戰(zhàn)的是模型在對話過程中回答相互關(guān)聯(lián)問題的能力,而且對話問答數(shù)據(jù)集由來自不同領(lǐng)域一系列文章中的對話問題組成,答案的形式非常自由,這些改進(jìn)點(diǎn)都極大地提高了挑戰(zhàn)賽的難度。
追一科技團(tuán)隊(duì)在大規(guī)模預(yù)訓(xùn)練模型RoBERTa的基礎(chǔ)上,融入了對抗訓(xùn)練(Adversarial training)和知識(shí)蒸餾(Knowledge Distillation)的思想,同時(shí)兼顧了CoQA數(shù)據(jù)集的自身特點(diǎn),實(shí)驗(yàn)結(jié)果表明,上述方法顯著地提升了系統(tǒng)表現(xiàn)。目前,團(tuán)隊(duì)在2019年9月5日提交的RoBERTa + AT + KD系統(tǒng),在CoQA榜位列第一,其中單模型(single model)的表現(xiàn)首次全面超越人工評測指標(biāo)。
此次登頂CoQA,也是追一科技持續(xù)耕耘AI技術(shù)的成果之一。作為以技術(shù)創(chuàng)新為核心驅(qū)動(dòng)力的AI公司,追一科技一直專注在前沿AI語義交互與算法技術(shù)的攻堅(jiān),在意圖識(shí)別、情感分析、知識(shí)圖譜、閱讀理解、多輪對話等領(lǐng)域不斷取得突破。并獲得了2018 CMRC機(jī)器閱讀理解比賽冠軍、2019年CCF語言與智能技術(shù)競賽的“知識(shí)驅(qū)動(dòng)對話”冠軍。
除了技術(shù)突破,追一科技一直堅(jiān)持研發(fā)與應(yīng)用互相驅(qū)動(dòng),規(guī)模化落地AI應(yīng)用。追一科技的智能產(chǎn)品和解決方案,已經(jīng)在金融、運(yùn)營商、政企、泛互聯(lián)網(wǎng)等眾多領(lǐng)域落地,服務(wù)300多家行業(yè)標(biāo)桿客戶。與此同時(shí),追一科技還致力于創(chuàng)新型技術(shù)的應(yīng)用落地、量產(chǎn)及標(biāo)準(zhǔn)化,例如,閱讀理解、多模態(tài)交互數(shù)字人等技術(shù)和產(chǎn)品,已經(jīng)在部分券商、銀行伙伴場景中應(yīng)用,實(shí)現(xiàn)業(yè)內(nèi)突破。
隨著NLP等AI技術(shù)的突破,產(chǎn)業(yè)智能化時(shí)代的到來,多行業(yè)場景化需求將對技術(shù)創(chuàng)新和產(chǎn)品化能力提出更多挑戰(zhàn)。追一科技將繼續(xù)專注創(chuàng)新能力,攻堅(jiān)技術(shù)前沿,以技術(shù)創(chuàng)新賦能更多行業(yè)伙伴。
- 標(biāo)簽:
- 編輯:李娜
- 相關(guān)文章