隨著金融科技的快速發(fā)，區(qū)塊鏈、人工智能、模態(tài)和預(yù)訓(xùn)練排序等新技術(shù)領(lǐng)域已成為全球科巨頭“必爭(zhēng)之地”。作?以科技創(chuàng)新為核心驅(qū)動(dòng)的金融科技企業(yè)，度小在科技研發(fā)、自主創(chuàng)新方面進(jìn)行了大量投入，新興技術(shù)領(lǐng)域不斷取得突破。近日，度小滿(mǎn)金數(shù)據(jù)智能應(yīng)用部 AI-Lab 的兩篇論文分別入選 ACM MM 和 CIKM 國(guó)際頂級(jí)會(huì)議。據(jù)了解，度小滿(mǎn)兩論文分別就多模態(tài)和預(yù)練排序等多個(gè)熱門(mén)話題出了新穎的算法，并在關(guān)任務(wù)上達(dá)到了國(guó)際頂水平，獲得了審稿人的致好評(píng)并最終錄用。這志著度小滿(mǎn)在自然語(yǔ)言理和計(jì)算機(jī)視覺(jué)等人工能前沿領(lǐng)域的研究得到國(guó)際同行的認(rèn)可。度小新模型可滿(mǎn)足多業(yè)務(wù)場(chǎng)需求度小滿(mǎn) AI-Lab 團(tuán)隊(duì)撰寫(xiě)的“具有實(shí)體對(duì)齊網(wǎng)格的馬腹置增強(qiáng) Transformer”論文被 ACM MM 錄用，以下為該論文簡(jiǎn)介：許多荀子像除了實(shí)際物體和背景等信息外，常還包含著很有價(jià)值的本信息，這對(duì)于理解圖場(chǎng)景是十分重要的。因本文主要研究基于文本視覺(jué)問(wèn)答任務(wù)，這項(xiàng)任要求機(jī)器可以理解圖像景并閱讀圖像中的文本回答相應(yīng)的問(wèn)題。然而前的大多數(shù)工作往往需設(shè)計(jì)復(fù)雜的圖結(jié)構(gòu)和利人工指定的特征來(lái)構(gòu)建像中視覺(jué)實(shí)體和文本之的位置關(guān)系。為了直觀效地解決這些問(wèn)題，我提出了具有實(shí)體對(duì)齊網(wǎng)的位置增強(qiáng) Transformer。與之前的模型相比，我們?cè)诓恍?復(fù)雜規(guī)則的情況下，顯地引入了目標(biāo)檢測(cè)和 OCR 識(shí)別的視覺(jué)實(shí)體的連續(xù)相對(duì)位置信息。同我們根據(jù)物體與 OCR 實(shí)體映射關(guān)系，用直觀的實(shí)體對(duì)齊網(wǎng)格代替復(fù)的圖形結(jié)構(gòu)。在該網(wǎng)格，不同位置的離散實(shí)體圖像的區(qū)塊信息可以充交互。該模型能夠整合標(biāo)檢測(cè)、OCR 以及基于 Transformer 的文本表示等多種方法的優(yōu)勢(shì)，增強(qiáng)算法于圖像中場(chǎng)景信息的理，更精準(zhǔn)地融合圖像與本多模態(tài)的信息，進(jìn)一助力證件識(shí)別、人臉與體檢測(cè)等業(yè)務(wù)場(chǎng)景，提度小滿(mǎn)在視覺(jué)風(fēng)控方面技術(shù)能力。度小滿(mǎn)論文創(chuàng)性提出動(dòng)態(tài)多粒度學(xué)方法度小滿(mǎn)另一篇“基 BERT 的動(dòng)態(tài)多粒度排序模型”的論文被 CIKM 錄用，以下為該論文簡(jiǎn)介：近年來(lái)，訓(xùn)練的語(yǔ)言模型廣泛應(yīng)于文本的檢索排序任務(wù)。然而，在真實(shí)場(chǎng)景中用戶(hù)的行為往往受到選或曝光偏差的影響，這能會(huì)導(dǎo)致錯(cuò)誤的標(biāo)簽進(jìn)引入額外噪聲。而對(duì)于同候選文檔，以往的訓(xùn)優(yōu)化目標(biāo)通常使用單一度和靜態(tài)權(quán)重。這使得序模型的性能更容易受上述問(wèn)題的影響。因此在本文中我們重點(diǎn)研究基于 BERT 的文檔重排序任務(wù)，開(kāi)創(chuàng)性地出了動(dòng)態(tài)多粒度學(xué)習(xí)方。該種方法能夠讓不同檔的權(quán)重根據(jù)預(yù)測(cè)概率態(tài)變化，從而減弱不正的文檔標(biāo)簽帶來(lái)的負(fù)面響。此外，該方法還同考慮了文檔粒度和實(shí)例度來(lái)平衡候選文檔的相關(guān)系和絕對(duì)分?jǐn)?shù)。在相基準(zhǔn)數(shù)據(jù)集上的實(shí)驗(yàn)進(jìn)步驗(yàn)證了我們模型的有性。如今，度小滿(mǎn)在區(qū)鏈、多模態(tài)和預(yù)訓(xùn)練排、隱私計(jì)算等諸多前沿術(shù)領(lǐng)域皆有布局，且取了眾多成果。當(dāng)下，加對(duì)創(chuàng)新技術(shù)的運(yùn)用與推，將在助推金融行業(yè)創(chuàng)發(fā)展過(guò)程中起到重要作。接下來(lái)，度小滿(mǎn)將繼加快推動(dòng)前沿技術(shù)在金各領(lǐng)域的落地應(yīng)用，讓融科技成為金融創(chuàng)新發(fā)的助推器?