一窺ACL 2018 最佳論文

2021-01-15 雷鋒網

雷鋒網 AI 科技評論按:隨著定於 7 月 15 日的開會日期逐漸臨近,自然語言處理頂會 ACL 2018 繼公開了接收論文名單之後,今天也公布了包含 3 篇長論文 與 2 篇短論文的最佳論文獲獎名單。

其實 ACL 2018 的流程設計與去年有所不同。ACL 2017 會前首先公布了 22 篇 outstanding 論文(可以看作最佳論文的預選論文),其中長論文 15 篇、短論文 7 篇;接著正會開始後這 22 篇論文分在四個不同的論文報告 session 中演講,然後在最後一天的頒獎典禮上公布了最終的最佳論文獎得主。當時在 ACL 2017 做現場報導的我們雷鋒網(公眾號:雷鋒網)記者岑大師聽了論文報告之後就對最佳論文得主做了自己的預測,果然猜中。(可惜今年就沒有必要猜啦)

說回 ACL 2018,ACL 2018 組委會於 6 月 10 日直接在官網發出公告,公布了今年 5 篇最佳論文的評選結果。不過截止 6 月 10 日只有其中 2 篇論文的內容是公開的,另外 3 篇論文的介紹請等待雷鋒網 AI 科技評論後續報導。

- 6 月 13 日更新了兩篇內容,目前仍有一篇未公開

最佳論文 - 長論文(3 篇)

Finding syntax in human encephalography with beam search

用束搜索在人腦成像中尋找句法

論文摘要:循環神經網絡文法(RNNGs)是對於「樹-字符串」對的生成式模型,它們依靠神經網絡來評價派生的選擇。用束搜索對它們進行解析可以得到各種不同複雜度的評價指標,比如單詞驚異數(word surprisal count)和解析器動作數(parser action count)。當把它們用作回歸因子,解析人類大腦成像圖像中對於自然語言文本的電生理學響應時,它們可以帶來兩個增幅效果:一個早期的峰值以及一個類似 P600 的稍遲的峰值。相比之下,一個不具有句法結構的神經語言模型無法達到任何可靠的增幅效果。通過對不同模型的對比,早期峰值的出現可以歸功於 RNNG 中的句法組合。結果中體現出的這種模式表明 RNNG+束搜索的組合可以作為正常人類語言處理中的語法處理的一個不錯的機理解釋模型。

論文地址:https://arxiv.org/abs/1806.04127

論文四位作者中的三位來自 DeepMind,另一位來自密西根大學文學、科學與藝術學院計算神經語言學實驗室

Learning to Ask Good Questions: Ranking Clarification Questions using Neural Expected Value of Perfect Information

學習如何問好的問題:通過完全信息下的期待值為追問問題排序

論文摘要:在溝通中,提問是一大基本要素:如果機器不知道如何問問題,那它們也就無法高效地與人類合作。在這項研究中,作者們構建了一個神經網絡用於給追問的問題做排名。作者們模型設計的啟發來源於完全信息情況下的期待值:一個可以期待獲得有用的答案的問題就是一個好問題。作者們根據 StackExchange 上抓取的數據研究了這個問題;StackExchange 是一個內容豐富的在線諮詢平臺,其中有人發帖諮詢以後,別的用戶會在下面追問起到解釋澄清作用的問題,以便更好地了解狀況、幫助到發帖人。論文作者們創建了一個由這樣的追問問題組成的數據集,其中包含了 StackExchange 上 askubuntu、unix、superuser 這三個領域的約 77k 組發帖+追問問題+問題的回答。作者們在其中的 500 組樣本上評估了自己的模型,相比其他基準模型有顯著的提高;同時他們也與人類專家的判斷進行了對比。

論文地址:https://arxiv.org/abs/1805.04655

論文作者來自馬裡蘭大學與微軟研究院

Let's do it "again": A First Computational Approach to Detecting Adverbial Presupposition Triggers

讓我們「再」做一次:首個檢測假定狀態觸發副詞的計算性方法

論文摘要:這篇論文中,作者們介紹了一種新的研究課題——預測副詞詞性的假定狀態觸發語(adverbial presupposition triggers),比如「also」和「again」。完成這樣的任務需要在對話上下文裡尋找重複出現的或者相似的內容;這項任務的研究成果則可以在文本總結或者對話系統這樣的自然語言生成任務中起到幫助。作者們為這項任務創造了兩個新的數據集,分別由 Penn Treebank 和 AnnotatedEnglish Gigaword 生成,而且也專為這項任務設計了一種新的注意力機制。作者們設計的注意力機制無需額外的可訓練網絡參數就可以增強基準 RNN 模型的表現,這最小化了這一注意力機制帶來的額外計算開銷。作者們在文中表明,他們的模型相比多個基準模型都有統計顯著的更高表現,其中包括基於 LSTM 的語言模型。

論文地址:https://www.cs.mcgill.ca/~jkabba/acl2018paper.pdf

這篇論文來自加拿大麥克吉爾大學(McGill University)與蒙特婁算法學習人工智慧實驗室(MILA)

最佳論文 - 短論文(2 篇)

Know What You Don't Know: Unanswerable Questions for SQuAD

知道你不知道的:SQuAD 中無法回答的問題

論文摘要:提取式的閱讀理解系統一般都能夠在給定的文檔內容中找到正確的內容來回答問題。不過對於正確答案沒有明示在閱讀文本中的問題,它們就經常會做出不可靠的猜測。目前現有的閱讀理解問答數據集,要麼只關注了可回答的問題,要麼使用自動生成的無法回答的問題,很容易識別出來。為了改善這些問題,作者們提出了 SQuAD 2.0 數據集,這是斯坦福問答數據集 SQuAD 的最新版本。SQuAD 2.0 在現有的十萬個問題-答案對的基礎上增加了超過五萬個無法回答的問題,它們由人類眾包者對抗性地生成,看起來很像可以回答的問題。一個問答系統如果想要在 SQuAD 2.0 上獲得好的表現,它不僅需要在問題能夠回答時給出正確的答案,還要在給定的閱讀材料中不包含答案時做出決定、拒絕回答這個問題。SQuAD 2.0 也設立了新的人類表現基準線,EM 86.831,F1 89.452。對於現有模型來說 SQuAD 2.0 是一個具有挑戰性的自然語言理解任務,一個強有力的基於神經網絡的系統可以在 SQuAD 1.1 上得到 86% 的 F1 分數,但在 SQuAD 2.0 上只能得到 66%。

論文地址:https://arxiv.org/abs/1806.03822 

這篇論文來自斯坦福自然語言小組(Stanford NLP Group),作者之一的副教授 Percy Liang 是 NLP 領域著名的研究員,我們也曾報導過他的論文《先打草稿可以生成更高質量的文本,Percy Liang新論文廣受讚譽》

'Lighter' Can Still Be Dark: Modeling Comparative Color Descriptions

「打火機」也可能是黑暗的:建模比較性的顏色描述

(論文內容尚未公開)

這篇論文來自哥倫比亞大學

最佳論文公告參見 https://acl2018.org/2018/06/10/best-papers/

更多 ACL 2018 及其他重要學術會議報導,請繼續關注雷鋒網 AI 科技評論。

雷鋒網版權文章,未經授權禁止轉載。詳情見轉載須知。

相關焦點

  • ACL 2018最佳論文公布!計算語言學最前沿研究都在這裡了
    新智元報導 來源:acl2018.org編輯:聞菲、小芹【新智元導讀】ACL 會議是計算語言學領域的首要會議,廣泛涉及自然語言的計算方法及其各類研究領域。ACL 2018將於7月15日至20日在澳大利亞墨爾本舉行。昨天,ACL官網公布了本屆大會的最佳論文,包括3篇最佳長論文和2篇最佳短論文,新智元帶來介紹。
  • 7 Papers & Radios | ACL 2020獲獎論文;貝葉斯深度學習綜述
    機器之心 & ArXiv Weekly Radiostation參與:杜偉、楚航、羅若天本周的重要論文包括 ACL 2020 公布的最佳論文、最佳主題論文、最佳 Demo 論文以及其他獎項論文,此外還有 MIT 和香港科技大學學者的貝葉斯深度學習綜述論文
  • ACL 2019 27 篇論文實現代碼(持續更新中)
    ACL 2019 共接收了 765 篇論文,目前官網已經全部公布了,官方連結:http://www.acl2019.org/EN/program/papers.xhtml但是官網沒有公布連結,部分論文也沒有展示出來。所以AI研習社給大家整理了343篇論文,供大家學習!
  • 論文| 自然語言處理頂會ACL 2018該關注什麼?螞蟻金服專家告訴你!
    原標題:論文 | 自然語言處理頂會ACL 2018該關注什麼?螞蟻金服專家告訴你! 一年一度的ACL大會今年7月15日至20日在澳大利亞墨爾本召開。篇,526份短論文接收了 126 篇,總體接受率為 24.9%。
  • 從想法到實幹,2018年13項NLP絕美新研究
    該論文還對兩種語料較少的語言做了大量的實驗與評估,即英語-烏爾都語和英語-羅馬尼亞語。無監督 MT 的三個主要原則:A)兩種單語數據集、B)參數初始化、C)語言建模、D)回譯。這篇論文獲得了 EMNLP 2018 的最佳長論文獎,它在遵循上面三個主要原則的情況下簡化了結構和損失函數。得到的模型優於以前的方法,並且更易於訓練和調整。
  • 一文概述 2018 年深度學習 NLP 十大創新思路
    在 EMNLP 2018,兩篇同樣來自這兩個團隊的論文(https://arxiv.org/abs/1809.01272)顯著改進了之前的方法,讓無監督的機器翻譯取得了進展。代5)穩健的無監督方法(Robust unsupervised methods)今年,我們(http://aclweb.org/anthology/P18-1072)和其他研究者(http://aclweb.org/anthology/D18-1056)都已經觀察到,當語言不同時,無監督的跨語言詞向量方法就會失效。
  • ICRA 2018獎項全公布,香港大學團隊獲最佳會議論文
    ICRA 2018 頒獎儀式包括 IEEE 系列獎項及 ICRA 2018 論文獎項等兩個環節。而在開會前,今年的論文獲獎提名名單已經公示,雷鋒網 AI 科技評論發現,共計 11 大獎項共 40 篇提名論文,但無一來自大陸高校。如果加上港澳臺等高校,則有香港大學的 Ziyan Guo 團隊、臺灣成功大學的 Chao-Chun Chen 團隊等兩個團隊獲得獲獎提名。最佳會議論文獎
  • UC伯克利拿下EMNLP最佳論文,復旦黃萱菁當選下一屆程序主席
    其中最佳論文獎由加州大學伯克利分校的David Gaddy、Dan Klein兩人獲得,愛丁堡大學華人博士生 Yanpeng Zhao 獲得了最佳論文榮譽提名獎(共4篇)。另外,本屆大會的最佳 Demo 獎由大家所熟知的 Hugging Face 團隊摘得。復旦大學計算機科學學院教授黃萱菁將出任下一屆大會的程序主席。
  • ACL 禁止投稿論文提交 arXiv,雙盲評審真的有效嗎?
    這些政策實際上適用於所有的ACL會議,從2018年1月1日的提交截止日期開始。我們推薦與ACL會議關聯的其他會議和研討會也採用相同的政策,除非這與他們本來的政策相衝突。ACL會議和TACL要求提交論文匿名化。如果作者在提交截止日期前1個月發布或更新一個匿名的預印版本,直到通知或撤回的這段時間內,提交者將不會被認為是匿名的。如果沒有正確的匿名化,提交將被拒絕。
  • ICLR 2018最佳論文:基於梯度的元學習算法
    於 4 月 30 日開幕的 ICLR 2018 最近公布了三篇最佳論文,分別關注於最優化方法、卷積神經網絡和元學習算法。不出所料的是,這三篇最佳論文在 2017 年 11 月公布的評審結果中,都有很高的得分。機器之心以前已經介紹過關於修正 Adam 與球面 CNN 的最佳論文,本文將重點介紹第三篇關於元學習的最佳論文。
  • ECCV 2018獎項公布:德國團隊獲最佳論文,吳育昕、何愷明上榜
    今日,ECCV 2018 獲獎論文公布,來自德國航空航天中心、慕尼黑工業大學的研究者獲得最佳論文獎項;吳育昕與何愷明合作的
  • 機器學習頂會ICML 2018:復旦大學副教授獲最佳論文亞軍 騰訊清華...
    智東西(公眾號:zhidxcom)文 | 心緣智東西7月12日消息,第35屆機器學習國際大會ICML 2018在7月10日至15日期間登陸瑞典斯特哥爾摩。ICML官網上提前公布了最佳論文名單,來自MIT和UC Berkeley的研究人員摘得最佳論文的桂冠。
  • NIPS2018最佳論文解讀:Neural Ordinary Differential Equations
    原標題:NIPS2018最佳論文解讀:Neural Ordinary Differential Equations雷鋒網 AI 科技評論按,不久前,NeurIPS 2018 在加拿大蒙特婁召開,在這次著名會議上獲得最佳論文獎之一的論文是《Neural Ordinary Differential Equations》,論文地址:https://arxiv.org
  • 歷年 CVPR 最佳論文盤點(2000 年——2018 年)
    (接收論文列表:http://cvpr2019.thecvf.com/files/cvpr_2019_final_accept_list.txt)正當學界紛紛議論各單位獲接收論文多寡的當兒,雷鋒網 AI 科技評論為大家精心整理了一份從 2000 年——2018 年的 CVPR 最佳論文清單,藉此對這批計算機領域的重要論文進行複習。
  • 來自一位參與了acl2019討論的學者的論點
    近期,nlp領域發生了一些重大變化,其中包括:來自瑞典、丹麥和波蘭的頂級學者開始在研究頂刊acl上發表基於最新cnn的corpus和machinereadingcomprehension,以及其他一些有趣的project。
  • ACL 2017接受了哪些論文?這份可視化分析讓你輕鬆看懂(附論文列表)
    下面列出了 ACL 2017 所接收的長篇論文、短篇論文和軟體展示,所有論文或展示採取分類無序排列。 恭喜作者們! 在我們詳細了解這些論文和作者之前,可以通過可視化看一看 ACL 2017 接收論文的標題特點與分布。
  • 7 Papers & Radios | EMNLP 2020最佳論文;新型優化器AdaBelief
    推薦:CoRL 2020 最佳論文。推薦:CoRL 2020 最佳 Presentation 論文。論文 4:Digital Voicing of Silent Speech作者:David Gaddy、Dan Klein論文連結:https://www.aclweb.org/anthology/2020.emnlp-main.445.pdf摘要:在這篇論文中,來自加州大學伯克利分校的研究者們探究了無聲語音的數位化發聲任務
  • 專訪ACL2020最佳論文二作:全新NLP模型評測方法論,思路也適用於CV
    其中,最受人矚目的當屬最佳論文獎,今年該獎項由微軟團隊的《Beyond Accuracy: Behavioral Testing of NLP Models with CheckList》一舉拿下。小編看到論文題目的第一眼就覺得哪些有些不對,於是趕緊通讀了一下文章,嗯~確實不太對,這貌似和之前我們熟悉的NLP「大力出奇蹟」的模型套路不太一樣啊?
  • 最佳論文最佳學生論文一作均為華人,清華最高產機構
    在剛剛結束的CVPR 2020 開幕式上,悉數公布了本屆CVPR最佳論文、最佳學生論文等獎項。值得一提的是,兩個獎項的論文一作均為華人。最佳論文今年的最佳論文來自牛津大學,論文名為Unsupervised Learning of Probably Symmetric Deformable 3D Objects from Images in the Wild。在論文中,研究人員提出了一種無需外部監督即可從原始單視圖圖像中學習3D變形對象類別的方法。
  • 一窺國內18650電池技術水平
    一窺國內18650電池技術水平 李倩 發表於 2018-08-24 16:16:29 摘要 高工鋰電特此梳理比克、力神、天鵬電源、遠東福斯特、鵬輝能源