ACL 2020:微軟最佳論文,Bengio論文獲時間檢驗獎,大陸論文量第二

2020-12-13 機器之心Pro

機器之心報導

參與:魔王、小舟、杜偉

在陸續放出時間檢驗獎、終身成就獎和傑出服務獎之後,ACL 2020 終於公布了今年的最佳論文獎。該獎項由來自微軟研究院、華盛頓大學和加州大學歐文分校的研究者摘得,主題是與任務無關的 NLP 模型測試方法。

ACL 是自然語言處理領域的頂級會議,根據剛剛發布的最新版 Google Scholar Metrics,ACL 繼續領跑計算語言學領域,h5 指數達到 135。

今年的 ACL 會議於本月 5 日至 10 日在線上召開。此次會議公布了最佳論文、最佳主題論文、最佳 demo 論文、時間檢驗獎等多個獎項。

此外,大會官方也介紹了今年的接收論文、熱門研究主題等數據。

ACL 2020 共收到投稿 3429 篇,創下了 ACL 投稿數量的新紀錄。此次會議共接收論文 779 篇,包括 571 篇長論文和 208 篇短論文,論文接收率為 22.7%。

接下來,我們看下 ACL 2020 的熱門研究主題。

用於 NLP 的機器學習、對話與交互技術、機器翻譯、信息提取和 NLP 應用是此次會議最熱門的 5 個研究主題,每個都有超過 200 篇論文投稿。其中「用於 NLP 的機器學習」主題的論文投稿接近 300 篇(296)。

此外,大會公布了論文提交數量最多的 25 個國家或地區,中國大陸以 1084 篇的提交量位列第一,其次是美國。

從接收論文的數量看,排在前 5 位的國家或地區分別是:美國(305 篇),中國大陸(185 篇),英國(50 篇),德國(44 篇),日本(24 篇)。

接下來就是今天的重頭戲——獎項了。

最佳論文獎

ACL 2020 最佳論文獎項由來自微軟研究院、華盛頓大學、加州大學歐文分校的研究人員摘得,該研究提出了一種與任務無關的 NLP 模型測試方法。

論文連結:https://www.aclweb.org/anthology/2020.acl-main.442.pdf

簡介:儘管衡量留出(held-out)準確率是評估模型泛化性能的主要方法,但它通常會高估 NLP 模型的性能,而其他評估模型的替代性方法要麼專注於單項任務,要麼只看特定行為。

受軟體工程中行為測試原則的啟發,這項研究提出了一種與任務無關的 NLP 模型測試方法——CheckList。CheckList 不僅包含一些通用語言能力和測試類型以促進全面的測試,還包括一個軟體工具,能夠快速生成大量不同測試案例。

研究人員在三項任務中測試了 CheckList 的效果,在商業化模型和 SOTA 模型中都發現了嚴重的問題。一項用戶調查顯示,負責商業化情感分析模型的團隊在一個經過大量測試的模型中發現了新的 bug。而在另一項用戶調查中,使用 CheckList 的 NLP 從業者創建的測試數量是未使用 CheckList 的兩倍,發現的 bug 數量是後者的三倍

此外,大會還公布了最佳論文榮譽提名獎,共有兩篇論文獲得此獎項。

最佳主題論文獎

此次會議的最佳主題論文獎由來自美國華盛頓大學和德國薩爾大學的研究者摘得。

論文連結:https://www.aclweb.org/anthology/2020.acl-main.463/

簡介:大型神經語言模型在許多 NLP 任務上獲得成功。但是,該研究發現這些成功有時會被過度誇大。這些模型經常被描述成「理解」語言或者捕獲語言的「意義」。該研究認為,僅接受形式訓練的系統不具備學習語言意義的能力。在 ACL 2020 的主題「Taking Stock of Where We』ve Been and Where We’re Going」下,該研究認為,清晰地理解「形式」與「意義」的區別有助於引導該領域在自然語言理解層面有更科學的發展。

此外,會議還公布了最佳主題論文提名獎:

最佳 Demo 論文

論文連結:https://blender.cs.illinois.edu/paper/aidaacl2020demo.pdf

簡介:這項研究提出了首個綜合開源的多媒體知識提取系統,該系統可基於不同的內容源和語言提取大量非結構化異構多媒體數據,並遵循豐富細粒度本體,創建出連貫且結構化的知識庫、索引實體、關係和事件。

該研究提出的系統 GAIA 可實現複雜圖 query 的無縫搜索,並檢索出文本、圖像和視頻等多媒體證據。GAIA 在近期的 NIST TAC SM-KBP2019 評估中實現了頂級性能。

GitHub 地址:https://github.com/GAIA-AIDA

論文講解視頻:http://blender.cs.illinois.edu/aida/gaia.mp4

以下兩篇論文獲得了 ACL 2020 最佳 demo 論文榮譽提名獎:

除了最佳論文、最佳主題論文和最佳 Demo 論文之外,ACL 2020 還公布了時間檢驗獎、終身成就獎,以及傑出服務獎。

時間檢驗獎

ACL 2020 的時間檢驗獎(Test of Time Awards)頒給了 4 篇論文,其中 2 篇發表於 1995 年,經受住了 25 年的時間檢驗,另外兩篇發表於 2010 年。

論文 1:Centering: A Framework for Modeling the Local Coherence of Discourse

論文連結:https://www.aclweb.org/anthology/J95-2003.pdf

論文作者:Barbara J. Grosz(哈佛大學)、Aravind K. Joshi(賓大)、Scott Weinstein(賓大)

這篇論文於 1995 年發表在 CL 上,被引用次數高達 2700 多次。

該論文是計算對話(computational discourse)領域最重要的論文之一,融合了理論語言學、心理語言學和形式語義學,展示了「語言學」在「計算語言學」中的力量。

論文 2:Unsupervised Word Sense Disambiguation Rivaling Supervised Methods

論文連結:https://www.aclweb.org/anthology/P95-1026.pdf

論文作者:David Yarowsky(賓大計算機與信息科學系)

這篇論文於 1995 年發表在 ACL 上,被引用次數也在 2700 次以上。

該論文開創性地將語言學假設和無監督學習融合起來,展示了統計數據驅動的技術在 NLP 領域中的強大作用。這篇論文探討的問題——監督學習和無監督學習的性能差距、標註數據的成本,放到現在依舊不過時。

論文 3:Distributional Memory: A General Framework for Corpus-Based Semantics

論文連結:https://www.mitpressjournals.org/doi/pdf/10.1162/coli_a_00016

論文作者:Marco Baroni(特倫託大學)、Alessandro Lenci(比薩大學)

本文於 2010 年發表在 CL 上,被引用次數近 700 次。

該論文開創性地提倡詞彙語義學的通用學表徵,提出自監督預訓練方法(類似於 word2vec、BERT 中所使用的),促進了計算語義學、認知建模和語言學理論之間的聯繫。

論文 4:Word representations: A simple and general method for semi-supervised learning

論文連結:https://www.aclweb.org/anthology/P10-1040.pdf

論文作者:Joseph Turian(蒙特婁大學)、Lev Ratinov(伊利諾伊大學厄巴納 - 香檳分校)、Yoshua Bengio(蒙特婁大學)

這篇論文於 2010 年發表在 ACL 上,被引用次數超過 2200 次。

該論文是將向量表示用於 NLP 任務的裡程碑式著作。它在提出詞嵌入方面早了大約五年,並首次在多項 NLP 任務上對比了 distributional 和 distributed(分布式)詞表示,論文倡導的思想至今在 NLP 領域佔據中心地位。

終身成就獎

大會將終身成就獎頒給了愛丁堡大學榮休教授 Bonnie Webber。ACL 組委會表示,該獎項旨在表彰她在篇章分析領域做出的傑出貢獻。

1978 年,Bonnie Webber 在哈佛大學獲得博士學位。之後在賓夕法尼亞大學任教多年,後進入愛丁堡大學任教。2016 年,她從愛丁堡大學退休,成為愛丁堡大學語言、認知和計算研究所智能系統的名譽教授。

Bonnie Webber 致力於篇章研究,參與了賓州篇章樹庫(Penn Discourse TreeBank)的開發

她的博士論文《A Formal Approach to Discourse Anaphora》使用形式邏輯對自然語言語句的意義進行建模。此外,Bonnie Webber 與人合著《模擬人類:計算機圖形動畫和控制》一書,並參與編寫了《Elements of Discourse Understanding》、《Readings in Artificial Intelligence》等書籍。

Bonnie Webber 於 1980 年擔任 ACL 主席,1991 年成為 AAAI Fellow,2004 年當選愛丁堡皇家學會會士。2012 年因其在篇章結構和基於篇章的解釋方面的突出貢獻,Bonnie Webber 被授予 ACL Fellow。在本屆 ACL 大會上,她獲得 ACL 終身成就獎。

出生於 1946 年,現年 74 歲的 Bonnie Webber 仍然筆耕不輟。從她的谷歌學術頁面,我們可以看到她 2019 年參與的論文數量達 12 篇之多。

傑出服務獎

ACL 2020 將今年的傑出服務獎頒給了多倫多大學計算機語言學教授 Graeme Hirst。

Graeme Hirst 的研究興趣為:計算機語言學和自然語言處理,及其在醫療衛生、社會科學和人文科學中的應用。他是《Human Language Technologies》綜合叢書的編輯,曾獲得加拿大人工智慧協會頒發的終身成就獎。

此外,Graeme Hirst 於 2004-05 年擔任 ACL 北美分會的主席,2008-2017 年擔任 ACL 財務主管,並於 2019 年成為 ACL Fellow。

ACL 主席 Hinrich Schutze 在頒獎時表示:「這些年來,Graeme Hirst 一直負責 ACL 的財務事宜,始終深入參與大會的組織流程等相關工作,為大會的順利舉辦做出了突出貢獻。感謝 Graeme Hirst 一直以來為 ACL 做出的貢獻。」

相關焦點

  • 華人斬獲最佳Demo論文,Bengio獲時間檢驗獎丨ACL2020
    蕭簫 發自 凹非寺量子位 報導 | 公眾號 QbitAINLP領域頂會ACL 2020頒獎剛剛結束,今年的最佳論文獎也塵埃落定。在昨天的議程中,共頒布了最佳論文獎、最佳Demo論文獎、最佳主題論文獎三大獎項。
  • 剛剛,ACL2019最佳論文獎出爐,劉群團隊獲最佳長論文獎
    雷鋒網 AI 科技評論按:剛剛,ACL2019最佳論文出爐,共八篇文章獲獎。其中包含一篇最佳長論文、一篇最佳短論文、五篇傑出論文、一篇最佳 Demo 論文。值得注意的是,最佳長論文獎、最佳短論文獎以及兩篇傑出論文獎(共5篇)一作皆為華人。其中最佳長論文獎由張文(計算所)、馮洋(計算所)、孟凡東(騰訊)、Di You(Worcester)和劉群(華為諾亞方舟)獲得。最佳短論文由俄亥俄州立大學的Nanjiang Jiang獲得。南京理工大學夏睿團隊和港科大的 Pascale Fung 團隊分別獲得了傑出論文獎。
  • GPT-3獲NeurIPS 2020最佳論文獎,蘋果華人學者獲經典論文獎
    今天早晨,大會評委會公布了獲得最高榮譽的論文名單:包括GPT-3在內的三篇獲得最佳論文獎,一篇2011年論文獲得時間檢驗獎。而去年新增的傑出新方向論文獎並未頒出。最佳論文獎No-Regret Learning Dynamics for Extensive-Form Correlated Equilibrium這篇論文來自米蘭理工大學和卡內基梅隆大學,研究方向為學習理論。
  • ACL 2019最佳論文出爐:華人團隊包攬最佳長短論文一作
    剛剛,自然語言處理領域的頂會ACL 2019公布最佳論文,本次共頒布了4個獎項,共有8個獲獎名額,分別是:最佳長論文最佳短論文最佳DEMO論文5篇傑出論文獎今年,華人一作團隊拿下了最佳長論文、最佳短論文和2篇傑出論文,中科院、中國科學院大學、騰訊、華為諾亞方舟實驗室、南京理工大學、香港理工大學等榜上有名。
  • ACL2020華人論文入圍TOP10公布,三獎出爐,夫婦先後獲終身成就獎
    蕭簫 發自 凹非寺量子位 報導 | 公眾號 QbitAI自然語言處理頂會ACL 2020今年以線上的形式舉辦,時間從7月5日至7月10日。但從投稿數量來看,此次會議熱度依舊不減,達到了歷年最高的3429篇,會議共接收論文779篇,接受率為25.2%。其中,華人學者論文入圍數前十名中,王海峰、俞棟等均榜上有名。昨天深夜,ACL 2020頒布了三大獎項:終身成就獎、時間檢驗獎和傑出服務獎。
  • NeurIPS2020獎項出爐:GPT-3等三項研究獲最佳論文獎,華人一作論文...
    北京時間 12 月 8 日凌晨,正在線上舉行的全球人工智慧頂會 NeurIPS 2020 公布了最佳論文等獎項。在一千八百餘篇論文中,三篇論文獲會議最佳論文獎項,OpenAI 等機構的 GPT-3 研究名列其中,可謂實至名歸。
  • ACL2019最佳論文獎出爐,華人包攬眾多獎項
    來自中科院、華為諾亞方舟實驗室等機構的論文獲得了最佳長論文;一篇來自南京理工大學論文獲得了傑出論文獎。除此之外,還有很多華人學者都是獲獎論文的作者。由此可見,國內研究者在 NLP 領域還是取得非常不錯的成績。其中最佳長論文獎由張文(計算所)、馮洋(計算所)、孟凡東(騰訊)、Di You(Worcester)和劉群(華為諾亞方舟)獲得。
  • 自然語言處理頂會 NAACL 2018 最佳論文、時間檢驗論文揭曉
    會議官網也已經提前揭曉了本屆會議的 4 篇傑出論文(Outstanding Papers)和 3 篇時間檢驗獎獲獎論文(Test-of-Time Award Papers)。作者們表明,這些學到的詞表徵可以輕易地加入到現有的模型中,並在回答問題、文本蘊含、情感分析等 6 個不同的有難度的 NLP 問題中大幅提高最佳表現。作者們也進行了分析,表明顯露出預訓練模型的深度內部狀態這一做法非常重要,這使得後續的模型可以混合不同種類的半監督信號。
  • KDD 2020最佳論文揭曉!杜克大學陳怡然組獲最佳學生論文獎
    【新智元導讀】KDD 2020最佳論文新鮮出爐!最佳學生論文、最佳論文亞軍均被華人學生(一作)摘得,來看看這些論文出自誰之手吧!KDD Best Paper 終於來了!受疫情影響,今年第26屆國際數據挖掘頂會 ACM SIGKDD 於8月23日-27日以虛擬線上方式召開。
  • KDD 2020最佳論文揭曉!杜克大學陳怡然組獲最佳學生論文獎,清華入選論文實力霸榜
    最佳學生論文、最佳論文亞軍均被華人學生(一作)摘得,來看看這些論文出自誰之手吧!KDD Best Paper 終於來了! 受疫情影響,今年第26屆國際數據挖掘頂會 ACM SIGKDD 於8月23日-27日以虛擬線上方式召開。
  • ACL 2018 公布四篇最佳 demo 候選論文,三篇論文第一作者來自中國
    最佳 demo 論文獎將在主會最佳論文 session 環節揭曉,屆時雷鋒網 AI 科技評論將會第一時間帶來現場報導。本文將對這四篇論文進行簡單介紹。我們的工作大幅降低了人類認知負荷,同時縮短了人工剪枝時間。
  • 31位學者聯手,GPT-3原作獲NeurIPS 2020最佳論文獎!
    【新智元導讀】NeurIPS 2020最佳論文公布!Open AI 的 GPT-3論文與米蘭理工大學、卡內基梅隆大學和加州大學伯克利分享 NeurIPS 2020年度最佳論文獎。大會還公布了「時間檢驗獎」,一篇10年前的華人一作論文摘得大獎。剛剛,NeurIPS 2020在官網公布了2020年度最佳論文獎和時間檢驗獎。
  • NeurIPS 2020獎項出爐:GPT-3等三項研究獲最佳論文獎
    北京時間 12 月 8 日凌晨,正在線上舉行的全球人工智慧頂會 NeurIPS 2020 公布了最佳論文等獎項。在一千八百餘篇論文中,三篇論文獲會議最佳論文獎項,OpenAI 等機構的 GPT-3 研究名列其中,可謂實至名歸。
  • NeurIPS 2020 獎項出爐:GPT-3等三項研究獲最佳論文獎
    在一千八百餘篇論文中,三篇論文獲會議最佳論文獎項,OpenAI 等機構的 GPT-3 研究名列其中,可謂實至名歸。人工智慧頂會 NeurIPS 2020 於本月 6 日 - 12 日在線上舉行,預計此次會議將迎來 18,000 名參會者。此次會議共收到 9467 篇論文投稿,接收論文 1898 篇,論文提交數量增長 38%,再創新高,接收率為 20%,創歷史新低。
  • 大三生獲最佳短論文獎,清華狂攬信息檢索頂會SIGIR2020多個獎項
    昨日,大會公布了最佳論文等獎項。來自清華大學的研究人員獲得最佳論文榮譽提名獎、最佳短論文獎獎項。ACM SIGIR 是信息檢索領域的頂級學術會議,今年是第 43 屆。據統計,SIGIR 2020 會議共收到投稿 1180 篇,接收 340 篇,接收率為 28.8%。
  • 大三生獲最佳短論文獎,清華狂攬信息檢索頂會SIGIR2020多個獎項
    昨日,大會公布了最佳論文等獎項。來自清華大學的研究人員獲得最佳論文榮譽提名獎、最佳短論文獎獎項。ACM SIGIR 是信息檢索領域的頂級學術會議,今年是第 43 屆。據統計,SIGIR 2020 會議共收到投稿 1180 篇,接收 340 篇,接收率為 28.8%。
  • ACL2020 最佳論文放榜!一作為微軟成員
    剛剛,自然語言處理領域的頂會 ACL 2020 公布最佳論文,本次共頒布了 4 個獎項共 8 個獲獎名額,分別是: 最佳論文(1 篇) 最佳主題論文(1 篇) 最佳 DEMO 論文(1 篇) 榮譽提名論文(5 篇)
  • ACCV 2020最佳論文等三項大獎出爐!華為諾亞獲最佳學生論文獎
    ACCV 2020 共錄用論文 255 篇,官方提供所有論文開放下載。官網連結:http://accv2020.kyoto/截止目前,大會已經公布了最佳論文獎、最佳學生論文獎、最佳應用論文獎等三項大獎,其中帝國理工和華為諾亞方舟合作獲得了最佳學生論文獎。以下AI科技評論就帶大家讓我們一起來看看這三項大獎吧 !
  • ACM MM 2020大獎出爐!南開獲最佳論文獎,西安交大獲最佳學生論文獎
    第28屆ACM國際多媒體會議(ACM MM)最佳論文獎、最佳學生論文獎、最佳demo獎、 最佳開源軟體獎在內的所有多媒體領域大獎都已出爐。其中最佳論文的一作是來自南開大學Hongru Liang,最佳學生論文的一作是來自西安交大的Wenbo Zheng。
  • 西交出身,辛書冕獲CVPR 2019最佳論文,李飛飛團隊獲經典論文獎
    (Best Paper Award Committee)評審,評委們從50 篇最佳論文候選名單中評選出 4 篇獲獎論文,分別是 2 篇最佳論文榮譽提名、1 篇最佳學生論文和 1 篇最佳論文。 結果顯示,華人幾乎包攬了最佳論文、最佳學生論文和最具影響力論文獎,分別由來自CMU的辛書冕等人、加州大學聖巴巴拉分校的王鑫等人和李飛飛團隊等人摘得!