五大頂尖企業研究院的116篇論文ICLR2018錄用論文,七大趨勢全解讀

2020-12-05 雷鋒網

雷鋒網 AI 科技評論按:時間過得好快,Yann LeCun 仿佛剛剛在 Twitter 上感慨 ICLR 2018 的參會人數比 2017 年再次翻倍,而現在 ICLR 2018 已經於加拿大當地時間 5 月 3 日結束了。

谷歌、DeepMind、Facebook、OpenAI、微軟,這 5 個雷鋒網 AI 科技評論重點關注的科技公司在今年 ICLR 中共貢獻了 9 篇 oral(口頭報告)論文和 107 篇 poster(海報展示)論文,在會議接受論文總數的 23 篇 oral、314 篇 poster 中已經佔據了接近半壁江山。(谷歌、FB、微軟重點在於其中的人工智慧研究機構:谷歌大腦/谷歌 AI,Facebook 人工智慧研究院,微軟研究院)

每家機構的數量方面,DeepMind 22 篇、谷歌 47 篇、Facebook 25 篇、OpenAI 7 篇、微軟 15 篇。谷歌和 DeepMind 加起來就佔了會議總接收論文的 20%,可以說是具有絕對的影響力了。

我們翻閱了這 5 家機構的共 116 篇 ICLR 2018 接受論文,嘗試梳理其中體現出的整個領域近期的研究內容和研究風格要點。需要說明的是,接受論文的結果是研究機構的論文作者們和會議審稿人們共同決定的;另一方面我們翻閱的論文也只是全部 ICLR 2018 接受論文的一部分,所以依據這些論文做出的評判不一定全面。

我們發現:

強化學習是今年一大研究熱點

必不可少的是對各種現有方法的深度探究並做出改進

除了針對深度學習領域本身的已有問題做深入發掘之外,有越來越多論文以深度學習為工具,研究和驗證人類學習、人類語言演進等方面的假說。

  • DeepMind 這篇 oral 論文《Emergence of linguistic communication from referential games with symbolic and pixel input》(https://openreview.net/pdf?id=HJGv1Z-AW ),在像素構成的環境中訓練強化學習智能體,用語言進化學的思路,以緊急狀況溝通任務為環境,研究算法交流模式的進化和學習。

  • 同樣來自 DeepMind 的《Compositional obverter communication learning from raw visual input》(https://openreview.net/forum?id=Hk6WhagRW  )和《Emergent communication through negotiation》(https://openreview.net/forum?id=Hk6WhagRW  )兩篇也是類似地以深度學習方法研究人類語言的演進。

  • Facebook 也以另一種思路探究了智能體學習語言的方式,在《Mastering the Dungeon: Grounded Language Learning by Mechanical Turker Descent》(https://arxiv.org/abs/1711.07950),他們提出了有趣的 Mechanical Turker Descent 的交互式學習方法,讓眾包參與實驗的人類在競爭和合作中訓練智能體處理文字探險遊戲中的自然語言內容,交互式的學習也給智能體提供了動態變化的、符合它們當前水平的訓練數據。

  • 另一篇來自 Facebook 的《Emergent Translation in Multi-Agent Communication》(https://arxiv.org/abs/1710.06922)研究的是當下熱門的無平行語料的翻譯問題,他們的環境設置是讓兩個說不同語言的智能體玩挑圖遊戲,在遊戲過程中學習翻譯對方的語言。這種設置不僅和直接學習一個無監督的翻譯器不同,而且還更像是在研究許多人都困惑已久的「兩個語言不通的人如何溝通」、「最早學習某種外語的人是如何學習的」這種問題。

邏輯、抽象概念學習也出現越來越多的成果

優化方法仍在討論和快速進步

嘗試開拓深度學習的新領域

有不少研究安全的論文,但方向較為集中

各位讀者如果有認為出彩的、值得注意的論文,也歡迎在評論區留言補充討論。今年 ICLR 2018 的會議投遞情況和最佳論文介紹還可以參見這裡和這裡。明年 ICLR 2019 我們不見不散。

谷歌論文列表:https://research.googleblog.com/2018/04/google-at-iclr-2018.html

DeepMind 論文列表:https://deepmind.com/blog/deepmind-papers-iclr-2018/ 

Facebook 論文列表:https://research.fb.com/facebook-research-at-iclr-2018/

OpenAI:https://twitter.com/OpenAI/status/989978665113993216

微軟論文檢索:https://www.microsoft.com/en-us/research/search/?q&content-type=publications&research_area=13556

雷鋒網 AI 科技評論報導

雷鋒網原創文章,未經授權禁止轉載。詳情見轉載須知。

相關焦點

  • 「論文小鋪」網上賣SCI論文百餘篇,店主稱「不違法」
    記者統計發現,從2010年至今,四類稿件賣出114篇,其中預先寫好的有109篇。售出論文高峰在2016年,一年賣出33篇SCI論文。2017年、2018年、2019年呈逐年下降趨勢,分別為22篇、19篇、8篇。今年上半年賣了3篇。按照平均單價3萬元計算,「論文寫手」10年獲利300萬元。對生意萎縮現狀,「論文寫手」透露「現在投稿會檢測創新度」。
  • 萬字長文,深度解讀11篇 EMNLP 2017 被錄用論文
    8月16日,在北京中科院軟體研究所舉辦的「自然語言處理前沿技術研討會暨EMNLP2017論文報告會」上,邀請了國內部分被 EMNLP 2017錄用論文的作者來報告研究成果。整場報告會分為文本摘要及情感分析、機器翻譯、信息抽取及自動問答、文本分析及表示學習四個部分。感覺上次的 CCF-GAIR 參會筆記寫的像流水帳,這次換一種方式做筆記。
  • 7月14日《自然》雜誌15篇論文簡介—論文—科學網
    ,其中研究論文3篇(Articles),快報12篇(Letters)。 3,A novel cereblon modulator recruits GSPT1 to the CRL4CRBN ubiquitin ligase 這篇論文由美國、日本科學家合作完成,也是一篇生物醫學方面的論文。通訊作者是美國新基醫藥公司的Gang Lu和Philip P. Chamberlain。
  • 被ACL 2020收錄11篇NLP論文?百度:小意思,見慣了
    近日,國際自然語言處理領域頂級學術會議「國際計算語言學協會年會」(ACL 2020)公布了今年大會的論文錄用結果。根據此前官方公布的數據,本屆大會共收到 3429 篇投稿論文,投稿數量創下新高。其中,百度共有11篇論文被大會收錄,再次展現出在自然語言處理領域的超高水準。
  • 武漢科技大學一論文入選「中國百篇最具影響國際學術論文」
    近日一則好消息來嘍武科大一篇論文入選「中國百篇最具影響國際學術論文」快來科科一起來看看是哪篇厲害的論文吧2020年中國科技論文統計結果發布會於2020年12月29日舉行。會上發布了《中國卓越論文統計報告》,評選出2019年度「中國百篇最具影響國際學術論文」。我校先進材料與納米技術研究院霍開富教授領導的「先進儲能材料與動力電池團隊」的一篇論文入選。該論文的通訊作者為霍開富教授,博士生安威力和高標副教授為共同第一作者,付繼江教授、博士生項奔和梅士雄為共同作者。
  • 連續三篇高水平論文!
    材料科學與工程學院研究團隊在燃燒領域國際頂級期刊Proceedings of the Combustion Institute和Combustion and Flame上發表系列研究成果 近日,我校材料科學與工程學院研究團隊甯紅波課題組在燃燒領域國際頂級期刊Proceedings of the Combustion Institute上同期發表了2篇學術論文
  • 起底SCI論文小鋪:買賣論文何以十年不倒,牟利數百萬?
    記者統計發現,從2010年至今,四類稿件賣出114篇,其中預先寫好的有109篇。售出論文高峰在2016年,一年賣出33篇SCI論文。2017、2018、2019年呈逐年下降趨勢,分別為22篇、19篇、8篇。今年上半年賣了3篇。按照平均單價3萬元計算,「論文寫手」10年獲利300萬元。對生意萎縮現狀,「論文寫手」透露「現在投稿會檢測創新度」。
  • 中國公司再獲KDD兩項最佳:松鼠AI獲研討會最佳論文&最佳學生論文
    其中,據已公開消息,KDD研究賽道共收到1179篇投稿,其中111篇被接收為Oral論文,63篇被接收為Poster論文,入選率14.8%。應用賽道收到700餘篇論文,其中大45篇被接收為Oral論文,100篇被接收為Poster論文,接收率20.7%。
  • 區政府關於公布2018—2019年度海門區自然科學優秀學術論文評審...
    各區鎮(街道)政府(管委會、辦事處)、區各委辦局、區各直屬單位、各垂直管理部門(單位): 2018年以來,全區科技工作者結合工作實踐,積極總結經驗,在南通市級以上刊物發表了一大批自然科學和工程技術科學領域的學術論文。
  • 乂學教育-松鼠AI獲KDD國際圖深度學習研討會最佳論文 & 最佳學生論文
    其中,據已公開消息,KDD研究賽道共收到1179篇投稿,其中111篇被接收為Oral論文,63篇被接收為Poster論文,入選率14.8%。應用賽道收到700餘篇論文,其中大45篇被接收為Oral論文,100篇被接收為Poster論文,接收率20.7%。
  • 買論文?做代筆?「論文代寫」究竟有什麼貓膩?
    然而當下有些大學生、研究生,在寫畢業論文或課程論文時,常常守不住這個底線:有的人臨時抱佛腳、東拼西湊、複製粘貼,還給自己找藉口,稱「抄一篇文章是抄,抄多篇文章就是借鑑」;有的人擔心涉嫌論文抄襲,專門請人給論文「降重」,通過同義詞替代、變換句式等方法,將重複率控制在合理的範圍內;還有的人甚至鋌而走險,買賣論文,花重金找人代寫……
  • 用表情包當頂刊論文配圖?這些年,我們遇到的奇葩論文……
    然而,也有一些科研人自帶幽默體質,在論文寫作中添加一些耐人尋味的「知識點」...... 如果說論文插圖是最直觀可見的,那麼一些論文標題也有同樣的效果,並且讓人能夠直觀感受到作者腦洞大開的幽默: 就如這篇《中國傳統文化對蟋蟀身體與戰鬥力關係的認識
  • 持久性有機汙染物論壇2018暨化學品環境安全大會邀請函 - 會展...
    (氟理事會) 重要日期2018年04月09日:論文提交截止2018年04月24日:優惠繳費截止2018年04月24日:住宿及考察預訂截止2018年05月12日:會議日程公布2018年05月16日:註冊報到2018年05月17日:論壇開幕
  • 東北林業大學論文入選2019年中國百篇最具影響力國際學術論文
    日前,2020年由中國科學技術信息研究所組織的「中國科技論文統計結果發布會」在北京舉行,會上發布了《中國卓越論文統計報告》,並評選出2019年中國百篇最具影響力國際學術論文。東北林業大學黃佔華教授團隊發表於Composites Part B: Engineering(SCI,中科院一區,IF 7.635)的論文「Nanocomposite sponges of sodium alginate/graphene oxide/polyvinyl alcohol as potential wound dressing:In vitroandin vivoevaluation
  • 論文摘要必備五要素!論文通過基礎,趕緊收藏(附摘要萬能模板)
    論文摘要作為一篇論文的門面,目的是用精簡的文字描述文獻內容梗概,這500字寫的好不好將直接影響導師對你論文的第一印象,其次大家在搜索論文的時候,一般就是論文題目與摘要一起出來,即使讀者不閱讀全文也能獲得必要的基本信息,且便於文獻檢索機構對論文學術水平的評析,有利於論文的收錄,增加論文被國際著名資料庫檢索的概率
  • 中國科協關於公布第五屆優秀科技論文遴選計劃入選論文的通知
    經過各學科領域專家推薦、初評遴選、終評審定並向社會公示,最終確定96篇入選論文(詳見附件),現對入選論文及作者、發表期刊名單予以公布。本屆入選的96篇論文是2016年1月1日以來,發表在我國科技期刊上的優秀論文的代表。
  • 新冠肺炎論文爆棚,全球190篇中國115篇,科學家們都發現了什麼?
    據《每日經濟新聞》記者不完全統計,從12月26日至3月1日,來自中國疾病預防控制中心文獻目錄以及全球權威醫學期刊的各類新冠病毒的研究文章共計190篇,身在全球抗疫一線的中國醫學研究者是發稿的主要力量,其中115篇出自中國研究團隊,佔61%。面對醫學界在學術領域的積極發文,國內質疑聲不斷:在重大公共衛生事件面前,是否該著急搶發論文?究竟是科研重要,還是疫情防控重要?
  • 翟天臨博士導師陳浥簡歷資料 陳浥在北電職位有哪些著作論文
    翟天臨博士導師陳浥簡歷資料 陳浥在北電職位有哪些著作論文  這兩天翟的團隊一定覺得腦殼痛,昨天質疑發酵,今天論文查重。真是新的一天,新的重錘。  據網友搜索,翟應該已向北大人事部成功報到!博士後順利Get!可以領博士後工資啦!  根據翟此前曬出的北大錄用通知書,他需在2019年1月10日前報到。
  • 初入門SCI論文,要注意什麼?
    SCI論文的發表有些人會急功近利,想著儘快把論文發表出去,儘快得到錄用結果,儘快升職,儘快加薪。總之是越快越好!殊不知,寫作的東西是是急不來的。我們需要細思索,打下初稿,還要反覆檢查。一些人初投SCI論文喜歡找一些有名氣或影響因子不錯的雜誌來發表,奈何自身水平實在一般,總是被退修,更有數次直接被拒稿。自信心受了打擊,無數次想放棄。有幸自己堅持下來了,無意之中也鍛鍊了SCI寫作。SCI論文發表急功近利只會給自己增加壓力,我們需要正確的估量自己。其實,SCI論文寫作與發表特別需要心態,一顆平常心是最高境界。
  • 《冰川凍土》專職副主編還原「讚美師娘」論文刊發過程:系自投稿...
    論文截圖有不少網友質疑此篇論文審稿不嚴。新京報記者注意到,此篇論文中亦存在英文語法錯誤,正文第25頁,徐中民使用了一個表格來進一步闡釋「導師崇高感和師娘優美感的統一」,中文表格名稱的下方系英文版的表格名稱「Unification of the feeling of Mr.