NIPS 2017現場:8000人參會,最佳論文公布,算法壓倒深度學習 | NIPS...

2020-12-07 雷鋒網

美國西海岸時間2017年12月4日,機器學習領域頂級會議、第 31 屆 NIPS 大會拉開序幕。雖然第一天的安排以Tutorial為主,正會將從明天開始,但雷鋒網在現場仍然感到了會議的火爆。

這是超級碗?火人節?不,這裡是NIPS

雖然對會議的火爆程度早有估計,但當雷鋒網(公眾號:雷鋒網)編輯一早來到會場時,仍然被Convention Center門口的長龍嚇了一跳。讓我們來感受現場的氣氛吧:

很難想像,這樣堪比中國春運的場景會在發生在NIPS這樣一個學術會議上。相比起昨天一百多米的長龍,今天早上的排隊人群變成了兩列,長度也變成了兩倍——這意味著錯過了昨天晚上拿Badge的參會者可能需要多花四倍的時間才能拿到Badge入場。在Twitter上,雷鋒網看到有人這樣感嘆:「這是超級碗?火人節?不,這是NIPS,一個學術會議...」

這也預示著,今年的NIPS將從第一天開始就精彩異常。


Tutorial:Google Deepmind領銜

本次NIPS共安排了9個Tutorial。其中可容納三千人的主會場(Hall A)的第一個Tutorial安排給了DeepMind的Deep Learning: Practice and Trends,在兩個半小時的分享中,DeepMind的Nando de Freitas、Oriol Vinyals及Scott Reed講解了最新的深度學習模型及Deepmind在深度學習領域的相關研究及在實驗室和工業中的應用,並從圖像、視頻、波形、序列、圖形等示例中幫助機器學習的新手進一步了解深度學習的理論和方法。本次Tutorial的Slide雷鋒網將做整理並在後期放出。


最佳論文公布,3篇論文獲獎

在當地時間4日中午,大會官網更新了本次大會的最佳論文及 Test of Time Award 獲獎論文。相應,大會也在官網調整了議程,將開幕演講及頒布最佳論文的時間調整到了4日下午5點,在隨後的會場上,主持人也宣布了這一調整。

本次大會最佳論文共有三篇。卡耐基梅隆大學的 Noam Brown 與其導師 Tuomas Sandholm 已經公布了自己的獲獎信息,論文為《Safe and Nested Subgame Solving for Imperfect-Information Games》,在今年年初,由卡內基梅隴大學開發的人工智慧 Liberatus 就擊敗了德撲職業選手轟動一時,這篇文章獲獎可謂實至名歸。

另外兩篇獲獎論文分別為:

《A Linear-Time Kernel Goodness-of-Fit Test》,第一作者:Wittawat Jitkrittum;

《Variance-based Regularization with Convex Objectives》,第一作者:John C. Duchi ;

而 Test of Time Award 獎項頒發給了 2007 年 NIPS 的一篇論文《Random Features for Large-Scale Kernel Machines》。關於獲獎論文的詳細情況,雷鋒網將另行撰文介紹。


八千人參會,算法關注度壓倒機器學習

下午五點,Tutorial告一段落。在隨後的Opening Remarks環節,NIPS基金會主席Terrence Sejnowski 首先致辭,他回顧了三十一年前第一屆NIPS大會的場景,很難想像,當時只有一百多人參會的NIPS今天會有超過8000人註冊,而唯一不變的,則是這些人工智慧道路上的先行者們不變的追求。

(會議現場,深度學習大神Joshua Bengio就剛好坐在雷鋒網編輯前方)

隨後,大會兩位主席Isabelle Guyon和Ulrike von Luxburg進行了簡短的發言,感謝了大會的相關組織人員,並介紹了本次大會的幾個創新:

  • 本次大會採用Oral(15分鐘)和Spotlight(5分鐘)兩個Track並行的方式;

  • 大會新增了Competition Track,共有5個競賽項目:Conversational Intelligence(Chatbot)、Human-Computer QA(Quiz Bowl)、Learning to Run、Personalized medicine、Adversarial Attacks/defense;

  • 大會會有一個舞會,歡迎大家參加。

隨後大會主席將現場交給了大會程序主席Samy Bengio。Bengio介紹說,當他接到程序主席這個任務的時候,他向他的兄弟請教經驗(會場笑,把目光投向了在臺下就坐的Yoshua Bengio),還好他找到了三位可靠的幫手(Program Co-chair)來解決了這一問題。

而幾位程序主席也在隨後公布了本次NIPS大會的一系列數字:

大會共有超過8000人註冊,再創新高;

如果按這樣的增長趨勢,到2035年,NIPS的註冊參會者將會超過全球人類數量(全場笑)

本次大會共收到3240篇論文投遞,覆蓋156個子領域,相比去年增長了150%。出人意料的是,投稿中數量最多的子領域是算法,其次才是深度學習;

為幫助進行這156個領域、3240篇論文的評審,本次大會還引入了高級領域主席。大會 Program Co-Chair Hanna Wallach 為我們解釋了領域主席和高級領域主席的分工和評選原則,如每個學校不超過2位評審,每位評審不超過6篇論文,領域主席不超過18篇論文,每個高級領域主席負責領域不超過8個等。

大會共有7844位獨立作者,其中大多數為男性,女性只佔10%;

本次大會總體錄取率為21%,而會議還有一項關於Arxiv對論文評審錄取率影響的有趣統計:

本次大會投遞論文中有43%在網上有公開發布,57%在網上未發布。進一步調查發現,這些在網上發布的論文的錄取率更高:

之前未在網上發布的論文,錄取率為15%,低於平均水平;

在網上發布的論文中,錄取率達到了29%,幾乎是前者的兩倍;其中進一步調查發現,那些之前在網上發布、評審表示之前有看到過的論文中,錄取率高達35%;

這固然有「先入為主」影響評審意見的因素,但雷鋒網認為,這有可能是「生存者偏差」—— 那些提前在網上發布的論文 ,有可能是作者比較有信心,敢於早早提交給同行評論的文章,這些文章質量比較高,有更高的錄取率也在情理之中。

在Opening Keynote之後是 Poster 環節。雖然有參會者說將 Poster 安排在下午6:30-10:30比較少見,因為「安排太緊,第二天還要早起」,但從現場看,幾乎每個 Poster 前都擠了3、4個詢問者,要想向作者提問題往往要等上十來分鐘。

明天(12月5日)大會將進入正會,Keynote 和 Oral、Sportlight 等優質論文的宣講也即將開始。同時,在展區各大公司也將進行一系列的 Private Party ,屆時雷鋒網也將繼續為讀者帶來第一手的大會盛況。

雷鋒網原創文章,未經授權禁止轉載。詳情見轉載須知。

相關焦點

  • 一文告訴你,NIPS 2017有多火爆 | 附PPT、視頻、代碼大總結
    v=po9z_tMuEwE •學習狀態表徵——Yael Niv •貝葉斯深度學習與深度貝葉斯學習——Yee Whye Teh視頻連結:https://www.youtube.com/watch?> •統計關係人工智慧:邏輯,概率和計算——Luc De Raedt、David Poole、Kristian Kersting、Sriraam Natarajan •使用概率程序、程序歸納和深度學習進行的工程和可逆工程智能——Josh Tenenbaum、Vikash K Mansinghka •可微私有機器學習:理論、算法和應用
  • NIPS 2016精華大盤點丨吳恩達、LeCun等大師的論文、PPT都在這兒...
    眾所周知,深度學習通常分類為:無監督學習、監督學習和增強學習,而 Yann LeCun 在演講中用「預測學習」替代「無監督學習」。他指出因為預測學習要求機器不僅能在沒有人類監督的情況下進行學習,同時能夠學習世界的預測模型。演講結束後 ,Yann LeCun 做了個總結:1.  如果有很多標籤的數據,監督學習會運行的很好。
  • 【NIPS2017最新Tutorial】幾何深度學習(Geometric Deep Learning )講解(附slide下載)
    今天,專知內容組整理Michael Bronstein教授講解的Tutorial《Geometric Deep Learning on Graphs and Manifolds》(圖和流形的幾何深度學習)分享給大家。
  • 「深度學習才不是鍊金術」,Yann LeCun為這個和NIPS獲獎論文作者掐...
    這幾天,LeCun 和 NIPS 2017「時間檢驗獎」論文作者之一的 Ali Rahimi 就在 Facebook 上掐了起來。在 12 月 5 日的 NIPS 2017 開幕儀式上,NIPS 2007 收錄的「Random Features for Large-Scale Kernel Machines」獲得了「時間檢驗獎」Test of Time Award,這是 NIPS 2017 評審委員會認為影響最深遠的十年前的論文。
  • AI研究實力最強的25所高校,據NIPS2017論文數統計
    NIPS 2017在加州長灘舉辦,吸引了8000名參會者,從3240篇提交的論文中接收了679篇,接收率為21%。根據這679篇論文,統計得到以下結果。根據論文統計,全球TOP25的大學:1.參考資料:https://medium.com/@chuvpilo/whos-ahead-in-ai-research-insights-from-nips-most-prestigious-ai-conference-df2c361236f6
  • NIPS 2017錄用論文先睹為快!GAIR大講堂NIPS清華專場精彩回顧
    從大會官方公布的一些數據就可以看出:NIPS 2017共收到3240篇論文投稿,有678篇論文被選中作為大會論文,比例20.9%,其中有40篇被選中進行口頭報告(oral),112篇選為spotlight進行展示。毫不意外這些數字又創了大會歷史新高。就在論文收錄結果公布僅僅10天之後,官方數據顯示註冊名額已滿!
  • 【NIPS2017】你也可以成為遊戲高手,Facebook FAIR實驗室田淵棟研究員PPT詳解(附下載)
    【導讀】FacebookAI研究院田淵棟在NIPS2017發表oral Talk,介紹在之前已經開源的遊戲平臺ELF。
  • 大會 | 親歷NIPS 2017:收穫與思考
    機器學習領域的頂會NIPS 2017於12月3日至9日在美麗的加州長灘(Long Beach)舉辦,長灘的好天氣也帶給了我一個好心情,讓我精神飽滿地去迎接來自前沿知識的洗禮。在參加NIPS 2017的過程中,我比較關注的是強化學習這一領域,其中有很多有意思的tutorial,poster和invited talk。從總體趨勢來看,今年的NIPS 上不光有很多工作在做強化學習的應用,也有很多的目光被投向了對強化學習算法更深刻的理解以及基於這種理解所做的基礎算法上的改進。
  • 沒能去參加NIPS 2017?這裡有一份最詳細的現場筆記(附PDF)
    今年的NIPS可謂火爆異常,有超過8000人註冊參會,投遞論文數量3240篇,收錄678篇,錄用率20.9%。而今年NIPS的門票也在開放註冊一小時內售罄,有許多希望感受大會氣氛的同學也因此未能前往現場。在上個星期的大會期間,雷鋒網為大家進行了大會現場的報導,關於大會的更多乾貨內容,我們也將陸續進行後續整理放出。
  • DeepMind 16篇NIPS 2017論文,全部信息都在這裡了 | NIPS 2017
    那麼在即將在加州長灘召開的機器學習領域頂級會議NIPS 2017上,DeepMind又會給我們帶來什麼樣的先知卓見呢?雷鋒網為你整理了DeepMind在NIPS 2017上的論文,便於大家按自己感興趣的內容按圖索驥。
  • 126篇殿堂級深度學習論文分類整理 從入門到應用 | 乾貨
    而作為新人,你的第一個問題或許是:「論文那麼多,從哪一篇讀起?」本文將試圖解決這個問題——文章標題本來是:「從入門到絕望,無止境的深度學習論文」。請諸位備好道具,開啟頭懸梁錐刺股的學霸姿勢。開個玩笑。但對非科班出身的開發者而言,讀論文的確可以成為一件很痛苦的事。
  • 告別2019:屬於深度學習的十年,那些我們必須知道的經典
    在這十年中,伴隨著計算能力和大數據方面的發展,深度學習已經攻克了許多曾經讓我們感到棘手的問題,尤其是計算機視覺和自然語言處理方面。此外,深度學習技術也越來越多地走進我們的生活,變得無處不在。這篇文章總結了過去十年中在深度學習領域具有影響力的論文,從 ReLU、AlexNet、GAN 到 Transformer、BERT 等。
  • Github 上打星超過 1 萬的可復現頂會論文項目
    >1)Bridging the Gap Between Value and Policy Based Reinforcement Learning縮小价值與強化學習政策差距的方法打星數:46593簡介:論文基於熵正則化下的 softmax 時間值一致性與策略最優性之間的關係,為價值和強化學習政策建立新的聯繫。
  • 深度學習零基礎進階第四彈​|乾貨分享
    系列,相信讀者一定對深度學習的歷史有了一個基本了解,其基本的模型架構(CNN/RNN/LSTM)與深度學習如何應用在圖片和語音識別上肯定也不在話下了。今天這一部分,我們將通過新一批論文,讓你對深度學習在不同領域的運用有個清晰的了解。由於第三部分的論文開始向細化方向延展,因此你可以根據自己的研究方向酌情進行選擇。雷鋒網對每篇論文都增加了補充介紹。
  • NIPS 2017在美國長灘舉行 機器學習論文哪家強?
    近日,於美國西海岸時間12月4日開始舉辦的機器學習領域頂級會議、第31屆NIPS大會拉開序幕,今年美國計算機四大名校(CMU、MIT、UC伯克利、斯坦福)僅以第一作者所屬機構統計的錄用論文就有92篇,非常強勢。
  • 清華朱軍團隊包攬三項冠軍 | NIPS 2017對抗樣本攻防競賽總結(附學習資料)
    所謂對抗樣本,就是對輸入數據進行略微修改,以使得機器學習算法對該輸入給出錯誤的分類結果。在很多情況下,這些修改非常細微,人類觀察者甚至根本不會注意到這些修改,但是分類器卻會因此犯錯誤。對抗樣本攻擊對目前的機器學習系統提出了挑戰,因為即使攻擊者無法訪問基礎模型,也能對機器學習系統發起攻擊。
  • 騰訊AI Lab 20 篇論文入選 NIPS2018,含 2 篇 Spotlight
    騰訊 AI Lab 第三次參加 NIPS,共有 20 篇論文入選,其中 2 篇被選為亮點論文(Spotlight),涵蓋遷移學習、模仿學習、半監督學習等多個研究主題,而去年他們入選論文8篇,含1篇口頭報告(Oral)。
  • 清華大學團隊包攬三項冠軍,NIPS 2017對抗樣本攻防競賽總結
    所謂對抗樣本,就是對輸入數據進行略微修改,以使得機器學習算法對該輸入給出錯誤的分類結果。在很多情況下,這些修改非常細微,人類觀察者甚至根本不會注意到這些修改,但是分類器卻會因此犯錯誤。對抗樣本攻擊對目前的機器學習系統提出了挑戰,因為即使攻擊者無法訪問基礎模型,也能對機器學習系統發起攻擊。
  • ICLR 2018最佳論文:基於梯度的元學習算法
    於 4 月 30 日開幕的 ICLR 2018 最近公布了三篇最佳論文,分別關注於最優化方法、卷積神經網絡和元學習算法。不出所料的是,這三篇最佳論文在 2017 年 11 月公布的評審結果中,都有很高的得分。機器之心以前已經介紹過關於修正 Adam 與球面 CNN 的最佳論文,本文將重點介紹第三篇關於元學習的最佳論文。
  • NIPS 2017註冊已滿,沒機會去前方參會怎麼辦?
    繼CVPR 2017會議在報名人數以及論文收錄等方面創下多項「歷史第一」之後,計算神經科學最好的會議之一——NIPS(神經信息處理系統大會)在文章收錄結果僅僅公布10天之後,官方數據顯示註冊名額已滿!NIPS 2017 一作論文一篇。主要關注機器學習理論,目前研究方向主要為神經網絡的表達能力和泛化能力。