NeurIPS 2020 大變動,領域主席可拒稿20%,作者即評審,布局遠程會議!

2020-12-01 雷鋒網


日前,NeurIPS 2020 官網上正式更新了今年的論文截稿日期:摘要提交截止日期為 5月5日,論文提交截止日期為5月12日。

相對於去年的論文截止日期,今年整體提前了十天左右。各位要投稿的作者們,可得加快點速度了。而今天,NeurIPS 組委會還發布了NeurIPS 2020 在提交和評審機制上做出的一些重大更改,而本次將截稿日期提前,也正是為了評審機制上的調整做準備。我們來看提交和評審機制上具體有哪些重大變化:

一、預留更多時間審稿、作者即評審、必須上傳視頻 spotlight

據NeurIPS 組委會介紹,今年在提交和評審機制上主要做出了以下幾點重要更改:

第一,將摘要提交截止日期提前至5月5日,論文提交截止日期提前至5月12日,以給組委會預留更加充足的時間來審閱數量上大幅增加的論文投稿,以及給評審過程中的早期拒稿階段更多的考量時間。

第二,早期拒稿:領域主席有兩周的時間來挑選出一批早期拒稿的論文,比例大概為 20%。接著由高級領域主席在一周時間內通過決議,一經通過,被拒稿的論文作者就會收到其論文不會再接受進一步評審的通知。

第三,作者即評審:要求每篇論文的每位作者或共同作者,在要求他們參與評審論文的情況下都同意參與評審論文。這項要求能夠有效地擴大評審團隊的規模,並且還能夠在包括向NeurIPS 投稿的作者在內的社區成員間公平地分配評審負擔。

第四,更廣泛的影響:要求作者在投稿論文中單獨擬一個章節來探討他們這項工作將帶來的更廣泛的影響,包括可能帶來的正面或負面的社會影響。

第五,視頻spotlight:要求所有的作者在camera-ready提交截止前,都上傳論文的spotlight演示視頻。現在NeurIPS正在嘗試為遠程演示和遠程參會做準備工作。

另外,如果作者提交的論文此前已在同行評審中被拒稿,必須標註這一信息,並且列出本次提交的論文所做出的改變。

而去年,NeurIPS 組委會也在評審機制上做過一些調整,其中最引人關注的就是 NeurIPS 組委會與 BMVC、ECML-PKDD、EMNLP-IJCNLP 以及 ICCV 的程序委員會主席通力合作,為防止一稿多投現象所採取的舉措。最終,19 篇論文因一稿多投而被拒收,一時譁然,讓各位投稿作者不禁繃緊了神經弦。

二、投稿、參會人數劇增,提交、評審機制改變勢不可擋

(雷鋒網)NeurIPS會議現場圖

為什麼做出這些改變呢?

NeurIPS 2020 在官方博客中說明了原因,其實在NeurIPS 2019大會開幕之前,就一直考慮三個問題:1.如何應對參會和投稿人數劇增的趨勢;研究倫理背後的考慮和含義是什麼;怎麼支持可持續的實踐,例如遠程參會。

以上三個問題每一個都對會議的審查制度或多或少產生了影響。

首先,面對參會和投稿人數劇增,必須找到合適的方法增強審核的容忍度,畢竟幾周內審核千篇論文,NeurIPS面臨的同行評審規模是前所未有的。據官方組委會預計,2020年將有10000篇論文提交。那麼就需要產生30000條審核意見。

再者,早期拒稿階段的採用已經在IJCAI進行了試點,採用這種模式是應對人數規模增長的最直接的辦法,當然也是當前期刊普遍採用的一種方法。具體操作步驟是:領域主席確定20%節能被拒絕的論文,然後高級領域主席進一步確認是否拒絕,最後通知作者將該論文從審稿流程中刪除。

此種做法的核心是將質量較差,相關性較小的投稿儘快排除,將審稿人的精力集中到高質量的作品中。

另外,論文作者在重新提交論文時候,要求註明「重新提交」字樣,並總結之前「悲劇」原因,列舉新版本的改進之處。

之所以鼓勵遠程參會是因為想為解決國際會議日益日益增長的碳足跡出一份力。在過去兩年的時間裡,搶會議門票的熱度堪比「春運」,甚至還採用了抽獎模式。所以今年進一步布局遠程參會,要求演講者上傳PPT和演講視頻,啟用遠程演講和海報演示的方法。

人數之多,論文之多,參會者在只有幾天的會議時間裡可能無法找到自己感興趣的論文,為此採用論文選配系統,利用個性化推薦算法推薦優質論文,節省論文尋找工作。

為了促進同行評審制度更加健康的發展,要求論文合著者擔任程序委員會成員,讓他們在CMT註冊並徵募為審稿人。

如果不願意,那麼他的論文可能會被拒絕接受。此舉也是為了增加評審人員的隊伍,審稿負荷平均分配下去。為了避免可能導致的潛在利益衝突,借鑑自然科學,物理科學以及醫學的方法,要求披露研究的直接資金來源以及間接的財務關係,當然為了保證雙盲評審的公平性,僅需將此內容添加到印刷(camera-ready)版本中。

最後,為了更全面的考慮新方法和意義,除了在要說明研究所能帶來的有益應用和產品之外,還要註明潛在的黑暗面以及失敗的後果。這部分可以放在附錄和參考文獻那部分專門討論。

三、reddit 網友:看起來很棒!

NeurIPS 評審制度的此次改版,在社區內總體反映較好,總的來說對人工智慧的發展以及同行評審制度的完善都能夠起到一定的幫助。reddit 上的熱心網友也非常認真地從正面和反面兩維度,闡述了對於NeurIPS 評審機制本次更改的看法:

(雷鋒網)

1、看起來很公平,但不知道論文作者會不會對其同行的論文進行惡意且嚴厲的審查。

2、意味著糟糕的審稿人可能會在多個會議周期內產生影響,另外,一篇被拒絕過的論文可能會對審稿人的意見產生影響,但是一些超級有影響力的論文在一開始都是被拒絕的。

3、非常棒,很多人將會議看做他「半吊子項目」免費的反饋機制。

4、論文中要求增加的「廣泛影響」可能是一些陳詞濫調。但也有其他網友認為這可能會加快基於人工神經網絡的研究進度,畢竟它繼承了人工神經網絡模型的所有正面和負面社會後果。

不光是NeurIPS,各大人工智慧頂會審稿制度就經常招致批評,一些學者稱給 給頂會投論文就像在買最火的籃球鞋:你需要先存好信用卡號,設置自動填寫表單,然後讓自己的電腦物理地址儘可能地靠近 NeurIPS 的伺服器地址。

例如,去年NeurIPS放榜時,網友們就在reddit上面一頓吐槽:頂會評審意見不專業,或者說沒包含什麼信息量。

有位審稿人問我們為啥沒有引用X。我們想說的是,已經引用了,還花了一整段來描述我們的研究和它的關係。

有位審稿人舉出了個數據集,讓我們用它評估模型。我們想說的是,已經用這個數據集評估過了,看實驗章節。

這次NeurIPS評審制度的改版,加入了作者即評審的制度,相信一定會比去年更加專業,一些千奇百怪的review也會少一些吧!

四、什麼論文主題,有可能成為 NeurIPS 2020 的「黑馬」?

(雷鋒網(公眾號:雷鋒網)

NeurIPS 2019 收錄論文的主題方面,神經網絡、深度學習、強化學習等依舊是熱門主題,而其中尤其值得注意的便是去年在各大學術頂會上強勢刷臉的圖機器學習,在去年的NeurIPS 上也是一匹當之無愧的「黑馬」。

據悉,在NeurIPS 2019上,僅主會場就有 100多個與圖相關的論文;另外,至少有三個workshop的主題與圖有關:

Graph Representation Learning (大約有100多篇論文);

Knowledge Representation & Reasoning Meets Machine Learning (KR2ML)(大概也有50篇);

Conversational AI在今年,圖機器學習的火熱度似乎也是只增不減,比如 ICLR 2020的論文投稿中,就有150篇投稿與圖機器學習有關,並且其中有近1/3的論文都被錄用了!

NeurIPS 2020 上,圖機器學習又將扮演重量級幾何的角色呢?又是否會出現新的熱度主題呢?我們現在還沒有明確的答案,不過從NeurIPS 2019的論文獎項評選規則上,我們似乎可以找到一些線索一窺NeurIPS論文評審的偏好度。

話不多說,我們再來回顧下去年NeurIPS 論文獎項評選的具體規則:具備持久影響的潛力——論文聚焦於某個主流而非邊緣化的研究領域,人們在未來的幾十年時間裡依舊會關注它。

有觀點——提供了新的(並且希望是深的)見解,而不僅僅是在性能上提高几個百分點。

創造性/讓人出乎意料/令人驚奇——以創造性的新視角去看待問題,並且得出了真正讓讀者驚喜的結果。變革性——將從根本上改變未來人類思考問題的方式。

嚴謹性——無懈可擊的細緻和嚴謹。

優雅——論文漂亮、工整、流暢並經過很好地潤色。

現實性——不過分強調重要性。科學性——能夠證偽。

可重複性——結果能夠真正可重複、代碼可用並且能夠在多種機器上運行、數據可用以及能夠提供詳細的證實。

與此同時,組委會在評選論文時,還關注論文是否存在以下幾點問題(並避免選擇存在這些問題的論文):

低效——需要以消耗大量資源為前提才能夠脫穎而出的工作(主要依賴於消耗大量資源在排行榜上獲得了更高的排名)

時髦——採用某個方法是因為此方法比較熱門,但其實還可以採用其他更加高效的方法。

過於複雜——論文中加入了本不需要的複雜性。各位作者如果能夠按這些標準來準備自己的論文,相信會給自己的論文加分不少,說不定還能憧憬下論文獎項呢....

去年,NeurIPS 共收到 6809 篇論文投稿量再創新紀錄,大家猜猜,今年會收到多少呢?

雷鋒網原創文章,未經授權禁止轉載。詳情見轉載須知。

相關焦點

  • NeurIPS 2020今日放榜!回顧這一年,史上最低錄取率並不意外
    其實並不意外,回顧NeurIPS 2020這一年,變化很多,為了把控論文質量的同時提高評審效率,NeurIPS今年在某些地方做的很用心,而某些地方則很狠心。這些變化其中之一就是評審機制大變動:領域主席可拒稿20%,作者即評審,布局遠程會議!具體變動見如下。
  • IJCAI 2020 好狠,還未終審就拒掉 42% 投稿論文!被拒作者:一臉懵逼...
    這份拒稿郵件以 IJCAI 2020 的程序主席 Christian Bessiere 的名義發送,郵件內容如下:截圖自知乎用戶如你所知,IJCAI-PRICAI 2020 今年的評審過程分為兩個階段,第一階段被稱為 summary reject
  • 只花5-10分鐘評審,還不提供拒稿理由,IJCAI就「槍斃」42%論文
    IJCAI 2020 的論文截稿日期為1月20日,最終的投稿數量為5147篇。而這才剛剛過去一個月,還沒有終審,2191篇論文就被「槍斃」了。不少人收到了來自程序主席Christian Bessiere的郵件。
  • 嚴禁一稿多投:NeurIPS 2019剛剛斃掉了19篇論文
    機器之心報導參與:澤南、杜偉上星期,人工智慧頂級學術會議 NeurIPS 2019 的論文評審結果剛剛放出。昨天,本屆 NeurIPS 程序主席、谷歌大腦研究員 Hugo Larochelle 等人發出了一篇公告,宣布大會剛剛因為一稿多投拒掉了 19 篇論文。
  • 還沒進評審就被拒:IJCAI 2020 近半投稿遭summary reject
    研究者應該陸陸續續會收到評審結果的郵件了,本次大會的評審可以說是腥風血雨。不少作者還未等 Rebuttle 和終審結果,就已經收到的拒稿信。拒稿信內容顯示,有近半論文在 summary reject 階段就被拒絕了。根據這些拒稿信的內容,很多研究者的工作在評審第一階段:summary reject 階段就被拒稿了,甚至沒能進入正式的審稿過程。
  • 一稿多投被拒稿,確實是你的錯
    註:「Desk-Rejected」(直接拒稿)指沒有經過送審給同行而被編輯直接拒稿。ICLR 20201直接拒稿頁面連結:https://openreview.net/group?當下機器學習領域的研究方向非常多,頂會論文投稿數量逐年增加,但合格的審稿人數量卻不足,論文評審者的工作量自然也在加大。
  • 西電本科生在國際頂級會議NeurIPS2020發表論文
    近日,國際人工智慧頂級會議NeurIPS2020(Conference and Workshop on Neural Information Processing Systems,神經信息處理系統大會)官方發布了接受論文列表。
  • NeurIPS 2019 程序委員會主席發聲明:19 篇論文因一稿多投被拒收!
    以下為 NeurIPS 2019 程序委員會主席的聲明全文。論文作者們可以在 7 月 25 日(星期四)到7 月 31 日(星期三)的時間內撰寫並提交自己的反駁意見(rebuttal),他們可以在這份 rebuttal 中回應審稿人關注的問題,並澄清審稿意見中可能存在的誤解和真實存在的錯誤。之後,審稿人和領域主席(AC)將針對作者的反饋進行討論,從而給出最後的接收/拒收建議。
  • 算法最熱arXiv論文接收率高一倍,NeurIPS2019最全報告+視頻+筆記
    吐槽 NeurIPS 給的評審意見太短?統計數據表明:意見長短符合正態分布,和其他大會沒有多大差別。Rebuttal 真的管用:20% 的論文初始分數得以修改,一半左右的投稿至少改變了一個分數。官方視頻集很重要,你可以找到各種傑出論文解讀、教程和研討會。
  • 期刊編輯權力這麼大?「略作修改」變「拒稿」!
    一項對322名高影響力期刊編輯進行的調查發現,91%的受訪者確定自己至少改動過一次評審意見。與此同時,8%的編輯承認,他們會改變審稿人的總體推薦意見,即便未經過後者允許。10月28日,Science網站就期刊編輯能否改動同行評審意見進行了討論。文章中,有人表示,期刊編輯權力過大,責任很小,需要約束。
  • EMNLP官方:不要因為沒超越SOTA就拒人家的稿子
    EMNLP官方,今天給出了一些審稿建議,反對審稿人一刀切拒絕論文,沒超過SOTA、方法太簡單、主題太新或太老……都不是拒稿的理由。官方還專門強調,如果論文不是英文的NLP也不能作為拒稿理由,或許研究中文NLP有了更多發布的機會。
  • 怎麼寫 Rebuttal 才能讓評審和領域主席心服口服?
    ECCV 會議評審意見已經放出,已經確定可以收錄的作者,自然歌頌審稿人慧眼識才,但更多的作者在知乎上強懟review的同時,也在精心準備Rebuttal。對於評審來說,需要澄清疑問,回答問題,糾正誤解,真誠的吸收反饋,改進你的工作。對於AC來說,說服他們相信你已經做出了真誠的努力,並提交具有代表性的評審意見,幫助他們了解審稿人的顧慮是否得到解決。根據一些經驗,當前AI頂會領域作者的通病是:只關注審稿人,而忽略了AC。
  • CVPR 2020評審結果,曠視南京研究院負責人淺談學術論文rebuttal
    Peer review 是一種學術成果審查程序,即作者的學術著作或 proposal 被同一領域的其他專家學者評審,並根據評審意見決定是否予以錄用(Accept)和後續正式發表(Publish)。對於計算機學科特別是人工智慧領域的學術會議和期刊,其均有相對成熟和流程化的同行評議(即審稿)機制。
  • 2020年中國人工智慧和計算機科學領域重要學術會議合集
    文/超腦智能儘管因為新冠肺炎疫情影響,中國及全球各國家的會議活動都改為線上直播方式,但並沒有阻礙計算機科學領域的學術交流。為了方便關注人工智慧、計算機科學領域的技術人員了解今年國內召開的重要學術會議,超腦智能整理了10月前的會議信息,希望讀者喜歡。
  • SCI期刊拒稿看看什麼原因?
    這是在新的領域或者新的方向上得到突破,找到新的出路的一類論文。這類論文寫好了,價值較高,社會影響也大,但寫作難度大。選擇這一類題目,作者須對某些問題有相當深入的研究,且有紮實的理論功底和寫作經驗。由於論文的所有內容基本為新的,所以在撰寫論文的時候需要的是詳細而清晰的說明方式,讓讀者能夠一目了然,理解你的新理念。
  • 又多一本高水平開放獲取的中國期刊,拒稿率80%,華理自辦學術期刊...
    :BIOB已經通過了專家評審,該期刊在2019年5月之後發表的論文將被全部收錄進入其資料庫及其指數體系(包括SCIE和ESI), 預期明年6月將正式公布期刊2020年的影響因子。 BIOB成立了以華東理工大學校長曲景平為主席的國際編委會,華東理工大學生物工程學院許建和教授、日本慶應大學高級生物科學研究所教授清水和幸擔任主編,成員來自20個國家/地區,其中包括30名資深科學家組成的顧問委員會和66名年輕科學家組成的青年委員會。
  • 被拒稿要腫麼辦?睡上一大覺!
    當被拒稿之後,我的第一反應就是:「搞神馬?編輯們難道沒有看到我的論文有多麼重要麼?是不是瘋掉了! 用這個來形容我第一次被拒稿的經歷真得一點都不誇張。幸運的是,我記得期刊Genome Biology的編輯Louisa Flintoft在一場BMC的Roadshow裡邊就告訴過年輕的科研人員,當面對拒稿時,你要做的最重要的一件事,就是睡一大覺!
  • IJCAI 2020接收率斷崖式下跌,但還是有華人大佬中了三篇
    在 IJCAI 2020 結果放出後,清華大學計算機系自然語言處理實驗室副教授劉知遠發出感嘆。其實早在今年 2 月,IJCAI 2020 的審稿就引發了一波聲討:會方史無前例地實現了 42% 的拒稿率,5147 篇投稿直接砍掉了 2191 篇。
  • 你的論文被拒稿?原因都在這兒了!
    論文投稿後,有的論文順利進入同行評審階段,而有的論文則被拒稿了。不少作者會問,為什麼有些論文可以順利進入同行評審階段呢?其實,抓住編輯的審稿關注點很重要。一般來說,期刊編輯在收到稿件後,會先關注幾個重點項目以利儘速做出審稿決定是否讓論文進入同行評審階段。
  • 2020年下半年MBA/EMBA國家班論文雙盲評審結果判定及答辯前後相關...
    >1.王昱等14位學員雙盲評審不通過(見附件1),本次申請學位無效;2.判定其他學員雙盲評審通過,可正常進行學位論文答辯。另:答辯結束後3天內將終稿論文(終稿論文中「西北大學學位論文智慧財產權聲明書」必須有導師和學員的電子籤名或籤名後的掃描件,填明日期)上傳至研究生管理系統並告知導師登錄系統審核確認,研究生院將對終稿論文進行第二次檢測,同時也須將終稿論文發送至王蘭老師微信