機器之心報導
機器之心編輯部
經歷了一系列審稿風波，ICLR 2020 的論文接收結果終於塵埃落定。今天，ICLR 2020 公布了論文接收結果。從目前的情況來看，今年的滿分論文最多可能達到 30 多篇，國內清華、上交、南大、哈工大、西安電子科技大學等國內高校以及華為、字節跳動等國內名企都有可能出現滿分論文（有些評審意見還沒給出）。此外，由於舉辦地國情特殊（傳染病、禁止同性戀），大會官方還給出了一些特別的參會建議。
「史上第一次在非洲舉行的 AI 頂會」ICLR 2020 將於明年 4 月 26 日於衣索比亞首都阿迪斯阿貝巴舉行。今年的 ICLR 也不算風平浪靜，先是投稿數量爆炸導致審稿負擔急劇增加，結果被爆出一半審稿人根本沒在相關領域發過論文，輿論風向一度演化為「機器學習同行評審崩塌了」。
之後，又有網友摘出某篇由滿分『8-8-8』轉為超低分『1-1』的論文，質疑 ICLR 評審結果的權威性。「頂會審稿水平到底行不行」這個話題再一次鬧得紛紛揚揚。
今天，ICLR 2020 的接收結果終於放出，以下是官方統計的數據：
在最終提交的 2594 篇論文中，有 687 篇被接收，接收率為 26.5%；和之前一樣，所有被接收的論文都將進行 poster 展示；23% 的接收論文將進行口頭講述報告，其中 108 篇論文為 spotlight，演講時間 4 分鐘，48 篇論文將進行 10 分鐘以上的 talk。
今年的論文審核流程基本上與往年一樣，有兩個地方做了調整：
一是不允許在評審討論期間進行公開評論，以確保作者和審稿人清楚地判斷討論的要點；二是空出了一周時間來進行替代和緊急審查。
除此之外，ICLR 2020 的變化更多地是體現在大會本身流程上。
為了讓評審結果更清晰，今年份評分系統進行了簡化，去掉了那些分配中性評分的選項，只保留了四個等級：reject、weak reject、weak accept 和 accept。
逐年上漲的 ICLR 投稿量：2018 年 900 多篇，2019 年 1500 篇，2020 則達到了 2600 多篇。
今年，大會拒絕了一部分進行重複提交而違反規定的論文，但被拒絕的論文少於 20 篇。
此外，今年的 ICLR 還有大量論文遭遇了「撤回」的情況，原因基本上是臨近其他會議的截止日期或者是相重疊，抑或是與其他會議的投稿規定不兼容（比如 ACL）。
網友吐槽：領域席的否決有時無法令人信服？
ICLR 2020 論文接收結果一出，投稿者們幾家歡喜幾家憂。論文遭否決的人免不了心中不忿，於是又紛紛將矛頭指向了領域主席（AC），吐槽他們否決自己的論文有時太「荒謬」了！
一位名為 bose_joey 的網友表示，對於自己提交的論文，三位審稿人均給出了 6-6-6 的高分，但領域主席卻做出了不適用自己論文的荒謬批評。更遺憾的是，在論文 rebuttal（評審申訴）階段，領域主席並沒有給出任何實質性意見，也沒有給機會對誤解做出解釋。
無獨有偶，另一位名為 obiwan5296 的網友表示自己也遇到了同樣的情況。領域主席否決了 ta 的 8-6-6 高分論文，但給出的批評意見卻完全偏離了論文本身。ta 稱這是自己首次論文投稿，真是太令人失望了。
此外，還有網友對 ICLR 審稿的流程表示失望。領域主席沒有鼓勵論文討論，審稿人通常會忽視 rebuttal，更糟糕的是，領域主席甚至懶得回復直接發給他們的評論意見。ta 認為這是完全的不作為。
總之，領域主席的介入可能是一道「防線」：當分數太高而不合理的時候，及時踩下剎車。但不可否認的是，領域主席也可能出現「誤傷」，但通過更多審稿人參與，也許會對投稿質量的把控起到更加積極的作用。
多篇「滿分論文」
在 ICLR 2020 上出現了多達 34 篇滿分論文（8 分），其中不乏來自清華大學、上海交通大學、南京大學、哈工大、西安電子科技大學等國內高校以及華為、字節跳動等國內名企的論文作者。
此外，來自以色列特拉維夫大學的一篇論文（下文中的論文 25）甚至拿到了 4 個 8 分。
ICLR 2020 官方評審頁面：https://openreview.net/group?id=ICLR.cc/2020/Conference
ICLR 論文接收情況統計（非官方）：https://chillee.github.io/OpenReviewExplorer/
以下是滿分論文的統計結果列表（截至發稿前的統計結果）：
論文 1：An Algorithm-Agnostic NAS Benchmark
作者：Xuanyi Dong、Yi Yang
機構：雪梨科技大學
關鍵詞：神經架構搜索、AutoML、基準測試
連結：https://openreview.net/forum?id=HJxyZkBKDr
論文 2：On the "steerability" of generative adversarial networks
作者：Ali Jahanian、Lucy Chai、Phillip Isola
機構：麻省理工學院
關鍵詞：生成對抗網絡、隱空間插值、數據集偏見、模型泛化
連結：https://openreview.net/forum?id=HylsTT4FvB
論文 3：A Generalized Training Approach for Multiagent Learning
作者：Paul Muller、Shayegan Omidshafiei、Mark Rowland 等
機構：谷歌
關鍵詞：多智能體學習、博弈論、訓練、遊戲
連結：https://openreview.net/forum?id=Bkl5kxrKDreId=XEgYShJzuK
論文 4：Mirror-Generative Neural Machine Translation
作者：Zaixiang Zheng、Hao Zhou、Shujian Huang 等
機構：南京大學、字節跳動
關鍵詞：神經機器翻譯、生成網絡
連結：https://openreview.net/forum?id=HkxQRTNYPHeId=HmFOnYDNdx
論文 5：Restricting the Flow: Information Bottlenecks for Attribution
作者：Karl Schulz、Leon Sixt、Federico Tombari、Tim Landgraf
機構：慕尼黑工業大學等
關鍵詞：信息瓶頸、深度神經網絡
連結：https://openreview.net/forum?id=S1xWh1rYwBeId=dsIQuI8DCU
論文 6：Understanding and Robustifying Differentiable Architecture Search
作者：Arber Zela、Thomas Elsken、Tonmoy Saikia 等
機構：弗萊堡大學
關鍵詞：神經架構搜索、AutoML、深度學習、計算機視覺
連結：https://openreview.net/forum?id=H1gDNyrKDSeId=9abhtGXJdR
論文 7：Sparse Coding with Gated Learned ISTA
作者：Kailun Wu、Yiwen Guo、Ziang Li、Changshui Zhang
機構：清華大學、英特爾
關鍵詞：稀疏編碼、深度學習、收斂性分析
連結：https://openreview.net/forum?id=BygPO2VKPH
論文 8：The Logical Expressiveness of Graph Neural Networks
作者：Pablo Barceló、Egor V. Kostylev、Mikael Monet 等
機構：智利大學等
關鍵詞：圖神經網絡、可表達性、一階邏輯
連結：https://openreview.net/forum?id=r1lZ7AEKvB
論文 9：Implementation Matters in Deep RL: A Case Study on PPO and TRPO
作者：Logan Engstrom、Andrew Ilyas、Shibani Santurkar 等
機構：麻省理工學院
關鍵詞：深度策略梯度方法、深度強化學習
連結：https://openreview.net/forum?id=r1etN1rtPBeId=LqWqdhJGoy
論文 10：Learning to Balance: Bayesian Meta-Learning for Imbalanced and Out-of-distribution Tasks
作者：Donghyun Na、Hae Beom Lee、Hayeon Lee 等
機構：韓國科學技術院、浦項科技大學
關鍵詞：元學習、少樣本學習、貝葉斯神經網絡
連結：https://openreview.net/forum?id=rkeZIJBYvreId=Vgm-PPd3W
論文 11：Recurrent Hierarchical Topic-Guided Neural Language Models
作者：Dandan Guo、Bo Chen、Ruiying Lu、Mingyuan Zhou
機構：西安電子科技大學、德克薩斯大學奧斯汀分校
關鍵詞：貝葉斯深度學習、變分推理
連結：https://openreview.net/forum?id=Byl1W1rtvH
論文 12：Depth-Width Trade-offs for ReLU Networks via Sharkovsky's Theorem
作者：Vaggos Chatziafratis、Sai Ganesh Nagarajan、Ioannis Panageas、Xiao Wang
機構：史丹福大學、新加坡科技設計大學
關鍵詞：ReLU 網絡、混沌理論、動態系統
連結：https://openreview.net/forum?id=BJe55gBtvH
論文 13：GenDICE: Generalized Offline Estimation of Stationary Values
作者：Ruiyi Zhang、Bo Dai、Lihong Li、Dale Schuurmans
機構：杜克大學、谷歌
關鍵詞：強化學習、平穩分布校正估計、Off-policy Policy Evaluation
連結：https://openreview.net/forum?id=HkxlcnVFwBeId=wPTYJz9HH0
論文 14：FreeLB: Enhanced Adversarial Training for Language Understanding
作者：Chen Zhu、Yu Cheng、Zhe Gan、Siqi Sun 等
機構：馬裡蘭大學帕克分校、微軟
關鍵詞：對抗性訓練
連結：https://openreview.net/forum?id=BygzbyHFvB
論文 15：Why Gradient Clipping Accelerates Training: A Theoretical Justification for Adaptivity
作者：Jingzhao Zhang、Tianxing He、Suvrit Sra、Ali Jadbabaie
機構：麻省理工學院
關鍵詞：自適應方法、最優化、深度學習
連結：https://openreview.net/forum?id=BJgnXpVYwSeId=KA65jj-wX
論文 16：Principled Weight Initialization for Hypernetworks
作者：Oscar Chang、Lampros Flokas、Hod Lipson
機構：哥倫比亞大學
關鍵詞：超級網絡；初始化；最優化；元學習
連結：https://openreview.net/forum?id=H1lma24tPBeId=SttNyKHM11
論文 17：Enhancing Adversarial Defense by k-Winners-Take-All
作者：Chang Xiao、Peilin Zhong、Changxi Zheng
機構：哥倫比亞大學
關鍵詞：對抗性防禦、激活函數
連結：https://openreview.net/forum?id=Skgvy64tvr
論文 18：Dynamics-Aware Unsupervised Skill Discovery
作者：Archit Sharma、Shixiang Gu、Sergey Levine 等
機構：谷歌
關鍵詞：強化學習、無監督學習、深度學習
連結：https://openreview.net/forum?id=HJgLZR4KvH
論文 19：Differentiable Reasoning over a Virtual Knowledge Base
作者：Bhuwan Dhingra、Manzil Zaheer、Vidhisha Balachandran 等
機構：卡耐基梅隆大學、谷歌
關鍵詞：QA、深度學習、知識庫、信息提取
連結：https://openreview.net/forum?id=SJxstlHFPHeId=Ilh9vDgaeg
論文 20：Data-dependent Gaussian Prior Objective for Language Generation
作者：Zuchao Li、Rui Wang、Kehai Chen 等
機構：上海交通大學、哈工大、NICT
關鍵詞：語言生成
連結：https://openreview.net/forum?id=S1efxTVYDreId=QtxdEfLPMv
論文 21：Geometric Analysis of Nonconvex Optimization Landscapes for Overcomplete Learning
作者：Qing Qu, Yuexiang Zhai, Xiao Li, Yuqian Zhang, Zhihui Zhu
機構：紐約大學、加州大學伯克利分校、谷歌以色列
關鍵詞：字典學習、稀疏表示、非凸優化
連結：https://openreview.net/forum?id=rygixkHKDH
論文 22：Mathematical Reasoning in Latent Space
作者：Dennis Lee, Christian Szegedy, Markus Rabe, Sarah Loos, Kshitij Bansal
機構：加州大學伯克利分校、谷歌
關鍵詞：機器學習、形式推理
連結：https://openreview.net/forum?id=Ske31kBtPreId=_xQ9Hvor9M
論文 23：Contrastive Learning of Structured World Models
作者：Thomas Kipf, Elise van der Pol, Max Welling
機構：阿姆斯特丹大學
關鍵詞：狀態表徵學習、圖神經網絡、基於模型的強化學習、關係學習、目標檢測
連結：https://openreview.net/forum?id=H1gax6VtDBeId=06V352WC2Y
論文 24：Rotation-invariant clustering of functional cell types in primary visual cortex
作者：Ivan Ustyuzhaninov, Santiago A. Cadena 等
機構：圖賓根大學等
關鍵詞：計算神經科學、神經系統識別、功能細胞類型、深度學習、旋轉等變性
連結：https://openreview.net/forum?id=rklr9kHFDB
論文 25：Optimal Strategies Against Generative Attacks
作者：Roy Mor, Erez Peterfreund, Matan Gavish, Amir Globerson
機構：以色列特拉維夫大學等
連結：https://openreview.net/forum?id=BkgzMCVtPB
論文 26：CATER: A diagnostic dataset for Compositional Actions & TEmporal Reasoning
作者：Rohit Girdhar, Deva Ramanan
機構：卡內基梅隆大學
關鍵詞：視頻理解基準；時序推理
連結：https://openreview.net/forum?id=HJgzt2VKPBeId=dUTT3jReHa
論文 27：Causal Discovery with Reinforcement Learning
作者：Shengyu Zhu, Ignavier Ng, Zhitang Chen
機構：華為諾亞方舟實驗室、多倫多大學等
關鍵詞：因果發現、結構學習、強化學習、有向無環圖
連結：https://openreview.net/forum?id=S1g2skStPB
論文 28：Simplified Action Decoder for Deep Multi-Agent Reinforcement Learning
作者：Hengyuan Hu, Jakob N Foerster
機構：卡內基梅隆大學、牛津大學
關鍵詞：多智能體強化學習、心智理論
連結：https://openreview.net/forum?id=B1xm3RVtwB
論文 29：Smooth markets: A basic mechanism for organizing gradient-based learners
作者：David Balduzzi, Wojciech M. Czarnecki, Edward Hughes, Joel Leibo, Ian Gemp, Tom Anthony, Georgios Piliouras, Thore Graepel
機構：Deepmind 等
關鍵詞：博弈論、優化、梯度下降、對抗學習
連結：https://openreview.net/forum?id=B1xMEerYvB
論文 30：Meta-Learning with Warped Gradient Descent
作者：Sebastian Flennerhag, Andrei A. Rusu, Razvan Pascanu, Francesco Visin, Hujun Yin, Raia Hadsell
機構：DeepMind、倫敦大學學院、谷歌等
關鍵詞：元學習、遷移學習
連結：https://openreview.net/forum?id=rkeiQlBFPBeId=zwVZBPeDT
論文 31：Differentiation of Blackbox Combinatorial Solvers
作者：Marin Vlastelica Pogani, Anselm Paulus, Vit Musil, Georg Martius, Michal Rolinek
機構：馬普所、圖賓根大學等
關鍵詞：組合算法、深度學習、表徵學習、優化
連結：https://openreview.net/forum?id=BkevoJSYPB
論文 32：A Theory of Usable Information under Computational Constraints
作者：Yilun Xu, Shengjia Zhao, Jiaming Song, Russell Stewart, Stefano Ermon
機構：北京大學、史丹福大學等
連結：https://openreview.net/forum?id=r1eBeyHFDH
論文 33：How much Position Information Do Convolutional Neural Networks Encode?
作者：Md Amirul Islam, Sen Jia, Neil D. B. Bruce
機構：瑞爾森大學
關鍵詞：網絡理解、絕對位置信息
連結：https://openreview.net/forum?id=rJeB36NKvB
論文 34：BackPCK: Packing more into Backprop
作者：Felix Dangel, Frederik Kunstner, Philipp Hennig
機構：圖賓根大學、不列顛哥倫比亞大學
關鍵詞：自動微分框架；向後傳播算法；BackPACK
連結：https://openreview.net/forum?id=BJlrF24twBeId=EHmfrSLVu
另外，谷歌對於預訓練模型 BERT 重要改進的研究 ALBERT（論文：ALBERT: A Lite BERT for Self-supervised Learning of Language Representations）也成為了 ICLR 2020 大會的 Spotlight 論文。
參會注意事項
值得注意的是，明年 4 月的大會將在非洲東北部的衣索比亞舉辦，衣索比亞平均海拔較高，有「非洲屋脊」之稱。這也是第一場在非洲大陸上舉辦的 AI 頂會。
鑑於大部分參會者可能對衣索比亞的風土人情都不太熟悉，大會主辦方也給出了一些參會小帖士，其中有一些比較與眾不同：
首先提到了大會活動流程，官方表示將在正式召開之前拿出一天的時間組織 workshop，主辦方透露會有 8 位「意想不到」的講者蒞臨現場。此外，為了讓被接收的論文有更多的曝光量，也讓參會者之間的學術交流更加充分，這一次大會基本每 4 篇論文中就有一篇有機會作為 spotlight，或者做更長時間的 talk。
打疫苗，然後再買份保險？
雖然說籤證問題有效地解決了，但在去到衣索比亞之前，你可能需要一支疫苗，具體取決於你在衣索比亞的活動範圍。如果只是單純去首都阿迪斯阿貝巴的話，應該沒有感染瘧疾和寨卡病毒的風險，這兩種疾病基本上是在海拔 2000 米以下的地區通過蚊蟲叮咬來傳播。
具體的情況，各個國家的參會者可以參考世界衛生組織發布的疾病諮詢與健康指南，非常全面。嗯，但內心還是有些瑟瑟發抖。
傳送門：https://www.who.int/ith/en/
安保問題
ICLR 大會將在首都阿迪斯阿貝巴的 Bole 地區舉行，這是一個安全性有保障的地方。阿迪斯阿貝巴舉辦過很多次大型會議和賽事，在安保方面還是有經驗的。
通過與政府機構的合作，警方將在大會場所會加強巡邏以確保安全，The Millennium hall 也會有安檢措施，對進出車輛和物品進行檢測。此外，ICLR 還擁有自己的專屬熱線電話。
LGBT 群體的參會建議
彼時 ICLR 2020 剛宣布要在衣索比亞舉辦大會，就有許多同性戀學者表示：「在下告退。」
這件事確實很難辦，因為衣索比亞的法律中有著嚴格的「反同性戀條款」。在衣索比亞刑法的第 629 條中，同性戀行為的最高刑罰是 15 年監禁，且這一條不只適用於本國公民，也適用於外國公民。
儘管會得到一些有關 LGBT群體組織的協助，但要不要前往衣索比亞參會，確實需要再三斟酌。
去年 11 月，人工智慧先驅 Yoshua Bengio 宣布了 ICLR 2020 即將移步非洲的消息。
有關 ICLR 2020 的更多情況，盡請關注我們的報導。
參考連結：https://medium.com/@iclr_conf/ourhatata-the-reviewing-process-and-research-shaping-iclr-in-2020-ea9e53eb4c46