雖然僅僅舉辦過六屆,ICLR已經是深度學習領域的頂級會議,得到了業界的廣泛認可。第六屆ICLR於2018.4.30~2018.5.03在溫哥華會展中心召開,筆者署名的一篇文章有幸被workshop接收且受邀參會,下面聊一聊個人在ICLR2018上的見聞。
ICLR2018會議大觀
ICLR 2018共計收到1003篇論文投稿,最終2.3%的Oral論文、31.4%的Poster論文、9%被接收為Workshop track,51%的論文被拒收、6.2%的撤回率。在論文提交時間上,有一個有趣的現象,1003篇論文中,有近800篇論文是截止時間前24小時提交的,其中最後半小時提交了200多篇,驗證了DDL是第一生產力是全球通行的,哈哈哈,不過也說明大家精益求精吧。
來源:DeepMind的Oriol Vinyals的推特
在各單位論文接收數量上(等效數量,例如一篇文章3位作者,3人屬於單位A則算A一篇,若是只有1人屬於單位A則算1/3篇),谷歌獨佔鰲頭,隨後是CMU,斯坦福,伯克利等北美名校。
來源:http://webia.lip6.fr/~pajot/dataviz.html
關於會議的一些基本的數據統計分析情況,已經有人做出了非常漂亮且詳細的圖表,在此不贅述,感興趣的可查看上網站,有python源碼:
http://webia.lip6.fr/~pajot/dataviz.html
會議共四天,每天都分為上下午兩場,上下午形式一致,首先是一篇邀請報告,再次是三篇oral論文的匯報,最後是Poster環節。筆者走馬觀花的聽了一下匯報、掃了一下海報,直觀感受(主觀感受)有:
文章以及涉及的方向實在太多,只能走馬觀花的掃一下,有根據論文評審得分,給論文排了序,大家可根據自己感興趣的挑選和閱讀:
https://chillee.github.io/OpenReviewExplorer/
參會感悟
會議的報告以及海報涉及到深度學習的方方面面,口頭報告也只留有一個大概的印象,數量眾多的海報更只是走馬觀花的掃了一遍,對當前的研究方向熱點有個整體的感受了。此次參會有兩點感受頗深:
1. 好好做事,做好事。做一件事情,覺得真的有用,能解決一些實際問題的時候,好好做下去,結果總不會太差;對於做研究來說,做成了,頂會/刊文章也就來了。
2. 出去走走看看,有很多同齡人在踏踏實實的把一件事情做好。
後記
筆者由清華大學研究生院與數據科學研究院共同開設的大數據能力提升項目與大數據、機器學習結緣,在項目中所學與自身專業(電子)結合,也在此次會議的workshop中發文。此文的內容,屬於神經網絡的硬體加速方向,通過設計一種新的數據壓縮格式和數據計算流程,在據此設計的計算架構上計算效率有較為顯著的提升。相關研究得到了數據科學研究院的大力支持。
關於數據科學研究院、清華大學大數據能力提升項目:
http://www.ids.tsinghua.edu.cn/
對筆者的工作感興趣的可以查看以下論文(筆者近期也會在數據派分享詳細的論文思路和內容):
https://arxiv.org/abs/1803.10548
https://arxiv.org/abs/1801.07459
會議乾貨資源
ICLR2018論文統計:
http://webia.lip6.fr/~pajot/dataviz.html
ICLR2018論文評分排序:
https://chillee.github.io/OpenReviewExplorer/
ICLR2018邀請匯報和口頭匯報(oral論文)的視頻(需科學上網):
https://www.facebook.com/pg/iclr.cc/videos/
三篇Best Paper:
劉念宏,清華微電子碩士三年級,《大數據能力提升項目》學生,前清華大學學生大數據研究協會會長。