點擊上方「CVer」,選擇加"星標"置頂
重磅乾貨,第一時間送達
前言
三大CV頂會引用量最高的10篇論文均已整理完畢,詳見:
接下來,Amusi 將繼續整理其他頂會,像NeurIPS、ICLR、ICML上也有很多優質的CV論文,而且有更多深度學習、機器學習基礎性研究工作。
神經信息處理系統大會(NeurIPS),前稱NIPS,是一個機器學習和計算神經科學相關的學術會議,一般每年12月舉行。在谷歌發布的2020年的學術指標(Scholar Metrics)榜單,NeurIPS 位列總榜第21位!這個排名是依據過去五年發表研究的數據(覆蓋2015-2019年發表的文章),並包括截止2020年6月在谷歌學術中被索引的所有文章的引用量。
本文就來盤點NeurIPS 2015-2019年引用量最高的10篇論文。根據此數據,一方面能看出這段深度學習黃金時期的研究熱點,另一方面查漏補缺,看看這些必看的Top級論文是不是都掌握了。
注1:2015年之前的論文不在統計範圍內
注2:引用量是根據谷歌給出的數據,會有波動,但影響不大
第一名:Faster R-CNN
Faster R-CNN: Towards Real-Time Object Detection with Region Proposal Networks
作者單位:Microsoft Research
作者團隊:Shaoqing Ren(任少卿), Kaiming He(何愷明), Ross Girshick, Jian Sun
引用量:19507
論文連結(收錄於NIPS 2015):
https://arxiv.org/abs/1506.01497
Faster R-CNN 算是現在入門目標檢測學習的第一篇論文,也是R-CNN系列的最終篇。首次提出了RPN(Region Proposal Network)模塊,極大提高目標檢測速度。
Faster R-CNN
第二名:Attention Is All You Need
Attention is All you Need
作者單位:Google Brain, Google Research, 多倫多大學
作者團隊:Ashish Vaswani, Noam Shazeer, Niki Parmar等
引用量:9885
論文連結(收錄於NIPS 2017):
https://arxiv.org/abs/1706.03762
一篇將 Attention(注意力) 機制發揚光大的論文!如今不管是NLP,還是CV方向,attention機制都是相當火爆。Transformer 大法好!
The Transformer
第三名:Improved Techniques for Training GANs
Improved Techniques for Training GANs
作者單位:OpenAI
作者團隊:Tim Salimans, Ian Goodfellow, Wojciech Zaremba等
引用量:3522
論文連結(收錄於NIPS 2016):
https://arxiv.org/abs/1606.03498
本文介紹了幾個方法去鼓勵GAN博弈的收斂,靈感來源於非凸問題的啟發式理解。可以幫助提升半監督學習性能和提升採樣生成。
第四名:Improved Training of Wasserstein GANs
Improved Training of Wasserstein GANs
作者單位:蒙特婁算法研究所, 庫朗數學科學研究所, CIFAR Fellow
作者團隊:Ishaan Gulrajani, Faruk Ahmed, Martin Arjovsky等
引用量:3041
論文連結(收錄於NIPS 2017):
https://arxiv.org/abs/1704.00028
本文對WGAN(ICML 2017 熱門論文)進行改進,提出了一種替代WGAN判別器中權重剪枝的方法
第五名:Spatial Transformer Networks
Spatial Transformer Networks
作者單位:DeepMind(谷歌)
作者團隊:Max Jaderberg, Karen Simonyan, Andrew Zisserman等
引用量:2964
論文連結(收錄於NIPS 2015):
https://arxiv.org/abs/1506.02025
STN(Spatial Transformer Networks,空間變換網絡)具有平移不變性、旋轉不變性及縮放不變性等強大的性能。這個網絡可以加在現有的卷積網絡中,提高分類的準確性。
第六名:R-FCN
R-FCN: Object Detection via Region-based Fully Convolutional Networks
作者單位:Microsoft Research&清華大學
作者團隊:Jifeng Dai(代季峰), Yi Li, Kaiming He(何愷明), Jian Sun
引用量:2676
論文連結(收錄於NIPS 2016):
https://arxiv.org/abs/1605.06409
本文的主要貢獻是解決了「分類網絡的位置不敏感性」與「檢測網絡的位置敏感性(Position-sensitive)」之間的矛盾。
R-FCN
第七名:Learning both Weights and Connections for Efficient Neural Network
Learning both Weights and Connections for Efficient Neural Network
作者單位:史丹福大學&NVIDIA
作者團隊:Song Han(韓松), Jeff Pool, John Tran, William J. Dally
引用量:2416
論文連結(收錄於NIPS 2015):
https://arxiv.org/abs/1506.02626
模型剪枝(壓縮方向)非常具有代表性的論文之一,旨在不損失精度的前提下,對DNN進行剪枝(或者說稀疏化),從而壓縮模型。
第八名:Character-level Convolutional Networks for Text Classification
Character-level Convolutional Networks for Text Classification
作者單位:紐約大學
作者團隊:Xiang Zhang, Junbo Zhao, Yann LeCun
引用量:2294
論文連結(收錄於NIPS 2015):
https://arxiv.org/abs/1509.01626
本文使用字符級的CNN進行文本分類任務。
第九名:ConvLSTM
Convolutional LSTM Network: A Machine Learning Approach for Precipitation Nowcasting
作者單位:香港科技大學&香港 Observatory
作者團隊:Xingjian Shi(施行建), Zhourong Chen, Hao Wang等
引用量:2059
論文連結(收錄於NIPS 2015):
https://arxiv.org/abs/1506.04214
本文成功地將機器學習(還有深度學習)應用在具有挑戰的即時預測問題上。ConvLSTM不僅繼承了傳統LSTM的優點,並且由於它內部的卷積結構使得它非常適合於時空數據。
第十名:Convolutional Neural Networks on Graphs with Fast Localized Spectral Filtering
Convolutional Neural Networks on Graphs with Fast Localized Spectral Filtering
作者單位:EPFL(洛桑聯邦理工學院)
作者團隊:Michaël Defferrard, Xavier Bresson, Pierre Vandergheynst
引用量:2027
論文連結(收錄於NIPS 2016):
https://arxiv.org/abs/1606.09375
入坑GCN(圖卷積網絡)必讀之作!
侃侃
1. 華人的影響力越來越強;
2. 何愷明和孫劍均有兩篇論文入圍;
3. 微軟和谷歌均有兩篇論文入圍;
下載1
上述10篇論文已打包好,在CVer公眾號後回覆:NIPS引用量,即可下載全部論文
下載2
在CVer公眾號後臺回覆:OpenCV書籍,即可下載《Learning OpenCV 3》書籍和原始碼。註:這本書是由OpenCV發起者所寫,是官方認可的書籍。其中涵蓋大量圖像處理的基礎知識介紹,雖然API還是基於OpenCV 3.x,但結合此書和最新API,可以很好的學習OpenCV。
下載3
在CVer公眾號後臺回覆:CVPR2020,即可下載CVPR2020 2020代碼開源的論文合集
在CVer公眾號後臺回覆:ECCV2020,即可下載ECCV 2020代碼開源的論文合集
重磅!CVer-論文寫作與投稿交流群成立
掃碼添加CVer助手,可申請加入CVer-論文寫作與投稿 微信交流群,目前已滿2000+人,旨在交流頂會(CVPR/ICCV/ECCV/ICML/ICLR/AAAI等)、頂刊(IJCV/TPAMI等)、SCI、EI等寫作與投稿事宜。
同時也可申請加入CVer大群和細分方向技術群,細分方向已涵蓋:目標檢測、圖像分割、目標跟蹤、人臉檢測&識別、OCR、姿態估計、超解析度、SLAM、醫療影像、Re-ID、GAN、NAS、深度估計、自動駕駛、強化學習、車道線檢測、模型剪枝&壓縮、去噪、去霧、去雨、風格遷移、遙感圖像、行為識別、視頻理解、圖像融合、圖像檢索、論文投稿&交流、PyTorch和TensorFlow等群。
一定要備註:研究方向+地點+學校/公司+暱稱(如論文寫作+上海+上交+卡卡),根據格式備註,可更快被通過且邀請進群
▲長按加微信群
▲長按關注CVer公眾號
整理不易,請給CVer點讚和在看!