NeurIPS 引用量最高的10篇論文!Faster R-CNN登頂!何愷明和孫劍均有兩篇論文入圍

2021-02-13 CVer

點擊上方「CVer」，選擇加"星標"置頂

重磅乾貨，第一時間送達

前言

三大CV頂會引用量最高的10篇論文均已整理完畢，詳見：

接下來，Amusi 將繼續整理其他頂會，像NeurIPS、ICLR、ICML上也有很多優質的CV論文，而且有更多深度學習、機器學習基礎性研究工作。

神經信息處理系統大會(NeurIPS)，前稱NIPS，是一個機器學習和計算神經科學相關的學術會議,一般每年12月舉行。在谷歌發布的2020年的學術指標（Scholar Metrics）榜單，NeurIPS 位列總榜第21位！這個排名是依據過去五年發表研究的數據（覆蓋2015-2019年發表的文章），並包括截止2020年6月在谷歌學術中被索引的所有文章的引用量。

本文就來盤點NeurIPS 2015-2019年引用量最高的10篇論文。根據此數據，一方面能看出這段深度學習黃金時期的研究熱點，另一方面查漏補缺，看看這些必看的Top級論文是不是都掌握了。

注1：2015年之前的論文不在統計範圍內

注2：引用量是根據谷歌給出的數據，會有波動，但影響不大

第一名：Faster R-CNN

Faster R-CNN: Towards Real-Time Object Detection with Region Proposal Networks

作者單位：Microsoft Research

作者團隊：Shaoqing Ren（任少卿）, Kaiming He（何愷明）, Ross Girshick, Jian Sun

引用量：19507

論文連結（收錄於NIPS 2015）：

https://arxiv.org/abs/1506.01497

Faster R-CNN 算是現在入門目標檢測學習的第一篇論文，也是R-CNN系列的最終篇。首次提出了RPN（Region Proposal Network）模塊，極大提高目標檢測速度。

Faster R-CNN

第二名：Attention Is All You Need

Attention is All you Need

作者單位：Google Brain, Google Research, 多倫多大學

作者團隊：Ashish Vaswani, Noam Shazeer, Niki Parmar等

引用量：9885

論文連結（收錄於NIPS 2017）：

https://arxiv.org/abs/1706.03762

一篇將 Attention（注意力） 機制發揚光大的論文！如今不管是NLP，還是CV方向，attention機制都是相當火爆。Transformer 大法好！

The Transformer

第三名：Improved Techniques for Training GANs

Improved Techniques for Training GANs

作者單位：OpenAI

作者團隊：Tim Salimans, Ian Goodfellow, Wojciech Zaremba等

引用量：3522

論文連結（收錄於NIPS 2016）：

https://arxiv.org/abs/1606.03498

本文介紹了幾個方法去鼓勵GAN博弈的收斂，靈感來源於非凸問題的啟發式理解。可以幫助提升半監督學習性能和提升採樣生成。

第四名：Improved Training of Wasserstein GANs

Improved Training of Wasserstein GANs

作者單位：蒙特婁算法研究所, 庫朗數學科學研究所, CIFAR Fellow

作者團隊：Ishaan Gulrajani, Faruk Ahmed, Martin Arjovsky等

引用量：3041

論文連結（收錄於NIPS 2017）：

https://arxiv.org/abs/1704.00028

本文對WGAN（ICML 2017 熱門論文）進行改進，提出了一種替代WGAN判別器中權重剪枝的方法

第五名：Spatial Transformer Networks

Spatial Transformer Networks

作者單位：DeepMind（谷歌）

作者團隊：Max Jaderberg, Karen Simonyan, Andrew Zisserman等

引用量：2964

論文連結（收錄於NIPS 2015）：

https://arxiv.org/abs/1506.02025

STN（Spatial Transformer Networks，空間變換網絡）具有平移不變性、旋轉不變性及縮放不變性等強大的性能。這個網絡可以加在現有的卷積網絡中，提高分類的準確性。

第六名：R-FCN

R-FCN: Object Detection via Region-based Fully Convolutional Networks

作者單位：Microsoft Research&清華大學

作者團隊：Jifeng Dai（代季峰）, Yi Li, Kaiming He（何愷明）, Jian Sun

引用量：2676

論文連結（收錄於NIPS 2016）：

https://arxiv.org/abs/1605.06409

本文的主要貢獻是解決了「分類網絡的位置不敏感性」與「檢測網絡的位置敏感性（Position-sensitive）」之間的矛盾。

R-FCN

第七名：Learning both Weights and Connections for Efficient Neural Network

Learning both Weights and Connections for Efficient Neural Network

作者單位：史丹福大學&NVIDIA

作者團隊：Song Han（韓松）, Jeff Pool, John Tran, William J. Dally

引用量：2416

論文連結（收錄於NIPS 2015）：

https://arxiv.org/abs/1506.02626

模型剪枝（壓縮方向）非常具有代表性的論文之一，旨在不損失精度的前提下，對DNN進行剪枝（或者說稀疏化），從而壓縮模型。

第八名：Character-level Convolutional Networks for Text Classification

Character-level Convolutional Networks for Text Classification

作者單位：紐約大學

作者團隊：Xiang Zhang, Junbo Zhao, Yann LeCun

引用量：2294

論文連結（收錄於NIPS 2015）：

https://arxiv.org/abs/1509.01626

本文使用字符級的CNN進行文本分類任務。

第九名：ConvLSTM

Convolutional LSTM Network: A Machine Learning Approach for Precipitation Nowcasting

作者單位：香港科技大學&香港 Observatory

作者團隊：Xingjian Shi（施行建）, Zhourong Chen, Hao Wang等

引用量：2059

論文連結（收錄於NIPS 2015）：

https://arxiv.org/abs/1506.04214

本文成功地將機器學習（還有深度學習）應用在具有挑戰的即時預測問題上。ConvLSTM不僅繼承了傳統LSTM的優點，並且由於它內部的卷積結構使得它非常適合於時空數據。

第十名：Convolutional Neural Networks on Graphs with Fast Localized Spectral Filtering

Convolutional Neural Networks on Graphs with Fast Localized Spectral Filtering

作者單位：EPFL（洛桑聯邦理工學院）

作者團隊：Michaël Defferrard, Xavier Bresson, Pierre Vandergheynst

引用量：2027

論文連結（收錄於NIPS 2016）：

https://arxiv.org/abs/1606.09375

入坑GCN（圖卷積網絡）必讀之作！

侃侃

1. 華人的影響力越來越強；

2. 何愷明和孫劍均有兩篇論文入圍；

3. 微軟和谷歌均有兩篇論文入圍；

下載1

上述10篇論文已打包好，在CVer公眾號後回覆：NIPS引用量，即可下載全部論文

下載2

在CVer公眾號後臺回覆：OpenCV書籍，即可下載《Learning OpenCV 3》書籍和原始碼。註：這本書是由OpenCV發起者所寫，是官方認可的書籍。其中涵蓋大量圖像處理的基礎知識介紹，雖然API還是基於OpenCV 3.x，但結合此書和最新API，可以很好的學習OpenCV。

下載3

在CVer公眾號後臺回覆：CVPR2020，即可下載CVPR2020 2020代碼開源的論文合集

在CVer公眾號後臺回覆：ECCV2020，即可下載ECCV 2020代碼開源的論文合集

重磅！CVer-論文寫作與投稿交流群成立

掃碼添加CVer助手，可申請加入CVer-論文寫作與投稿 微信交流群，目前已滿2000+人，旨在交流頂會（CVPR/ICCV/ECCV/ICML/ICLR/AAAI等）、頂刊（IJCV/TPAMI等）、SCI、EI等寫作與投稿事宜。

同時也可申請加入CVer大群和細分方向技術群，細分方向已涵蓋：目標檢測、圖像分割、目標跟蹤、人臉檢測&識別、OCR、姿態估計、超解析度、SLAM、醫療影像、Re-ID、GAN、NAS、深度估計、自動駕駛、強化學習、車道線檢測、模型剪枝&壓縮、去噪、去霧、去雨、風格遷移、遙感圖像、行為識別、視頻理解、圖像融合、圖像檢索、論文投稿&交流、PyTorch和TensorFlow等群。

一定要備註：研究方向+地點+學校/公司+暱稱（如論文寫作+上海+上交+卡卡），根據格式備註，可更快被通過且邀請進群

▲長按加微信群


▲長按關注CVer公眾號

整理不易，請給CVer點讚和在看！

相關焦點

  • ICCV 引用量最高的10篇論文!何愷明兩篇一作論文:Mask R-CNN和PReLU,Facebook佔據四席!
    10篇論文，詳見：何愷明ResNet登頂，YOLO佔據兩席！各位CVers反映內容很贊，於是Amusi 快速整理了ICCV 引用量最高的10篇論文。在谷歌發布的2020年的學術指標（Scholar Metrics）榜單，ICCV 位列總榜第29位，是計算機視覺領域排名第二的大會！
  • CVPR 引用量最高的10篇論文!何愷明ResNet登頂,YOLO佔據兩席!
    這個排名是依據過去五年發表研究的數據（覆蓋2015-2019年發表的文章），並包括截止2020年6月在谷歌學術中被索引的所有文章的引用量。眾所周知，CV領域的三大頂會就是：CVPR、ICCV和ECCV。本文就來盤點CVPR 2015-2019年引用量最高的10篇論文。
  • ECCV 引用量最高的10篇論文!SSD登頂!何愷明ResNet改進版位居第二
    ICCV 引用量最高的10篇論文，分別詳見：眾所周知，CV領域的三大頂會就是：CVPR、ICCV和ECCV。這個排名是依據過去五年發表研究的數據（覆蓋2015-2019年發表的文章），並包括截止2020年6月在谷歌學術中被索引的所有文章的引用量。本文就來盤點ECCV 2015-2019年引用量最高的10篇論文。
  • ICLR 引用量最高的10篇論文!Adam霸榜!引用量破5萬
    10篇論文均已整理完畢，詳見：接下來，Amusi 將繼續整理其他頂會，像NeurIPS、ICLR、ICML上也有很多優質的CV論文，而且有更多深度學習、機器學習基礎性研究工作。這個排名是依據過去五年發表研究的數據（覆蓋2015-2019年發表的文章），並包括截止2020年6月在谷歌學術中被索引的所有文章的引用量。本文就來盤點ICLR 2015-2019年引用量最高的10篇論文。
  • 【ICCV2017視覺盛宴概況】何愷明博士包攬最佳論文和最佳學生論文獎!Facebook成大贏家!
    Facebook成為最大贏家，其中Facebook 人工智慧實驗室研究科學家何愷明包攬最佳論文獎（Marr Prize）和最佳學生論文獎。賈揚清Caffe團隊獲得Everingham prize等。論文方面，錄取論文數目歷史最多。本屆會議收到來自世界各地的論文投稿2143篇，錄取621篇，其中口頭報告43篇，海報論文520篇，錄取率分別是2.09%和28.9%，可見競爭之激烈。
  • NeurIPS 2020最佳論文公布:OpenAI、米蘭理工大學、UC伯克利獲獎
    NeurIPS2020提交數再次創新高，共計達到9454篇，總接收1900篇，論文接收率是20.09%，但是較去年有所下降。Subset Selection and the Nyström Method》和OpenAI的《Language Models are Few-Shot Learners》，即已經具有較大影響力的GPT-3，前兩篇發表於Learning Theory track，而最後一篇發表於Language/Audio Applications track。
  • Faster R-CNN
    一篇好推送的產生，少不了大量優秀推送和論文的閱讀，本篇文章即是如此。小組成員進行了大量閱讀，在下面列出主要文章，致以誠摯謝意。[1] Ren S, He K, Girshick R, et al.該論文即是本篇推送的主角——Faster R-CNN：使用RPN實現趨於實時的物體檢測。論文原文請移步： https://www.arxiv.org/abs/1506.01497[2] He K, Gkioxari G, Dollár P, et al.
  • 17篇論文詳解圖的機器學習趨勢 | NeurIPS 2019
    在NeurIPS 2019上，僅主會場就有 100多個與圖相關的論文；另外，至少有三個workshop的主題與圖有關：Graph Representation Learning (大約有100多篇論文)；Knowledge Representation & Reasoning Meets Machine Learning (KR2ML)(也有50篇吧)；我們希望在接下來的這篇文章裡，能夠儘可能完整地討論基於圖的機器學習的研究趨勢
  • CVPR 2018值得一看的25篇論文,都在這裡了 | 源碼 & 解讀
    該模型的輸入解析度最低 480*800，最高 1400*2000，對於訓練中過大或者過小 scale 的 Object，模型選擇直接忽略，訓練只針對在 scale 的一個範圍內的 Object。 後面就是訓練細節和 trick，詳情可以翻看論文。
  • NeurIPS 2019最佳論文出爐,今年增設「新方向獎」,微軟華人學者獲經典論文獎
    另外大會的投稿數量、接收論文數量也創下了歷史新高，總共有1428篇文章被收錄。在NeurIPS 2019召開的第一天，大會評委公布了傑出論文獎和經典論文獎。大會評委還希望能夠避免一些效率低下、過於複雜的論文，推薦一些趨勢性的傑出文章，為此增設了傑出新方向論文獎，以表彰那些為未來研究提出新方向的傑出工作。此外，大會還推薦了另外4篇獲得最佳論文提名的文章。最佳論文今年分別各有一篇文章獲得傑出論文獎和傑出方向論文獎，另外各有兩篇獲得相應提名。
  • 嚴禁一稿多投:NeurIPS 2019剛剛斃掉了19篇論文
    所以直到 Deadline 之後 36 個小時，只有 73% 的論文獲得了至少 3 個評審結果，大約有 90% 的評審者提交了評審結果。看來對於大會評審人員、區域主席和程序主席來說，他們度過了一段緊張繁忙的階段。
  • ICCV 2017獲獎論文公布 何愷明成為最大贏家!
    【網易智能訊 10月25日消息】當地時間10月22日，計算機視覺國際頂級會議International Conference on Computer Vision（ICCV 2017）在義大利威尼斯開幕。
  • 實戰 | 源碼入門之Faster RCNN
    前言學習深度學習和計算機視覺，特別是目標檢測方向的學習者，一定聽說過Faster Rcnn；在目標檢測領域，Faster Rcnn表現出了極強的生命力，被大量的學習者學習，研究和工程應用。在此先附上源碼的地址(https://github.com/chenyuntc/simple-faster-rcnn-pytorch) ,並對源碼作者（陳雲）表示由衷的感謝和深深地敬意。本文章主要的目的是對該版本代碼的主要框架進行梳理，希望能夠對一些想學習源碼的讀者有一定的幫助。
  • 時隔一年,盤點CVPR 2019影響力最大的20篇論文
    CVPR 2019 已經過去一年了，本文盤點其中影響力最大的 20 篇論文，這裡的影響力以谷歌學術上顯示的論文的引用量排序，截止時間為
  • 深度學習用於目標檢測的論文及代碼集錦
    [5] Faster r-cnn: Towards real-time object detection with region proposal networksShaoqing Ren et al.
  • NeurIPS十年高引學者TOP100榜單發布!這些大牛值得膜拜!
    Hinton自NeurIPS創辦以來的三十多年間，共發表了60篇論文，幾乎每年都有成果產出。而在2009年至2019年間，Hinton在NeurIPS共發表了16篇論文，引用量達47482次。在NeurIPS會議上，Bengio一共發表了74篇論文，尤其在今年的會議上，有 Bengio署名的論文就有9篇。在過去的十年間，他在NeurIPS共發表了40篇文章，引用量達18714次。
  • 【重磅整理】180篇NeurIPS2020頂會《強化學習領域》Accept論文大全
    /Conferences/2020/https://www.aminer.cn/conf/neurips2020NeurIPS終於放榜，提交數再次創新高，與去年相比增加了38%，共計達到9454篇，總接收1900篇，其中谷歌以169篇傲視群雄，清華大學63篇，南京大學周志華教授團隊3篇。論
  • 一篇論文被引用30萬次,卻不是他最得意之作!史上引用最多的100篇論文有多少是諾獎成果?
    較多地和生物醫學有關而且往往涉及方法學另外，部分耳熟能詳的諾獎級工作譬如高溫超導的發現DNA雙螺旋的結構確定竟然都在百強之外這不禁讓人疑惑論文引用量價值到底有多高？ 史上引用最多的100篇論文有多少是諾獎成果？
  • 【源頭活水】NeurIPS 2020 Federated Learning(一句話論文系列)
    那個系列只有五篇文章，我用了一個月才寫完，還是在被觀眾朋友們催了一次的情況下，這次萬人大會NeurIPS中的FL的文章有十幾個，不知道要寫到什麼時候但是機智如我，馬上就想到了解決難題的辦法 - 我決定，從一個paper一篇知乎文章，改成一個paper一句話，不接受反駁。
  • ResNet、Faster RCNN、Mask RCNN是專利算法嗎?盤點何愷明參與發明的專利
    對於做研究的朋友來說不需要考慮這個問題，專利算法依然可以參考、復現、對比，但對於產業界朋友就不得不確認清楚：項目中有沒有可能使用了別人專利保護算法。作為計算機視覺領域當今翹楚，兩度獲得CVPR 最佳論文獎的何愷明大佬有很多論文都具有重大影響力。