NeurIPS 引用量最高的10篇論文!Faster R-CNN登頂!何愷明和孫劍均有兩篇論文入圍

2021-02-20 CVer

點擊上方「CVer」,選擇加"星標"置頂

重磅乾貨,第一時間送達

前言

三大CV頂會引用量最高的10篇論文均已整理完畢,詳見:

接下來,Amusi 將繼續整理其他頂會,像NeurIPS、ICLR、ICML上也有很多優質的CV論文,而且有更多深度學習、機器學習基礎性研究工作。

神經信息處理系統大會(NeurIPS),前稱NIPS,是一個機器學習和計算神經科學相關的學術會議,一般每年12月舉行。在谷歌發布的2020年的學術指標(Scholar Metrics)榜單,NeurIPS 位列總榜第21位!這個排名是依據過去五年發表研究的數據(覆蓋2015-2019年發表的文章),並包括截止2020年6月在谷歌學術中被索引的所有文章的引用量。

本文就來盤點NeurIPS 2015-2019年引用量最高的10篇論文。根據此數據,一方面能看出這段深度學習黃金時期的研究熱點,另一方面查漏補缺,看看這些必看的Top級論文是不是都掌握了。

注1:2015年之前的論文不在統計範圍內

注2:引用量是根據谷歌給出的數據,會有波動,但影響不大

第一名:Faster R-CNN

Faster R-CNN: Towards Real-Time Object Detection with Region Proposal Networks

作者單位:Microsoft Research

作者團隊:Shaoqing Ren(任少卿), Kaiming He(何愷明), Ross Girshick, Jian Sun

引用量:19507

論文連結(收錄於NIPS 2015):

https://arxiv.org/abs/1506.01497

Faster R-CNN 算是現在入門目標檢測學習的第一篇論文,也是R-CNN系列的最終篇。首次提出了RPN(Region Proposal Network)模塊,極大提高目標檢測速度。

Faster R-CNN

第二名:Attention Is All You Need

Attention is All you Need

作者單位:Google Brain, Google Research, 多倫多大學

作者團隊:Ashish Vaswani, Noam Shazeer, Niki Parmar等

引用量:9885

論文連結(收錄於NIPS 2017):

https://arxiv.org/abs/1706.03762

一篇將 Attention(注意力) 機制發揚光大的論文!如今不管是NLP,還是CV方向,attention機制都是相當火爆。Transformer 大法好!

The Transformer

第三名:Improved Techniques for Training GANs

Improved Techniques for Training GANs

作者單位:OpenAI

作者團隊:Tim Salimans, Ian Goodfellow, Wojciech Zaremba等

引用量:3522

論文連結(收錄於NIPS 2016):

https://arxiv.org/abs/1606.03498

本文介紹了幾個方法去鼓勵GAN博弈的收斂,靈感來源於非凸問題的啟發式理解。可以幫助提升半監督學習性能和提升採樣生成。

第四名:Improved Training of Wasserstein GANs

Improved Training of Wasserstein GANs

作者單位:蒙特婁算法研究所, 庫朗數學科學研究所, CIFAR Fellow

作者團隊:Ishaan Gulrajani, Faruk Ahmed, Martin Arjovsky等

引用量:3041

論文連結(收錄於NIPS 2017):

https://arxiv.org/abs/1704.00028

本文對WGAN(ICML 2017 熱門論文)進行改進,提出了一種替代WGAN判別器中權重剪枝的方法

第五名:Spatial Transformer Networks

Spatial Transformer Networks

作者單位:DeepMind(谷歌)

作者團隊:Max Jaderberg, Karen Simonyan, Andrew Zisserman等

引用量:2964

論文連結(收錄於NIPS 2015):

https://arxiv.org/abs/1506.02025

STN(Spatial Transformer Networks,空間變換網絡)具有平移不變性、旋轉不變性及縮放不變性等強大的性能。這個網絡可以加在現有的卷積網絡中,提高分類的準確性。

第六名:R-FCN

R-FCN: Object Detection via Region-based Fully Convolutional Networks

作者單位:Microsoft Research&清華大學

作者團隊:Jifeng Dai(代季峰), Yi Li, Kaiming He(何愷明), Jian Sun

引用量:2676

論文連結(收錄於NIPS 2016):

https://arxiv.org/abs/1605.06409

本文的主要貢獻是解決了「分類網絡的位置不敏感性」與「檢測網絡的位置敏感性(Position-sensitive)」之間的矛盾。

R-FCN

第七名:Learning both Weights and Connections for Efficient Neural Network

Learning both Weights and Connections for Efficient Neural Network

作者單位:史丹福大學&NVIDIA

作者團隊:Song Han(韓松), Jeff Pool, John Tran, William J. Dally

引用量:2416

論文連結(收錄於NIPS 2015):

https://arxiv.org/abs/1506.02626

模型剪枝(壓縮方向)非常具有代表性的論文之一,旨在不損失精度的前提下,對DNN進行剪枝(或者說稀疏化),從而壓縮模型。

第八名:Character-level Convolutional Networks for Text Classification

Character-level Convolutional Networks for Text Classification

作者單位:紐約大學

作者團隊:Xiang Zhang, Junbo Zhao, Yann LeCun

引用量:2294

論文連結(收錄於NIPS 2015):

https://arxiv.org/abs/1509.01626

本文使用字符級的CNN進行文本分類任務。

第九名:ConvLSTM

Convolutional LSTM Network: A Machine Learning Approach for Precipitation Nowcasting

作者單位:香港科技大學&香港 Observatory

作者團隊:Xingjian Shi(施行建), Zhourong Chen, Hao Wang等

引用量:2059

論文連結(收錄於NIPS 2015):

https://arxiv.org/abs/1506.04214

本文成功地將機器學習(還有深度學習)應用在具有挑戰的即時預測問題上。ConvLSTM不僅繼承了傳統LSTM的優點,並且由於它內部的卷積結構使得它非常適合於時空數據。

第十名:Convolutional Neural Networks on Graphs with Fast Localized Spectral Filtering

Convolutional Neural Networks on Graphs with Fast Localized Spectral Filtering

作者單位:EPFL(洛桑聯邦理工學院)

作者團隊:Michaël Defferrard, Xavier Bresson, Pierre Vandergheynst

引用量:2027

論文連結(收錄於NIPS 2016):

https://arxiv.org/abs/1606.09375

入坑GCN(圖卷積網絡)必讀之作!

侃侃

1. 華人的影響力越來越強;

2. 何愷明和孫劍均有兩篇論文入圍;

3. 微軟和谷歌均有兩篇論文入圍;

下載1

上述10篇論文已打包好,在CVer公眾號後回覆:NIPS引用量,即可下載全部論文

下載2

在CVer公眾號後臺回覆:OpenCV書籍,即可下載《Learning OpenCV 3》書籍和原始碼。註:這本書是由OpenCV發起者所寫,是官方認可的書籍。其中涵蓋大量圖像處理的基礎知識介紹,雖然API還是基於OpenCV 3.x,但結合此書和最新API,可以很好的學習OpenCV。

下載3

在CVer公眾號後臺回覆:CVPR2020,即可下載CVPR2020 2020代碼開源的論文合集

在CVer公眾號後臺回覆:ECCV2020,即可下載ECCV 2020代碼開源的論文合集

重磅!CVer-論文寫作與投稿交流群成立

掃碼添加CVer助手,可申請加入CVer-論文寫作與投稿 微信交流群,目前已滿2000+人,旨在交流頂會(CVPR/ICCV/ECCV/ICML/ICLR/AAAI等)、頂刊(IJCV/TPAMI等)、SCI、EI等寫作與投稿事宜。

同時也可申請加入CVer大群和細分方向技術群,細分方向已涵蓋:目標檢測、圖像分割、目標跟蹤、人臉檢測&識別、OCR、姿態估計、超解析度、SLAM、醫療影像、Re-ID、GAN、NAS、深度估計、自動駕駛、強化學習、車道線檢測、模型剪枝&壓縮、去噪、去霧、去雨、風格遷移、遙感圖像、行為識別、視頻理解、圖像融合、圖像檢索、論文投稿&交流、PyTorch和TensorFlow等群。

一定要備註:研究方向+地點+學校/公司+暱稱(如論文寫作+上海+上交+卡卡),根據格式備註,可更快被通過且邀請進群

▲長按加微信群


▲長按關注CVer公眾號

整理不易,請給CVer點讚和在看

相關焦點

  • ICCV 引用量最高的10篇論文!何愷明兩篇一作論文:Mask R-CNN和PReLU,Facebook佔據四席!
    10篇論文,詳見:何愷明ResNet登頂,YOLO佔據兩席!各位CVers反映內容很贊,於是Amusi 快速整理了ICCV 引用量最高的10篇論文。在谷歌發布的2020年的學術指標(Scholar Metrics)榜單,ICCV 位列總榜第29位,是計算機視覺領域排名第二的大會!
  • ECCV 引用量最高的10篇論文!SSD登頂!何愷明ResNet改進版位居第二
    重磅乾貨,第一時間送達 前言 前兩天,Amusi 整理了CVPR 和 ICCV 引用量最高的10篇論文,分別詳見: 眾所周知,CV領域的三大頂會就是:CVPR、ICCV和
  • ICLR 引用量最高的10篇論文!Adam霸榜!引用量破5萬
    10篇論文均已整理完畢,詳見:接下來,Amusi 將繼續整理其他頂會,像NeurIPS、ICLR、ICML上也有很多優質的CV論文,而且有更多深度學習、機器學習基礎性研究工作。這個排名是依據過去五年發表研究的數據(覆蓋2015-2019年發表的文章),並包括截止2020年6月在谷歌學術中被索引的所有文章的引用量。本文就來盤點ICLR 2015-2019年引用量最高的10篇論文。
  • 何愷明!再斬ICCV 2017最佳論文
    作為計算機視覺領域的頂級會議,ICCV 2017共收到2143篇論文投稿,其中621篇被選為大會論文(入圍比例29%),其中56篇亮點報告(Spotlight),45篇口頭報告(Oral)。他和何愷明第一次合作寫論文的時候,何愷明還是微軟亞洲研究院員工,而RBG也還在Redmond微軟研究院工作。他們,以及任少卿、孫劍的合作成果,就是Faster R-CNN。在這之前,RBG已經長期在探索用CNN做對象檢測,並發表了兩篇論文,提出了R-CNN和Fast R-CNN算法。這個系列雖然歷史不長,卻已經成了談CNN圖像分割繞不開的經典,量子位之前也發布過相關文章。
  • 谷歌2019 學術指標發榜:CVPR首次進入Top 10,何愷明論文引用最高!
    AI類的多個頂會進入榜單Top 100,CVPR更是進入前10,而何愷明的「深度殘差網絡」單篇引用次數高達25256次,引用量最高!  今天,谷歌正式發布了2019年版的學術指標(Scholar Metrics)。  本次發布涵蓋2014-2018年發表的文章,並包括了截至2019年7月在谷歌學術中被索引的所有文章的引用 。
  • 人工智慧頂級學術大會論文榜:谷歌170篇屠榜 騰訊領銜產業界
    其次是INRIA的大牛Francis Bach,共有10篇。 格局形勢與去往年差不多,屠榜者均是傳統豪強。 總共有5大組織入選論文數超過100篇。 其中工業界的是Google+DeepMind和微軟。
  • Faster R-CNN
    一篇好推送的產生,少不了大量優秀推送和論文的閱讀,本篇文章即是如此。小組成員進行了大量閱讀,在下面列出主要文章,致以誠摯謝意。[1] Ren S, He K, Girshick R, et al.該論文即是本篇推送的主角——Faster R-CNN:使用RPN實現趨於實時的物體檢測。論文原文請移步: https://www.arxiv.org/abs/1506.01497[2] He K, Gkioxari G, Dollár P, et al.
  • NeurIPS 2019放榜:華人作者貢獻42%,谷歌170篇屠榜;國內清華第一,騰訊領銜產業界
    格局形勢與去往年差不多,屠榜者均是傳統豪強。總共有5大組織入選論文數超過100篇。其中工業界的是Google+DeepMind和微軟。其中Google—DeepMind的組合雄霸天下,共計170篇入選。第二名麻省理工,86篇入圍。斯坦福以85篇排名第三。CMU有79篇,微軟有76篇。
  • CVPR 2018獎項出爐:兩篇最佳論文,何愷明獲PAMI 青年研究員獎
    據統計,本屆大會有超過 3300 篇的大會論文投稿,錄取 979 篇(接受率約為 29%,其中包括 70 篇 Oral 和 224 篇 Spotlight 論文)。而在一個小時前,最受關注的 CVPR 2018 最佳論文結果揭曉:來自史丹福大學和 UC Berkeley 的 Amir R.
  • 一個人撐起一所高校,AI領域十大機構,中科大和西安交大表現搶眼
    中國AI領域十大機構近日,上海交通大學推出了一項基於2009~2019年,全國計算機領域不同學科的超過2億篇的論文信息,其中在目前最熱門的人工智慧領域中,中國科學院論文數量最多,高達911篇,而從引用量來看,清華大學位居全國第一,引用量高達23704
  • 機器學習和深度學習引用量最高的20篇論文(2014-2017)
    重要的研究論文可能帶來使全球數十億人受益的技術突破。這一領域的研究目前發展非常快,為了幫助你了解進展狀況,我們列出了自 2014 年以來最重要的 20 篇科學論文。我們篩選論文的標準是來自三大學術搜尋引擎谷歌學術(scholar.google.com)、微軟學術(academic.microsoft.com)和 semanticscholar.org 的引用量。
  • NeurIPS』20大意了沒有閃,被一句話超短摘要偷襲1900篇論文!
    作者 | 陳大鑫剛才,有兩個年輕人問我,陳老師,發生腎摸事了?我說腫麼了?塔燜啪的一下發來了一張截圖,很快噢!嗷!源賴氏佐田,有兩個AI人,一個24歲,一個29歲,一個發過4篇頂會,一個發過9篇頂會。1、閱讀大牛的論文:見「NeurIPS 2020論文接收大排行!谷歌169篇第一、斯坦福第二、清華國內第一」一文。在這篇文章中,AI科技評論列舉了AI學術大牛如深度學習三巨頭、周志華、李飛飛等人的論文,大牛的團隊出品的論文,質量平均而言肯定有很大保證的。
  • 【源頭活水】Sparse R-CNN:簡化版fast rcnn
    算法,是faster rcnn算法的前身,由於其巨大計算量以及無法端到端訓練,故而提出區域提取網絡RPN加上fast rcnn的faster rcnn算法。faster rcnn雖好,但是其複雜度太高了,超參非常多。1.3 relationrelation論文全名是Relation Networks for Object Detection,是微軟將nlp裡面的transformer思想引入到目標檢測中從而加強物體和物體之間的關係,理論和實驗表明確實有性能提升。
  • Hinton、Bengio、何愷明等經典論文貢獻:機器學習必讀TOP100論文
    這裡整合了2012年到2016年的高引TOP 100論文,引用量要求隨著年份遞減而遞增,Hinton、Bengio、何愷明等大牛的論文都在其中,一起來看看吧:清單列表理解、泛化、遷移學習1、Distilling the knowledge
  • NeurIPS 2017 論文 2018 年引用量排名揭曉,這裡是排名前三的論文...
    今年的會議在主題活動、投稿論文數量和參會人數上,相比往年都上了一個新臺階。NeurIPS 2018 吸引了近九千人參加,最終 1010 篇論文被接收,其中,有四篇論文被評為最佳論文,接收的覆蓋了十大研究領域。看完新論文,別忘舊論文。
  • NeurIPS 2020論文接收大排行!谷歌169篇第一、斯坦福第二、清華...
    本次 NeurIPS 2020 論文接收量全球機構排名 Top 10 依次為:1、谷歌:169篇6、卡納基梅隆大學::61篇4、微軟:93篇9、牛津大學:56篇5、加州伯克利分校:90篇10、Facebook
  • 17篇論文詳解圖的機器學習趨勢 | NeurIPS 2019
    在NeurIPS 2019上,僅主會場就有 100多個與圖相關的論文;另外,至少有三個workshop的主題與圖有關:Graph Representation Learning (大約有100多篇論文);Knowledge Representation & Reasoning Meets Machine Learning (KR2ML)(也有50篇吧);我們希望在接下來的這篇文章裡,能夠儘可能完整地討論基於圖的機器學習的研究趨勢
  • 實戰 | 源碼入門之Faster RCNN
    前言學習深度學習和計算機視覺,特別是目標檢測方向的學習者,一定聽說過Faster Rcnn;在目標檢測領域,Faster Rcnn表現出了極強的生命力,被大量的學習者學習,研究和工程應用。在此先附上源碼的地址(https://github.com/chenyuntc/simple-faster-rcnn-pytorch) ,並對源碼作者(陳雲)表示由衷的感謝和深深地敬意。本文章主要的目的是對該版本代碼的主要框架進行梳理,希望能夠對一些想學習源碼的讀者有一定的幫助。
  • 17篇論文,詳解圖的機器學習趨勢|NeurIPS 2019
    在NeurIPS 2019上,僅主會場就有 100多個與圖相關的論文;另外,至少有三個workshop的主題與圖有關:Graph Representation Learning (大約有100多篇論文);Knowledge Representation
  • 17篇論文,詳解圖的機器學習趨勢 | NeurIPS 2019
    在NeurIPS 2019上,僅主會場就有 100多個與圖相關的論文;另外,至少有三個workshop的主題與圖有關:我們希望在接下來的這篇文章裡,能夠儘可能完整地討論基於圖的機器學習的研究趨勢,當然顯然不會包括所有。