​2018深度學習引用數最高的十大論文

2021-03-02 人工智慧頭條

譯者 | 林椿眄

出品 | 人工智慧頭條(公眾號ID:AI_Thinker)

在過去的幾年裡,作為機器學習和統計學習的子領域,深度學習已經在諸多領域取得了令人印象深刻的突破。魯棒性的開源工具、雲計算以及大量可用的數據是深度學習能夠取得成功的重要基石。下面,我們列出2018年度十大深度學習論文:




▌1.Deep Learning, by Yann L., Yoshua B. & Geoffrey H. (2015) (Cited: 5,716):

深度學習是一種由多個處理層組成的計算模型,它能夠學習數據的多層次抽象表徵。目前,這類方法已經在目標檢測、語音識別、視覺目標識別以及許多其他領域(諸如藥物發現和基因組學)取得了當前最佳的性能。

PDF連結:

https://www.cs.toronto.edu/~hinton/absps/NatureDeepReview.pdf

 

▌2.TensorFlow: Large-Scale Machine Learning on Heterogeneous Distributed Systems, by Martín A., Ashish A. B., Eugene B. C., et al. (2015) (Cited: 2,423)

這是一個靈活的深度學習系統,它可以用來表達各種算法,包括深度神經網絡模型的訓練及推理算法,並且眾多研究者利用它並將其部署到機器學習系統中,以實現多種任務,包括信息檢索,語音識別,機器人技術,計算機視覺,地理信息提取,自然語言處理,計算藥物發現等十幾個計算機科學及其他領域。

PDF連結:

http://download.tensorflow.org/paper/whitepaper2015.pdf

 

▌3.TensorFlow: a system for large-scale machine learning, by Martín A., Paul B., Jianmin C., Zhifeng C., Andy D. et al. (2016) (Cited: 2,227)

TensorFlow 是一個開源項目,主要用於解決深度神經網絡的訓練和推理問題。它支持各種應用程式。Google 的許多服務和應用都使用到了 TensorFlow。隨著時間的推移,它也被廣泛用於機器學習領域的研究。

PDF連結:

https://www.usenix.org/system/files/conference/osdi16/osdi16-abadi.pdf

 

▌4.Deep learning in neural networks, by Juergen Schmidhuber (2015) (Cited: 2,196)

這篇論文是對深度學習、深度神經網絡的發展歷程及其相關工作的綜述。其中大部分的內容介紹了上個世紀的研究成果。淺層和深層的神經網絡是根據信用分配路徑的深度進行區別的,信用分配路徑是通過行為和效果之間因果關係鏈所決定的,而這種因果關聯關係是可以學習的。

PDF連結:

https://arxiv.org/pdf/1404.7828.pdf

 

▌5.Human-level control through deep reinforcement learning, by Volodymyr M., Koray K., David S., Andrei A. R., Joel V et al (2015) (Cited: 2,086)

這篇論文開發一種被稱為深度「Q-網絡」的新型人工智慧體。利用最近在深度神經網絡訓練方面的進展,我們使用一種端到端強化學習策略,直接從高維的傳感輸入中學習成功的策略。此外,這種智能體已經在經典 Atari 2600 遊戲的一些挑戰性領域中的得到了測試。

PDF連結:

https://web.stanford.edu/class/psych209/Readings/MnihEtAlHassibis15

NatureControlDeepRL.pdf

 

▌6.Faster R-CNN: Towards Real-Time Object Detection with Region Proposal Networks, by Shaoqing R., Kaiming H., Ross B. G. & Jian S. (2015) (Cited: 1,421)

在這項工作中,我們將介紹區域建議網絡(RPN),全卷積圖像特徵,用於實現共享的區域建議檢測網絡。區域建議網絡是一種全卷積神經網絡,它能夠共享檢測區域,並在每個位置同時預測出目標邊界及客觀得分。

PDF連結:

https://arxiv.org/pdf/1506.01497.pdf

 

▌7.Long-term recurrent convolutional networks for visual recognition and description, by Jeff D., Lisa Anne H., Sergio G., Marcus R., Subhashini V. et al. (2015) (Cited: 1,285)

不同於固定時空感受野(fixed spatio-temporal receptive field)或用於序列數據處理的簡單平均時序模型,循環卷積神經網絡能夠通過「雙重深入」機制,在空間和時間層次實現模型的融合。

PDF連結:

https://arxiv.org/pdf/1411.4389.pdf

 

▌8.MatConvNet:Convolutional Neural Networks for MATLAB, by Andrea Vedaldi & Karel Lenc (2015) (Cited: 1,148)

這種模型易於使用,並在 MATLAB 中開源了其 CNN 構建塊函數,提供了計算帶濾波器組的線性卷積的路徑,特徵池化等等。這篇論文將概述了卷積神經網絡結構及其在 MatConvNet 中的實現方式,並在每個計算塊的工具箱中給出了相同的技術細節。

PDF連結:

https://arxiv.org/pdf/1412.4564.pdf

 

▌9.Unsupervised Representation Learning with Deep Convolutional Generative Adversarial Networks, by Alec R., Luke M. & Soumith C. (2015) (Cited: 1,054)

在這項工作中,我們主要關注的是彌合 CNN 在監督學習和無監督學習方面差距。這篇論文中我們將介紹一類帶一定的架構約束 CNN 模型,稱之為深度卷積生成對抗網絡(DCGAN),實驗結果表明它們是一種有前途的非監督學習方式。

PDF連結:

https://arxiv.org/pdf/1511.06434.pdf

 

▌10.U-Net: Convolutional Networks for Biomedical Image Segmentation, by Olaf R., Philipp F. &Thomas B. (2015) (Cited: 975)

深度神經網絡的成功需要許多帶標註訓練樣本,這是一個共識。在這篇論文裡,我們將提出一種新的網絡結構及訓練策略,以便更有效地使用現有的標註樣本來訓練模型,這完全依賴於強大的數據增強功能。

PDF連結:

https://arxiv.org/pdf/1505.04597.pdf

 

以上是 2018 年度十大深度學習論文的簡單摘要,關於論文的詳細信息,可以參考每篇論文下面的原文連結。

作者:Kirti Bakshi 

原文連結:

https://www.techleer.com/articles/517-a-list-of-top-10-deep-learning-papers-the-2018-edition/


掃描二維碼,關注「人工智慧頭條」

回復「秘籍」獲取 吳恩達機器學習訓練秘籍前19章英文版

☟☟☟點擊 | 閱讀原文 | 閱讀跟多乾貨內容

相關焦點

  • 【深度學習】引用次數在15000次以上的都是什麼神仙論文?
    後來,「三巨頭「獲得了2018年的「圖靈獎」,Schmidhuber和「三巨頭「在網絡上因為「成果引用」和「成果認定」發生了大量的口水戰,這些都是後話了。機器學習領域還有一些重要的成果,對應的文章也有不俗的引用量。
  • (免費下載)深度學習 Top100:近 5 年被引用次數最高論文
    【導讀】這裡是近5年100篇被引用次數最多的深度學習論文,覆蓋了優化/訓練方法、無監督/生成模型、卷積網絡模型和圖像分割
  • 【資源】深度學習Top100:近5年被引用次數最高論文(下載)
    這裡是近5年100篇被引用次數最多的深度學習論文,覆蓋了優化/訓練方法、無監督/生成模型、卷積網絡模型和圖像分割/目標檢測等十大子領域。重要的論文能夠超越其應用領域讓人獲益。新智元在每個領域都選擇了一篇論文重點介紹,這將是你縱覽深度學習研究絕好的開始。這裡是100篇被引用次數最多的深度學習論文,從海量的相關論文中脫穎而出。
  • 論文引用數多高才叫高被引論文?
    論文引用數多高才叫高被引論文?研究人員的成就與價值是很難被衡量的,因此學術界行之有年的方法是依據發表的論文引用數來判斷。一篇優秀的學術研究發表有可能會因為傑出的實驗設計、嚴謹的邏輯推導或是突破性的發現而被大眾所熟知,而有很大的機會成為高被引論文。高被引論文越多代表這位研究人員的能力被肯定,因此可以為他帶來升等或加薪與受人景仰的好處。因此研究學者們都是在為了能夠發表高論文引用數的文章而兢兢業業地努力。
  • 谷歌2019 學術指標發榜:CVPR首次進入Top 10,何愷明論文引用最高!
    AI類的多個頂會進入榜單Top 100,CVPR更是進入前10,而何愷明的「深度殘差網絡」單篇引用次數高達25256次,引用量最高!  今天,谷歌正式發布了2019年版的學術指標(Scholar Metrics)。  本次發布涵蓋2014-2018年發表的文章,並包括了截至2019年7月在谷歌學術中被索引的所有文章的引用 。
  • 深度 計算機視覺和深度學習領域,被引用次數最多的三十篇論文(附下載)
    2012年,我開始列舉計算機視覺領域引用率最高的文章清單。
  • NIPS2018深度學習(18)|亮點: 貝葉斯深度學習;圖卷積(論文及代碼)
    Polytechnique Fédérale de Lausanne,RIKEN Center for AI Projecthttps://papers.nips.cc/paper/7862-slang-fast-structured-covariance-approximations-for-bayesian-deep-learning-with-natural-gradient.pdf在深度學習模型中
  • 引用次數最多的深度學習論文出自誰手?無監督學習/生成模型篇
    雷鋒網AI科技評論:我們通常都會學習前輩或大牛的經典作品,而引用次數自然也成為了論文的一個重要標杆。在GitHub上,@Terryum整理了一份精心編寫的論文推薦列表,其中包含了在深度學習領域中引用次數最多的前100篇論文(自2012年起)。有一些深度學習論文,無論它們屬於哪個應用領域,都值得仔細研習。
  • 引用次數最多的深度學習論文出自誰手?(無監督學習/生成模型篇)
    雷鋒網AI科技評論:我們通常都會學習前輩或大牛的經典作品,而引用次數自然也成為了論文的一個重要標杆。在GitHub上,@Terryum整理了一份精心編寫的論文推薦列表,其中包含了在深度學習領域中引用次數最多的前100篇論文(自2012年起)。有一些深度學習論文,無論它們屬於哪個應用領域,都值得仔細研習。文章在精不在多,雷鋒網提供的這些文章,都被認為是值得一讀的優秀論文。
  • 機器學習和深度學習引用量最高的20篇論文(2014-2017)
    Pham機器之心編譯參與:邵明、黃小天機器學習和深度學習的研究進展正深刻變革著人類的技術,本文列出了自 2014 年以來這兩個領域發表的最重要(被引用次數最多)的 20 篇科學論文,以饗讀者機器學習,尤其是其子領域深度學習,在近些年來取得了許多驚人的進展。重要的研究論文可能帶來使全球數十億人受益的技術突破。這一領域的研究目前發展非常快,為了幫助你了解進展狀況,我們列出了自 2014 年以來最重要的 20 篇科學論文。
  • 深度學習必讀10篇經典算法論文總結
    自從深度學習的突破以來,由於該領域的快速變化,初學者經常發現它太笨拙,無法學習。與典型的軟體工程學科不同,沒有很多關於使用DCNN進行圖像分類的書籍,而了解該領域的最佳方法是閱讀學術論文。但是要讀什麼論文?我從哪說起呢?在本文中,我將介紹10篇最佳論文供初學者閱讀。通過這些論文,我們可以看到該領域是如何發展的,以及研究人員如何根據以前的研究成果提出新的想法。
  • 中國SCI論文中化學學科論文最多,被引用次數排名世界第1位
    中國SCI論文數最多的十個學科中,化學位居第一;材料科學、化學和工程技術論文的被引用次數排名世界第1位。 國際高被引論文數量世界排名第二 2009-2019年被引用次數處於各學科世界前1%的論文稱為高被引論文。中國高被引論文數為30755篇,佔世界份額為20.0%,數量比2018年增加了23.9%,排在世界第2位,位次比上一年度上升一位,佔世界份額提升了近3個百分點。
  • 從論文引用數看我國科技創新力
    作為科學研究和技術進步的產出標誌之一,我國科技論文的發表數量20餘年來也一直快速上升。2006年我國在國際上發表論文的數量已達17.2萬多篇,僅次於美國,為世界第二。 目前,國際學術界公認,判斷一篇論文的內在價值及其創新力,該論文發表後被他人引用的次數是重要指標。
  • 中國國際論文被引用數 排名上升至全球第二位(厲害了,中國科技)
    原標題:中國國際論文被引用數 排名上升至全球第二位(厲害了,中國科技)   本報北京10月31日電 (記者劉詩瑤)科技部中國科學技術信息研究所31日發布的最新中國科技論文統計結果顯示:2007年至2017年10月我國科技人員發表的國際論文共被引用19335萬次,較2016年統計時增加29.9%,排名比去年上升兩位,超越英國和德國躍居世界第二位
  • 論文文獻引用乾貨分享(1)文獻引用的目的
    在學習寫作學術論文的過程中,文獻引用這一環節絕對必須經過嚴格、仔細的訓練,否則很容易在寫論文時有意無意地踩到
  • 那些提高論文引用的「騷操作」
    其中比較極端的例子是Bioinformatics的一名審稿人,此君每次審稿都會毫無道理地要求作者額外引用文章,平均下來高達每次審稿35篇,其中超過90%是他自己的文章,剩下的文章還更離譜一些——不僅大量引用他的文章而且還會在標題裡提及該審稿人的姓名。[1,2,3]  此外,調查還顯示此君在為其他雜誌審稿時也會進行這樣的「騷操作」,脅迫論文作者為他的引用數做貢獻。
  • 《科學家》評出2018十大論文撤回事件
    (來源/編譯:生物谷) 十大論文撤回事件 文/towersimper 圖片來自Pixabay, Openclipart。《撤稿觀察(Retraction Watch)》排行榜包括一些非常狡猾的角色。去年秋天,《科學家》雜誌正式啟動了它的論文撤回資料庫。它為科學家、記者以及任何對論文發表問題和學術不端行為感興趣的人以及任何想知道自己是否會在不知情的情況下引用被撤回論文的人提供資源。以下是今年的一些最熱門的論文撤回事件,排名不分先後:他們不是活力四射的二人組。
  • 【重磅】深度學習頂會ICLR2018評審結果出爐,一文快速了解評審分析簡報和評分最高的十篇論文
    【導讀】ICLR,全稱為「International Conference on Learning Representations」(國際學習表徵會議),2013 年才剛剛成立了第一屆。這個一年一度的會議雖然今年2017年辦到第六屆,已經被學術研究者們廣泛認可,被認為「深度學習的頂級會議」。ICLR 採用Open Review 評審制度。
  • 2018年學術頂會:深度學習的江山如此多嬌
    本文中,機器之心將概述 2018 年十大學術會議,包括論文提交與接收情況、備受關注的論文評審制度,以及論文主題分布等。我們希望讀者能通過這篇文章遍歷機器學習在一年中的起伏與風雨,同時也希望追隨學術會議開闢的道路繼續向前。
  • 霍金曾數十次引用這所大學在《science》等雜誌上發表的論文數據
    他畢生的精力從事科學研究,並將所研究的成果都寫成了極具學術價值的論文,供世人們閱讀和學習,可就在他的論文中,曾經數十次引用過我國這所大學的天文、物理系發表在《science》和《nature》上的論文中的數據,論點,結論等,這所大學就是學術風氣堪稱一流的南京大學。