譯者 | 林椿眄
出品 | 人工智慧頭條(公眾號ID:AI_Thinker)
在過去的幾年裡,作為機器學習和統計學習的子領域,深度學習已經在諸多領域取得了令人印象深刻的突破。魯棒性的開源工具、雲計算以及大量可用的數據是深度學習能夠取得成功的重要基石。下面,我們列出2018年度十大深度學習論文:
▌1.Deep Learning, by Yann L., Yoshua B. & Geoffrey H. (2015) (Cited: 5,716):
深度學習是一種由多個處理層組成的計算模型,它能夠學習數據的多層次抽象表徵。目前,這類方法已經在目標檢測、語音識別、視覺目標識別以及許多其他領域(諸如藥物發現和基因組學)取得了當前最佳的性能。
PDF連結:
https://www.cs.toronto.edu/~hinton/absps/NatureDeepReview.pdf
▌2.TensorFlow: Large-Scale Machine Learning on Heterogeneous Distributed Systems, by Martín A., Ashish A. B., Eugene B. C., et al. (2015) (Cited: 2,423)
這是一個靈活的深度學習系統,它可以用來表達各種算法,包括深度神經網絡模型的訓練及推理算法,並且眾多研究者利用它並將其部署到機器學習系統中,以實現多種任務,包括信息檢索,語音識別,機器人技術,計算機視覺,地理信息提取,自然語言處理,計算藥物發現等十幾個計算機科學及其他領域。
PDF連結:
http://download.tensorflow.org/paper/whitepaper2015.pdf
▌3.TensorFlow: a system for large-scale machine learning, by Martín A., Paul B., Jianmin C., Zhifeng C., Andy D. et al. (2016) (Cited: 2,227)
TensorFlow 是一個開源項目,主要用於解決深度神經網絡的訓練和推理問題。它支持各種應用程式。Google 的許多服務和應用都使用到了 TensorFlow。隨著時間的推移,它也被廣泛用於機器學習領域的研究。
PDF連結:
https://www.usenix.org/system/files/conference/osdi16/osdi16-abadi.pdf
▌4.Deep learning in neural networks, by Juergen Schmidhuber (2015) (Cited: 2,196)
這篇論文是對深度學習、深度神經網絡的發展歷程及其相關工作的綜述。其中大部分的內容介紹了上個世紀的研究成果。淺層和深層的神經網絡是根據信用分配路徑的深度進行區別的,信用分配路徑是通過行為和效果之間因果關係鏈所決定的,而這種因果關聯關係是可以學習的。
PDF連結:
https://arxiv.org/pdf/1404.7828.pdf
▌5.Human-level control through deep reinforcement learning, by Volodymyr M., Koray K., David S., Andrei A. R., Joel V et al (2015) (Cited: 2,086)
這篇論文開發一種被稱為深度「Q-網絡」的新型人工智慧體。利用最近在深度神經網絡訓練方面的進展,我們使用一種端到端強化學習策略,直接從高維的傳感輸入中學習成功的策略。此外,這種智能體已經在經典 Atari 2600 遊戲的一些挑戰性領域中的得到了測試。
PDF連結:
https://web.stanford.edu/class/psych209/Readings/MnihEtAlHassibis15
NatureControlDeepRL.pdf
▌6.Faster R-CNN: Towards Real-Time Object Detection with Region Proposal Networks, by Shaoqing R., Kaiming H., Ross B. G. & Jian S. (2015) (Cited: 1,421)
在這項工作中,我們將介紹區域建議網絡(RPN),全卷積圖像特徵,用於實現共享的區域建議檢測網絡。區域建議網絡是一種全卷積神經網絡,它能夠共享檢測區域,並在每個位置同時預測出目標邊界及客觀得分。
PDF連結:
https://arxiv.org/pdf/1506.01497.pdf
▌7.Long-term recurrent convolutional networks for visual recognition and description, by Jeff D., Lisa Anne H., Sergio G., Marcus R., Subhashini V. et al. (2015) (Cited: 1,285)
不同於固定時空感受野(fixed spatio-temporal receptive field)或用於序列數據處理的簡單平均時序模型,循環卷積神經網絡能夠通過「雙重深入」機制,在空間和時間層次實現模型的融合。
PDF連結:
https://arxiv.org/pdf/1411.4389.pdf
▌8.MatConvNet:Convolutional Neural Networks for MATLAB, by Andrea Vedaldi & Karel Lenc (2015) (Cited: 1,148)
這種模型易於使用,並在 MATLAB 中開源了其 CNN 構建塊函數,提供了計算帶濾波器組的線性卷積的路徑,特徵池化等等。這篇論文將概述了卷積神經網絡結構及其在 MatConvNet 中的實現方式,並在每個計算塊的工具箱中給出了相同的技術細節。
PDF連結:
https://arxiv.org/pdf/1412.4564.pdf
▌9.Unsupervised Representation Learning with Deep Convolutional Generative Adversarial Networks, by Alec R., Luke M. & Soumith C. (2015) (Cited: 1,054)
在這項工作中,我們主要關注的是彌合 CNN 在監督學習和無監督學習方面差距。這篇論文中我們將介紹一類帶一定的架構約束 CNN 模型,稱之為深度卷積生成對抗網絡(DCGAN),實驗結果表明它們是一種有前途的非監督學習方式。
PDF連結:
https://arxiv.org/pdf/1511.06434.pdf
▌10.U-Net: Convolutional Networks for Biomedical Image Segmentation, by Olaf R., Philipp F. &Thomas B. (2015) (Cited: 975)
深度神經網絡的成功需要許多帶標註訓練樣本,這是一個共識。在這篇論文裡,我們將提出一種新的網絡結構及訓練策略,以便更有效地使用現有的標註樣本來訓練模型,這完全依賴於強大的數據增強功能。
PDF連結:
https://arxiv.org/pdf/1505.04597.pdf
以上是 2018 年度十大深度學習論文的簡單摘要,關於論文的詳細信息,可以參考每篇論文下面的原文連結。
作者:Kirti Bakshi
原文連結:
https://www.techleer.com/articles/517-a-list-of-top-10-deep-learning-papers-the-2018-edition/
掃描二維碼,關注「人工智慧頭條」
回復「秘籍」獲取 吳恩達機器學習訓練秘籍前19章英文版
☟☟☟點擊 | 閱讀原文 | 閱讀跟多乾貨內容