幾個主要機構在ICML 2019投遞的論文中重點關注的方向

2020-12-25 電子發燒友

今年 6 月，機器學習領域頂會 ICML 2019 將在美國舉行。為了幫助大家更好了解會議論文的情況，博世（Bosch）的分析人員對 ICML 2019 的論文進行了可視化分析。營長在此基礎上進一步對比了 2018 和 2019 兩年的論文接收情況，並重點分析了幾個主要機構在 ICML 2019 投遞的論文中重點關注的方向。

ICML 是在人工智慧研究者中享有盛譽的頂級會議，被該會議接收的論文數量一定程度上也代表了各高校企業的科研實力。今年 4 月，ICML 2019 官網公布了已接受的論文列表 ，為了幫助大家更好的了解 ICML 2019 的情況，在接下來的內容中，首先會對比 ICML 2018 和 ICML 2019 兩年被接收論文的研究機構的情況；在第二部分，會對 ICML 2019 論文接收列表進行可視化分析；最後，營長列出今年幾個重點機構關注的研究方向。希望本文能夠幫助大家對 ICML 會議有更加深入的了解。

據悉，ICML 2019 即將於 6 月 10 日至 15 日在美國長灘召開，CVPR 2019 也將於 6 月 16 日接棒在長灘召開，營長建議能去現場參會的小夥伴們，ICML 結束後，不妨再去 CVPR 逛逛，相信會有不小的收穫。

對比 ICML 2018

排名前20的機構對比

為了進一步了解 ICML 2018 與 2019 兩年接收論文的情況，營長根據論文第一作者的通訊單位對這兩年的論文進行統計與可視化，這裡主要展示論文接收數量排名前 20 的高校或企業。

（圖：AI科技大本營統計）

通過對比 2018 年和 2019 年的論文接收情況可以發現，谷歌依舊強勢領跑，如果將 DeepMind 的接收論文也統計在內，今年，一作以 Google 發表的論文數量達到了 60 篇，署名 Google 的論文總數高達104篇，科研實力可見一斑。緊隨其後的就是以史丹福大學、MIT、CMU、UC伯克利為首的一流高校，他們都保持著論文高產的穩定趨勢。另外，歐洲的一些研究機構也榜上有名，比如 ETH、EPFL、INRIA 等學術機構。

通過上圖的統計還可以發現， ICML 會議論文的主要貢獻者還是學術研究機構，谷歌僅憑一己之力難以跟高校隊對抗，這和對整體情況的分析保持一致。特別要提出的是，相比於 ICML 2018，國內的研究成果有著顯著地進步，清華大學以一作論文 14 篇的成績位居第 9 名，北京大學也進入了前 20 名的行列。雖然與國外高校還存在一定的差距，但這樣的進步讓我們看到了國內大學在人工智慧領域不斷的努力與探索。

國內高校論文接收情況對比

接下來重點看一下國內的研究成績單。下圖展示了國內學界與業界論文接收情況的對比，可以看出，相較去年，今年國內高校的研究成果都有大幅提升：以清華、北大為首，南京大學、上海交通大學與香港中文大學緊隨其後。在南京大學接收的 4 篇論文中，周志華教授有 2 篇研究論文入選。

（圖：AI科技大本營統計）

今年，國內企業在 ICML 會議上的成果則顯得較為低調，據目前公開資料統計，僅有少量的研究成果，其中，騰訊、阿里巴巴等科技公司依然領跑。

ICML 2019 可視化

排名前50的論文貢獻機構

博世對 ICML 2019 論文貢獻機構的可視化分析

在上圖中，博世對具有從屬關係的機構進行了合併，例如 Google 包含了 Google Inc.、Google AI、Google UK 。該排名以機構貢獻的論文總數為準。其中，紅色代表以一作發表論文的數量，綠色代表論文的最後一位署名作者屬於該機構。

可以看到，在排名前 10 的機構中，學術機構和公司基本各佔一半，但 Google 的接收論文的總數遙遙領先。

博世對 ICML 2019 論文貢獻機構的可視化分析-僅包含學術機構

博世對 ICML 2019 論文貢獻機構的可視化分析-僅包含企業

博世的分析人員也對學界和業界的論文接收情況分別進行了分析。可以發現，在學界，國外排名前四的高校分別為 MIT、UC伯克利、史丹福大學和 CMU。國內院校，清華大學、北京大學、南京大學、上海交通大學、香港中文大學上榜。國外企業成果方面，排名前四的機構為 Google、微軟、 Facebook 和 IBM 。國內企業中，騰訊、阿里巴巴、華為、百度等榜上有名。

（圖：AI科技大本營統計）

通過對比學界和業界的論文數量，博世的分析人員認為， ICML 2019 仍為一場學術界佔主導的會議。學界、工業界機構署名論文比例如圖所示。

（圖：AI科技大本營統計）

通過對論文數量進行累加，得到學界和工業界的論文數量分布如圖所示。

排名前 100 的論文作者

博世的分析人員對論文作者也進行了統計，並給出了排名前 100 的論文作者可視化圖表，並對獨立作者、一作、最後一名作者進行了單獨區分，分別用黃色、紅色和綠色表示。

博世對 ICML 2019 論文作者的可視化分析

通過排名統計顯示可看到， Michael Jordan 有7篇論文被接收，排名第一； EPFL 的 Volkan Cevher 和 UC Berkley 的 Sergey Levine 各有 6 篇論文，並列第二。在國內的學者中，清華大學的朱軍、微軟亞研的劉鐵巖、清華大學龍明盛等研究者都有 4 篇論文被接收。

博世對獨立作者和一作的可視化分析

為了對作者排名有更詳細的分析，博世對獨立作者和一作作者進行了單獨的可視化分析。其中，黃色代表獨立作者，橙色代表一作。

另外，考慮到實驗室或研究團隊的領頭人一般都為論文的最後一名署名作者，為了解機器學習領域的資深研究者，博世對最後一名作者的情況進行了可視化，如下圖。

各家研究重點

介紹完各個學術機構與企業在 ICML 2019 上的表現，我們來看一下幾個重點機構發表論文的主要關注內容。

Google&DeepMind

作為 ICML 接收論文的第一產出企業，谷歌正在研究的內容基本上可以代表現在人工智慧領域比較熱門與前沿的問題。接收的論文大多關於強化學習、隨機理論、深度學習、大規模機器學習、對抗生成網絡等熱門問題，同時也包括如文本翻譯、音樂自動生成等應用方面的研究。雖然 Google 接收的論文數量很多，但營長仍然建議讀者簡要看一下論文，有助於緊跟科研前沿。

CMU

今年，卡內基梅隆大學最先放出了署名為 CMU 的 ICML 2019 接收論文，共有 33 篇，比許多企業都早。卡耐基梅隆大學提交的論文研究內容主要關於核優化、強化學習、遷移學習、深度學習基礎理論等方面。論文涉及的研究問題非常多樣，具體的研究內容可以等論文全部放出來後，進行深入閱讀和研究。

清華大學

清華大學在 ICML 2019 的表現非常搶眼，其中朱軍教授帶領的研究團隊就有四篇論文被接收。朱軍教授創建了貝葉斯深度學習庫，能夠支持多種生成模型，如話題模型、變分貝葉斯等等。清華大學在今年 ICML 會上提交論文的研究重點則涉及變分貝葉斯加速、遷移學習、深度學習優化等問題。可見機器學習與深度學習的基礎理論研究仍是研究熱點。

總結

以上就是營長為大家提供的 ICML 會議論文情況，希望通過閱讀本文，大家對 ICML 會議有了更深入的了解。文中所有引用的數據均根據公開資料顯示，如有數據誤差、統計不全，可與 AI科技大本營編輯部聯繫，後續論文跟蹤與報導還可以繼續關注我們！

最後附上論文接受列表：

https://icml.cc/Conferences/2019/AcceptedPapersInitial

打開APP閱讀更多精彩內容

聲明：本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人，不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用，如有內容圖片侵權或者其他問題，請聯繫本站作侵刪。 侵權投訴

相關焦點

  • ICML 2019最佳論文出爐 ETH、谷歌、劍橋分獲大獎
    論文錄取結果地址：https://icml.cc/Conferences/2019/AcceptedPapersInitial?本文從理論和實踐兩方面對這一領域中普遍存在的一些假設提出了挑戰。本研究的主要貢獻可概括如下:我們在理論上證明，如果沒有對所考慮的學習方法和數據集產生歸納偏置，那麼解耦表示的無監督學習基本上是不可能的。我們在一項可重複的大規模實驗研究中研究了當前的方法及其歸納偏置，該研究採用了完善的無監督解耦學習實驗方案。
  • ICML 2019論文接收結果可視化:清華、北大、南大榜上有名
    ICML 2019（國際機器學習）大會將於6月9日至15日在美國加州舉辦。大會共收到3424篇論文投稿，其中774篇被接收（接收率為22.6%）。近日，博世的分析人員根據接收論文列表做出了一份可視化圖表，從中可以看出各機構和作者的論文貢獻情況。
  • ICML 2019收錄774篇論文:谷歌153篇,清華北大26篇
    如果想獲得清晰完整大圖，請在我們的公眾號中回復ICML獲取。機構排名下圖展示了各個公司被收錄文章數量排名。條件是論文中至少有一位作者來自該機構，因此一篇論文可以出現在多個機構中。圖片: 圖表中，以藍色表示作者與機構的隸屬關係，第一作者以紅色表示，通訊作者以藍色表示。
  • 北理工研二學生獲傑出論文獎!ICML 2020 大陸論文量居前三,各獎項出爐!
    剛剛，ICML 2020 公布了本屆傑出論文獎和傑出論文榮譽提名獎（各兩篇），其中北理工研二學生魏愷軒為一作的論文獲得了傑出論文獎，主題為開發用於自動搜索參數的策略網絡。另外，來自英偉達、斯坦福等機構的研究者也摘得傑出論文獎。
  • ICML 2019必看!87頁超強幹貨博士筆記總結
    接收論文列表：https://icml.cc/Conferences/2019/AcceptedPapersInitial那麼ICML 2019會場都有誰上臺演講了？他們都講了什麼？基於大規模的實驗結果，研究人員對這一領域的一些假設產生了質疑，並為解耦學習的未來發展方向給出了建議。此外，研究人員還同時發布了研究中所使用的代碼和上萬個預訓練模型，並封裝了 disentanglement_lib 供研究者進行實驗復現和更深入的探索。
  • 不被Hinton認同,否定同行成果,谷歌這篇研究拿下ICML最佳論文
    有兩篇論文，從千軍萬馬中脫穎而出，成為ICML 2019最佳論文。這份大獎花落誰家？谷歌等一篇名為《挑戰無監督分離式表徵的常見假設》的論文，表明 (沒有歸納偏置的) 無監督方法學不到可靠的分離式表徵 (Disentangled Representations) 。
  • ICML 2019最佳論文:測試12000個模型後,谷歌質疑現有無監督分離式表徵學習
    ICML 2019接收論文貢獻數排名前50的機構（學界機構和業界機構）論文錄取結果地址：https://icml.cc/ConferencesBurt，其主要研究領域是貝葉斯非參數和近似推理。，成功攻破了8 篇有關防禦對抗樣本的研究中的7篇。
  • 一文速覽ICML2020高引論文與華人作者
    接下來讓我們看看截至目前引用量較高的本次 ICML 會議論文以及中國機構和華人的表現吧。ICML AMiner：https://www.aminer.cn/conf/icml2020ICMl2020高引用量的論文Aminer 開發的 ICML 2020 頂會系統給出了本屆會議引用量排名靠前的論文。
  • ICML進行時|一文看盡獲獎論文及Google、Facebook、微軟、騰訊的最新科研成果
    Liu、Sarah Dean、Esther Rolf、Max Simchowitz 和 Moritz Hardt 的論文同樣也獲得了最佳論文獎。在這個研究中，關注機器學習公平性的靜態分類標準如何與暫時的利益指標相互作用。總結了三個標準準則的延遲影響，強調評估公平性準則的度量和時序建模的重要性等一系列的新挑戰和權衡問題。
  • 硬核ICML 2019最佳論文出爐
    機器學習頂級會議ICML 2019（國際機器學習大會）已於6月9日在美國加州開幕。本屆大會共收到3424篇論文投稿，其中774篇被接收（接收率為22.6%）。今日，大會放出了最佳論文。值得關注的是，ETH Zurich、谷歌大腦等機構的論文《挑戰無監督學習中解耦表徵的一般假設》提出了一個與此前學界普遍預測相反的看法：對於任意數據，擁有相互獨立表徵（解耦表徵）的無監督學習是不可能的！在大會上，獲獎論文的部分作者也現場進行了演講。
  • 數千人頂會的乾貨,ICML、CVPR2019演講視頻資源在此
    機器之心整理 參與：李亞洲 不久之前，兩大人工智慧國際頂會 ICML 2019、CVPR 2019 相繼在美國加州長灘落幕。沒能現場參會如何學習大會內容？近日，這兩場大會的相關視頻已經放出，感興趣的讀者可通過視頻學習。
  • ICML 2018 | 清華排名國內居首:大會論文接收情況一覽
    本文介紹了在瑞典斯德哥爾摩舉行的機器學習技術國際會議（ICML）中接收論文的情況。[ 導讀 ] ICML 2018 於 7 月 10 日在瑞典斯德哥爾摩舉行，今日該會議公布了接收論文列表，本次會議共收到 2473 篇論文，621 篇被接收，接收率為 25.1%（與去年基本持平）。
  • 近期必讀的六篇 ICML 2020【對比學習】相關論文
    為了理解什麼使對比預測任務能夠學習有用的表示，我們系統地研究了我們框架的主要組成部分。我們表明：(1)數據增強部分在定義有效的預測任務中起著關鍵作用；(2)在表示和對比損失之間引入可學習的非線性變換大大提高了學習表示的質量；(3)與監督學習相比，對比學習受益於更大的batch和更多的訓練。結合這些發現，我們能夠在ImageNet上顯著優於以往的自監督和半監督學習方法。
  • 西安電子科技大學團隊論文被機器學習頂會ICML2020錄用
    未來網高校頻道6月30日訊(記者 楊子健 通訊員 馮毓璇）第37屆國際機器學習大會(International Conference on Machine Learning,https://icml.cc/)將於07月13日—07月18日，通過線上舉行。
  • 畢業論文的幾個主要步驟,先收著,以後用得到!
    開題報告主要包括以下幾個方面：（一）論文名稱論文名稱就是課題的名字第一，名稱要準確、規範。（八）論文寫作的步驟論文寫作的步驟，也就是論文寫作在時間和順序上的安排。論文寫作的步驟要充分考慮研究內容的相互關係和難易程度，一般情況下，都是從基礎問題開始，分階段進行，每個階段從什麼時間開始，至什麼時間結束都要有規定。課題研究的主要步驟和時間安排包括：整個研究擬分為哪幾個階段；各階段的起止時間文獻綜述怎麼寫1) 什麼是文獻綜述?
  • ICML 2019最佳論文:谷歌質疑現有無監督分離式表徵學習
    另外，還有七篇論文獲得提名獎。今年的論文錄取競爭異常激烈，ICML 2019共提交了3424篇論文，其中錄取774篇，論文錄取率為22.6%。錄取率較去年ICML 2018的25%有所降低。ICML 2019接收論文貢獻數排名前50的機構（學界機構和業界機構）最佳論文一：谷歌幾乎全面否定了現有的同行成果第一篇最佳論文的作者來自蘇黎世聯邦理工學院(ETH Zurich)、MaxPlanck 智能系統研究所及谷歌大腦。
  • ICML 2020 放榜:北理工碩士一作拿下傑出論文獎,清華大學佔據國內...
    論文標題：Gaussian Process Optimization in the Bandit Setting:No Regret and Experimental Design 論文連結：https://icml.cc/Conferences/2010/papers/422.pdf 這篇文章十年前發表在
  • 清華大四本科生2篇一作論文入選ICML 2020,後浪果然翻湧
    入選論文創新高，共有1088篇論文突出重圍。然而，接收率卻是一年比一年低，這次僅為21.8%（去年為22.6%，前年為24.9%）。從整個榜單上看，谷歌仍為最強實力機構，共有138篇收錄（數據包含谷歌大腦、DeepMind）。
  • 一覽CMU 的 33 篇 ICML 2019 論文
    雷鋒網 AI 科技評論按：機器學習頂會 ICML 2019 近期公布了接收論文清單，多家企業研究院也按慣例介紹了自己的錄用論文。不過新鮮的是，今年卡耐基梅隆大學（CMU）也專門發博客列出了來自 CMU 師生的錄用論文，一共有 33 篇之多。
  • ICML 2017首日公布兩大獎項:史丹福大學獲最佳論文獎
    在大會的第一天下午，備受關注的本屆大會最佳論文等獎項也已公布。ICML 是計算機科學領域的頂會之一。在機器之心昨日的文章《計算機領域頂級科學家、學術會議、期刊影響力排名（附國內排名）》中，根據 Google Scholar Metrics 的 H5-Index 值作出的排名可以看出，ICML 在計算機科學領域眾多會議中位列第四。