深度學習三劍客摘得圖靈獎:30年的堅持終被認可

2021-01-19 品玩

因為在深度學習上持之以恆的優秀研究,推動了人工智慧在21前兩個十年的爆發式發展,創造了無數的技術突破——三位名字我們不能更熟悉的計算機科學家,摘得了2018年度的圖靈獎。

沒錯,他們正是被稱為「深度學習三劍客」的 Yoshua Bengio、Geoffery Hinton 和 Yann LeCun!

3月27日,國際計算機學會 ACM 於美國時間凌晨宣布了今年圖靈獎的得主。這一獎項名稱取自計算機先驅艾倫·圖靈 (Alan. M. Turing),獲獎者必須是在計算機領域具有持久而重大的先進性的技術貢獻。

這一獎項對獲獎者的要求極高,評獎程序也極嚴,一般每年只獎勵一名計算機科學家,只有極少數年度有兩名以上在同一方向上做出貢獻的科學家同時獲獎。

而今年,獲獎者為三人。

任何計算機科學領域的人士,特別是從事人工智慧方面的朋友,都不會對 Bengio、Hinton 和 LeCun 的名字感到陌生。

正是這三人的不懈努力,使得深度神經網絡從不被看好的偏門領域,變成如今幾乎所有深度學習人工智慧技術進步的核心技術。

在過去的數十年間,Hinton,LeCun 和 Bengio 三人既有獨立研究又有合作,共同奠定了深度神經網絡領域的概念基礎。他們還進行了大量實驗,發現了這項技術具有令人驚訝的潛力,並進一步在工程上付出努力,證明了深度神經網絡的確實優勢。

國際計算機學會指出:近年來計算機視覺,語音識別,自然語言處理和機器人技術以及其他應用取得驚人突破,皆是因為這三人推動的這一場長達三十年的深度學習革命。

但深度學習並不一直像今天這樣,是計算機科學的大熱領域。在提出之後(主要因為大部分人沒有「看到未來」,以及當時的計算能力跟不上,)深度學習曾遭到學界質疑,不被看好。

而 Bengio、Hinton、LeCun 三人堅持了下來,他們努力克服計算量和數據量不夠的限制,在機器學習特別是深度學習領域發明了許多革命性的、底層性質的技術,如反向傳播 (Backpropagation)、卷積神經網絡 (CNN) 和生成對抗式神經網絡 (GAN)、注意力 (Attention) 等。比如,反向傳播算法目前仍是大部分深度神經網絡的標配。

他們參與發明的技術,也激活了許多充滿想像力的使用場景,為機器學習/深度學習得以被業界接受創造了條件。比如,LeCun 基於機器學習開發的光學字符識別 (OCR) 技術,被美國銀行業廣泛用於後臺的支票處理;Bengio 推動了自然語言理解和處理技術的進步,他參與的研究進入了許多機器翻譯、人工智慧助手類產品。

因此,Bengio、Hinton 和 LeCun 被稱為「深度學習的三劍客」。

也正是因為三人是最早的神經網絡篤信者,雖然大部分時間做各自的研究,其實人生中發生過許多的交集。Hinton 曾開玩笑地表示,三人平均每周都要見一次,而聚會經常以吵架結束。

LeCun、Hinton 和 Bengio喜歡稱他們「深度學習之父」也沒問題,ACM 的聲明小標題裡用的也是"Fathers of the Deep Learning Revolution":)

(這三人,目前也是 Google Scholar 計算機科學領域被引用最為頻繁的三位作者。)

----

Yoshua Bengio

大學本科、碩士和博士畢業於蒙特婁的麥吉爾大學 (McGill University),Bengio 先後在美國麻省理工學院 (MIT) 和 AT&T 貝爾實驗室擔任博士後學者。從1993年開始,Bengio 便一直在加拿大蒙特婁大學計算機系任教。他還創辦了蒙特婁學習算法學院 (MILA)。

國際計算機學會頒發圖靈獎給 Bengio,主要表彰了他在神經網絡概率模型、高維度向量自然語言表徵和注意力機制,以及生成對抗式神經網絡方面的重要貢獻。Bengio 和其他專家合著的《深度學習》,被譽為這一領域內的「聖經」。他還是深度學習學術領域頂級會議 ICLR 的聯合創辦人。

他還為多家人工智慧初創公司出任顧問,而這些公司當中已經有一些被業界巨頭收購。微軟在2017年宣布收購由 Bengio 學生創辦的 Maluuba,而在微軟負責人工智慧科研的全球執行副總裁沈向洋表示,Bengio 將成為微軟以及他本人的顧問。

他還是 Google Scholar 計算機科學領域 H-index 最高,也即論文在近期被引用最多的作者。2018年,Bengio 的論文平均每天被引用131次。

Geoff Hinton

Hinton 本科學習實驗心理學,畢業於劍橋大學國王學院,然後在愛丁堡大學獲得了人工智慧的博士學位。因為在英國找不到足夠的科研資金,Hinton 轉戰美國,先後加入了加州大學聖地牙哥分校和卡內基梅隆大學,最終在加拿大紮下了根,至今在多倫多大學擔任計算機科學教授。

從某種角度來看,Hinton 是上世紀最後一波來自英國計算機科學家的代表。他的學術研究所在地的改變,是北美人工智慧科研騰飛的最佳註腳。

國際計算機學會頒發圖靈獎給 Hinton,主要表彰了他在反向傳播算法、最早神經網絡模型之一的玻爾茲曼機,以及對卷積神經網絡改進等方面的重要貢獻。Hinton 樂於分享他的知識和見解,在吳恩達創辦的 Coursera 上免費教授神經網絡課程。

Google 在2012年收購了 Hinton 參與創辦的 DNNresearch 公司,Hinton 也加入了 Google 兼任副總裁直至今天。不過在一兩年前,他就淡出了 Google 的日常科研和業務,將時間和精力更多放在多倫多大學的教職以及其他學術工作上。

Yann LeCun

在法國巴黎第六大學攻讀博士學位期間,LeCun 提出了反向傳播算法的一個早期版本,得到了 Hinton 的注意。博士畢業後,LeCun 去多大給 Hinton 當了一年的學生。

沒過多久,LeCun 就出走了。在貝爾實驗室,他的才能開始發光,於上世紀末先後發明了多種優秀的神經網絡,比如用於光學字符識別-手寫識別的 Graph Transformer Network,以及卷積神經網絡這種至今仍被廣泛採用的模型。

目前,LeCun 在紐約大學擔任計算機科學和工程學教授,在校期間還創辦了數據科學中心。LeCun 和另一位 NYU 深度學習專家 Gary Marcus 之間關於認知能力(2017年)以及通用人工智慧(2018年 )的兩次辯論,在人工智慧領域非常有名,值得學習和參考。

國際計算機學會頒發圖靈獎給 LeCun,主要表彰了他在卷積神經網絡、改進反向傳播算法,以及擴展神經網絡用途方面的重要貢獻。LeCun 還跟 Bengio 一起創辦了深度學習頂會 ICLR。

2013年,LeCun 加入 Facebook,創辦 Facebook 人工智慧研究院 (FAIR) 並擔任創始院長直到2018年卸任。在任期間,他在一定程度上推動了 Facebook 在產品裡整合人工智慧技術,並且為 Facebook 吸引到了更多深度學習方面的人才。

國際計算機學會將於今年2019年6月15日在舊金山召開圖靈獎頒獎典禮。屆時,矽星人將帶來現場報導。

這一獎項目前由 Google 贊助,總獎金高達100萬美元。

相關焦點

  • 2018圖靈獎公布!Hinton、Bengio、LeCun深度學習三巨頭共享
    這是圖靈獎十年來第三次頒給機器學習領域的傑出貢獻者了:2011 年圖靈獎得主為 Judea Pearl,他開發的概率與因果推理微積分為人工智慧發展做出了重大貢獻。Leslie Gabriel Valiant 獲得了 2010 年圖靈獎,他為計算理論的發展作出了變革性貢獻,包括 PAC 學習理論、並行與分布計算理論等。
  • 圖靈獎花落深度學習「三劍客」 後者曾為師徒和同事
    2018年的圖靈獎(A.M.圖靈獎誕生於1966年,這一獎項名稱取自計算機先驅艾倫·圖靈(AlanMathison Turing)。通常獲獎者必須是在計算機領域具有持續而重大的先進性的技術貢獻,因此被稱為諾貝爾計算機獎,獲獎者將獲得100萬美元的獎金。由於評獎流程極為嚴格,且對獲獎者的要求極高,一般每年圖靈獎只獎勵1名計算機科學家,極少數情況有2名以上在同一方向上做出貢獻的科學家同時獲獎。
  • 北大30人小班豪配兩位圖靈獎導師!清華有「姚班」,北大看「圖靈」
    人的小班,竟然配備了兩位獲得過圖靈獎的導師! 這個30人的小班,不僅匯聚了北大計算機學科最優秀的學子,還配備了包括兩位圖靈獎獲得者在內的最頂尖的師資。 北大校園內流傳著這樣一個說法: 「只要進了北大圖靈班,就等於站在了計算機科學的尖端前沿。」
  • 圖靈獎得主Hinton和 LeCun最新演講:深度學習如何繼續革命?
    新智元原創 來源:ACM編輯:金磊、大明【新智元導讀】6月23日,圖靈獎得主Geoffrey Hinton和Yann LeCun在ACM FCRC 2019上,分別做了題為《深度學習革命》、《深度學習革命:續集》的精彩演講,分享自己的真知灼見,一起來看我們的解讀。深度學習從何而來?又該向哪去?
  • 揭秘三位圖靈獎得主Hinton、LeCun、Bengio的傳奇人生
    整理| 智能菌 出品| 網易智能(公眾號 smartman163) 2019年3月27日,ACM(國際計算機學會)宣布,三位「深度學習之父」約書亞·本吉奧(Yoshua Bengio)、傑弗裡·辛頓(Geoffrey Hinton)和楊樂昆(Yann LeCun) 共同獲得了2018年圖靈獎。
  • 圖靈獎公布:兩位皮克斯「前員工」獲獎,他們為 3D 動畫電影帶來了...
    Catmull 於 1974 年在猶他大學獲得計算機科學博士學位。他的老師包括計算機圖形學之父 Ivan Sutherland 和 1988 年的圖靈獎獲得者。圖丨 2018 年獲獎者、三位深度學習之父——蒙特婁大學教授 Yoshua Bengio、多倫多大學名譽教授 Geoffrey Hinton、紐約大學教授 Yann LeCun(來源:ACM)有趣的是,對比近年來的圖靈獎獲獎名單,似乎與 AI 相關的領域正在受到更多的青睞。上一屆的圖靈獎就選擇了深度學習,大獎就頒給了三位深度學習之父。
  • 2019年的圖靈獎獲得者,是兩位皮克斯動畫工作室「前員工」
    Catmull 2019 年 ACM A.M. 圖靈獎榮譽,以表彰他們對 3D 計算機圖形學的貢獻,以及這些技術對電影製作和計算機生成圖像(CGI)等應用的革命性影響。Catmull 在皮克斯呆了 30 多年,皮克斯後來也成為迪斯尼動畫工作室的子公司。
  • 一文了解72名圖靈獎獲得者
    從「圖靈機」到「圖靈測試」,從破譯德軍的 Enigma 到自殺之謎,圖靈一生都是傳奇,關於圖靈的故事我們不在這裡贅述。今天我們更想聊聊,計算機領域最高獎項 —— 圖靈獎(Turing Award)。為紀念艾倫·麥席森·圖靈在計算機領域的卓越貢獻,美國計算機協會於1966年設立圖靈獎,此獎項被譽為計算機科學界的諾貝爾獎。
  • 新知丨1968年圖靈獎得主——理察·哈明
    這種能找出並糾正數據塊在傳輸過程中出現的錯誤的編碼方法,對於計算機技術和通信技術來說真是太重要了。發明這種編碼技術的理察·哈明(Richard Wesley Hamming,1915-1998)因此而獲得了第三屆即1968年度的圖靈獎。哈明1915年2月11日生於芝加哥。
  • 「深度學習鼻祖」Hinton:抽象推理是機器通向人類智能的最終障礙
    谷歌 I/O 2019 大會的第三天,圖靈獎得主、 Google Brain 高級研究員 Geoffrey Hinton 同《連線》雜誌主編 Nicholas Thompson 進行了一場對話訪談。對話中, Hinton 回顧了他 40 年探索深度神經網絡的經歷,並概述了他對膠囊網絡的最新研究。
  • 南安大學Sebastian Stein博士獲得140萬英鎊圖靈AI加速研究獎
    南安大學Sebastian Stein博士獲得140萬英鎊圖靈AI加速研究獎,用於研究:以市民為中心的人工智慧系統Miguel Hernandez Lobato博士–分子設計的機器學習斯特拉斯克萊德大學的Antonio Hurtado博士–超快人工智慧的光子學伯明罕大學Per Lehre博士–協同進化算法的嚴格時間複雜度分析華威大學的Giovanni Montana教授–推動多智能體深度強化學習在實際應用中的順序決策
  • 圖靈獎得主David Patterson為你解惑
    在活動期間,大會也將進行上海白玉蘭開源開放研究院揭牌、發布《人工智慧開源開放報告》、WAIC 雲帆獎。在今年的開發日主論壇上,機器之心聯合上海交通大學人工智慧研究院特邀請到了多位重磅嘉賓,其中就包括 2017 年圖靈獎得主、計算機體系結構宗師 David Patterson。
  • 響徹世界學術的三大獎項:諾貝爾獎、菲爾茲獎、圖靈獎
    響徹世界學術的三大獎項:諾貝爾獎、菲爾茲獎、圖靈獎。諾貝爾文學獎包括物理、化學、生理學或醫學、文學、和平、經濟學六個領域的獎項;菲爾茲獎是數學獎項,被譽為「數學界的諾貝爾獎」;圖靈獎則是計算機獎項,被譽為「計算機界的諾貝爾獎」。
  • Hinton等6位圖靈獎得主、百餘位頂級學者邀你共話AI下一個十年
    機器之心報導機器之心編輯部Geoffrey Hinton 等 6 位圖靈獎得主親臨,百餘位頂級學者邀請你加入群聊「2020 北京智源大會」,深入系統探討「人工智慧的下一個十年」。自 2009 年深度學習崛起以來,第三波人工智慧浪潮席捲全球,推動了新一波技術革命。
  • 李開復圖靈獎推薦信曝光:AI時代裡,Hinton是最值得嘉獎的人
    李根 唐旭 發自 凹非寺 量子位 報導 | 公眾號 QbitAI3月27日,2018年圖靈獎嘉獎正式揭曉:深度學習三巨頭Yoshua Bengio、Geoffrey Hinton,Yann LeCun一起榮膺計算機領域的最高榮譽。ACM評委會頒獎詞稱:表彰他們以概念和工程的突破,讓深度神經網絡成為計算關鍵部件。
  • Hinton:不要再問神經網絡是不是泡沫 | ACM專訪2018圖靈獎得主
    新智元報導 來源:ACM編輯:小芹、大明【新智元導讀】2018年圖靈獎得主,「深度學習三巨頭」Geoffrey Hinton, Yann LeCun和Yoshua Bengio早年也曾飽受嘲笑,但終於熬過寒冬。近日,ACM通訊對三人進行了專訪。
  • 2020湖南事業單位公共基礎知識:圖靈獎
    圖靈獎是美國計算機協會於1966年設立的,又叫"A.M.圖靈獎",專門獎勵那些對計算機事業作出重要貢獻的個人。其名稱取自計算機科學的先驅英國科學家艾倫·圖靈,這個獎設立目的之一是紀念這位科學家。下面我們就將圖靈獎的相關考點內容和各位考生進行分享。
  • 什麼樣的AI大會,光圖靈獎得主就邀請了6位!千萬別看門票價格
    你看看嘉賓都有誰:全球大牛參與所有嘉賓中,光圖靈獎得主就有6位:Geoffrey Hinton,深度學習三巨頭之一,和另外兩位Yoshua Bengio、Yann LeCun一起榮獲2018年圖靈獎。這也是與中國淵源頗深的Hinton,第一次參與中國AI組織主辦的AI大會及活動。
  • 圖靈獎得主Bengio明星創業公司被「賤賣」!曾融資數億美元
    這家公司位於加拿大蒙特婁,曾因其創始人為圖靈獎得主、「深度學習教父」Yoshua Bengio而風光無限、前途無量。然而,早在幾周前,就有Element AI將被美國雲計算平臺服務商ServiceNow收購的消息。
  • SIGIR2020|圖靈獎得主Hinton:無監督對比學習將是神經網絡的未來
    【新智元導讀】7月27日上午,第43屆國際信息檢索大會(SIGIR 2020)線上開啟,圖靈獎得主Geoffrey Hinton作了主題演講,今天我們就跟隨Hinton一起走進「神經網絡的新時代」。人工神經網絡一直懸而未決的問題是如何像大腦一樣有效地進行無監督學習。