因為在深度學習上持之以恆的優秀研究,推動了人工智慧在21前兩個十年的爆發式發展,創造了無數的技術突破——三位名字我們不能更熟悉的計算機科學家,摘得了2018年度的圖靈獎。
沒錯,他們正是被稱為「深度學習三劍客」的 Yoshua Bengio、Geoffery Hinton 和 Yann LeCun!
3月27日,國際計算機學會 ACM 於美國時間凌晨宣布了今年圖靈獎的得主。這一獎項名稱取自計算機先驅艾倫·圖靈 (Alan. M. Turing),獲獎者必須是在計算機領域具有持久而重大的先進性的技術貢獻。
這一獎項對獲獎者的要求極高,評獎程序也極嚴,一般每年只獎勵一名計算機科學家,只有極少數年度有兩名以上在同一方向上做出貢獻的科學家同時獲獎。
而今年,獲獎者為三人。
任何計算機科學領域的人士,特別是從事人工智慧方面的朋友,都不會對 Bengio、Hinton 和 LeCun 的名字感到陌生。
正是這三人的不懈努力,使得深度神經網絡從不被看好的偏門領域,變成如今幾乎所有深度學習人工智慧技術進步的核心技術。
在過去的數十年間,Hinton,LeCun 和 Bengio 三人既有獨立研究又有合作,共同奠定了深度神經網絡領域的概念基礎。他們還進行了大量實驗,發現了這項技術具有令人驚訝的潛力,並進一步在工程上付出努力,證明了深度神經網絡的確實優勢。
國際計算機學會指出:近年來計算機視覺,語音識別,自然語言處理和機器人技術以及其他應用取得驚人突破,皆是因為這三人推動的這一場長達三十年的深度學習革命。
但深度學習並不一直像今天這樣,是計算機科學的大熱領域。在提出之後(主要因為大部分人沒有「看到未來」,以及當時的計算能力跟不上,)深度學習曾遭到學界質疑,不被看好。
而 Bengio、Hinton、LeCun 三人堅持了下來,他們努力克服計算量和數據量不夠的限制,在機器學習特別是深度學習領域發明了許多革命性的、底層性質的技術,如反向傳播 (Backpropagation)、卷積神經網絡 (CNN) 和生成對抗式神經網絡 (GAN)、注意力 (Attention) 等。比如,反向傳播算法目前仍是大部分深度神經網絡的標配。
他們參與發明的技術,也激活了許多充滿想像力的使用場景,為機器學習/深度學習得以被業界接受創造了條件。比如,LeCun 基於機器學習開發的光學字符識別 (OCR) 技術,被美國銀行業廣泛用於後臺的支票處理;Bengio 推動了自然語言理解和處理技術的進步,他參與的研究進入了許多機器翻譯、人工智慧助手類產品。
因此,Bengio、Hinton 和 LeCun 被稱為「深度學習的三劍客」。
也正是因為三人是最早的神經網絡篤信者,雖然大部分時間做各自的研究,其實人生中發生過許多的交集。Hinton 曾開玩笑地表示,三人平均每周都要見一次,而聚會經常以吵架結束。
LeCun、Hinton 和 Bengio喜歡稱他們「深度學習之父」也沒問題,ACM 的聲明小標題裡用的也是"Fathers of the Deep Learning Revolution":)
(這三人,目前也是 Google Scholar 計算機科學領域被引用最為頻繁的三位作者。)
----
Yoshua Bengio
大學本科、碩士和博士畢業於蒙特婁的麥吉爾大學 (McGill University),Bengio 先後在美國麻省理工學院 (MIT) 和 AT&T 貝爾實驗室擔任博士後學者。從1993年開始,Bengio 便一直在加拿大蒙特婁大學計算機系任教。他還創辦了蒙特婁學習算法學院 (MILA)。
國際計算機學會頒發圖靈獎給 Bengio,主要表彰了他在神經網絡概率模型、高維度向量自然語言表徵和注意力機制,以及生成對抗式神經網絡方面的重要貢獻。Bengio 和其他專家合著的《深度學習》,被譽為這一領域內的「聖經」。他還是深度學習學術領域頂級會議 ICLR 的聯合創辦人。
他還為多家人工智慧初創公司出任顧問,而這些公司當中已經有一些被業界巨頭收購。微軟在2017年宣布收購由 Bengio 學生創辦的 Maluuba,而在微軟負責人工智慧科研的全球執行副總裁沈向洋表示,Bengio 將成為微軟以及他本人的顧問。
他還是 Google Scholar 計算機科學領域 H-index 最高,也即論文在近期被引用最多的作者。2018年,Bengio 的論文平均每天被引用131次。
Geoff Hinton
Hinton 本科學習實驗心理學,畢業於劍橋大學國王學院,然後在愛丁堡大學獲得了人工智慧的博士學位。因為在英國找不到足夠的科研資金,Hinton 轉戰美國,先後加入了加州大學聖地牙哥分校和卡內基梅隆大學,最終在加拿大紮下了根,至今在多倫多大學擔任計算機科學教授。
從某種角度來看,Hinton 是上世紀最後一波來自英國計算機科學家的代表。他的學術研究所在地的改變,是北美人工智慧科研騰飛的最佳註腳。
國際計算機學會頒發圖靈獎給 Hinton,主要表彰了他在反向傳播算法、最早神經網絡模型之一的玻爾茲曼機,以及對卷積神經網絡改進等方面的重要貢獻。Hinton 樂於分享他的知識和見解,在吳恩達創辦的 Coursera 上免費教授神經網絡課程。
Google 在2012年收購了 Hinton 參與創辦的 DNNresearch 公司,Hinton 也加入了 Google 兼任副總裁直至今天。不過在一兩年前,他就淡出了 Google 的日常科研和業務,將時間和精力更多放在多倫多大學的教職以及其他學術工作上。
Yann LeCun
在法國巴黎第六大學攻讀博士學位期間,LeCun 提出了反向傳播算法的一個早期版本,得到了 Hinton 的注意。博士畢業後,LeCun 去多大給 Hinton 當了一年的學生。
沒過多久,LeCun 就出走了。在貝爾實驗室,他的才能開始發光,於上世紀末先後發明了多種優秀的神經網絡,比如用於光學字符識別-手寫識別的 Graph Transformer Network,以及卷積神經網絡這種至今仍被廣泛採用的模型。
目前,LeCun 在紐約大學擔任計算機科學和工程學教授,在校期間還創辦了數據科學中心。LeCun 和另一位 NYU 深度學習專家 Gary Marcus 之間關於認知能力(2017年)以及通用人工智慧(2018年 )的兩次辯論,在人工智慧領域非常有名,值得學習和參考。
國際計算機學會頒發圖靈獎給 LeCun,主要表彰了他在卷積神經網絡、改進反向傳播算法,以及擴展神經網絡用途方面的重要貢獻。LeCun 還跟 Bengio 一起創辦了深度學習頂會 ICLR。
2013年,LeCun 加入 Facebook,創辦 Facebook 人工智慧研究院 (FAIR) 並擔任創始院長直到2018年卸任。在任期間,他在一定程度上推動了 Facebook 在產品裡整合人工智慧技術,並且為 Facebook 吸引到了更多深度學習方面的人才。
國際計算機學會將於今年2019年6月15日在舊金山召開圖靈獎頒獎典禮。屆時,矽星人將帶來現場報導。
這一獎項目前由 Google 贊助,總獎金高達100萬美元。