谷歌大腦48名成員:斯坦福博士最多,還有一名輟學90後

2020-12-05 觀察者網

本文轉自微信公眾號「量子位」(ID:QbitAI),轉載請聯繫原作者。

作者:李根 若樸 李林 發自 凹非寺

以下為全文:

人類第一次發現貓的記錄已無從查證,但機器第一次「發現」貓是在5年前的今天。

當是時,谷歌大腦(Google Brain)團隊成員Jeff Dean和吳恩達等通過深度學習技術,成功讓16000臺電腦學習1000萬張圖片後,在YouTube視頻中「認出」了貓。

對於大眾而言,這可能是第一次獲知深度學習的威力,也是第一次獲知谷歌大腦的存在。

不過,即便是該消息報導者,《紐約時報》作家約翰·馬爾科夫,或許也難以在美國東部時間2012年6月25日預料到:這個現象及其背後的技術,將如此迅速而深刻地為一個時代的變革拉開序幕。

毫不誇張地說,這可能是人類科技變革史上最狂飆突進的5年,由一隻「貓」開始。

那麼,谷歌大腦現在什麼樣了?

揭秘谷歌大腦

成立於2011年的谷歌大腦,目前有正式成員48名,團隊負責人是傳奇人物Jeff Dean。

在這個團隊中,還包括部分供職的泰鬥級人物Geoffrey E. Hinton,以及Martín Abadi、Michael Burrows等資深科學家。另外,谷歌首席科學家Vincent Vanhoucke也在谷歌大腦團隊中。

那麼這些天才的工程師都在研究什麼?

20大研究領域

如上圖所示,谷歌大腦成員的研究範圍,主要包括在20大領域。涉及算法和理論、分布式系統和並行計算、機器智能、機器感知等等。不同的成員,涉獵的研究範圍也不一樣。

量子位在這裡就部分領域略做解釋。

分布式系統及平行計算

讓多臺計算機高效地協同工作,才有了Google從全世界獲取信息,然後將它們分發出去的能力。現在,分布式系統和平行計算領域仍然存在著這些激動人心的挑戰:並發控制、容錯、算法能效、通訊。

機器智能

Google的研究實際上覆蓋了機器學習的方方面面,包括深度學習和那些經典算法。通過對這些理論極其應用的探索,Google在自然語言、語音、翻譯、視覺處理、排序、預測等成果都依賴於機器智能。

機器感知

這一領域的研究是為了解決圖像、聲音、音樂和視頻理解上的難題。

自然語言處理(NLP)

Google在NLP領域的研究專注於可以大規模、跨語言、跨領域應用的算法。

在句法上,Google可以預測句中每個詞的詞性、以及性、數變換,還可以標記出詞之間的關係,例如主語、賓語、修飾詞等。

在語義上,Google的系統可以從文本中識別出人、地點、組織機構等,並將不同文檔中的這些實體提取出來,構成知識圖譜。

70、80後是主力

構成谷歌大腦團隊的成員,主要以70後和80後為主,年齡更大和更小的成員,基本算是鳳毛麟角。

如上圖所示,70後成員達21人,80後成員19人。谷歌大腦負責人Jeff Dean出生於1968年,算是其中年齡非常大的同志了。不過年紀最大的,還得算已經年屆70的Geoffrey E. Hinton。

量子位前不久還獨家對話了Jeff Dean。

年齡最小的成員應該是Christopher Olah,他也是唯一的90後。而且他應該沒有讀完本科的課程,2012年拿了Peter Thiel的10萬美元的Fellowship半路輟學了。

另外,谷歌大腦團隊中的女性成員數量為3人。

斯坦福博士生最多

谷歌大腦團隊成員,90%以上都擁有博士學位。當然其中也有部分成員沒有博士學位。

這些博士都來自哪些學校?答案見下圖。

史丹福大學畢業的博士最多。來自加拿大蒙特婁大學的博士排名第二。來自加州大學伯克利分校的博士排名第三。

根據量子位的統計,這些博士中以Yoshua Bengio為導師的學生最多,全部都畢業自蒙特婁大學。

另外,Yoshua Bengio的兄弟Samy Bengio也在谷歌大腦團隊中。上圖左邊為Samy右邊為Yoshua。

華裔成員數量排第二

谷歌大腦團隊的成員來自全球14個國家。根據量子位不算太嚴謹的統計,華裔成員排名第二,共計五個人。之所以說不太嚴謹,是因為諸如美國本土的成員,具體屬於什麼族群並不太容易進行細分。

可以看到除了華裔之外,來自英國、加拿大、法國等成員也較多。

五位華裔成員,只有Andrew M. Dai本科和博士都畢業於英國。其餘的四位,Jianmin Chen本科畢業於北郵,Jie Tan本科畢業於上海交大,Yonghui Wu本科畢業於南京大學,Xiaoqiang Zheng本科畢業於清華。

其中Yonghui Wu目前是谷歌大腦的首席軟體工程師。

平均供職超5年

所有谷歌大腦48名成員中,平均入職谷歌的時間為5.25年。

其中時間最長的Jeff Dean已經加入谷歌18年。大部分成員都是在2007、2010、2012、2013、2015這幾年加入谷歌,約佔74%。

看起來2015年後,谷歌大腦的擴軍速度有所放緩。

推薦閱讀

除了上面的信息,谷歌大腦成員最近還參與發布了好幾篇非常有趣的論文,尤其是部分標題更是一個賽一個的聳動。

貼在這裡,有興趣的同學可以感受一下:

One Model To Learn Them All

https://arxiv.org/abs/1706.05137

Lukasz Kaiser, Aidan N. Gomez, Noam Shazeer, Ashish Vaswani, Niki Parmar, Llion Jones, Jakob Uszkoreit

Attention Is All You Need

https://arxiv.org/abs/1706.03762

Ashish Vaswani, Noam Shazeer, Niki Parmar, Jakob Uszkoreit, Llion Jones, Aidan N. Gomez, Lukasz Kaiser, Illia Polosukhin

Depthwise Separable Convolutions for Neural Machine Translation

https://arxiv.org/abs/1706.03059

Lukasz Kaiser, Aidan N. Gomez, Francois Chollet

A Neural Representation of Sketch Drawings

https://arxiv.org/abs/1704.03477

David Ha, Douglas Eck

Attention-based Extraction of Structured Information from Street View Imagery

https://arxiv.org/abs/1704.03549

Zbigniew Wojna, Alex Gorban, Dar-Shyang Lee, Kevin Murphy, Qian Yu, Yeqing Li, Julian Ibarz

Large-Scale Evolution of Image Classifiers

https://arxiv.org/abs/1703.01041

Esteban Real, Sherry Moore, Andrew Selle, Saurabh Saxena, Yutaka Leon Suematsu, Jie Tan, Quoc Le, Alex Kurakin

Neural Architecture Search with Reinforcement Learning

https://arxiv.org/abs/1611.01578

Barret Zoph, Quoc V. Le

谷歌大腦大事記

2011年創立:起初只是Google X計劃中的項目,由Google Fellow Jeff Dean 、Google研究員Greg Corrado,和當時還在斯坦福任教的教授吳恩達共同發起,他們利用業餘時間把深度學習技術帶到了人工智慧問題的解決中,並建立起了第一代大型深度學習軟體系統,DistBelief。

2012年6月「認貓事件」:Google大腦用16000臺電腦模擬人類電腦的活動,並在基於1000萬張圖像學習後,成功在YouTube視頻中找出了「貓」——即機器擁有了圖像學習和辨識方面的能力。

2013年3月收購DNNResearch:收購DNNResearch 公司,DNNResearch創始人Geoffrey Hinton由此進入Google大腦團隊工作,不過他保留在多倫多大學的教職。

插播一句:2014年1月,谷歌收購DeepMind,成為谷歌大腦之外另一個研究人工智慧方向的團隊。

2015年11月,谷歌大腦團隊開發的TensorFlow正式開源發布。目前已經是深度學習領域佔據絕對統治地位的框架。

2016年9月谷歌翻譯突破:推出神經機器翻譯(GNMT),不僅能提升機器翻譯的質量,還可以直接實現多語言之間的zero-shot翻譯,即可以翻譯從未學過的語言。

相關焦點

  • 又一名博士選擇自殺,中科大再次躺槍,美國史丹福大學的中國博士
    美國新聞截圖26歲史丹福大學博士自殺就在中科大失聯博士劉春楊被發現在水庫自殺不久,又有一名中科大的學子選擇自殺,而這位優秀的中科大學霸在美國史丹福大學攻讀博士學位,根據美國當地媒體資料顯示,這名中國博士生是斯坦福材料科學與工程系在讀,主攻可變電阻式記憶體和計算機存儲器的研究。
  • 從清潔工到斯坦福教授,一路開掛的她入選美國國家醫學科學院
    10月19日,美國國家醫學科學院(National Academy of Medicine)在年度會議上宣布了新入選的90名正式成員和10名國際成員。今天,我們要給大家介紹的,就是這位打過零工,33歲拿到斯坦福副教授職位,後入職谷歌又重返斯坦福,還當選了美國工程院院士的「華人AI女神」李飛飛。
  • 從清潔工到斯坦福教授,一路開掛的她近日入選美國國家醫學科學院
    本文由募格學術整理於新智元、NAM新京報、環球人物等10月19日,美國國家醫學科學院(National Academy of Medicine)在年度會議上宣布了新入選的90名正式成員和10名國際成員。
  • 「矽谷教父」亨尼斯、谷歌工程師帕特森獲今年圖靈獎
    另外一位獲獎者帕特森,在2016年從加收大學伯克利分校退休後加入了谷歌大腦(Google brain),正式成為TPU項目團隊成員。到20世紀90年代中期,RISC微處理器在整個行業佔據了主導地位。計算機領域裡的「聖經」這兩人的成就還不僅僅體現在推動計算機體系結構的商業化上。作為史丹福大學的校長和加州大學伯克利分校的教授,亨尼斯和帕特森還共同編著了計算機領域裡的經典教材:《計算機體系結構:量化研究方法》。
  • 臉書,谷歌及矽谷頂尖創投對哪些大學、專業的畢業生最青睞?
    美國的科技公司一直以來都處在全球科技創新的最前沿,這些科技巨頭如FLAG(臉書、領英、亞馬遜和谷歌)最喜歡招募來自於哪些學校的人才呢?根據IntelliPro對領英數據的分析,谷歌和臉書的員工主要三大學校來源完全相同!來自加州大學伯克利分校(以下簡稱伯克利)的最多,第二是史丹福大學,第三是卡耐基梅隆大學。
  • 《紐約時報》深度剖析谷歌大腦簡史
    2011年開始,谷歌大腦開始用這一方法進軍人工智慧,希望能解決傳統方法嘗試了數十年都沒有突破的難題。語音識別此前一直做得不好,但是谷歌大腦採用新方法後,讓安卓手機上的語音識別幾乎做到了人類水平。在圖像識別上也是如此,一年多以前,谷歌大腦首次把這一技術應用到了商業化的產品中。谷歌翻譯從2006年開始推出,已經成為谷歌最可信最流行的產品之一。
  • 史丹福大學最新研究:玩神奇寶貝可激活大腦,玩遊戲也能成為成功的人
    史丹福大學的研究人員想知道人類是否也如此。選定「神奇寶貝粉絲」為完美實驗者神奇寶貝對80後、90後是一個美好回憶,它的粉絲被選定為本次完美的實驗對象,大多數人在很年輕的時候開始玩,而且角色獨特。「我從6歲開始不停地玩」,該研究的主要人員史丹福大學的戈麥斯博士說。「我的童年時代一直在玩,因為任天堂不斷推出新版本。」
  • 紐約時報》兩萬字長文,深度剖析谷歌大腦簡史
    2011年開始,谷歌大腦開始用這一方法進軍人工智慧,希望能解決傳統方法嘗試了數十年都沒有突破的難題。語音識別此前一直做得不好,但是谷歌大腦採用新方法後,讓安卓手機上的語音識別幾乎做到了人類水平。在圖像識別上也是如此,一年多以前,谷歌大腦首次把這一技術應用到了商業化的產品中。谷歌翻譯從2006年開始推出,已經成為谷歌最可信最流行的產品之一。
  • 《紐約時報》兩萬字長文,深度剖析谷歌大腦簡史
    2011年開始,谷歌大腦開始用這一方法進軍人工智慧,希望能解決傳統方法嘗試了數十年都沒有突破的難題。語音識別此前一直做得不好,但是谷歌大腦採用新方法後,讓安卓手機上的語音識別幾乎做到了人類水平。在圖像識別上也是如此,一年多以前,谷歌大腦首次把這一技術應用到了商業化的產品中。 谷歌翻譯從2006年開始推出,已經成為谷歌最可信最流行的產品之一。
  • 斯坦福26歲中國博士自殺,其中這個細節讓人很揪心
    據史丹福大學校媒報導,2月11日,一名學生在史丹福大學工程學院實驗室自縊身亡。死者是中國留學生王某,系該校博士生,在讀第五年,目前事件仍在調查中。據報導,當地時間2月11日早上,一名男性工科研究員被發現死於美國史丹福大學Paul G.
  • 斯坦福26歲中國博士自殺,原因讓大家都很揪心……
    據史丹福大學校媒報導,2月11日,一名學生在史丹福大學工程學院實驗室自縊身亡。死者是中國留學生王某,系該校博士生,在讀第五年,目前事件仍在調查中。據報導,當地時間2月11日早上,一名男性工科研究員被發現死於美國史丹福大學Paul G.
  • 美國史丹福大學多個博士後機會
    Sherri Rose博士的研究小組正在尋找多個衛生數據科學博士後學者。博士後項目的範圍很廣,歡迎任何學科的受訓人員或對解決衛生保健問題的定量方法感興趣的學員申請。博士後學者將能夠靈活地從事Rose博士正在進行的研究領域內的課題(即統計機器學習方法和可歸納性應用、因果推理、算法公平性、比較有效性研究、風險調整、,或與羅斯博士共同開發一個新的項目想法。
  • 重磅| 谷歌大腦養成記:從識別貓到突破性機器翻譯
    在 20 世紀 90 年代前,計算機象棋方面取得了一些進展,但我們離強人工智慧還很遠。谷歌大腦是首個投資人工智慧所能呈現的可能的重大商業機構。Dean、Corrado 和吳恩達用兼職時間工作,協作實驗,但他們很快就取得了進展。
  • 起底東營90後涉黑女頭目李桂圓:從小聰明學習好,因100元生活費賭氣輟學
    離婚後,父親重新找了個老伴,母親因受到刺激,離婚不久後就出現精神抑鬱,目前自己一個人住在一所很破舊的小房子裡,屋裡沒有水電,平常也是靠撿柴燒水做飯。據村民說,李桂圓和父親的關係很差,基本沒有往來。母親得病後,沒出事前,李桂圓經常去看望照顧母親,而如今,李桂圓已潛逃沒了蹤影,母親一個人生活。記者了解到,從小到大,和李桂圓感情最深的便是她的奶奶。
  • 交大90後男神博士:3年看1800篇論文,研發成果超越谷歌,還入選福布斯精英榜
    &34;的西交大人,從本科到博士都在西安交通大學就讀。到了微軟之後,張祥雨加入了視覺計算組,這個小組裡的每一位成員名字放在當下來看都是業界大牛:小組負責人孫劍,組員包括何愷明、危夷晨、代季峰、袁路、曹旭東、任少卿等。2013年,張祥雨面臨一個重要選擇——博士課題。當時受微軟亞洲研究院工作的一些影響,張祥雨傾向於做人臉識別這個領域。但是導師孫劍果斷讓他去做深度學習,&34;。
  • 史丹福大學著名校友(3)
    胡佛自稱是斯坦福的第一個學生。1891年斯坦福建校後,他作為第一批學生進入地質學系,又恰恰是第一個住進校舍的學生。這位斯坦福法學院博士創辦了PayPal支付服務,又投資了Facebook、LinkedIn、Yelp和Friendster等全球知名網際網路企業。他還有一個以自己名字命名的獎學金,鼓勵20歲以下的年輕人輟學創業。他因為網際網路技術革命而成為億萬富翁,卻「不習慣使用Black Berry、iPhone或者電子郵件這類東西」。
  • 斯坦福師徒倆獲諾貝爾經濟學獎,因改進了拍賣理論
    學生米爾格羅姆1979年在史丹福大學獲博士學位,1987年起在斯坦福任教,目前是該校人文科學教授,同時也是工程學院管理科學與工程教授、斯坦福經濟政策研究所高級研究員。據統計,截至2020年培養了眾多高科技公司的領導者,其中包括惠普、谷歌、雅虎、耐克、羅技、Snapchat、美國藝電公司、太陽微、NVIDIA、思科及LinkedIn等公司的創辦人。
  • 起底2020諾貝爾經濟學獎得主:來自史丹福大學的「師徒檔」
    保羅•米爾格羅姆1948年出生,1979年在史丹福大學獲得博士學位。在斯坦福求學時,威爾遜是米爾格羅姆的老師。1979年-1985年期間米爾格羅姆曾在西北大學和耶魯大學任教,自1987年起在史丹福大學任教,目前是史丹福大學人文與社會科學學院、工程學院教授,史丹福大學經濟政策研究所高級研究員。
  • 起底2020諾貝爾經濟學獎得主:來自史丹福大學的「師徒檔」
    保羅米爾格羅姆1948年出生,1979年在史丹福大學獲得博士學位。在斯坦福求學時,威爾遜是米爾格羅姆的老師。1979年-1985年期間米爾格羅姆曾在西北大學和耶魯大學任教,自1987年起在史丹福大學任教,目前是史丹福大學人文與社會科學學院、工程學院教授,史丹福大學經濟政策研究所高級研究員。與此同時,他還是美國國家科學院的成員、美國藝術與科學院的研究員,以及SIEPR市場設計項目的主管。
  • 讀完博士再創業,照樣身價百億——盤點中國企業家中的博士
    一般而言,博士畢業後多半走上學術科研的道路,不是在大學授課,就是在政府研究部門、各類研究所或是企業研發部門工作。但是很多企業家也都是博士出身,今天小曼就帶大家看看,中國這幾位出名的企業家是都是哪所院校的博士吧~張朝陽美國麻省理工學院張朝陽是搜狐網創始人兼董事長,與王志東、丁磊被稱為「網絡三劍客」。