作者:李九喻編譯參與:馬亞雄、微胖
近期,麥肯錫在一份報告中指出,美國和中國主導人工智慧版圖,歐洲正在落後。其中,矽谷擁有頂級創業公司中心(有 12700~15600 家活躍的創業公司,200 萬名技術工作者)、引領全球風險投資,也是許多世界頂級科技公司的總部所在地。紐約、波士頓也憑藉各自金融、媒體產業優勢以及人才優勢成為重要人工智慧中心。中國的北京、深圳分別憑藉其豐富人才資源和硬體實力優勢成為另一支重要引領力量。
來自 Artificial Intelligence : The Next Digital Frontier?
儘管報告並未提及加拿大,但無法忽視的是,加拿大在這一次人工智慧浪潮中提供了寶貴的人才和豐富的研究成果。世界頂級人工智慧研究學者——比如多倫多大學的 Geoffery Hinton、阿爾伯塔大學的 Richard Sutton 和蒙特婁大學的 Yoshua Bengio,而在深度學習技術的崛起中,加拿大多倫多和蒙特婁的大學起到了很大的作用。
以此為根基的人才體系也吸引了科技公司來到加拿大。今年 4 月,谷歌宣布在加拿大多倫多建造一個 AI 實驗室。與此同時,它還與多倫多大學合作培養 AI 人才,期待推動一些研發的商業化。在去年 11 月,谷歌在加拿大蒙特婁也打造了一個 AI 實驗室,同樣,蒙特婁也吸引了微軟的投資。AI 相關的投資熱情已經開始被調動起來。
加拿大也已經將人工智慧置於國家戰略層面。數月前,為了保持同中國等國家的競爭實力,打造最好的人工智慧生態系統,加國政府表示將斥資 1.25 億加元(約合 9,400 萬美元)投入、和埃德蒙頓的 AI 研發,這些地區頂級大學雲集,亦即 Pan-Canadian AI Strategy 計劃。2017 年 3 月 30 日,多倫多啟動了 Vector Institute。Vector 是一家獨立的研究機構,不僅進行僅有短期目標的研究,而且也能著眼長期目標,甚至進行沒有任何商業化考慮的純研究。來自聯邦政府( 1.25 億加元的人工智慧戰略資助的一部分)、省政府(5000 萬加元)和公司( 8000 萬加元)對 Vector Institute 的慷慨支持讓人驚嘆。
圖片由 Element AI提供
眼下,比起華爾街是世界級的金融中心,矽谷是擁有完整人工智慧產業鏈的科技中心,同樣位於北美的加拿大,只擁有規模小很多的技術中心,也還沒能孵化出與矽谷相當規模的產業。這樣的狀況在未來幾十年內有可能會被顛覆:加拿大的學界、業界、政府、以及個人企業家正合力在多倫多 - 滑鐵盧、蒙特婁和埃德蒙頓等城市建立超級人工智慧中心( AI Superclusters )
加拿大與人工智慧的淵源:Hinton 和 CIFAR
1987 年,Geoffrey Hinton 教授低調向北遷居至加拿大,在多倫多大學任教。他曾表示想避免使用來自美國軍方國防高級研究計劃局(DARPA)的科研撥款——該項目支持人工智慧研究已有半個世紀的歷史。
Hinton 抵達不久便加入加拿大高等研究院(CIFAR),參與了首個名為「人工智慧、機器人與社會研究」的項目。
Hinton 研究的神經網絡通過模仿人腦神經元運作的方式幫助機器學習。該方法在今天看來碩果纍纍,但在一開始卻並不奏效:第一)計算非常耗時,第二)當時的 GPU 處理器並不足以支撐這種算法。到了 1986 年,Hinton,David Rumelhart 和 Ronald J. Williams 共同發表了使用反向傳播算法優化神經網絡的論文。但是 90 年代時期可使用的數據集太小,不足以訓練這些模型,導致應用場景受限。大部分研究人員更願意使用淺層的模型,例如支持向量機 (SVM) 或者增強算法(Boosting)。
在長達二十餘年的人工智慧寒冬期間,Hinton 並未放棄手頭的研究。在 2004 年,他成功說服了 CIFAR 資助另外一個項目:神經計算與自適應感知研究(Neutral Computing & Adaptive Perception)。該項目是今天人們所熟知人工智慧熱潮的先驅,將神經網絡的研究帶入公眾視野,並且吸引了更多大手筆的科研資金。
嚴肅的科學家不為科研成果預設截止日期;但商業要實時運作
2006 年是有突破性進展的一年,Hinton 的團隊發表論文「深度信念網絡的一種快速學習算法」(A Fast Learning Algorithm for Deep Belief Net),首次提出了貪婪逐層訓練深度神經網絡的方法。在 2012 年的 ImageNet 競賽中,Hinton 的多倫多大學團隊在圖像識別任務上使用了卷積神經網絡(CNN)。藉助海量的圖像數據集與增強的 GPU 的計算能力,他們的方法非常奏效。比賽結果最終重新定義了計算機視覺學科的發展。
Hinton 最早的兩位「老友」是東部蒙特婁大學教授 Yoshua Bengio,以及 Hinton 自己的博士後學生 Yan Lecun。Yan Lecun 於 1987 年加入 Hinton 在多大的實驗室,現掌舵 Facebook 人工智慧研究院。今天,三人被媒體褒稱為「加拿大深度學習黑手幫」(Canadian Mafia Of Deep Learning)。
在深度學習研究無人問津的時期,以上三位,連同其它堅守神經網絡算法研究的學者,都曾耐心等待能夠與神經網絡算法匹配的數據集和硬體。雖然 Bengio 在某場位於多倫多的機器學習活動中表示,「嚴肅的科學家不會為科研成果預設目標期限」,但是業界仍然能夠感受到刻不容緩的變化:機器學習在圖像識別、語音識別、翻譯、語義分析以及其它領域中的應用非常出彩。這項技術現已進入市場,隨著人工智慧技術商業化的高速發展,所有人都將受到不同程度的影響。
在多倫多 - 滑鐵盧、蒙特婁和埃德蒙頓打造超級人工智慧中心
創新的坐標「地理位置」非常重要。效仿能夠凝聚周邊資源的矽谷,加拿大決心在中部的多倫多 - 滑鐵盧、東部的蒙特婁以及西部的埃德蒙頓地區打造新興的超級人工智慧中心,建立完善的資金、業務和人力生態鏈。在 2017 年,聯邦財政公布的政府年度預算亦表明將著重撥款以上地區的人工智慧產業,在國家發展政策層面將人工智慧提至第一位,這與自川普上臺後的美國對待人工智慧的政策大相逕庭。
多倫多 - 滑鐵盧篇
位處多倫多市中心,佔地約 14 萬平方米的 MaRS 科技創新區,主樓是上世紀二十年代復古愛德華風格的建築,與南塔和多倫多醫療發現塔寬敞的玻璃中庭屋頂新舊相連。
機器之心在 MaRS 辦公室採訪了 CIFAR 的政府關係專員 Brent Barron,他的新辦公室恰好俯瞰安大略市立法大樓。「目前,CIFAR 正在做以下三件事情:一,與包括 Hinton 在內的著名科學家一起合作機器學習和類腦學習項目(Learning in Machine & Brains),這是一項融合人工智慧和神經科學的交叉學科研究;二,與三個不同的人工智慧研究機構合作;三,調研人工智慧對經濟和社會的影響」。除此之外,CIFAR 還舉辦一些人工智慧普及教育的暑期培訓。
MaRS 也是多倫多最新成立的向量學院(Vector Institue)所在地,距離多倫多大學商學院發起的 Creative Destructive Lab 和 Hinton 教授的辦公室只有 10 分鐘的步行路程。在大約 20 分鐘的步行路程之內還有谷歌大腦加拿大分部、以及一家新創立的人工智慧初創公司孵化器——NEXT AI。多倫多市政廳、金融區以及購物中心也近在咫尺。
MaRS 科技創新區,某個五月工作日的下午
在這個精心打造的人工智慧生態圈裡,教育、資金、孵化和產業都被刻意規劃在了一起。整個多倫多的商業地貌進一步得到了聯邦政府和安大略省政府對向量學院 1 億加元(以及來自私營企業的額外 8 千萬加元)投資的強力加持。
「向量學院的成立確保了加拿大在深度學習、人工智慧領域的全球領導地位」,加拿大道明銀行的 CEO 兼向量學院的董事會主席 Ed Clark 在三月份的開幕典禮上說道。「這是一個吸引人才、投資、並且刺激加拿大經濟增長的好機會。向量學院可以進一步支持擴張中的公司,並讓大公司能夠更迅速地使用人工智慧技術」。
多倫多的目標非常明確:這裡是本輪人工智慧熱潮的發源地,這裡有資金和寬敞的創業空間,現在這座城市必須想辦法吸引並留住人工智慧領域最頂尖的人才。
離多倫多車程不到兩個小時、將近 100 公裡以外的城市名叫滑鐵盧。在這裡,前滑鐵盧大學教授鄧力度過了一段非常重要的科研時光,也結識了 Hinton 。
上世紀 90 年代,鄧力正領導一個由 20 名研究生、幾名博士後在這裡進行人工智慧研究。鄧力告訴我們,當時的團隊「專注於人工智慧在語音識別、自然語言理解以及信號處理等領域的應用。
在那個年代,儘管神經網絡看上去很有前途,但是與其它的機器學習方法比較,並沒有多大的競爭力」。從 1989 年到 1999 年,滑鐵盧大學的人工智慧科研經費由北電加拿大分部、貝爾實驗室加拿大分部、加拿大自然科學與工程研究委員會( NSERC )、安大略省政府、加拿大國防部以及美國國家科學基金會( NSF of US )等撥款
1999 年底,鄧力離開加拿大,隨後加入微軟西雅圖 / 雷德蒙研究院。再一個十年後,Hinton 進入微軟擔任顧問,與鄧力成為同事,他們還一起組織了 NIPS 深度學習語音識別研討會,「我們感覺是時候重新把深度學習放上檯面了。」鄧力回憶稱。
2016 年春季,在和 Yoshua Bengio 一起主辦的深度學習會議 ICLR 上,鄧力和 Bengio 談論起初創公司 Maluuba 的業務潛力,當時,Benigo 擔任該公司顧問。Maluuba 也是滑鐵盧人工智慧領域不得不提的一家公司,由兩位滑鐵盧大學學生 Sam Pasupalak 和 Kaheer Suleman 在 2011 年共同創辦,以自然語言處理的深度學習技術為研發重點。在這次探討結束後的一年,微軟啟動了對 Maluuba 的收購計劃並於 2017 年成功收官。
長久以來,多倫多 - 滑鐵盧的地區「影響力」都和本地的從業研究人員的去留密不可分。但今天,即使一部分關鍵研究人員選擇離開加拿大,也還是被共同對深度學習的執著、商業戰略結盟在一起。
埃德蒙頓篇
加拿大西部的艾爾伯塔大學旗下有三個人工智慧實驗室:機器智能研究所(AMII)、強化學習和人工智慧組(RLAI)、自控制仿生肢體研究院(BLNC)。其中 AMII 擁有最多的研究人員——100 人,其中一些成員也在其它兩個實驗室兼職。AMII 主攻強化學習、深度學習、統計學習、自然語言處理和社交網絡分析領域的研究。
Richard Sutton 教授同時加入了上述的三家實驗室的。Sutton 是學界公認的強化學習之父。該算法在代理與複雜、不確定的環境進行交互時,鼓勵它將所得到的獎勵最大化。強化學習的概念建立在由巴普洛夫提出的心理學經典條件反射理論之上。現在,埃德蒙頓的研究者將深度學習和強化學習結合起來形成深度強化學習(DQL)。事實上,AlphaGo 的大獲成功就可以歸功到蒙特卡洛樹搜索和深度強化學習技術的結合。
圖片由Richard Sutton教授和 RLAI 組提供
AMII 研究所的執行主管 Cameron Schuler 告訴機器之心:「加拿大在人工智慧科研領域誕生了很多巨頭。Hinton、Sutton 和 Bengio 都是優秀的思想家。如果按地域劃分研究的話,多倫多主打深度學習,蒙特婁是深度學習和強化學習,而埃德蒙頓專注於強化學習,但是我們的研究員有不同的興趣,應用於機器學習和人工智慧的各個方面」。
艾伯塔省的經濟主要依靠石油、天然氣、農業和林業支撐——這些全是加拿大最重要的出口資源。人工智慧可以幫助一部分能源行業完成產業升級,減少固定成本,並且基於目前已獲得的數據集優化能源提取過程。麥肯錫管理諮詢公司的報告則宣稱,「在 2035 年,石油和天然氣行業採用的新技術可以幫助節省 9000 億美元到 1.6 萬億美元的成本,少則等於印度尼西亞的全國總 GDP,多則等於加拿大的全國總 GDP」。
根據預測,全球能源消耗將在 2035 年達到巔峰,社會正在轉向使用清潔能源。人工智慧產業不太可能立即成為加拿大經濟的「頂梁柱」,但是它可以改變埃德蒙頓公司的業務內容。有好幾家人工智慧創業公司,例如 OneBridge Solutions 正在利用數據分析,優化原油管道的管理流程。
在過去 15 年中,艾伯塔省給 AMII 研究所提供了 4000 萬加元的資金。Schuler 認為當下最重要的是建立本地的商業生態圈。這並不是一件容易的事。目前在人工智創業公司數量方面,埃德蒙頓明顯落後於多倫多和蒙特婁,甚至西海岸的溫哥華。埃德蒙頓的創業公司的規模大概是多倫多或者蒙特婁的六分之一——後兩者在短短幾年內總共孵化了超過 100 家機器智能創業公司。
在艾伯塔,思考如何留住人工智慧人才是一個比深度學習更大的難題。Schuler 的團隊已在一起工作長達幾十年之久:「據我所知,我的團隊是加拿大唯一一個沒有向業界流失人才的團隊」,他若有所思地說,「我們的教授選擇了學術這條路。在埃特蒙頓,我是和自己熟悉多年的老友一起共事」。
蒙特婁篇
蒙特婁市長在今年五月 C2 活動的開幕式上宣稱:「今天我們已不能用國家作為單位來定義世界的多樣性,每個城市都是獨立的界面」。在這次活動中,蒙城本地的創業公司 Element AI 合辦了首屆人工智慧論壇,向數千藝術、設計和跨業界從業人員介紹人工智慧。位於東部法語區的蒙特婁向來是加拿大的文化藝術中心,但是現在這座城市想要重新定位自己——成為全球化的人工智慧產業樞紐。
截至目前,聯邦政府總已給蒙特婁大學特批 21.3 億加元的經費,同時省政府也計劃在未來五年內追加 1 億加元的投資。
蒙特婁總共有 15 家創業公司孵化器。15 年前,Element AI 的創始人 Jean-Franois Gagné 幾乎羞於告訴別人自己正在做人工智慧創業。然而今天,他的聯合創始人是「加拿大人工智慧黑手幫」之一的 Yoshua Bengio。公司躊躇滿志,想幫助世界上的每一家公司變成「AI 第一」。
Element AI 如此詮釋自己的商業模式:「公司正在建立通用人工智慧軟體平臺,幫助企業解決商業問題。在這個過程中,與合作的客戶實現共贏的長期發展」。目前的業務內容包括利用自然語言處理、語音識別、預測和分析、精準廣告投放等升級客戶的產品或服務。
Element AI 在蒙特婁歷史悠久的 Notman House 做租戶時僅有一間辦公室。現在他們正在新辦公地址拆牆,打通更大的室內空間,預計年底擴張至 400 人。Element AI 的目標是成為技術和商業的「橋梁」,為全球任意一家公司提供技術解決方案。Element AI 的程序主管 Alex Shee 說,「我們是 P-to-P(論文到產品)模式。我們能提供從研發到商業化的整套服務,人工智慧研究員、程式設計師、產品經理和業務人員一起上陣」。在我們造訪後的一個月,Element AI 完成了 1.35 億加元的 Pre-A 輪融資,由英特爾、加拿大國家銀行、微軟等行業巨頭領投,創下了人工智慧創業公司融資的新高。
Element AI 辦公室新址
在 Element AI 幫助建立業務關係的同時,Bengio 也在蒙特婁大學的算法研究所(MILA)繼續學術研究。MILA 由數據頌讚研究所(IVADO)支持。IVADO 由蒙城四大學術機構組成:蒙特婁理工學院、蒙特婁大學、蒙特婁商學院以及麥吉爾大學。在 2016 年,IVADO 亦獲得了 9300 萬加元的政府資金。
是否該選擇加拿大?數據、資金和人工智慧全球化發展
當被問到加拿大在 AI 科研方面和美國的區別時,曾在歐洲、美國一流學府做研究,現任職多倫多大學的 David Duvenaud 表示:「美國有更高的薪水,更高的國際聲譽,更好的天氣,以及更難獲得的大額科研經費。加拿大有更容易得的中等規模經費,地方政府的資金支持,更低的個人開銷,以及更好的政治環境和移民政策」。
受本國市場規模的瓶頸限制,加拿大創業公司很難擴張。加拿大 500 創投(500 Startup)告訴我們,他們目前的投資戰略是集中精力孵化中小型企業,目前投了差不多 30 家公司。投資的前提是創業公司已經有實際產品、有早期市場驗證、能夠證明後期的增長收益。加拿大風投儘量避免需要大型基礎設施或大量生產產品的點子。目前市場上最流行的人工智慧創業公司類型包括商業分析、信息安全、個人金融和房地產。
加拿大試圖孵化獨角獸公司,但是一直以來並不是非常成功。大部分前景可觀的創業公司在達到中等規模之後就會被大型美國科技公司收購。近期的例子是上述被微軟收購、主攻自然語言處理的 Maluuba。這不失是一種利用巨頭資源的方式,但是缺點就是最後變成一家美國公司。
人工智慧研究是由人力、資金和數據驅動的。為了訓練最好的算法模型,從業者需要最大的數據集,並且和領域內最棒的團隊合作。谷歌、Facebook、亞馬遜、百度、騰訊擁有這些資源,目前加拿大還沒有一家技術公司能夠參與競爭。
在 Yoshua Bengio 看來,數據集的問題還是有辦法解決的。「我們總可以從大公司花錢買數據集。此外,我們目前所做的很多研究都使用開源的公共數據。另外,在加拿大也能比較容易地獲得社會醫保數據」。
在某些場景下,算法也能夠生成自己的數據集。艾爾伯塔大學 Michael Bowling 博士團隊研究的 Cepheus 是一款玩德州撲克的程序。這個程序並沒有受到人類玩家的指導,也沒使用外部數據訓練。它僅僅被告知遊戲規則,然後和自己對練了幾十億手,生成海量德州撲克數據集。
就資金而言,越來越多的美國大型科技公司正在把研發中心搬到加拿大,並且向北注入資金。去年,谷歌投資 450 萬加元給 MILA,500 百萬給多倫多的向量學院;微軟承諾投資 600 萬加元給蒙特婁大學,投資 100 萬加元給麥吉爾大學,並把在多倫多的人工智慧研究投資經費翻了一倍;最近,在多倫多大學 Raquel Urtasun 的監督下,優步將其技術研發團隊(ATG)開到了多倫多。500 創投成立了 3000 萬加元的基金投資加拿大的創業公司。谷歌的母公司 Alphabet 也向多倫多政府申請在市區開發一個名為「From the Internet up」的高新技術區。
很多加拿大業內人士都在質疑,美國科技巨頭把研發中心外包給加拿大究竟是不是一件好事?然而這些現象只是全球化潮流的一部分。在未來幾年,大約 800 名人工智慧領域的博士生將會在加拿大畢業。如果想要留住這些人才,加拿大需要有良好的商業生態,哪怕美國科技公司是其中關鍵的利益相關者。
在 2017 年,聯邦政府出臺泛加拿大人工智慧策略(Pan-Canadian Artificial Intelligence Strategy),用 1.25 億加元支持與 AI 的相關生態鏈。近幾年加拿大全國範圍內共吸引了約 10 億加元的投資。
與馬斯克對 OpenAI 一家公司高達 10 億美元的投資相比,加拿大全國的總量確實有點微不足道。但是這應該算是一個好的開端,因為預計到 2025 年,人工智慧相關產品的市場會達到 1,270 億美元。全球風投在 2016 年的時候高達 50 億美元。人工智慧市場巨大,應用繁多。儘管美國政府正在削減研發投資,但是加拿大政府明顯選擇主動出擊。
加拿達向來以政治環境穩定聞名。在歐洲與美國政治動蕩的今天,這點特別吸引國際人才和資金。那些沒有 Google 營業額的公司,仍然可以在多倫多、蒙特婁或埃德蒙頓僱用頂尖的北美人才,而不用擔心 H1B 籤證出問題。這對部分亞洲,歐洲乃至美國的投資者和企業家都具有吸引力。
加拿大的人工智慧超級中心會齊心協力發展。Element AI 表示:「作為一個擁有 3500 萬人口的國家,如果不抱團取暖,就無法和人口大國抗衡」。
CIFAR 的 Barron 告訴我們:「如果你在加拿大做人工智慧研究,就得有加拿大人的感覺——科研作為社會行為反應氣候、民眾和他們的信仰。加拿大是一個包容、多元的國家。我們在清潔技術和太陽能產業上做了大量的投資。另外我們在收集文化遺產數據集時會特別留意少數族裔,例如原住民」。在被問到是否對未來對持樂觀態度時,他笑著說「那是自然」。
回想 Hinton 教授在 20 年前北遷的舉動,我們可以如此反問:假設要建立全球化的人工智慧超級中心,它為什麼就不能落戶加拿大呢?
「加拿大特別冷」是本文受訪者所提出的最大的困擾。隨著人工智慧的產業的不斷升溫,這或許不會再是問題。
機器之心英文網站原文連結:https://syncedreview.com/2017/06/23/building-ai-superclusters-in-canada/