MIT初創公司發布全球首個光子AI晶片原型!丨獨家專訪

2020-12-05 DeepTech深科技

近日,麻省理工學院團隊背景的光子 AI 晶片公司 Lightelligence 對外宣布了一項重要進展——成功開發出世界第一款光子晶片原型板卡(Prototype)。

對於這家成立一年半的公司,這款晶片原型的誕生,驗證了團隊部分成員在 2017 年發表在Nature Photonics 期刊上的開創性想法——用光子代替電子來進行 AI 計算。但是在那個時候,他們在實驗室開發的整個光子計算系統佔據了半個實驗室。

(來源:Lightelligence)

在視頻演示中,團隊在這個原型產品上成功用光子晶片運行了Google Tensorflow 自帶的卷積神經網絡模型來處理 MNIST 數據集。這是一個使用計算機視覺識別手寫數字的基準機器學習模型,也是機器學習中最著名的基準數據集之一。測試中,整個模型超過 95% 的運算是在光子晶片上完成的處理,測試結果顯示,光子晶片處理的準確率已經接近電子晶片(97%以上),另外光子晶片完成矩陣乘法所用的時間是最先進的電子晶片的 1/100 以內。

Lightelligence CEO 沈亦晨對 DeepTech 表示,公司計劃將該光子晶片提供給一些合作方、潛在客戶進行測試,目前國外已經有谷歌、FaceBook、AWS級別,國內 BAT 級別的客戶與 Lightelligence 接洽。

他透露,儘管這款晶片還不是公司真正意義上的第一款商業化產品,在性能上也還有很大的提升空間,但卻是對團隊開發完整光子AI晶片系統可行性的一個重要驗證。

圖丨這款原型正在運行 MNIST(來源:Lightelligence)

沈亦晨表示,在接下來的幾十年中,對於 AI 算法尤其是機器學習算法的計算需求仍將大幅增加,但與此同時,我們回過頭看過去幾年計算硬體的發展,其演進速度正變得越來越慢,「從光子學的角度來看,我意識到,對於一些最基本的算法以及機器學習任務來說,光子可能是最佳的計算平臺。在我的博士生涯中,我用一個項目簡單地證明了這個概念性質的設想,現在,Lightelligence 的成立正在將這個設想從學術研究帶到真實世界」。

「我們從硬體到軟體做出了一套可以運行的系統,原則上,它可以運行任何神經網絡系統,它也是就我們所知世界上第一臺完全獨立的光學計算 AI 加速器(stand alone optical AI accelerator)。Lightelligence 現在發布這款晶片原型想傳達的另一個信息是,光學計算不再是一個「Science Project」,而是一個已經接近於產品化的技術」,他說。

圖丨 Lightelligence CEO 沈亦晨,MIT 物理學博士,因其從光學計算的獨特角度切入 AI 晶片入選 2017 年《麻省理工科技評論》「35 歲以下科技創新 35 人」中國區榜單(來源:麻省理工科技評論)

越來越近的光學計算

光學計算並不是一個全新的概念。

作為一種完全不同於電子計算的技術,光學計算以光子為信息處理載體,依賴光硬體而非電子硬體,以光運算代替電運算,擅長快速並行處理高度複雜的計算任務,但它一直沒找到合適的應用場景,且受限於傳統分離式光學器件光場調控手段單一、光學設計體積龐大的缺點,光學計算一直都停留在實驗室階段。

近幾年,電子計算愈發受制於摩爾定律,信息技術載體的存儲密度與運算速度的提升愈發力不從心,讓一部分人將目光從「電」轉向了速度更快、能耗更低的「光」。

(來源:麻省理工科技評論)

尤其是基於人工神經網絡算法的深度學習系統的流行。不同於通用晶片所運行的邏輯運算,深度學習系統的大部分時間都花在低精度的矩陣乘法運算上,而密集的矩陣乘法運算,正是人工智慧算法中最耗時間和功率的。

目前 AI 加速晶片都是基於電子運算的,但在結合電子計算所有前沿技術的基礎上,光子晶片可以來執行 AI 計算裡最重要的兩個步驟:內存到計算單元的數據傳輸以及矩陣運算本身。這兩個方面光子晶片具有獨特優勢。

由此,光子 AI 晶片的概念應運而生,利用光子來做矩陣乘法運算,在功耗降低和速度提升上前景可期,很可能帶來光學計算有史以來最大的機會。

Lightelligence 成立的目的,就是從光子晶片這個全新的角度來切入 AI 加速。

「對產業界來說,這可能開啟了一個全新的方向,而且它的發展速度遠遠高於電子運算。」沈亦晨說。

(來源:Nature Photonics)

2016 年,沈亦晨還在 MIT 做博士後,他所在的研究團隊打造了首個光學計算系統。該成果於 2017 年以封面文章的形式發表在頂級期刊 Nature Photonics 雜誌上,其基於硬體和算法有著雙重創新:在硬體上,光幹涉儀作為基本的矩陣運算單元有效取代了傳統電子電晶體;在算法上,團隊開發了一系列在不犧牲性能條件下有效降低深度學習計算量、並適應於光子晶片的算法。

當時,國際著名光學科學家、史丹福大學終身正教授 David Miller, 曾專門在 Nature 雜誌上撰文評價沈亦晨團隊的光學 AI 晶片的研究成果,稱「這一系列的研究成果極大地推動了集成光學在未來取代傳統電子計算晶片的發展。」

那篇論文可以說在全球範圍內啟發更多人投入到光子 AI 晶片的開發中,帶來這一成果的 MIT 團隊已經誕生出 Lightelligence 和 LightMatter 兩家公司。

現在,Lightelligence 團隊正在全力研發光子晶片的相關技術,包含晶片設計、核心算法、傳輸、周邊等,欲打造一個完整的光學計算生態。全球包括 Lightelligence 在內也已經有 5~6 個團隊正在進行相關的研發及商業化,其中還不乏中國團隊。儘管各家公司的目標都不盡相同,從已經公布的產品進度來看,作為全球首個光子 AI 晶片的公司,Lightelligence 仍將是最值得關注的公司之一。

(來源:Lightelligence)

以 Lightelligence 此次發布的晶片原型為例,和 2017 年的首個光學計算系統相比,其最大的改進就體現在計算效率的提升、軟體環境和集成程度的成熟上。

Lightelligence 團隊本身擁有一系列獨立自主智慧財產權,包括光學器件設計、光學系統集成和深度學習算法的核心技術,在設計這款晶片的過程中,團隊在這幾個方面的技術儲備得到了驗證。

在開發的過程中,提升運算速度和改善尺寸的工作是交叉進行的。據沈亦晨介紹,原來實驗室版本的機器集成度比較低,它的控制單元沒有集成在板卡上。現在這款晶片原型的集成度大大提高,隨著集成程度的提高,運算速度也大大提升。

而且開發上的主要任務不只是集成度方面的工作,還包括高速信號的控制。對於光子計算機來說,其中比較重要也比較難的一點就是,當信號傳輸速度很快的時候,如何讓信號達到比較精確的強度。

最終,團隊用了近一年半的時間打造出了這款尺寸與指甲蓋差不多、封裝了光纖的晶片原型。這在光學計算領域也是前所未有的。

(來源:Lightelligence)

而除了前文提到的 MNIST 圖像識別任務以外,這款晶片原型還可以運行其他的計算任務,團隊同時也提供軟體支持,與谷歌的 Tensorflow,Facebook 的 Caffe2 和 Pytorch 常用框架中的算法兼容。

沈亦晨表示:「團隊希望任何通用的基於線性運算的算法都可以在光子 AI 晶片上運行,Lightelligence 生產的是一款通用的 AI 晶片,同時我們也會自研更適合在光子晶片上運算的算法,後期我們會發布相關的算法上的進展。」

未來,光子 AI 晶片的發展能否引領算法開發上加大矩陣計算比重的「硬體定義軟體」風潮,亦值得觀察。

3 年內推出第一款量產產品,面向伺服器

目前,Lightelligence 成立已經一年半時間,團隊的技術進展並不完全體現在這次發布的晶片原型裡,沈亦晨說,其實團隊早在半年以前就已經著手開發下一代晶片了,「我們的下一款晶片將會在性能上徹底顛覆現有的電子同類產品」。

基於光子 AI 晶片速度快、損耗少、算力高、成本低的這些特點,很多面臨性能瓶頸的深度學習場景將是這款產品大展身手的方向。因此,在應用場景上,沈亦晨設想 Lightelligence 的第一款產品將面向伺服器和自動駕駛。

「第一款光子 AI 晶片的產品定位不是低端市場,我們的競爭力不是價格和尺寸大小,而是同一塊板卡的性能,針對這個優勢我們的應用場景確定為以上兩個市場。」沈亦晨說。他曾提到,電子晶片的生態鏈條非常完善,整個產業已經達到數以十億、百億計的規模。和電子晶片的完善的生態鏈條不同,光子晶片還在剛剛起步的階段,這也決定了其產品可能沒辦法短期內進入到輕量級、個人級的應用中。

未來的汽車工業很可能是光子 AI 晶片的最重要市場之一,例如,以 Lidar 技術所需要的大量光源和光探測器來說,光子 AI 晶片有望提供一個低成本、低功耗的解決方案。不過,自動駕駛的市場仍比較小,Lightelligence 仍會先從伺服器市場切入,然後過渡到自動駕駛中。

(來源:Lightelligence)

現在,在融資上,Lightelligence 已於 2017 年底獲得包括百度風投和真格基金在內的超過 1000 萬美元的風險投資,團隊規模也從最初麻省理工學院出來的三人團隊發展到了二十多人全職團隊,成員背景包括麻省理工學院、哥倫比亞大學、喬治亞理工大學、北京大學和加州大學伯克利分校等。團隊也吸引了很多業界專業人士加入,最引人注目的恐怕就是 Gilbert Hendry 和 Maurice Steinman 了。

Gilbert Hendry 博士畢業於哥倫比亞大學,曾在谷歌和微軟工作過5年,並且主持開發過多款機器學習產品,現在是Lightelligence的軟體部負責人及機器學習首席工程師。Maurice Steinman是Lightelligence的工程副總裁,加入Lightelligence之前曾任AMD 首席晶片架構師,並主持開發了AMD用於高通量信息傳輸的旗艦產品infinity fabric, 有超過30年的豐富的半導體行業經驗。

圖丨Gilbert Hendry (來源:Lightelligence)

圖丨Maurice Steinman(來源:Lightelligence)

但必須承認,光子 AI 晶片整體依然仍處於非常早期的階段,光子 AI 晶片公司面臨的落地風險和技術挑戰並不比其他 AI 晶片公司的小。但是,人類在追求更高程度的機器智能過程中,對晶片計算能力的需求只會不斷增加,光子 AI 晶片有希望能夠彌補電子晶片的不足,在一些特殊的計算領域超過電子晶片。

有意思的是,許多人了解到光子 AI 晶片和光學計算之後,更感興趣的不是其與電子計算的比較,反而好奇光子計算和量子計算有什麼區別,兩者哪一個將更快改變產業現狀。

和量子計算相比,光子計算發展的時間短,投入研發的人力也相對較少,聽起來是一個更為小眾的領域。但光子計算對算力的提升不一定亞於量子計算,而且在技術實現上,其製造流程可兼容目前的 CMOS 工藝,在量產難度上遠低於量子計算,更容易與現有的計算周邊生態進行配合,可說是目前發展的次世代計算架構中,最有機會實現普及量產目標的一個。

相關焦點

  • 年中盤點|2020最炙手可熱的10家AI晶片初創公司
    Graph Streaming Processor是首個可以在單一系統中同時運行多個人工智慧模型和工作流的處理器。Cerebras Systems在去年秋天舉行的Supercomputing 2019上發布了該處理器,同期發布的還有搭載了該處理器的CS-1系統。這家位於美國加州洛斯拉託斯的初創公司稱,Wafer Scale Engine是「全球最快的AI超級計算機」。
  • 一篇論文引發的光子AI晶片革命!這次真想要了摩爾定律的命
    沈亦晨在美國波士頓創辦Lightelligence,在中國上海成立曦智科技,發展了跨國多元團隊,是目前全球融資額最高的光子計算初創公司。 2019年4月,曦智科技發布全球首款光子晶片原型板卡,在運行TensorFlow處理MNIST數據集的測試中取得百倍以上的速度提升,準確率接近電子晶片(97%以上),而完成矩陣乘法所用的時間不到最先進電子晶片的1/100。曦智科技計劃從2021年起為AI雲計算帶來高效的量產產品。
  • 研發光子AI晶片,「最聰明公司」獲2600萬美元投資
    上海市科委基地建設與管理處介紹,「類腦晶片與片上智能系統」平臺是首個由民營企業牽頭髮起的研發與轉化功能型平臺,既發揮了民營企業機制靈活的特點,也能為企業帶來一批高科技項目等資源。在上海市科委、楊浦區政府等支持下,「類腦晶片與片上智能系統」平臺建有4個實驗室,供高校、科研院所、企業的研發團隊使用。
  • 光子計算元年?全球最高累計融資額光子計算創業公司出爐,中國科學家團隊領銜
    曦智科技聯合創始人兼 CEO 沈亦晨博士表示:「在過去兩年,光子計算在全球受到了相當高的關注,不再是一個科研項目,而是一個正在產品化的技術,並且有多家創業公司以及大公司已相繼入場。」一個有力證明是,在執行線性運算這類任務上,曦智科技的第一款原型板卡已經在速度上優於傳統的電子計算晶片,並且還有相當大的提升空間。
  • 聚焦| 入駐功能型平臺研發光子AI晶片,「最聰明公司」獲2600萬美元...
    上海市科委基地建設與管理處介紹,「類腦晶片與片上智能系統」平臺是首個由民營企業牽頭髮起的研發與轉化功能型平臺,既發揮了民營企業機制靈活的特點,也能為企業帶來一批高科技項目等資源。「類腦晶片與片上智能系統」平臺的產品設計中心在上海市科委、楊浦區政府等支持下,「類腦晶片與片上智能系統」平臺建有4個實驗室,供高校、科研院所、企業的研發團隊使用。
  • 中科創星投資全球首家光子晶片公司,「曦智科技」完成2600萬美元A...
    原標題:中科創星投資全球首家光子晶片公司,「曦智科技」完成2600萬美元A輪融資 4月8日, 源自麻省理工學院的光子計算硬體開發公司「曦智科技」宣布,已於近期完成2600萬美元A輪融資。
  • 百度投資了光學AI晶片初創公司Lightelligence
    原標題:百度投資了光學AI晶片初創公司Lightelligence 允中 編譯整理 位於美國波士頓的初創公司Lightelligence,剛剛獲得了1000萬美元種子輪融資。
  • 為增強AI晶片實力,英特爾又收購了一個7個人的初創公司Vertex.ai
    雷鋒網消息,為了進一步增強在人工智慧領域的競爭力,英特爾又收購了一家AI初創公司Vertex.ai,不過交易的金額並未透露,但英特爾確認了此項交易,整個團隊包括創始人都將加入英特爾的人工智慧產品事業部。
  • 外光錐專訪丨軟銀中國宋安瀾:獨特技術是投資AI初創公司的重要判據
    外光錐專訪丨軟銀中國宋安瀾:獨特技術是投資AI初創公司的重要判據 每日經濟新聞 2018-12-12 16:33
  • 計算速度是電子晶片1000倍,光子AI晶片商用產品今年面世!
    電子發燒友網報導(文/李彎彎)隨著AI晶片面臨算力瓶頸,用光子代替電子進行AI計算開始問世,目前已經有多家初創公司正在研究光子AI晶片,包括曦智科技、光子算數、Lightmatter、Luminous等。 與電子晶片相比,光子晶片的計算速度是其的1000倍,而且功耗僅為其百分之一。
  • 光子晶片:一場發生在MIT校友之間的競賽
    18個月左右就會增加一倍。,Lightelligence發表了一份聲明,它將「獨家」從麻省理工學院技術授權辦公室獲得技術授權。 2020年的現狀   在今年8月份的Hot Chips大會上,Lightmatter公司帶來了他們的新型光子晶片「Lightmatter Mars」,該晶片有望在2021年秋季發布。
  • CB Insights權威發布中國晶片設計企業榜單
    本源量子預計在2020年底搭建完成國內首臺量子計算機原型機,搭載6比特超導量子晶片,並將通過本源量子計算雲平臺向公眾開放體驗。晶片即集成電路,其產業鏈可分為上遊的算法及設計工具供應商、晶片設計公司、製造商、封測商、直銷/分銷商,以及下遊的方案商和終端應用廠商。其中,晶片設計和製造是核心技術環節。
  • 光矛系列添新員 GTI公司發布新一代AI晶片
    美國當地時間2018年10月22日,全球領先的AI晶片初創公司Gyrfalcon Technology, Inc.(GTI) 公司發布新一代產品「光矛處理器2803」,該款晶片側重解決數據中心與雲計算系統中普遍存在的高能耗與低效率問題,GTI公司為此推出配置有多顆2803晶片的G.A.I.NTM系列加速卡,可裝配在數據中心與雲計算系統之中,顯著提升運營效率與經濟效益,相比市場上的主流方案提升十倍以上。  隨著人工智慧產業的快速發展,數據中心與雲計算業者紛紛重新思考如何升級硬體系統以應對行業變化。
  • 2017自動駕駛技術關鍵動態,這50家車企和新技術公司如何引領顛覆...
    2017年1月,美國交通部宣布在全國開放10個自動駕駛測試點,支持自動駕駛技術發展;2017年2月,福特宣布10億美金注資自動駕駛初創Argo AI;2017年3月,英特爾以153億美元天價宣布收購Mobileye;2017年4月,百度在上海車展一個擁擠的會議廳宣布了Apollo平臺開放計劃;2017年7月,奧迪發布全球首個實現Level
  • 速度提升百倍,顛覆大數據處理的光子計算晶片來了?
    於是,2016年,沈亦晨與麻省理工學院的幾個博士好友,共同創立了全球首家光子計算公司。他們的目標是利用已經擁有的大量自主智慧財產權以及包括集成光學器件設計、集成光電系統和深度學習算法在內的核心技術推動光子計算晶片的商業化落地。成立之初,曦智科技團隊就獲得了資本的認可,得到了頂級風險投資機構千萬美元級別的首輪融資。
  • 光學AI晶片初創公司Lightelligence獲千萬美元融資,百度參與領投
    集微網消息,據外媒報導,光學技術初創公司Lightelligence近日獲得了1000萬美元種子輪融資,由百度風投和美國半導體高管財團領投。Lightelligence主要利用基於光學的新技術來加速人工智慧的工作負載,通過所謂光子電路的新興技術來加速信息處理,光子電路是電子電路更有效的替代方案,進行計算的不是電子而是光子。
  • 光子晶片公司曦智科技再獲數千萬美元融資 第一款商用產品或面向...
    簡單來說,曦智科技研究的方向為「光子晶片」,所謂光子晶片是以矽基材料為光學介質,通過高度集成,讓光子替代電子,作為新的傳輸媒介,其優勢在於體積更小,速度更快,功耗比電子晶片更低。
  • 光子晶片公司曦智科技融資2600萬美元
    4月8日消息,源自麻省理工學院的光子計算硬體開發公司曦智科技宣布,已於近期完成2600萬美元A輪融資。本輪融資由經緯中國和中金資本旗下中金矽谷基金領投,祥峰投資、中科創星、招商局創投等跟投,老股東百度風投和峰瑞資本持續加碼。此次A輪融資使曦智科技的累計融資額達到3670萬美元,成為了目前全球融資額最高的光子計算創業公司。
  • 首個軌道角動量波導光子晶片問世
    首個軌道角動量波導光子晶片問世 2018-12-13 科技日報 劉霞 【字體:大 語音播報   據美國《物理評論快報》網站近日報導,上海交通大學金賢敏團隊研製出了全球首個軌道角動量
  • 速度提升百倍:顛覆性的光子計算來了-科技前沿,光子計算,晶片,大...
    業界首款光子計算晶片原型如何誕生?前面已經提到,光子計算晶片進行矩陣乘法運算的效果比電子晶片好成百上千倍,因此光子晶片非常適合AI計算。但首先需要解決的問題是,如何將體積龐大的光子計算設備變為更適合規模應用的光子計算晶片?這就得從光子計算的實現方式說起。