曦智科技沈亦晨:光子晶片加速智能算法和智能計算

2021-02-25 DeepTech深科技

11 月 20 日,由蘇州市相城區人民政府與《麻省理工科技評論》聯合主辦的 EmTech China 2020 全球新興科技峰進入第二天議程。今年,EmTech China 邀請到了數十位頂級科學家、海內外院士、商業領袖、科創精英蒞臨現場,探討新興科技發展現狀及其為人類社會帶來的巨大影響。會上,曦智科技聯合創始人兼 CEO 沈亦晨分享了光子晶片加速智能算法和智能計算的主題演講。

圖|麻省理工科技評論

以下為經過整理後的演講實錄:

大家好,我叫沈亦晨。今天聽了那麼多演講,我覺得基本上可以確定大數據時代已經來了,大數據時代和智能時代最關鍵的兩要素之一是數據。我們肯定需要越來越多的海量數據來幫助我們訓練更智慧的模型。

第二個同樣重要的元素,就是處理數據硬體、也就是晶片。未來的應用數據和採集數據的終端一定會越來越多。在未來十年裡,數據量一定會繼續呈指數級增長。

另一方面,處理數據的硬體在過去十年裡發生了很多事情。如果大家把 2020 年的電腦和 2010 年的電腦相比,可能你會發現 2010 年的電腦還可以繼續跑現在的軟體。但如果用 2000 年的電腦去跑 2010 年的軟體,我敢保證 99% 的軟體都跑不起來。

這說明電腦裡電子晶片的發展和算力已經慢慢變得越來越慢,原因是受制於物理極限。隨著一步步的迭代,每一次迭代帶來的算力紅利已經逐步減少,從 16 納米到 7 納米、再從 7 納米到 5 納米,可能很多人只看到 10% 到 20% 的增長。但是再往下一步,增長只會越來越小。

在未來 10 年裡,用增長越來越緩慢的電子晶片去匹配一個增長越來越快的數據需求,這可能是目前該領域的最大挑戰。整個電子晶片行業很早就意識到這一問題,所以也在不斷嘗試做出更高性能的電子晶片來滿足數據需求。

以市場上用得最多的旗艦產品為例,其中之一是 2015 年的英偉達 GPU 晶片,整個晶片從面積上來看大概有 600 平方毫米,能耗大概是 100W 左右。此外,2020 年剛推出的英偉達深度神經網絡訓練和推理晶片 A100,它的面積大約是 800 多平方毫米,這並不是說他只想做這麼大,他其實可以做更大。

但是 826 平方毫米是現在光刻機能夠光刻出來晶片最大極限,也就是到了單個晶片大小的極限。同時,他為了把更多存儲和計算放在一個板卡上,現有產品是把 7 塊電子晶片同時放在一個很大的封裝裡面做聯合計算,這樣的話它的能耗可達到 450W。

另一個案例,2019 年,美國初創公司推出一款計算晶片,其面積大約是 46225 平方毫米,晶片就像你的筆記本電腦那麼大,它的能耗是 20000W,和 5 個電磁爐的能耗或者產生的熱量差不多大。當然這並不是說明未來晶片就會長這樣,但至少從某種程度上,能代表整個電子行業對於高性能算力的需求、以及它大的發展方向,概括來說就是已經慢慢接近物理極限。

 

我經常把晶片設計比喻成城市發展或城市規劃,現在的晶片越做越大。大家去想 500 年前的城市,想把 500 年前 100 萬的城市變成 1000 萬人口的城市是非常困難的,因為會受限於幾個基礎建設方面的問題,一個是城市之間的交通,如果你用傳統馬車、步行甚至汽車,如果全都是平面道路,就沒有辦法滿足交通和供應需求。

另外,每個樓房如果還是 500 年前的一層樓兩層樓,要想支撐起更大的城市體系也非常困難。

什麼是最需要的?最需要的是從基礎上能幫助傳統電子晶片進行下一代升級的技術,而光計算和光子晶片是最適合下一代計算晶片基建技術的選擇。

首先,光可以有效代替電來解決高通量和交通問題。光纖通信已經用了幾十年,光在傳輸信號上的能耗、延時和通量都遠遠好於電子。另外在單個計算上,用光來做計算不需要很多邏輯門的推理,它本身是一個完全被動的過程,所以能大大節約計算層面的能耗。

光晶片對普遍人來說是一個比較陌生的概念,提到光可能大家想到的是照相機和透鏡這些非常大的系統。集成光子技術是最近 10 年以來蓬勃發展的技術,主要概念是在生產電子晶片的矽機上製造非常微小的微米級別光學器件,這樣就可在一個晶片上集成成千上萬的光子元器件,並讓電子元器件非常好地結合在一起使用。

相關技術已經慢慢接近成熟,曦智科技已經在 2019 年成功推出了全球首款光子計算晶片原型板卡。公司目前計劃流片的產品級光子計算晶片,單個晶片集成 3000 個光子元器件,比之前光通信光子晶片多出 100 倍,並且這已經是被現有製程和產業鏈所接受的技術。

 

曦智科技的技術創新點主要是用光晶片來加速 2/3 的計算要素。任何一個計算系統主要有三塊計算要素:第一部分是數據處理,我們用光代替電晶片來做大部分數據處理,即大數據線性計算;第二部分是數據傳輸,傳輸包括一塊晶片上的數據傳輸、晶片之間的數據傳輸。想像一下城市裡常見的城際高鐵系統、高速路系統和高架系統,只有具備城際和城際之間的高速系統,城市才能做到更大,才能有周邊的衛星城。

 

曦智科技現在暫時不做的是第三個要素即存儲系統,我們覺得整個計算體系裡,存儲系統仍舊是最核心的部分,所以我們的產品是光和電的結合解決方案。

光的計算技術來源於我在 MIT 學習期間從 2013 年到 2017 年四年的研究成果,當時也發過論文。

它的概念是把傳統電子信號轉成光信號,讓光信號通過光子晶片,並且控制這些光之間的幹涉,當這些光相互幹涉時、以及這些數字發生計算時,整個計算時間就是光線通過晶片的時間——0.1 納秒到 0.5 納秒之間。這個時間是現在電子晶片來做同樣大的矩陣乘法的 1%,在速度和延時上有非常大的提升。

 

此外,我們也做光子片與片之間的高速互聯,用光來做數據傳輸本身是非常合理的解決方案。而我們已經在技術上實現了做同樣距離的數據傳輸,比起電晶片可在能耗上節約 10 倍,這樣能更大地潤滑晶片計算。

曦智科技的主要技術方案,是在光的計算和光的傳輸上,把它做到非常高集成,並且讓光子晶片去輔助現有數字電子晶片,從而加速整體運算過程。

 

在曦智科技的晶片上,光子網絡、光子網絡的計算單元會以光速在整個晶片上進行傳輸和數據的交互。此外,光晶片上還會再疊加一個或幾個數字電子晶片,這樣在電子晶片上會繼續做存儲和簡單的邏輯運算以及非線性運算。當然,我們還會有幾個光晶片來給整個光子晶片提供光源。

最後封裝下來,可能跟現在板卡上的晶片差不多,但是相對其他同類數字晶片,數字運算能力可以得到 5 倍甚至 10 倍的算力提升。

 

有了上述願景以後,我們非常快地投入到光計算商業化,我們也是全球目前跑的最快的一家光計算公司。公司在 2017 年成立,現在已經是第四個年頭,從網際網路角度來看已經是一個比較老的公司。但是從晶片行業來看,我們還是處於比較早期階段的公司。

2019 年,曦智科技完成了第一個完整板卡系統,並驗證了神經網絡算法。現在我們完成了第二輪融資,總共超過 7000 萬美元,我們第一款產品應該會在明年推出。

 

同時,我們有 100 多位工程師和研究人員,主要集中在美國和中國,其中十多位員工是來自 MIT 的科學家和工程師,70% 的晶片設計師擁有十年以上業內工作經驗。做這樣一件用新技術來推動老產品的事情,需要創新的年輕團隊和有經驗的數字晶片設計團隊一起來做,我們在團隊規模上也達到了可以做第一個產品的規模。

 

過去幾年,我們主要做兩件事情,一是把光晶片的集成做得越來越大,曦智科技把矩陣從最早的 4×4,做到接近 100×100 的矩陣規模,並把光和電晶片做了非常緊密的結合,這樣電晶片可以疊在光晶片上來做整個系統的運算。

大家可以把曦智科技的技術想成是一家做高算力、低能耗的下一代晶片公司,這種晶片可廣泛應用於數據中心,能做人工智慧或大數據相關的機器學習運算,應用場景包括自動駕駛、網際網路、智慧城市、金融等各個方面。同時也會做比較完善的軟體棧架構來幫助客戶在使用晶片時能夠感受不到他是用在光在做。也就是光晶片和電晶片的整個接觸點和結合點都和現有數字晶片類似。

 

在公共服務領域,曦智科技也有非常多的切入點,目前在和幾個一線城市推出用晶片去做智慧交通、智慧港口、智慧安檢等一系列大數據的應用場景。

 

除 AI 以外,光子晶片的應用場景不僅在機器學習上,未來很多科研包括對大氣、地理、新材料和藥物的研發,都可以通過算力更高的光電混合晶片來提高現有研發進度,我們最近也有論文發在 Nature 上來講怎麼用光子晶片來做藥物研發。

 

曦智科技現在也有幸和一些全球領先的企業產生成功的商業合作,光子晶片代表了一個能夠更快產業化的技術方向,其中一個主要原因是光子晶片並不是特別依賴製程,並且技術不受限制。因此,我們可以更快地用 28 納米的電子晶片做出 7 納米電子晶片的效果,正因此曦智科技最近得到了中科院的重視,並且在落地一些非常重要的項目。

-End-

相關焦點

  • 光子計算公司曦智科技完成2600萬美元A輪融資,首款晶片將面向數據...
    曦智科技產品模型圖(來源:曦智科技)曦智科技於2018年在上海成立,沈亦晨任聯合創始人兼CEO。2017年沈亦晨博士與其所在的麻省理工學院團隊在《自然-光子學》上發表一篇重要論文,將集成光子計算的新起點展示在世人面前。
  • 研發光子計算晶片,曦智科技完成2600萬美元A輪融資
    今日,光子計算硬體開發公司「曦智科技」對外宣布,已於近期完成2600萬美元A輪融資。本輪融資由經緯中國和中金資本旗下中金矽谷基金領投,祥峰投資、中科創星、招商局創投等跟投,老股東百度風投和峰瑞資本持續加碼。
  • 光子計算領頭羊,曦智科技獲2600萬美元A輪融資
    與傳統的電子晶片相比,曦智科技研製的光學晶片在速度、延遲、功耗三方面做出了巨大改進。2019年4月,曦智科技正式發布全球首款光子晶片原型板卡,實現了提升計算效率、完善集成程度、優化軟化環境等開創性想法。此外,曦智科技還將光子晶片與AI結合,吸引到谷歌、百度等國內外高新企業的接洽。
  • 光子晶片公司曦智科技完成2600萬美元A輪融資 玄武巖擔任財務顧問
    DoNews 4月10日消息(記者 趙晉傑)源自麻省理工學院、由中國科學家團隊領銜的光子晶片公司——曦智科技4月10日宣布完成2600萬美元A輪融資,該輪融資由經緯中國和中金資本旗下中金矽谷基金領投,祥峰投資、中科創星、招商局創投等跟投,老股東百度風投和峰瑞資本持續加碼。玄武巖擔任曦智科技本輪融資的財務顧問。
  • 光子晶片公司曦智科技完成2600萬美元A輪融資
    此次A輪融資使曦智科技的累計融資額達到3670萬美元,成為了目前全球融資額最高的光子計算創業公司。曦智科技於2018年在上海成立,2019年4月正式發布了全球首款光子晶片原型板卡,驗證了當時的開創性想法,實現了計算效率的提升、軟體環境和集成程度的成熟:在AI識別任務「 MNIST」中,光子計算晶片在速度上表現出優於傳統的電子計算晶片;而到了2020年,與光子晶片配套的新型算法更是展現光子計算軟硬結合的更多應用場景可能性,並成功吸引國內外如谷歌、FaceBook
  • 光子晶片公司曦智科技再獲數千萬美元融資 第一款商用產品或面向...
    《科創板日報》 (上海,記者吳凡)近日,上海曦智科技有限公司(以下簡稱「曦智科技」)完成A+融資,投資方為和利資本,融資金額達到數千萬美元。 《科創板日報》記者了解到,曦智科技成立於2018年2月,同月公司即獲得百度風投和真格基金的種子輪1000萬美元的投資;今年4月,曦智科技宣布完成 2600 萬美元 A 輪融資,該輪融資由經緯中國和中金資本旗下中金矽谷基金領投,祥峰投資、中科創星、招商局創投等跟投,老股東百度風投繼續加碼。
  • 光子晶片原型板卡研發商「曦智科技」完成數千萬美元A+輪融資
    【獵雲網北京】7月6日報導獵雲網近日獲悉,光子晶片原型板卡研發商「曦智科技」宣布完成數千萬美元A+輪融資,投資方為和利資本投資。2020年4月,曦智科技宣布完成2600萬美元A輪融資,由經緯中國和中金資本旗下中金矽谷基金領投,祥峰投資、中科創星、招商局創投等跟投,老股東百度風投和峰瑞資本持續加碼;2018年3月,曦智科技曾獲百度風投、真格基金的1070萬美元種子輪融資。和利資本執行合伙人張飈表示,「高算力低功耗低延遲晶片市場已經是一個超百億美元的市場。
  • 全球首家光子AI晶片企業,曦智科技完成新一輪2600萬美元融資
    集微網消息(文/小如)近日,源自美國麻省理工學院的人工智慧基礎設施公司曦智科技宣布完成2600萬美元融資。本輪融資由經緯中國和中金資本旗下中金矽谷基金領投,祥峰投資、中科創星、招商局創投等跟投,老股東百度風投和峰瑞資本持續加碼。
  • 一篇論文引發的光子 AI 晶片革命,劍指摩爾定律
    2020 年 6 月,LightOn 發表用光學神經網絡訓練晶片運行 AI 模型的新論文;7 月,曦智科技拿到由和利資本投資的數千萬美元 A + 輪融資;8 月,Lightmatter 在晶片頂會 HotChips 上展示了其光子晶片的架構細節;12 月,光子算數宣布其打造的光電混合 AI 加速計算卡已交予伺服器廠商客戶做測試。
  • 光子晶片:一場發生在MIT校友之間的競賽
    這是一個完全不同的計算範式,由於光子計算則提出使用光子來進行計算(光子是光的基本粒子),再結合光纖傳輸之後,我們可以實現更高效的計算和容量更大、距離更長的數據傳輸。 更有意思的是,目前發力光子計算晶片的兩家公司Lightmatter和曦智科技(Lightelligence)都源於麻省理工學院(MIT),兩位創始人Nicholas Harris和沈亦晨也恰好是曾經的校友。如此一來,這場發生在同學之間的比拼為光子計算技術的發展又增添了幾分戲劇色彩。
  • 創投日報|病理檢驗集團「華銀健康」獲6億元C輪融資,「曦智科技...
    半導體雷射晶片設計和生產商「檸檬光子」自主研發的傳感類VCSEL雷射晶片已經完成了包括性能測試、可靠性測試在內的全部產線測試,已出貨樣品至30餘家客戶進行了應用測試,具備全面量產能力…… (查看更多請點這裡)智能語音解決方案,「華控智加」專注服務2B&2G客戶
  • CB Insights權威發布中國晶片設計企業榜單
    本源量子預計在2020年底搭建完成國內首臺量子計算機原型機,搭載6比特超導量子晶片,並將通過本源量子計算雲平臺向公眾開放體驗。晶片即集成電路,其產業鏈可分為上遊的算法及設計工具供應商、晶片設計公司、製造商、封測商、直銷/分銷商,以及下遊的方案商和終端應用廠商。其中,晶片設計和製造是核心技術環節。
  • 蘇州辦證天數智芯宣布將打造高性能的AI計算晶片
    天數智芯全球首發以「Iluvatar」晶片系列產品和「Soft Silicon」軟體技術為代表的核心軟硬體產品,並現場展示了公司自主研發的智能數據平臺SkyDiscovery和智能計算一體機SkyAXE以及邊緣計算一體機SkyACE以及針對高端製造、金融科技 、教育和大眾健康領域的AI應用、雲服務和產品解決方案,由此形成了一個集行業智能數據應用產品、方案和雲服務棧為一體的智能生態。
  • 「智能密度」助力AI計算生態 算法即晶片開創視覺計算新生態
    科技部副部長李萌在發言中指出,希望這10家開放創新平臺,以人工智慧重大需求為牽引,促進行業開放共享,助力中小微企業成長,成為我國人工智慧技術創新和產業生態發展的引領力量。科技部在現場宣布,將依託依圖科技打造「視覺計算國家新一代人工智慧開放創新平臺」,助力中國晶片設計業和人工智慧的結合。
  • 光子算數白冰:詳解光子AI晶片落地進展與研發路徑|GTIC2020
    光學晶片加速的不是完整算法,和所有的數字晶片一樣,光學晶片面向複雜函數做加速計算,其計算對象是特定算子。光的劣勢在於不是特別靈活,但是在某些函數上有優勢。整個系統是光電混合的,數據在光電兩部分中完成一個流動,執行一個完整的計算過程,由光學、電學晶片組構成光電混合AI計算硬體系統。
  • ...智能感知與計算控制領域,晶片設計企業曦華科技完成數千萬元Pre...
    集微網消息,天眼查顯示,近日,深圳曦華科技有限公司(簡稱「曦華科技」)完成了數千萬元Pre-A輪融資,投資方包括:廈門合方、力合創投等。圖片來源:天眼查曦華科技成立於2018年,是一家專注於智能感知與計算控制領域的晶片設計公司,面向手機、IoT、汽車等智能終端市場設計和銷售智能感知、計算與控制晶片。
  • 多維視覺(MLMS)計算圖像SoC晶片將開啟多維視覺拍攝模式
    、深度檢測和麥克風陣列功能於一體的ASIC晶片,可比喻為「智能視覺大腦」的全景賦能AI的技術,並且可以在可穿戴的多維視覺採集和智能設備上發揮重要作用。同時,還能將傳統ISP(Image Signal Processor,圖像處理)由數字成像技術,延伸至全空域、全時域、全頻段的計算成像和聲音感知,並實現了物體檢測與測距測量的應用,下一版產品將會加入CNN算法,與計算圖像學和語音學結合將會在創新上和技術上更加成熟。
  • GPLP投融資:輝能科技獲近億美元 曦智科技獲2600萬美元
    作者:鄭正輝能科技獲近億美元GPLP犀牛財經4月9日消息:輝能科技宣布完成近億美元D輪融資,投資方包括中銀投資和一汽產業基金輝能科技是一家電源產品研發商。曦智科技獲2600萬美元GPLP犀牛財經4月9日消息:曦智科技近日宣布完成2600萬美元A輪融資,投資方為經緯中國、中金資本、祥峰投資、中科創星、招商局創投、百度風投和峰瑞資本。曦智科技是一家光子晶片開發商。
  • 光子晶片研究進展及展望:面向未來的計算系統,光計算具有天然優勢
    隨著全球化以及科技的高速發展,需要處理的數據量在急劇增加,相應的數據處理模型和算法也在不斷增加,帶來的結果就是對算力和功耗的要求不斷提高。一是隨著摩爾定律的逐步失效,以及大數據時代對計算系統功耗和速度要求的不斷提高,光計算技術高速和低功耗的特點越來越受到人們的重視; 二是光計算技術的並行性運算特點,以及光學神經網絡等算法和硬體架構的發展,為圖像識別、語音識別、虛擬實境等人工智慧技術對算力的需求提供了最有潛力的解決方案。
  • 看懂未來十年AI晶片趨勢!GTIC 2020 AI晶片創新峰會成功舉行
    ;全球FPGA晶片巨頭賽靈思、我國自動駕駛晶片明星創企黑芝麻智能與地平線也於峰會聚首,為大家分享創新經驗;我國AI晶片新銳玩家壁仞科技、燧原科技、比特大陸、光子算數、豪微科技、億智電子、知存科技在會上分享了落地心經;知名投資機構北極光創投、中芯聚源亦在現場探討AI晶片的投資邏輯與思考。