一篇論文引發的光子AI晶片革命!這次真想要了摩爾定律的命

2021-01-07 智東西

芯東西(公眾號:aichip001)作者 | 心緣編輯 | 漠影

光子計算時代到來了嗎?幾家中美晶片創企正試圖給出正面的回答。

2020年6月,LightOn發表用光學神經網絡訓練晶片運行AI模型的新論文;7月,曦智科技拿到由和利資本投資的數千萬美元A+輪融資;8月,Lightmatter在晶片頂會HotChips上展示了其光子晶片的架構細節;12月,光子算數宣布其打造的光電混合AI加速計算卡已交予伺服器廠商客戶做測試。

在加速人工智慧(AI)這條賽道上,光子計算晶片這條創新的技術方向正異軍突起。這是一群勇敢的探路人,他們在期待和爭議中前行,一步一個腳印地試圖證明自己判斷方向的正確性。

光子AI晶片距離產業化落地還有多遠?在這一賽道的創業者們,能給計算晶片帶來新的驚喜嗎?

一、一篇頂刊論文引出的新型賽道

隨著摩爾定律滯緩,矽光子技術成為超越摩爾定律的研究方向之一。

2017年,來自英國艾克塞特大學、牛津大學和明斯特大學的研究人員,宣布了其類腦光碟機動晶片研究成果。他們用特殊相變材料和光子集成電路模擬人腦神經突觸,使得這款晶片在測試中的數據傳輸速度達300Gbps,比當時現有標準處理器要快10-50倍,同時功耗大幅降低。

在同年5月的美國麻省理工學院10萬美元創業大賽上,一支來自麻省理工學院(MIT)的團隊憑藉用納米光子晶片執行AI任務,成功斬獲大獎。

▲主創團隊在2017年贏得麻省理工學院10萬美元創業大賽

1個月後,主創團隊的研究成果登上頂級期刊《自然·光子學》的封面,論文描述了一種利用光學幹涉進行神經網絡計算的創新方法。當時,國際著名光學科學家、史丹福大學終身教授David Miller評價稱:「這一系列研究成果極大地推動了集成光學未來取代傳統電子計算晶片的發展。」

這篇光子晶片論文的一作及通訊作者是MIT博士後沈亦晨,二作是尼克·哈裡斯(Nick Harris)。不久之後,這些論文合著者將成為商業上的競爭對手,開啟各自的創業之旅,並分別獲得來自谷歌、百度等科技巨頭的投資。

▲麻省理工學院團隊論文登上《自然·光子學》封面

論文連結:https://www.nature.com/articles/nphoton.2017.93

光子是當前速度最快的粒子,相較電子,速度更快而功耗極低。此前光學技術通常應用於通信傳輸領域,藉助光的更快速度、更高容量等特點實現數據的遠距離傳輸,但在計算領域進展緩慢。

實際上,光計算的研究歷史並不短暫。在國外,1950年代前後,貝爾實驗室等機構花費大量精力來設計光學計算機部件;在國內,1987年中科院上海光學精密機械研究所王之江院士曾於《中國科學院院刊》上撰文,提出了極具前瞻性的發展光計算技術的建議,並於此後在光學神經學邏輯計算方面開展了大量的工作。

由於光計算的應用場景並不清晰,軟硬體體系也不夠完善,關於如何用光子代替電子晶片執行計算的想法長期停留在研究階段,鮮少在實際應用中發揮廣泛的作用。

直到摩爾定律趨於滯緩,AI的巨輪開始起航。

二、光子AI晶片的優勢:速度快、功耗低、擅長並行計算

作為統治計算的一個基準法則,摩爾定律指出,微處理器晶片上的電晶體數每18-24個月翻一番,曾長期作為推動電子設備小型化和網際網路普及的關鍵動力。

但這是晶片製造商及供應商竭力維繫摩爾定律的結果,隨著逼近物理尺寸極限、散熱難題即將成為無法克服的挑戰,以及許多關鍵的計算密集型應用發展提速,人們對摩爾定律的未來產生了更多疑慮,對晶片技術創新的需求也愈發迫切。

2016年,《Nature》在「超越摩爾(More than Moore)」一文中指出,摩爾定律已接近日薄西山,接下來矽晶技術的發展將不再以摩爾定律為中心,造出更好的晶片然後讓應用跟進,而是從應用出發來看需要怎樣的晶片支持,進而容納更多細微複雜的創新方向。

而根據OpenAI發布的分析數據,自2012年以來,AI訓練對算力的需求每3.43個月翻一番,增速明顯快於摩爾定律。

▲自2012年以來算力需求增長超過30萬倍,而如果以摩爾定律的速度只會有 12 倍的增長(來源:OpenAI)

隨著以神經網絡計算為主的AI應用普及,一些研究人員意識到,深度學習可能是數十年來光學計算所等待的「殺手級應用」。

首先,光速快於電子速度,理想狀態下,光子晶片的計算速度能比電子晶片快約1000倍。同時,採用成熟半導體工藝技術的光子晶片,即可達到當下需要的計算能力。

其次,光子計算消耗能量少,同等計算速度下,光子晶片的功耗僅為電子晶片的數百分之一,可以緩解AI創新所需的數據中心建設對環境的影響。

▲Lightmatter聯合創始人兼CEO尼克·哈裡斯在2020年Hot Chips上講解光子計算相較電子計算的延時、帶寬、功耗優勢

最後,光計算技術具有並行計算的特點,光波的頻率、波長、偏振態和相位等信息可以代表不同的數據,且光路在交叉傳輸時互不幹擾。這些特性使得光子擅長做並行運算,與多數計算過程花在「矩陣乘法」上的人工神經網絡相契合。

總體而言,光具有高計算速度、低功耗、低時延等特點,且不易受到溫度、電磁場和噪聲變化的影響,在AI應用領域,將光學技術與電子學結合,有望提供比傳統方法更好的速度和能效。

三、光子計算走向商業化

嗅到AI加速帶來的機會後,來自英、法、美、中的一些創業團隊開始揚帆起航,切入雲端AI計算市場,其中不乏有初創公司得到來自科技巨頭及知名投資者的投資。

2013年成立的英國創企Optalysys,曾於2015年創建一個光計算原型,實現了約320Gflops的處理速度,且能效非常低。去年上半年,Optalysys推出了入門級光學協處理器FT: X2000,計劃出售給包括計算機製造、國防及航空航天領域的部分合作夥伴及早期客戶。

▲Optalysys入門級光學協處理器FT: X2000

初創公司Fathom Computing成立於2014年,其光子原型計算機在2014年時識別手寫數字的準確率還只有30%左右,到2018年時已經超過90%。其創始人Willam Andregg稱,這是機器學習軟體首次使用雷射脈衝電路而非電力進行訓練。不過近兩年,這家創企似乎並未公開更多進展。

2018年,成立兩年、總部位於法國巴黎的創企LightOn宣布,它已經開始在歐洲的數據中心測試自己的光學處理單元(OPU)技術。2020年6月,LightOn發表的新論文顯示,其光學神經網絡訓練晶片在運行基於MNIST手寫數字數據集訓練的模型時,學習率為0.01,測試準確率達到95.8%;同一算法在GPU上的學習率為0.001、準確率達97.6%。而該光學晶片的功耗效率要比GPU高出一個數量級。

論文連結:https://arxiv.org/pdf/2006.01475.pdf

當然,名氣最盛的光子晶片創業者,當屬曾在《自然·光子學》上發表封面文章、來自麻省理工學院的沈亦晨和尼克·哈裡斯,兩人均在2017年成立光子晶片公司,都選擇Mach-Zehnder幹涉儀光開關陣列(MZI)作為基礎計算單元,但具體的MZI結構及陣列架構有所不同。

沈亦晨在美國波士頓創辦Lightelligence,在中國上海成立曦智科技,發展了跨國多元團隊,是目前全球融資額最高的光子計算初創公司。

▲曦智科技創始團隊

曦智科技在2018年獲得由百度風投和美國半導體高管財團領投的逾1000萬美元種子輪融資;2020年4月完成由經緯中國和中金資本旗下中金矽谷基金領投、百度風投繼續追加投資的2600萬美元A輪融資;2020年7月完成由和利資本投資的數千萬美元A+輪融資。

2019年4月,曦智科技發布全球首款光子晶片原型板卡,在運行TensorFlow處理MNIST數據集的測試中取得百倍以上的速度提升,準確率接近電子晶片(97%以上),而完成矩陣乘法所用的時間不到最先進電子晶片的1/100。曦智科技計劃從2021年起為AI雲計算帶來高效的量產產品。

▲曦智科技開發的全球第一款光子晶片原型板卡

尼克·哈裡斯在波士頓創辦的Lightmatter公司,則拿到了由谷歌風投、星火資本、經緯創投等投資的3300萬美元資金。

▲Lightmatter聯合創始人Darius Bunandar(左)、Nicholas Harris(中)、 Thomas Graham(右)

在2020年的晶片頂會Hot Chips上,Lightmatter展示了其用於AI推理加速的測試晶片Mars,該晶片利用矽光電學和MEMS技術,通過由毫瓦級雷射光源,為用光執行矩陣向量乘法提供動力。相較傳統電子晶片,其計算速度提升數個量級。

Lightmatter預計在2021年秋季推出這款測試晶片的首款商用產品,並為之打造了必要的軟體工具鏈。哈裡斯稱其量產晶片在BERT、Resnet-50推理等工作負載上,能效將是AI晶片領導者NVIDIA旗艦晶片A100的20倍、吞吐量將是A100的5倍。

▲Lightmatter測試晶片Mars

看到《自然·光子學》上MIT團隊刊發的論文後,正在研究光電子的中國北京交通大學2014級博士生白冰獲得了新的啟發,他與十餘位來自清華、北大等北京8所高校的博士生們一起,在2017年在北京創立光子算數團隊,開始推進光子AI晶片商業化。

▲光子算數創始人兼CEO白冰

光子算數於2018年9月獲得臻雲創投、英諾天使基金投資的天使輪融資、2019年獲得由水木清華校友基金、常見投資、英諾天使基金、臻雲創投等投資的A輪融資。

目前光子算數已研發可編程光子陣列晶片FPPGA(Field Programmable Photonic Gate Arrays),並基於此與北京高校一起打造了面向伺服器的光電混合AI加速計算卡,能完成包括機器學習推理、時間序列分析在內的一些定製化加速任務。

其計算卡已於2020年交由伺服器廠商客戶進行測試,在不到70W的運行功耗下,能做三四十路1080P視頻同步處理,混合精度下峰值算力接近20TOPS,光部分為低精度,電部分為高精度。

▲光子算數的光電混合AI加速計算伺服器應用測試

從美國普林斯頓大學脫胎而出的美國光子AI晶片創企Luminous Computing成立相對晚一些。

該公司由首席策略官Michael Gao、CEO Marcus Gomez和CTO Mitchell Nahmias在2018年聯合創立,於2019年籌得來自微軟創始人比爾·蓋茨、Uber執行長Dara Khosrowshahi等知名投資者的900萬美元種子輪融資,2020年又籌得由Helios Capital領投的900萬美元A輪融資。

Nahmias在普林斯頓PhD期間的主要研究方向即是光子AI晶片。與MIT團隊不同,他們採用的並非MZI,而是被稱為Broadcast and Weight的方案,相較MZI型方案多了光電轉換過程,且對相位不敏感。Nahmias稱其光子集成電路可以取代3000塊TPU板,更加節省能耗,且能突破現有AI晶片傳輸數據的瓶頸。

▲Broadcast and Weight方案的原理框架

這些創業團隊的硬體均被設計為可以插入標準伺服器和工作站中,可實現即插即用,並能與主流AI軟體配合使用,以滿足商用需求。

結語:光子計算踏上AI計算新徵程

訓練AI模型需要超高算力的計算機晶片,這使得晶片巨頭、初創公司之間展開一場圍繞AI計算的全新角逐。

如今光子計算仍處早期階段,站在這一全新計算賽道上的玩家們,幾乎沒有前路可以借鑑,他們正頂著技術挑戰、落地風險等方面的壓力,試圖構建起光子計算生態,探索著改變計算的可能。

對於投資者來說,新興計算技術仍充滿風險。但隨著世界對多元計算方式的需求增加,以光子計算、神經擬態晶片、量子晶片等為代表的新興計算方法,正被寄予打破標準計算系統制約的期待。

這是件令人期待的事情,光學計算已經在商業化道路上邁出了重要的一步,而一旦有初創公司解決工程化挑戰、取得落地商用的成功,光學計算革命的大門或將由此開啟。

參考資料:《光子晶片研究進展及展望》世界科學;《MIT初創公司發布全球首個光子AI晶片原型!獨立光學計算硬體,龐大系統成功集成至常規板卡|獨家專訪》DeepTech深科技;初創《光子AI晶片新玩家——Luminous Computing》光學小豆芽;《Alphabet invests in a start-up using beams of light on chips for super-fast A.I.》CNBC

相關焦點

  • 「Nature重磅」「超級晶片」或在十年內誕生,摩爾定律再續一命!
    ,新的材料有望取代目前的電晶體,將晶片元件尺寸縮小五分之一,功耗降低90%,為摩爾定律再續一命。摩爾定律延續的希望來了!Nature發布的最新論文顯示,英特爾和加州大學伯克利分校的研究人員正在研究超級晶片,已經在「自旋電子學」領域取得突破進展。
  • 一張圖看懂50年摩爾定律:完美契合
    圖片來源:Wikipedia矽谷50年:摩爾的奇蹟  當工程師戈登·摩爾提出摩爾定律的時候,電腦還像冰箱那樣笨重。然而,這條定律最終成為了整個矽谷的基石。  摩爾當時36歲,是仙童半導體公司的研發主管。他在一本行業雜誌上發表了篇文章,稱在未來的10年內計算機晶片的複雜度每年都會翻一番,而不需要附加成本。
  • 回歸中芯後蔣尚義正式發聲:摩爾定律已不適用!
    這一次,蔣尚義主要提出了五個要點:1、摩爾定律的進展已接近物理極限,目前的生態環境已不適用。2、封裝和電路板技術進展相對落後,漸成系統性能的瓶頸。3、只有極少數需求量極大的產品才能使用最先進的矽工藝。4、先進工藝一定會走下去,先進封裝是為後摩爾時代布局的技術,中芯國際在先進工藝和先進封裝方面都會發展。
  • 她用AI「反哺」晶片設計,超高效率趕超人類晶片設計師
    晶片設計發展的最新趨勢,似乎已不再像摩爾定律所規定的那樣:「集成電路上可容納的電晶體數目大約每隔 18 個月便會增加一倍,性能也增加一倍。」相反,人們對專門用於人工智慧和機器學習等特定任務的晶片越來越感興趣,而對人工智慧和機器學習來說,它們都在以天或周為單位快速發展。晶片設計需要的時間明顯長得多,這就意味著新微處理器的設計速度已不能滿足算法的迭代發展。
  • AI看面相預測犯罪有八成準確率?這篇引發抗議的論文差點登上頂刊
    該論文的作者包括哈裡斯堡大學博士生、前紐約警察局警官喬納森·科恩(Jonathan W. Korn)。論文稱,該算法「僅憑一張人臉照片就能預測一個人是否是罪犯」。論文作者表示,他們的算法是專門為執法部門使用而設計的。此前,論文被學術出版商Springer Nature接收,計劃刊載在《Springer Nature-研究叢書:計算科學與計算智能學報》上。
  • 如何突破晶片的理論極限?2-1
    2020年,關於晶片的話題絕對是國際熱點,你肯定聽說了很多關於它的新聞。我也看到了很多文章都在分析,為什麼晶片製造難?中國的晶片技術該怎麼突破?這些問題的答案,當然包括很多因素。我們《材料科學前沿報告》關注的,還是晶片的材料。目前,晶片所用的主流材料叫單晶矽。
  • 摩爾定律全靠它 CPU光刻技術分析與展望
    歷經50年,集成電路已經從上世紀60年代的每個晶片上僅幾十個器件發展到現在的每個晶片上可包含約10億個器件。在摩爾定律的指引下,半導體技術的集成度每3年提高4倍。半導體光刻的工藝高低,決定了在單位圓晶片上能夠集成電晶體的數目。我們通常所說的90納米45納米是指在圓晶片上能夠刻蝕的電晶體的最短溝道。溝道越短則晶片的速度越快,時鐘的上升沿就越短,進而提高集成晶片的系統時鐘。
  • 榮耀9X搭載麒麟810晶片,7nm第一次被帶入千元機,觸發真香定律!
    此前,榮耀9X已經向外透露,全系搭載最新的7nm 製程AI晶片麒麟810。這顆晶片首次集成了達文西架構NPU,在AI能力和功耗方面均達到旗艦級晶片水準!除了最強悍的AI晶片,榮耀9X還在拍照、外觀、軟體等多個方面打著望遠鏡也找不到對手,成為2000元價位段當之無愧的「超能旗艦」。毋庸置疑,榮耀9X一定會觸發真香定律。
  • 量產5nm晶片,攻克2nm技術!這家中國晶片巨頭,30天進帳302億
    其中臺積電對於華為自研晶片業務而言異常重要,畢竟這家專業晶圓代工廠是目前全球範圍內唯一一家能夠量產5nm晶片的巨頭。沒有臺積電供應的華為,自研晶片業務的發展將嚴重受阻,但失去大客戶華為的臺積電,卻並沒有想像中那麼狼狽。
  • AI晶片企業高歌猛進,2020年成為具有節點意義的一年——AI晶片相關...
    AI晶片行業資本市場的熱度不減,多家廠商在產品技術迭代和量產落地上取得較大突破。整體上AI晶片行業在2020年保持向上發展勢頭。行業投融資情況2020年人工智慧行業整體融資趨緩,但AI晶片領域有多家公司一年內獲得多輪投資,其中不乏高額單筆融資。
  • 黃仁勳北京激情演講2小時:搞定國內10大科技巨頭 發布最強AI引擎...
    與5月的GTC一樣,老黃在開場時講起了最近的幾年裡摩爾定律開始失靈,人們需要花越來越多的成本來換取計算能力的些微增加。而且,與摩爾定律逐漸失靈形成對比的是GPU的崛起。世界各地的AI初創公司不斷湧現,今年為止已經獲得了66億美元的融資,而且今年發表的深度學習論文也已經超過了3千篇。  現在有不少AI應用都是此前人類難以想像的,比如利用深度學習自編碼器完成只有部分被渲染的逼真圖像、自動生成語音+3D人臉動畫、人體動作動作實時追蹤、人體動作模擬等等。
  • 只需要7nm晶片1.25%的能耗,就能運行這顆超導晶片,包含冷卻開銷
    這次推出的MANA(單片集成架構),就是一個4位AQFP微晶片的原型,它由超過10000個AQFP組成。這種結構,目前可以穩定以2.5GHz的時鐘頻率運行,與目前晶片的計算能力相當。預計通過優化,能夠增加至5~10GHz。那麼,這種晶片所需的冷卻成本,是不是已經超過了晶片的能耗?並非如此。
  • 牛頓力學三大定律真的是牛頓首次提出來的嗎?
    Kaplan 在 Mathematics Magazine 上發了一篇論文,提到了一個很有趣的現象:在科學計算器上隨便輸入一個數,然後不斷按 cos 鍵,最後這個數總會趨近於某個固定的常數 0.739085... 。Kaplan 指出,這個常數就是方程 cos(x) = x 的唯一實數解,即餘弦函數 y = cos(x) 的不動點。
  • 年度AI晶片盛會12月1日北京見!終極議程彩蛋劇透
    繼2019年3月15日GTIC 2019全球AI晶片創新峰會成功舉辦後,今年的AI晶片創新峰會將以「擁抱芯世界 開創新未來」為主題,與大家共同探討AI晶片在中國半導體黃金時代的創新與發展。VeNEETC-電子工程專輯在雲端及邊緣端AI晶片落地方面,比特大陸、光子算數、億智電子、知存科技四家公司創始人和高管也將圍繞AI晶片的規模化落地,以及新基建風口下的機會進行深入挖掘和分享,他們分別是比特大陸AI業務線CEO王俊、光子算數CEO白冰、億智電子聯合創始人&COO吳浪、知存科技CEO王紹迪。
  • 被揮霍掉的「黃金60年」,正是中國「晶片之殤」的根源
    中國晶片困局源自:被揮霍掉的黃金60年這幾年美國針對華為持續採取打壓遏制措施,封殺手段從最初的手機禁售到谷歌GMS禁止使用最終上升到了晶片禁售和代工封禁,這樣的幾乎全方位式的高壓措施讓我國民眾第一次感受到了我國在半導體領域和美國巨大的差距。
  • 光子嫩膚有什麼作用?做它需要注意什麼?關於光子的知識這裡都有
    夏天到了各大美容公司、醫美公司、美妝達人又開始力推光子嫩膚這個項目,那麼今天我就來跟大家講一講光子嫩膚到底是什麼?光子嫩膚有什麼作用?做它需要注意什麼?ps.(感謝皮膚科主任吉光宇的指導)皮膚科主任吉光宇帥照光子嫩膚是寬光譜的光,波長是500nm-1200nm,而雷射是單一波長,比如co2雷射的波長是10600nm等,因為光子發出的是一段波長的光,這裡面涵蓋了黑色素、血紅蛋白、水的波長峰值,所以說光子具有去紅
  • 仕佳光子「科創屬性」仰仗中科院,本科及以上學歷的員工僅15%
    因此,仕佳光子選擇第四套上市標準,即預計市值不低於30億元,且最近一年營業收入不低於3億元。經研究發現,中國科學院半導體研究所在仕佳光子的研發活動中扮演了舉足輕重的角色。一方面,仕佳光子的主要晶片產品均離不開與中科院半導體所的合作研發,另一方面,自2010年起,中科院半導體所向仕佳光子共委派了18名專家顧問,這也是公司獲得國家科技進步二等獎的重要條件。
  • 年度AI晶片盛會12月1日北京見!終極議程彩蛋劇透|智東西GTIC 2020
    繼2019年3月15日GTIC 2019全球AI晶片創新峰會成功舉辦後,今年的AI晶片創新峰會將以「擁抱芯世界 開創新未來」為主題,與大家共同探討AI晶片在中國半導體黃金時代的創新與發展。GTIC 2020 AI晶片創新峰會還匯聚了我國明星自動駕駛晶片創企——黑芝麻智能與地平線,黑芝麻智能科技創始人&CEO單記章、地平線聯合創始人&技術副總裁黃暢將分別為大家分享自動駕駛計算晶片的創新突圍,以及AI晶片在軟體2.0時代下的思考。
  • 晶片代工新貴崢嶸畢露 臺積電捍衛主導地位
    臺積電作為晶片代工領域的帶頭大哥,它將怎樣接招迎敵本文引用地址:http://www.eepw.com.cn/article/98337.htm  只要是在摩爾定律行之有效的地方,企業就必須跟上它的步伐,為此才能在市場上佔有一席之地。