Nature連發兩篇光子AI晶片論文!光子計算時代已至?

2021-01-13 智東西

芯東西(公眾號:aichip001)編譯 | 心緣編輯 | 漠影

芯東西1月7日消息,人工智慧(AI)正改變臨床診斷、自動駕駛、語音翻譯等更多領域,而計算速度和功耗日益成為AI的主要瓶頸。傳統電子計算方法逐漸走向性能極限後,近幾年,關於用光學晶片加速AI的研究逐漸興起。

這不,2021年剛開年,頂級科學期刊《Nature》上就在一天之內連發兩篇利用光學特性加速AI處理的光子晶片論文。

論文連結:https://doi.org/10.1038/s41586-020-03063-0

其中一篇論文題目為《用於光學神經網絡的11 TOPS光子卷積加速器(11 TOPS photonic convolutional accelerator for optical neural networks)》,論文主要作者有Xingyuan Xu、Mengxi Tan等人,來自澳大利亞斯威本科技大學、蒙納士大學、皇家墨爾本理工大學、香港城市大學、中國科學院等科研院所。

該論文展示了一種通用光學向量卷積加速器,其計算速度可超過10 TOPS(每秒10萬億次運算),能生成足以進行人臉識別的25萬個像素的圖像卷積。研究人員使用相同硬體運行一個有10個輸出神經元的光學卷積神經網絡,識別手寫數字圖像的準確率達88%。

論文連結:https://doi.org/10.1038/s41586-020-03070-1

另一篇論文名為《利用積分光子張量核的並行卷積處理(Parallel convolutional processing using an integrated photonic tensor core)》,論文主要作者有J. Feldmann等人,來自美國匹茲堡大學、德國明斯特大學、英國牛津大學、埃克塞特大學、瑞士洛桑EPFL及蘇黎世IBM研究實驗室等科研院所。

該論文介紹了一個基於張量核心的計算專用集成光子硬體加速器,通過將相變材料與光子結構結合,運算速度可達每秒數萬億次乘累加運算(每秒1012次MAC運算或每秒tera-MAC運算)。

一、光學頻率梳為光子計算帶來新機遇

因性能出色,人工神經網絡被廣泛用於AI處理任務,這些網絡使用多層相互連接的人工神經元執行複雜的數學運算,使用大多數計算資源的基本運算稱為矩陣矢量乘法。

為了加速人工神經網絡計算任務,人們已經進行了各種努力來設計和實現特定的電子計算系統,尤其在專用集成電路、類腦計算和存內計算定製晶片方面已取得相當大的成功。

電子是電子計算中信息的載體,而光子長期以來一直被視為替代選擇。

光譜涵蓋了廣泛的波長範圍,因此許多不同波長的光子可以同時進行多路復用(並行傳輸)和調製(以使其可以攜帶信息的方式進行更改),而不會相互幹擾光信號。信息以光速傳播則可以帶來最小的時間延遲。

此外,無源傳輸(不需要輸入功率)有助於超低功耗,且相位調製(從而改變了光波的量子力學相位)使得光在頻率大於40 GHz時易於調製和檢測。

過去幾十年,光學通信取得了巨大的成功,但使用光子進行計算仍具有挑戰性,尤其是在與最先進的電子處理器相當的規模和性能水平上。

這種困難來自於缺乏合適的並行計算機制、材料來允許人工神經元進行高速非線性(複雜)響應,以及將可擴展光子器件集成到計算硬體中。

幸運的是,過去幾年中稱為光學頻率梳設備的發展為集成光子處理器帶來了新的機遇。

光學頻率梳是一組具有發射光譜的光源,由成千上萬條頻率均勻且緊密間隔的清晰光譜線組成。這些設備在光譜學、光學時鐘計量學和電信等各個領域都取得巨大的成功,並獲得了2005年諾貝爾物理學獎。

光學頻率梳可被集成到計算機晶片,並作為用於光子計算的高功率效率的能源。該系統非常適合於通過波長復用進行數據並行處理。

二、單個光子處理器內核算力超10 TOPS

在論文《用於光學神經網絡的11 TOPS光子卷積加速器》中,Xu及其同事使用這樣的設置來生產通用集成光子處理器。該設備執行一種矩陣-向量乘法,用於圖像處理應用的矩陣卷積。

作者採用了一種巧妙的方法來進行卷積。他們首先使用色散(傳輸光的速度取決於其波長)來為波長復用的光信號產生不同的時間延遲。然後,他們沿著與光的波長相關的維度組合這些信號。

▲光學CNN結構

通過充分利用大範圍的光子波長,Xu等人實現了針對不同卷積運算的並行計算。使用單個處理內核,光子計算速度超過10 TOPS,能在超過14千兆赫的帶寬下工作,且僅受數據吞吐量的限制。

這項工作另一個受歡迎的特點是,作者在實際應用中確定了其光子卷積處理器的入口點。特別是,他們建議處理器可以用於混合光電子框架,例如在光纖通信中進行原位計算。

三、將相變材料存儲單元與光學頻率梳結合

在論文《利用積分光子張量核的並行卷積處理》中,Feldmann和他的同事獨立地製造了一個集成光子處理器,通過使用集成張量核心可進行並行卷積處理。

該設備在基於相變材料(可以在非晶相和結晶相之間切換的材料)的存內計算架構中使用光學頻率梳。作者通過波長復用對輸入數據進行充分的並行處理,並利用相變材料集成單元陣列進行了類似的矩陣-向量乘法運算。

這種高度並行化的框架可以在單個步驟中高速處理整個圖像。此外,原則上,在不久的將來,該系統可以使用商業製造程序進行大規模擴展,並將有助於現場機器學習。

▲用於在光照下運行矩陣乘法的處理器示意圖(圖源:牛津大學)

由於卷積過程涉及無源傳輸,理論上光子處理核心的計算能以光速和低功耗執行。這種方法具有可擴展性和可訓練性,對於能源密集型應用非常有價值,如雲計算、自動駕駛汽車、實時視頻識別等要求較高的應用。

該研究主要作者之一明斯特大學研究生Johannes Feldmann說:「利用光進行信號傳輸,使處理器能夠通過波長多路復用執行並行數據處理,這帶來更高的計算密度,並且僅需一個時間步長,就能進行許多矩陣乘法。相比通常在低GHz工作的傳統電子設備,光調製速度可以達到50至100GHz範圍。」

結語:光子晶片或成未來計算架構可行路徑

這些研究結果表明,集成光子技術在需要大量數據的人工智慧應用(如自動駕駛、實時視頻處理和下一代雲計算服務)中具有並行、快速和高效計算硬體的潛力。

鑑於傳統電子計算方法面臨的挑戰,集成光子技術的出現令人興奮,它正成為實現未來計算架構前所未有性能的一個潛在接班人。

不過,構建實用的光學計算機需要材料科學、光子學、電子學等領域的研究人員之間的廣泛跨學科努力和合作。

儘管報導的光子處理器具有較高的單位面積計算能力和潛在的可伸縮性,但是全光學計算規模(光學人工神經元的數量)仍然很小。另外,因為存在固有地吸收光的計算元件,且電信號和光信號經常需要轉換,能量效率會受到限制。

另一個研究途徑是發展先進的非線性集成光子計算體系結構,而非一維或二維的線性卷積。通過將電子電路和數千或數百萬個光子處理器集成到合適的體系結構中,同時利用光子和電子處理器的混合光電框架可能在不久的將來,帶給AI硬體革命性的變化。這些硬體將在通信、數據中心操作和雲計算等領域具有重要的應用。

如想了解更多光子AI晶片發展脈絡及產業現狀,可閱讀《一篇論文引發的光子AI晶片革命!這次真想要了摩爾定律的命》一文。

來源:Nature、TechXplore

相關焦點

  • 光子計算加快AI運算速度,Nature連登兩篇論文
    Nature最新一期,就連登了兩篇光學加速AI計算的論文,裡面介紹了兩個AI計算加速器:分別是11TOPS的光子卷積加速器和張量核光子加速器,兩者都可以達到每秒數萬億次的計算速度。光子處理器利用光的特性,可以加速人工智慧計算處理過程,同時,還會引領光子計算的復興。為何光子計算能加速AI?
  • 一篇論文引發的光子AI晶片革命!這次真想要了摩爾定律的命
    芯東西(公眾號:aichip001)作者 | 心緣編輯 | 漠影光子計算時代到來了嗎?幾家中美晶片創企正試圖給出正面的回答。2020年6月,LightOn發表用光學神經網絡訓練晶片運行AI模型的新論文;7月,曦智科技拿到由和利資本投資的數千萬美元A+輪融資;8月,Lightmatter在晶片頂會HotChips上展示了其光子晶片的架構細節;12月,光子算數宣布其打造的光電混合AI加速計算卡已交予伺服器廠商客戶做測試。在加速人工智慧(AI)這條賽道上,光子計算晶片這條創新的技術方向正異軍突起。
  • Nature:用光子處理器提升人工智慧計算速度
    但是,數據量的快速增長給AI中使用的電子計算硬體帶來了巨大的挑戰,計算速度和功耗問題已成為人工智慧的主要瓶頸。Xu等人和Feldmann等人的兩篇論文報告了一種通過利用光的獨特屬性來加速AI處理的光子處理器。這些報告引發了光學計算的復興。隨著人工智慧的興起,傳統的電子計算方式逐漸達到其性能極限,遠遠落後於可處理數據的快速增長。
  • 光子算數白冰:詳解光子AI晶片落地進展與研發路徑|GTIC2020
    白冰提到,當前光學AI晶片仍處於較早期階段,光子算數已做出測試級產品,於今年交予部分伺服器廠商客戶進行測試。以下為白冰演講實錄整理:一、光學晶片工程化進展,已至測試階段與常規數字晶片不同,白冰所創立的光子算數,採取了另外一條技術路線——光子晶片。白冰說,用光學做計算處於比較早期的階段。
  • 曦智科技沈亦晨:光子晶片加速智能算法和智能計算
    會上,曦智科技聯合創始人兼 CEO 沈亦晨分享了光子晶片加速智能算法和智能計算的主題演講。圖|麻省理工科技評論以下為經過整理後的演講實錄:大家好,我叫沈亦晨。今天聽了那麼多演講,我覺得基本上可以確定大數據時代已經來了,大數據時代和智能時代最關鍵的兩要素之一是數據。我們肯定需要越來越多的海量數據來幫助我們訓練更智慧的模型。
  • 全球首家光子晶片公司曦智科技宣布2600萬美元A輪融資
    4月8日,新芽NewSeed(www.NewSeed.cn)獲悉,源自麻省理工學院的光子計算硬體開發公司曦智科技宣布,已於近期完成2600萬美元A輪融資。圖|曦智科技產品模型圖(來源:曦智科技)作為光子計算領域第一家公司,曦智科技自誕生初期一直跑在最前列。2017年沈亦晨博士與其所在的麻省理工學院團隊在《自然-光子學》上發表一篇重要論文,將集成光子計算的新起點展示在世人面前。
  • 「天才少年」曹原再次連發兩篇Nature,都講了什麼?-虎嗅網
    當地時間5月6日,因發現魔角石墨烯超導態而榮獲《Nature》「2018年度科學人物」榜首、麻省理工Pablo Jarillo-Herrero課題組成員曹原,再次連發兩篇Nature,講述了團隊在魔角石墨烯取得的一系列新進展。其中一篇Nature,曹原是第一作者兼共同通訊作者;另一篇Nature,曹原為共同第一作者。
  • 新型矽鍺合金:為光子晶片開闢新前景!
    背景如今,我們正處於一個信息大爆炸的時代,使用和生產的數據都在急劇增長。摩爾定律-集成電路晶片上電晶體數量(1976-2016)(圖片來源:維基百科)然而,如今摩爾定律卻正面臨嚴峻挑戰。電晶體尺寸正在迅速逼近物理極限,近期的電晶體模型的寬度大約低至10納米(約30個原子)。
  • Nature | 綜述:可編程光子集成電路
    Fig 1基於2×2耦合器模塊以及波導模塊,便可完成光波導網絡的設計,目前光波導網絡主要分為兩大類:一種是單向網絡,即光只能由in端傳輸至out端;另一種是循環網絡,即光可以在網絡中循環傳輸,甚至可以重新傳輸回in端。
  • 光子集成電路,未來晶片只有一粒米大小
    集成電路是把設計好的電子電路整個製作在一片矽材料上,一個晶片集成了成千上萬的三極體,使得電子產品微型化,同時功耗降低,可靠性提高,成本降低,功能強大。集成電路大體上分為數字集成電路、模擬集成電路、混合集成電路。光子集成電路(PIC)是一項新興技術,它基於晶態半導體晶圓集成有源和無源光子電路與單個微晶片上的電子元件。
  • 金賢敏團隊製備出矢量渦旋光輻射器光子集成晶片
    光子集成晶片內矢量渦旋光的嵌入式產生,使得在單個晶片內實現產生、傳輸和操控一體化變得可能。結合陣列化集成能力,該工作為大規模集成化地利用光子軌道角動量自由度資源,以及開展高容量通信和高維量子信息處理奠定了基礎。該嵌入式的矢量渦旋光輻射器光子集成晶片技術已經獲得了國際PCT專利。
  • 2020世界光子大會暨第九屆國際應用光學與光子學技術交流大會(AOPC...
    在此時代背景下,光學領域的創新發展和技術事業進步更加使命光榮、責無旁貸,更需要我們瞄準世界前沿、服務國家戰略、共擔創新使命。",申報單位天津津航技術物理研究所,主要完成人劉舒揚等;第六屆中國光學工程學會科技創新頒獎典禮結束後,孫宏波教授主持了第五屆全國光學工程學會優秀博士論文的頒獎典禮。
  • 如何驗證量子晶片的計算是否正確?科學家想出了一種「分而治之」的...
    在過去的幾年中,研究人員已開始開發包含大約50至100量子位的「嘈雜中型量子」(NISQ)晶片。這足以證明「量子優勢」,這意味著NISQ晶片可以解決傳統計算機難以處理的某些算法。但是,驗證晶片是否按預期執行操作會非常低效。晶片的輸出看起來可能完全是隨機的,因此需要很長時間來模擬步驟以確定一切是否按計劃進行。
  • 我科學家構建76個光子量子計算原型機「九章」
    記者3日從中國科學技術大學獲悉,該校潘建偉、陸朝陽等組成的研究團隊,與中科院上海微系統所、國家並行計算機工程技術研究中心合作,構建了76個光子的量子計算原型機「九章」,實現了具有實用前景的「高斯玻色取樣」任務的快速求解。
  • 光子產業進入爆發期:巨頭加持,加速布局新賽道
    作為一項新興技術,光子晶片技術有望帶動整個信息技術產業進入「從電到光」的轉變,並在未來光存儲、光顯示、光互聯、光計算,以及醫療衛生和航天、國防等領域的發展中發揮重要作用。目前,全球部分國家正在加緊進行科研和產業布局,可以預見是,未來誰能率先在光子技術上實現突破,誰就能搶佔信息技術產業鏈的「制高點」。
  • 美開發出迄今最小分光器 使矽光子晶片更近現實
    原標題:美開發出迄今最小分光器 使製造利用光計算和傳輸數據矽光子晶片更近現實   原標題:美開發出迄今最小分光器   使製造利用光計算和傳輸數據的矽光子晶片更接近現實 上圖 應用於矽光子晶片的新型分光器俯視圖,其大小僅為人類髮絲寬度的五十分之一。
  • SIC芯鏈觀察:光+高性能計算晶片 =?
    隨著人工智慧時代的來臨,全球對於高性能計算的需求正在快速上升。傳統的高性能計算晶片基於CMOS數字電路處理器,而隨著摩爾定律接近瓶頸,傳統的高性能計算的發展速度也在減緩。使用矽光子技術實現高性能計算晶片正是為了解決傳統數字電路晶片的種種瓶頸應運而生,並在最近得到了越來越多的關注。
  • 光子發動機可送人類到火星 已申請專利
    同時,由於超導板可以做成平面形狀,也節省了製造成本。今年早些時候,一位職員證實該團隊在寫這篇論文。除了羅德爾博士說的,我對該話題沒有更多要說的,請耐心等待下一份EwDrive論文出版。」今年早些時候在AIP Advances上發表的論文暗示,EmDrive與其他火箭一樣都要向外排出。赫爾辛基大學物理學教授、論文的第一作者阿爾託·安尼拉(Arto Annila)博士稱:「EmDrive工作原理與其他任何發動機一樣,其燃料是微波長度的光子。」
  • 中國科學家構建76光子量子計算原型機
    中國科學家構建76光子量子計算原型機 2020-12-09 11:05 來源:澎湃新聞·澎湃號·政務
  • 新型糾纏光子源快速高效
    現在,美國史蒂文斯理工學院的研究人員做到了這一點,據該校官方18日最新報導,研究人員不僅創造了一種基於晶片的光子源,其效率是以前的100倍,這使大規模量子設備集成變得觸手可及。相關研究成果發表於17日的《物理評論快報》。 「這對量子通信來說是一個巨大的裡程碑。」加拉格爾物理學副教授兼量子科學與工程中心主任黃玉平(音譯)說。