Nature:世界最快光子AI加速器

2021-01-10 澎湃新聞

原創 長光所Light中心 中國光學 收錄於話題#集成光學10個

撰稿 | 徐興元（莫納什大學 研究員）

說明 | 本文來自文章作者（一作）投稿

人工神經網絡廣泛應用於人臉識別、語音翻譯、醫療診斷、自動駕駛等重要領域,其性能主要由硬體算力決定，目前所廣泛應用的神經網絡硬體都基於數字電子架構。然而，該架構的兩個本質局限—馮諾曼依瓶頸與電子速率瓶頸，極大限制了神經網絡硬體的潛在算力。首先，數字架構中，數據的存儲和運算是分布式的，因而在計算過程中，會有大量的能源和算力消耗在數據的反覆讀取和存儲中，此限制被稱為馮諾曼依瓶頸。其次，由於電子微處理器中的寄生電容和互聯時延問題，電子系統存在著本質的帶寬限制，導致電子微處理器的主頻事實上在過去十年已沒有明顯提升，此限制也被稱為電子速率瓶頸。

藝術插圖/圖源：長春光機所，Light學術出版中心，新媒體工作組

光子神經網絡工作於模擬架構中，即數據在硬體系統中的實時位置與進行運算的位置相同，因而規避了馮諾曼依瓶頸。此外，寬達數十太赫茲的光譜也為高速運算提供了充足的帶寬。目前已有來自加州大學、麻省理工學院、明斯特大學等單位的研究團隊做出了一系列在網絡尺度、可集成性、片上存儲等方面的突破，然而尚未能實現較高運算速度與高維數據處理能力，光子神經網絡的超高運算潛力尚未得到證實。

近日，澳大利亞研究人員徐興元博士（莫納什大學）、譚朦曦博士、David Moss教授（斯文本科技大學）、Arnan Mitchell教授（皇家墨爾本理工大學）等首次提出並實現了基于波長、時間交織的光子卷積加速器。該文章以" 11 TOPS photonic convolutional accelerator for optical neural networks"為題發表在Nature。

封面圖 徐興元博士（莫納什大學）展示集成克爾光頻梳晶片

圖源：莫納什大學，徐興元

研究人員通過採用集成高品質因素、高非線性微環與波導色散調控，實現了高相干度、易於產生的集成克爾孤子晶體光頻梳。

研究人員將該光頻梳進行頻域整形並且與高速光電調製相結合，實現了輸入數據在並行波長通道上的組播與加權，然後採用光學色散介質作為緩存，對組播信號進行了步進延時（步長為單個碼元時長），從而在時域上對齊了不同波長通道中需要加權求和的碼元，最後通過光電轉換實現處理結果的高速實時讀取（如圖1所示）。通過這一系列步驟，波長構架的卷積窗口（感知域）即可在時域以超過60GBaud的速率滑動，結合克爾光頻梳所實現的高並行度（C波段90個波長通道），實現了11 TOPS(太運算每秒)的運算速度，即每秒可完成11萬億次運算。

圖1 卷積加速器工作原理

圖源：Nature 589, 44–51 (2021). Fig 1

通過這一系列步驟，數學模型抽象的神經元突觸就被光頻梳在實際物理系統中實現，其中突觸連接的權重由光頻梳的光功率體現。最終實驗驗證了高維圖片處理(實驗結果如圖2所示)以及深度學習光子卷積神經網絡(實驗結果如圖3所示)。

圖2 卷積圖像處理結果

圖源：Nature 589, 44–51 (2021). Fig 3

在國際相關研究成果的基礎上實現了數個突破，包括：

1. 由於集成克爾光頻梳所提供的大量波長通道，運算速度首次突破到11 TOPS以上；

2. 首次實現了利用光學手段進行高維數據處理（25萬像素點），為光子神經網絡的進一步實際應用如人臉識別等展現了可能；

3. 首次實現了500張MINIST手寫數字圖片的高速分類預測，準確率達到88%以上；

4. 實現了具備高速光電接口的硬體加速器，速度可達64G Baud以上，並且可與現有電子或者光學硬體兼容互聯；

5. 結合應用了集成克爾光頻梳，為實現光子神經網絡的單片集成奠定了基礎。

圖3 卷積神經網絡50張手寫數字識別結果。

上圖為全連接層神經元輸出幅度，下圖為混淆矩陣。

圖源：Nature 589, 44–51 (2021). Fig 6

後續，研究人員將繼續優化本方案的性能指標，如處理速度、並行度、體積與可集成性、功耗等。本工作實驗證明了光子神經網絡硬體的運算潛力，並且具有高速光電接口，未來可作為通用卷積特徵提取前端與其他光電模數架構互聯，在卷積神經網絡中可承擔70%以上的運算負荷，大幅提升系統整體算力，在未來實時人工智慧應用場景如無人駕駛、醫療診斷等方面有重要應用。

文章作者（一作）簡介

徐興元，莫納什大學研究員，斯文本科技大學博士（2020，導師為David Moss教授）。主要研究光子神經網絡、克爾光頻梳、微波光子學。

截止至目前為止，發表學術論文100餘篇；在光學領域權威期刊如Nature, Nature Communications、Laser & Photonics Reviews等發表期刊論文28篇，包括第一作者論文17篇；在頂級國際會議包括CLEO, OFC等共發表會議論文80篇以上。已發表論文近三年內引用次數累計2000次以上， H指數26（據谷歌學術統計）。

於2019年獲得年度IEEE光子學會博士獎學金（全球每年十名）；於2020年被澳大利亞全國性新聞刊物《The Australian》評選為Rising Stars，該獎項針對全澳工作十年之內的青年科研人員，在數學物理方向共有5人入選。

文章信息

Xu, X., Tan, M., Corcoran, B. et al. 11 TOPS photonic convolutional accelerator for optical neural networks. Nature 589, 44–51 (2021).

文章地址

https://doi.org/10.1038/s41586-020-03063-0

【】

歡迎課題組投遞成果宣傳稿

轉載/合作/課題組投稿，請加微信：447882024

往期推薦

走進新刊

開 放 投 稿：Light:Advanced Manufacturing

ISSN 2689-9620

期 刊 網 站：www.light-am.com

開 放 投 稿：eLight

CN 22-1427/O4

ISSN 2662-8643

期 刊 網 站：elight.springeropen.com

這是中國光學發布的第1564篇，如果你覺得有幫助，轉發朋友圈是對我們最大的認可

【】

原標題：《Nature：世界最快光子AI加速器》

閱讀原文

相關焦點

  • 光子計算加快AI運算速度,Nature連登兩篇論文
    Nature最新一期，就連登了兩篇光學加速AI計算的論文，裡面介紹了兩個AI計算加速器：分別是11TOPS的光子卷積加速器和張量核光子加速器，兩者都可以達到每秒數萬億次的計算速度。光子處理器利用光的特性，可以加速人工智慧計算處理過程，同時，還會引領光子計算的復興。為何光子計算能加速AI？
  • Nature:用光子處理器提升人工智慧計算速度
    但是，利用光子進行計算仍然具有挑戰性，尤其是在與先進的電子處理器相當的規模和性能水平上。其困難來源於缺乏合適的並行計算機制、允許人工神經元進行複雜的高速非線性響應的材料以及可集成到計算硬體中的可擴展光子設備。幸運的是，過去幾年中一種被稱為光學頻率梳的設備的發展為集成光子處理器帶來了新的機遇。光學頻率梳是一種具有發射光譜的光源，其頻譜由成千上萬條離散的、等距的頻率線組成。
  • 量子計算還沒搞懂,光子計算又要來統治世界?
    關於光子加速 AI 的發展，自然報導給出這樣的評論：集成光子技術的出現成為實現未來計算架構前所未有的性能的潛在繼任者。但是，構建實用的光學計算機需要材料科學，光子學，電子學等領域的研究人員之間的廣泛跨學科地努力和合作。儘管報導的光子處理器具有較高的單位面積計算能力和潛在的可伸縮性，但是全光學計算規模（光學人工神經元的數量）仍然很小。
  • 量子計算還沒搞懂,光子計算又要來統治世界
    關於光子加速 AI 的發展，自然報導給出這樣的評論：　　集成光子技術的出現成為實現未來計算架構前所未有的性能的潛在繼任者。但是，構建實用的光學計算機需要材料科學，光子學，電子學等領域的研究人員之間的廣泛跨學科地努力和合作。儘管報導的光子處理器具有較高的單位面積計算能力和潛在的可伸縮性，但是全光學計算規模（光學人工神經元的數量）仍然很小。
  • 「吃雞」迎來約143.6M更新,新版本內置手遊加速器,光子用心良苦
    刺激哥在挖掘更新內容的時候，很意外地發現，《和平精英》的新版本內置了一款手遊加速器。如果你剛好有《和平精英》的體驗服，可以在遊戲大廳的主頁面，找到這個手遊加速器的入口。需要提到的是，《和平精英》內置的這款手遊加速器，並不是騰訊旗下的手遊加速器，而是另外一款手遊加速器。
  • 百度AI加速器第六期開營
    正是在全球抗疫，全國加速復工復產的大背景下，2020年5月，百度 AI 加速器第六期正式啟航！疫情雖至，卻不能阻擋創企開拓求變的步伐。挑戰來臨，更需要資源的協同和平臺的助力！百度 AI 加速器第六期小夥伴團隊進一步壯大，共有50家成員企業。他們與前五期成員企業一起，構建了超過200家細分行業龍頭組成的百度 AI 加速器大家庭。
  • 光子處理器:為 AI 加速 「變革」AI硬體
    然而，使用光子進行計算仍然具有一定的挑戰性，特別是在規模和性能水平上，其與最先進的電子處理器相比更具挑戰性。這一困難來自於缺乏合適的並行計算機制、使用材料來允許人工神經元的高速非線性響應以及可擴展的光子器件來集成到計算硬體中。 　　幸運的是，過去幾年來，光學頻率梳(Optical Frequency Combs)的發展為集成光子處理器帶來了新的機會。
  • 顛覆傳統計算架構:光神經網絡硬體登上Nature
    CPU 和其他數字硬體加速器通常用於深度神經網絡計算。深度神經網絡可以使用一個已知的數據集進行訓練，而已經訓練的深度神經網絡可以在推理任務中應用於未知數據。無論哪種情況，雖然計算量很大，運算種類卻不多，因為「乘積累加」運算在諸多突觸權重和神經元激活中佔據主導地位。眾所周知，深度神經網絡在計算精度低時也能表現良好。因此，這些網絡為非傳統計算技術提供了一個很好的機遇。
  • 百度AI加速器牽手中歐創業營 加速AI創企 共推行業「智」變
    新年伊始，百度AI加速器聯合中歐創業營，開啟了對AI創企的加速之旅。2020年1月6日，中歐校友創業創投協會主任李磊帶隊，34家中歐創業營夥伴企業來到百度，共同探討AI服務產業的新業態新模式。百度AI加速器助力成員企業應用AI技術賦能各行各業，共同推進人工智慧在各個產業領域的滲透落地。正如百度創始人、董事長兼 CEO 李彥宏所說，「未來十年，智能經濟將成為世界經濟的新標籤。如果說網際網路改變了我們的消費方式、娛樂方式，那麼智能經濟將改變我們的生產方式，將大大提高人類的生產力。」
  • Nature：將光計算與AI推理整合，實現高速高帶寬AI計算
    近日，Nature 上一篇 Perspective 文章剖析了深度光學和深度光子學的人工智慧推理應用，展示了該領域（尤其是光 - 電混合系統）的發展潛力。但是，人工智慧推理（尤其是用於視覺計算應用的推理）也許能為基於光學和光子學系統的推理提供機會。
  • Nature:將光計算與AI推理整合,實現高速高帶寬低功耗AI計算
    為了高速且低功耗地執行各種應用中的人工智慧任務，我們需要加速器。光計算系統也許能夠滿足這些領域特定的需求，但即便已經歷半個世紀的研究，通用型光計算系統仍還未發展成一項成熟的實用技術。但是，高端 GPU 和其它運行日趨複雜的神經網絡的加速器的功耗和帶寬需求非常高，它們需要大量處理時間而且具有尺寸龐大的外形。這些限制讓人難以在邊緣設備中使用 DNN，比如相機、自動化載具、機器人或物聯網外圍設備。以自動汽車中的視覺系統為例，其必須要能使用有限的計算資源實時地做出穩定可靠的決策。當汽車在高速行駛時，瞬間的決策關乎人的生死。
  • Nature | 綜述:可編程光子集成電路
    但目前，絕大部分的PICs都是針對某一特定應用而對其進行設計並製造的，也被稱為定製化光子集成電路，這就導致該PICs的光路及功能是固定不變的，無法適用於多種應用領域及應用場景，也在一定程度上增加了開發周期和開發成本。
  • 薄荷加速器一鍵加速《恐鬼症》,盡享遊戲最快速度
    薄荷加速器一鍵加速《恐鬼症》，盡享遊戲最快速度 來源：www.18183.com作者：阿姆斯特朗雷時間：2020-11-03 分享到： 作為一款4人合作遊戲《恐鬼症》,其伺服器並不是太穩定,在這裡玩家即可使用薄荷加速器,點擊一鍵智能加速即可解決日常遊戲中的掉線延遲等網絡問題,且VIP通道支持上千款熱門遊戲的加速,薄荷加速器邀您一鍵加速盡享遊戲最快速度
  • 2020世界光子大會暨第九屆國際應用光學與光子學技術交流大會(AOPC...
    11月30日，世界光子大會暨第九屆國際應用光學與光子技術交流大會(AOPC2020)在北京國家會議中心拉開帷幕，與此同時第十二屆光電子中國博覽會也如期舉辦。在此時代背景下，光學領域的創新發展和技術事業進步更加使命光榮、責無旁貸，更需要我們瞄準世界前沿、服務國家戰略、共擔創新使命。"
  • 百度AI加速器第六期招募火熱進行中
    百度 AI 加速器，用 AI 技術為企業賦能，助力智能經濟時代產業領域獨角獸的成長！百度 AI 加速器帶給我們的絕不止是技術、資源的支持，更重要的是思維和視野的加速！—— 卡特加特 CEO 廖翌棋感謝百度帶領我們走進 AI 殿堂並給予基礎能力支持！期待百度生態大爆發！—— 開為科技 CEO 楊通技術賦能農業！
  • 光子算數白冰:光子AI晶片落地之徑
    12月1日智東西現場報導，GTIC 2020 AI晶片創新峰會今日開幕，光⼦算數CEO白冰現場發表了題為《AI晶片的另⼀條路：可編程光子陣列晶片》的演講。白冰在演講中展示了光子算數研發的FPPGA（可編程光子陣列晶片），並解讀了光子算數在光電混合AI加速計算卡、光子協處理引擎模塊、光電混合AI加速計算伺服器等技術領域的工程化進展
  • 一篇論文引發的光子AI晶片革命!這次真想要了摩爾定律的命
    2020年6月，LightOn發表用光學神經網絡訓練晶片運行AI模型的新論文；7月，曦智科技拿到由和利資本投資的數千萬美元A+輪融資；8月，Lightmatter在晶片頂會HotChips上展示了其光子晶片的架構細節；12月，光子算數宣布其打造的光電混合AI加速計算卡已交予伺服器廠商客戶做測試。在加速人工智慧（AI）這條賽道上，光子計算晶片這條創新的技術方向正異軍突起。
  • 英雄聯盟手遊是光子嗎 lol手遊製作公司是哪家
    -- 英雄聯盟手遊是騰訊的工作室光子做的，光子工作室群成立於2008年，是騰訊IEG(互動娛樂事業群)四大工作室群之一。開發了《和平精英》、《英雄聯盟手遊》等遊戲。
  • 新AI硬體加速器的爆炸式增長推動AI發展
    專業的硬體平臺是人工智慧、機器學習和深度學習的未來，也是我們所生活的雲到邊緣世界的每一項任務的未來。 人工智慧的快速發展正在催生一種新型的機器學習和深度學習的硬體加速器。 一些人把這稱為「寒武紀大爆發」，這是對當前狂熱創新時期的一個恰當比喻。
  • 宇宙「超級加速器」現身
    在全球各地，一個個大型加速器日夜不停地運轉著，試圖揭開更多的科學秘密。　　不過，宇宙似乎總是能輕而易舉地將人類「秒殺」。7月3日，中國科學院高能物理研究所在北京宣布，中日合作實驗團隊利用我國西藏羊八井ASgamma實驗陣列，於近日發現了迄今為止最高能量的宇宙伽馬射線，比此前國際上正式發表的最高能量高5倍。相關論文已被《物理評論快報》推選為高亮點論文，並將於7月下旬在線發表。