IBM推出光子張量核 速度是最先進人工智慧處理器兩倍多

2021-01-13 騰訊網

計算領域的光換電無疑是一個值得關注的點。

來源| ZDNet

IBM的研究人員為了滿足算法對處理能力看似無休止的需求推出了一種新的方法,這可能意味著深度學習應用的大變化:執行計算的處理器用的完全是光而不是電。

IBM的研究人員根據光粒子的特性創造了一個光子張量核,該光子張量核能夠以前所未有的速度處理數據,可用於超低延遲的人工智慧應用。雖然該光子張量核設備只進行了小規模的測試,但有關報告指,該處理器經開發後,可以實現每秒每平方毫米一千萬億次的乘累加(MAC)操作;據IBM的科學家說,這樣的速度是靠電信號的 "最先進人工智慧處理器 "的兩倍多。

IBM多年來一直在研究新型的處理單元方法。部分研究集中在開發內存計算技術上,內存計算指內存和處理以某種形式共存。這樣做可以避免在處理器和各個隨機存取內存單元之間傳輸數據,可以節省能源及減少延遲。

IBM的研究人員去年曾宣布成功開發了一種全光學的內存處理方法:他們將內存計算集成在一個光晶片上,利用光執行計算任務。該團隊還做了部分實驗證明利用該技術可以有效地進行基本的標量乘法。

IBM研究院的工作人員Abu Sebastian在一篇新的博客文章中稱目前使用基於光的內存處理器達到了一個新的裡程碑。該團隊建立了一個光子張量核,該處理核可以執行複雜的矩陣數學運算,特別適合深度學習應用。光子張量核的實現將基於光的內存處理技術推進到了新的階段。基於光的張量核可用於執行名為卷積的運算,卷積運算對於處理圖像等視覺數據非常有用。

IBM研究院的研究人員Abu Sebastian告訴記者,「我們在2019年的實驗主要是為了展示該技術的潛力。標量乘法離任何現實生活中的應用都是那麼遙遠。而現在我們實現了整個卷積處理器,該卷積處理器大可用做深度神經網絡的一部分。這樣的卷積將是光學處理的殺手級應用。從這個意義上說,這已經是相當大的一步了。」

基於光的設備相比於基於電的設備最顯著的優勢是速度大大加快。IBM開發的技術利用光學物理學原理可以在單核裡並行運行複雜的運算,每次的計算使用光學波長不同。IBM的科學家們再結合內存計算實現了遠非電子電路可以比擬的超低延遲。因此,對於一些需要極低延遲的應用而言,光子處理的速度可能將帶來極大的變化。

Sebastian提到自動駕駛汽車的例子,這地方檢測速度可能關乎拯救生命。他表示,"假如你在高速公路上以每小時100英裡的速度行駛,而且需要在一定距離內檢測一些東西,在某些情況下,你靠現存的技術做不到。但用了基於光子的系統,那種響應速度比電子方法好了幾個數量級。"

IBM開發的基於光子的處理器具有同時執行多項操作的能力,所需的計算密度也就要低得多。據Sebastian說,這可能是另一個關鍵的差異化因素:這位科學家說,在未來的某個時候,那種靠汽車後備箱一排排傳統GPU支持的超級複雜的人工智慧系統是肯定不能滿足需要的。大多數大型車企現在都在開設自己的人工智慧研究中心,Sebastian認為,自動駕駛車輛是基於光的處理器的重要應用。他表示,"自動駕駛領域的確需要低延遲推理,而目前還沒有任何技術可以滿足這個需求。這是一個獨特的機會。"

IBM團隊雖然已成功設計及測試了一個強大的核,但他們仍需擴充試驗,以確保該項技術可以整合到系統層面上及確保端到端的性能。Sebastian表示,「我們還需要在這一塊做更多的工作。」據這位科學家介紹,相關的工作已經展開,而且,隨著研究的深入,可能出現更多的應用。計算領域的光換電無疑是一個值得關注的點。

你與世界

只差一個

公眾號

相關焦點

  • Nature:用光子處理器提升人工智慧計算速度
    編輯/文龍當今社會,人工智慧正在改變臨床診斷、自動駕駛、語音翻譯等各個領域。但是,數據量的快速增長給AI中使用的電子計算硬體帶來了巨大的挑戰,計算速度和功耗問題已成為人工智慧的主要瓶頸。Xu等人和Feldmann等人的兩篇論文報告了一種通過利用光的獨特屬性來加速AI處理的光子處理器。這些報告引發了光學計算的復興。隨著人工智慧的興起,傳統的電子計算方式逐漸達到其性能極限,遠遠落後於可處理數據的快速增長。在各種類型的AI中,神經網絡由於其出色的表現而被廣泛用於AI任務中。
  • IBM 量子計算路線圖發布!2023 年推出 1121 量子位處理器
    IBM 未來的大致計劃如下:2021 年推出 127 位 IBM 量子鷹處理器( IBM Quantum Eagle)2022 年推出 433 位 IBM 量子魚鷹處理器(IBM Quantum Osprey )2023 年推出 1121 位 IBM 量子禿鷹處理器( IBM Quantum
  • 光子計算加快AI運算速度,Nature連登兩篇論文
    隨著人工智慧的爆炸式增長,其對算力的要求也越來越高。Nature最新一期,就連登了兩篇光學加速AI計算的論文,裡面介紹了兩個AI計算加速器:分別是11TOPS的光子卷積加速器和張量核光子加速器,兩者都可以達到每秒數萬億次的計算速度。光子處理器利用光的特性,可以加速人工智慧計算處理過程,同時,還會引領光子計算的復興。
  • Nature連發兩篇光子AI晶片論文!光子計算時代已至?
    芯東西(公眾號:aichip001)編譯 | 心緣編輯 | 漠影芯東西1月7日消息,人工智慧(AI)正改變臨床診斷、自動駕駛、語音翻譯等更多領域,而計算速度和功耗日益成為AI的主要瓶頸。傳統電子計算方法逐漸走向性能極限後,近幾年,關於用光學晶片加速AI的研究逐漸興起。
  • 光子處理器:加速光學計算領域的變革
    但是,持續增加的數據量在為人工智慧(AI)提供源源不斷的「動力」的同時,也對用於 AI 的電子計算硬體提出了更多的挑戰,無論是在計算速度,還是在功耗方面,都已經成為嚴重製約 AI 發展的主要瓶頸之一。 如今,隨著用於自動駕駛汽車和語音識別等機器學習方法的出現,這種數據增加的上升趨勢仍將繼續下去。所有這些,都給當前的計算機處理器在滿足人們需求方面帶來了沉重的負擔。
  • 股市華興社:光子計算時代已至?
    股市華興社報導,股市華興社認為光子計算研究再登Nature,要革命AI硬體。芯東西1月7日消息,股市華興社了解到人工智慧(AI)正改變臨床診斷、自動駕駛、語音翻譯等更多領域,而計算速度和功耗日益成為AI的主要瓶頸。傳統電子計算方法逐漸走向性能極限後,近幾年,關於用光學晶片加速AI的研究逐漸興起。
  • 光子處理器:為 AI 加速 「變革」AI硬體
    但是,持續增加的數據量在為人工智慧(AI)提供源源不斷的「動力」的同時,也對用於 AI 的電子計算硬體提出了更多的挑戰,無論是在計算速度,還是在功耗方面,都已經成為嚴重製約 AI 發展的主要瓶頸之一。   如今,隨著用於自動駕駛汽車和語音識別等機器學習方法的出現,這種數據增加的上升趨勢仍將繼續下去。
  • 計算速度是電子晶片1000倍,光子AI晶片商用產品今年面世!
    電子發燒友網報導(文/李彎彎)隨著AI晶片面臨算力瓶頸,用光子代替電子進行AI計算開始問世,目前已經有多家初創公司正在研究光子AI晶片,包括曦智科技、光子算數、Lightmatter、Luminous等。 與電子晶片相比,光子晶片的計算速度是其的1000倍,而且功耗僅為其百分之一。
  • 光子晶片:一場發生在MIT校友之間的競賽
    但這些系統所進行的計算非常複雜,要求很高,即使是最強大的計算機也應對吃力。 在此背景下,麻省理工學院的一個研究小組嘗試將「光子計算」與「人工智慧」結合起來,利用這種已發展多年但又仍處前沿的技術提高深度學習計算的速度和效率。
  • 光基處理器晶片推動機器學習
    在當今數字時代,數據流量正以指數級的速度增長。對於人工智慧應用,例如尤其是模式和語音識別、或自動駕駛汽車,對計算能力的需求,通常超出了常規計算機處理器的能力。明斯特大學的研究人員與一個國際團隊合作,開發可以極其高效地應對這些任務的新方法和過程體系結構。
  • 美國宣布造出最快超級計算機,峰值速度是神威近兩倍
    美國能源部實驗室宣布,他們研發出一臺名為「Summit」的超級計算機,現在已經在美國橡樹嶺國家實驗室運行,運算速度峰值達每秒20億億次,超中國超級計算機「神威太湖之光」的運算峰值的每秒12.5億億次,運算能力為目前「世界最強」!如無意外,它將在本月底公布的Top 500榜單中名列第一,美國重奪「世界上最強大超算」桂冠。
  • 手機處理器解讀:雙四核/真八核有啥區別?
    然而首個擁有八顆核心的移動處理器並非MT6592,在它之前,三星就推出過Exynos 5410處理器,它就擁有著八顆核心(4個A7、4個A15),但是三星更願意用「雙四核」來稱呼這款處理器,那麼同樣是擁有八核芯,「雙四核」與「真八核」究竟有啥區別?今日筆者就帶你聊聊這些個事兒。
  • 蘋果A7處理器是怎樣用雙核擊敗八核的
    「Android就知道拼硬體,四核八核做出來,還不如我家蘋果雙核快,丟臉不丟臉?」實測:雙核秒殺四核/八核好吧嚴肅一點,讓我們先把得意洋洋的果粉放到一邊。事實上A7處理器「以雙核戰翻四核」這個近乎於神話的結果本來也很有趣,這是否是蘋果遠遠拋開業 界設計水平的佐證呢?
  • 多核處理器還能走多遠?2050年用上1024核CPU
    隨著銳龍Threadripper 3990X處理器的上市,AMD在桌面處理器上也帶來了64核128線程處理器了,這是目前最強大的桌面CPU,甚至短時間內都沒可能有競品超過它了。
  • 通過光線加快機器學習的速度
    這項研究來源於歐盟項目Fun-COMP,由埃克塞特大學的C.David Wright教授領導,C.David Wright教授說:"傳統的計算機晶片基於電子數據傳輸,速度相對較慢,但基於光的處理器,也就是我們研究中開發的處理器,能夠以數百倍甚至數千倍的速度處理複雜的數學任務,而且能耗大大降低。"
  • 行業動態 | 光子晶片技術又見新突破
    半導體行業的領先公司,如ibm、英特爾和惠普,目前正在投資數十億美元轉向光子學目前的高性能運算應用之多核心處理器速度
  • 最強手機晶片進化史:蘋果A系列處理器是如何煉成的!
    ,GPU集成的是一顆三核心的PowerVR SGX 543MP3圖形處理單元,性能是A5的兩倍多。此後A8,A9,A10進一步提升核心數和製程工藝,處理器及GPU性能節節攀升,值得注意的是當時為iPad Air 2配備的A8X處理器,它是移動行業第一個三核處理器,其性能也是無比強悍。
  • 光子處理器達到前所未有的計算密度
    一個國際研究人員團隊開發了一種用於光子處理器的新方法和體系結構,可加快機器學習領域的複雜數學任務。越來越多的AI應用程式的出現(例如在自動駕駛汽車,智能城市和語音識別中)給當前的計算機處理器帶來了沉重的負擔,無法滿足需求。
  • a11處理器規格_蘋果a11處理器詳細參數
    現在所謂的手機處理器,比如高通的835、蘋果的A11、麒麟970等,實際上所指的是一個「處理器包」封裝在一起,這個計算包專業一點說叫Soc(System-on-a-Chip),高大上的說法是「計算平臺」;根據分工不同,很多專用功能的處理單元加進來,比如我們最熟悉的是GPU,現在這個包裡的獨立單元數量已經越來越大,比如ISP(圖像處理)、Modem(通信模塊)、DSP(數位訊號處理
  • 光學卷積神經網絡加速器:通過光學實現更強大的人工智慧
    最先進的電子硬體,如圖形處理單元和張量處理單元加速器,有助於緩解這一問題,但受到了串行數據處理的內在挑戰,因為串行數據處理需要迭代數據處理,還會遇到布線和電路限制所造成的延遲。電子硬體的光學替代品可以通過非迭代的方式簡化信息處理,幫助加快機器學習進程。然而,基於光子的機器學習通常受制於光子集成電路上可放置的元件數量,限制了互連性,而自由空間的空間光調製器則受制於較慢的編程速度。