微軟推出深度學習系統Brainwave:超低延遲

2021-01-08 TechWeb

新浪科技訊 北京時間8月23日早間消息,微軟周二下午宣布Brainwave,這是一套基於FPGA(現場可編程門陣列)的超低延遲雲端深度學習系統。早期的基準測試顯示,在使用英特爾Stratix 10 FPGA時,Brianwave可以在沒有任何批處理的情況下在大型門控循環單元上保持39.5 Teraflop運算速度。

微軟一直在向FPGA投入研發資源,在其數據中心裡部署了許多FPGA。可以在FPGA中編寫算法,大幅提升其效率,並且易於重新編程。這種特點使之非常適合機器學習,尤其是平行計算。

依靠這項工作,微軟已經把DPU或DNN處理單元集成到FPGA中。他們希望通過專注於深度神經網絡,可以讓該公司的基礎設施更快地適應研發速度,並提供近乎實時的處理效率。

FPGA其實是一種比較古老的技術,但最近幾年得到了復興。FPGA創業公司Mipsology一直在與亞馬遜密切合作,希望通過AWS和其他平臺提供這項技術。

如果說過去幾十年的主題是開發通用CPU來處理各種各樣的計算任務,過去幾個月的主題則變成了開發具有卓越表現的專用晶片,很多企業都把目標瞄向了機器學習專用晶片。

目前為止最引人注目的項目就是谷歌的TPU,這是一種專門針對TensorFlow開發的晶片,早期基準測試顯示其前景廣闊。事實上,多數大型科技公司都在圍繞未來的計算技術開展附屬項目,包括量子晶片和FPGA等。很多創業公司也樂於為科技巨頭提供幫助,包括RIgetti、Mythic和Wave等。

目前還不清楚Brainwave何時會向微軟Azure用戶開放。該系統目前可以與谷歌的TensorFlow和微軟自己的CNTK配合使用。該公司對這項技術非常看好,所以今後幾個月肯定還會有更多消息傳出。

相關焦點

  • 微軟推出深度學習加速平臺「Project Brainwave」
    近日在 Hot Chips 2017 上,微軟團隊推出了一個新的深度學習加速平臺,其代號為腦波計劃(Project Brainwave),機器之心將簡要介紹該計劃。腦波計劃在深度學習模型雲服務方面實現了性能與靈活性的巨大提升。微軟專為實時人工智慧設計了該系統,它可以超低延遲地處理接收到的請求。
  • 微軟推出機器學習系統Brainwave,超低延遲、堪稱實時AI
    【AI星球(微信ID:ai_xingqiu)】8月23日報導(編譯:福爾摩望)微軟今天推出了一款可以支持高速、低延遲機器學習模型的系統,也預示著微軟開始在專用AI硬體領域嶄露頭角。
  • 微軟發布 Project Brainwave,基於英特爾 FPGA 的低延遲深度學習雲...
    雷鋒網消息:今日,微軟發布了 Project Brainwave,一個基於 FPGA 的低延遲深度學習雲平臺。微軟表示:「該系統為實時 AI 而設計——這意味著,它能以極低的延遲在接收數據後立刻處理請求。
  • 微軟揭曉Brainwave人工智慧系統,可實現超低延遲
    今日,微軟在 HotChips 大會上正式揭曉了 Brainwave 系統,該產品是微軟加入人工智慧硬體競賽的首發產品。微軟表示這款高速度、低延遲的 AI 專用晶片系統可以為機器學習開發者們提供超越 GPU 的性能。
  • 微軟發布深度學習平臺Brainwave,基於FPGA且速度超快
    安妮 編譯整理量子位 出品 | 公眾號 QbitAI在昨天Hot Chips 2017大會上,微軟發布了基於FPGA的低延遲深度學習加速平臺。據微軟官方博客顯示,當使用英特爾Stratix 10 FPGA時,Brainwave可在無批處理的情況下支持每秒39.5萬億次浮點運算。
  • 微軟發布基於FPGA的深度學習平臺Brainwave
    打開APP 微軟發布基於FPGA的深度學習平臺Brainwave 發表於 2019-08-19 17:51:01 據微軟官方博客顯示
  • 微軟AI晶片Brainwave開放雲端試用版 比TPU快5倍
    Project Brainwave計算平臺是微軟基於英特爾FPGA晶片打造的低延遲深度學習計算平臺。微軟表示,與最流行的行業基準相比,Project Brainwave可以將實時AI計算的延遲時間降到最小,並且成本控制在可接受的範圍。
  • 微軟披露Project Brainwave實時人工智慧平臺的更多細節
    Project Brainwave 是微軟的一套深度學習加速平臺,主要面向實時人工智慧應用。
  • 國信放出「超級大招」——全鏈路超低延遲交易解決方案
    搶佔超低延遲賽道,國信證券率先領跑量化時代,「沒有最快,只有更快」,追逐超低延遲的軍備競賽不斷升溫。作為低延遲交易賽道的領跑者,國信證券擁抱技術革命,鼎力打造集FPGA行情系統、新一代分布式櫃檯系統、極速網絡環境、兩地雙中心報盤等低延遲交易技術於一體的新一代低延遲交易解決方案。從交易所行情出發,經解碼轉發至用戶,用戶發出訂單至交易所整個鏈路實現超低延遲!
  • 大會直擊|微軟亞洲研究院劉鐵巖:深度學習成功的秘密
    在人工智慧高歌猛進,人們期待深度學習無往不勝之時,作為人工智慧學者,我們必須保持冷靜,分析深度學習技術的短板,開展針對性研究將其克服,從而助力人工智慧的長期繁榮。事實上,今天深度學習成功的主要因素:超大規模訓練數據、複雜的深層模型、分布式並行訓練,也正是影響其進一步發展的障礙。
  • 88ms超低延遲 vivo TWS Neo不拿來玩遊戲可惜了
    vivo TWS Neo是vivo推出的第二款真無線耳機產品,相比於第一款產品來說,vivo TWS Neo得到了全面的進化,尤其是在音質和延遲上面。vivo TWS Neo真無線耳機搭載了第二代雙路傳輸技術與系統級全鏈路優化技術,可以實現88ms的超低延遲,這一成績也刷新了當時的業界紀錄,對於經常用真無線耳機玩手機遊戲的用戶來說,超低延遲可以帶來行雲流水般的暢快遊戲體驗。
  • 微軟推出Brainwave項目 提供更快晶片吸引AI開發者
    這個項目名為Project Brainwave,可以讓微軟數據中心的開發人員使用現場可編程門陣列(FPGAs),這種這列即使被插入伺服器之後也可以進行定製。微軟表示,該晶片在Build開發者大會上首次亮相。
  • 微軟新出的HoloLens 2將配備同級別最佳的深度傳感器
    打開APP 微軟新出的HoloLens 2將配備同級別最佳的深度傳感器 佚名 發表於 2018-08-23 09:54:47
  • 迎來PyTorch,告別 Theano,2017 深度學習框架發展大盤點
    深度學習是機器學習中一種基於對數據進行表徵學習的方法,作為當下最熱門的話題,谷歌、Facebook、微軟等巨頭紛紛圍繞深度學習做了一系列研究,一直在支持開源深度學習框架的建設。—ONNX(Open Neural Network Exchange),欲藉此打造一個開放的深度學習開發工具生態系統,讓不同的神經網絡開發框架做到互通互用。
  • 深度解讀微軟新 AI 翻譯系統四大秘技
    ,微軟中英新聞翻譯達人類水平》中,我們介紹了微軟亞洲研究院與雷德蒙研究院共同研發的新的機器翻譯系統,微軟稱它在 newstest2017 的中-英測試集上達到了與人工翻譯媲美的水平。一,對偶學習 Dual Learning深度學習模型的訓練需要大量數據,這不僅是領域內的常識,也是限制在更多場景下使用深度學習的一大障礙。對偶學習的提出就主要是為了減少對數據的依賴。
  • 微軟推出TensorFlow擴展套件DirectML 支持DirectX 12
    近期,微軟發布了一款名為TensorFlow-DirectML的TensorFlow擴展套件,幫助開發者能夠在Windows平臺上通過支持DirectX 12的GPU來加速TensorFlow模型運算,並同樣適用Linux的Windows子系統(WSL)。
  • 推出AI人才賦能計劃!位於張江的這個微軟全球最大實驗室,今天又放...
    這一落地張江人工智慧島的實驗室總面積達到近2800平方米,是微軟全球第4家,也是截至目前規模最大的一個人工智慧和物聯網實驗室,主要聚焦人工智慧和物聯網技術與製造、零售、醫療、金融、城市建設等行業的深度融合及創新發展。
  • 如果我們力推深度Linux系統,會取代微軟的Windows系統嗎?
    【如果我們力推深度Linux系統,會取代微軟的Windows系統嗎?】華為在matebook中已經開始使用深度的Linux系統了,我們甚至一度認為,華為這是在結束微軟系統做準備。實際上,我們確實發現華為的心思很深——為了未來華為在系統方面不受美國微軟等等方面的控制。
  • Solarflare 推出低延遲、低功耗10-GbE控制器SFL9022、SFL9021和...
    Solarflare 推出低延遲、低功耗10-GbE控制器SFL9022、SFL9021和SFC9020 L9022雙埠10GBase-T主板上LAN(LOM),L9021單埠LOM,和C9020雙埠10-GbE控制器模塊還具有工業領先的低於6µs的延遲。         器件功耗不到典型解決方案的一半—SFL9022:10.8W;SFL9021:6.6W;SFC9020:2.4W,典型值。
  • 美圖秀秀聯手微軟小冰,推出史上最強人工智慧賀卡
    近日,美圖秀秀聯手人工智慧微軟小冰,共同推出了人工智慧聖誕賀卡,兩個逆天黑科技就這樣相遇,滿滿心意不需太費力就能一鍵定製。繪畫機器人Andy是美圖秀秀推出的人工智慧用於繪畫的產品,用戶只需上傳一張自拍照,Andy就可以為用戶製作不同風格的插畫像,與 Prisma等應用相比,繪畫機器人Andy在對海量的圖片數據進行分析和學習之後