作為一種可編程邏輯器件,FPGA在20多年中已從電子設計的外圍器件逐漸演變為數字系統的核心。隨著雲計算、人工智慧時代的到來,善長數據並行計算、更加靈活和低延遲的FPGA將受到更多關注,FPGA廠商也推出不同類型的解決方案加以應對——異構計算平臺化、IP化,FPGA正展現出更多新的發展趨勢。
AI應用驅動,FPGA市場快速增長
雲計算、人工智慧的應用發展,對晶片的計算力提出了更高要求,FPGA可以同時進行數據並行和任務並行計算,具備更大的靈活性。很多使用通用處理器或ASIC難以實現的底層硬體控制操作,利用FPGA可以很方便的實現。因此,近年來FPGA受到越來越多的關注和應用。
「AI推斷需求的指數級增長,需要特定架構(DSA)以達到最大效率。然而,與AI創新的速度相比,固定硬體的DSA開發周期太過漫長。」賽靈思細分核心市場副總裁Yousef Khalilollahi指出:「FPGA提供靈活應變的平臺,支持可隨時根據最新AI技術定製的DSA,而且無需坐等漫長矽片研發周期。」
微軟亞洲研究院異構計算組副研究員張宸在此前舉辦的「第六屆中國FPGA產業發展論壇」上也指出,這些年人工智慧的崛起,依靠的是深度神經網絡算法大型多層的網絡模型,典型的有循環神經網絡和卷積神經網絡。這樣的模型一次推斷(inference)通常需要數十億甚至上百億次的運算,而在線服務系統的響應時間在毫秒量級。這就意味著需要每秒上萬億次(TFLOPS)甚至百萬億次的運算性能,同時對器件的體積、功耗還有一定的約束。這使得人們期待的數據中心高性能計算硬體應當具備如下優勢:低延遲、低開銷和規模化。在數據中心,FPGA相比GPU的核心優勢在於低延遲,使用FPGA來加速的話,只需要微秒級的PCIe延遲,微軟現在的FPGA是作為一塊PCIe加速卡。對通信密集型任務,FPGA相比CPU、GPU的優勢更大。
在此情況下,近年來,FPGA的應用領域正在不斷拓展,市場規模也不斷地擴大。研調機構Global Market Insights的報告稱,2022年FPGA規模有望超過99.8億美元。根據Semico Research預測數據,僅在人工智慧應用中,FPGA的市場規模將在未來4年內增長3倍,達到52億美元。
平臺化+異構整合,FPGA展現新趨勢
面對拓展越來越大的應用趨勢,各FPGA廠商也在推出不同的解決方案。這些解決方案反應了不同廠商面對新市場需求形成不同的發展策略,也對FPGA的技術趨勢形成了不同影響。
去年,賽靈思在其2018開發者大會(XDF)上發布了業界首款7nm自適應計算加速平臺(ACAP)產品Versal。ACAP的核心是新一代的 FPGA架構,並結合了分布式存儲器與硬體可編程DSP模塊、一個多核SoC以及一個或多個軟體可編程且同時又具備硬體靈活應變性的計算引擎。從Versal ACAP的推出可以看出,賽靈思正在試圖改變以往以FPGA為單一核心的狀況,朝著異構計算平臺化發展,希望以此將不同種類的算法分配到更合適的異構引擎當中。新平臺可以支持更多應用,適應不同的開發者。正如Yousef Khalilollahi所言:「單獨一個計算體系結構,無法滿足當今最流行的應用所需要的性能和功耗要求。在後摩爾定律時代,異構計算是唯一的發展之路。」
對於英特爾來說,對FPGA的發展策略則是更多地整合多種處理器產品組合,面向雲端提供綜合性計算解決方案。
在日前舉辦的「英特爾公司中國媒體紛享會」上,英特爾中國研究院院長宋繼強提出「超異構計算」概念,其中就包括了在未來晶片架構設計上進行靈活性的組合部署,實現CPU、FPGA、GPU等處理器的組合,顯示了英特爾將基於其在雲計算上的強大實力,把伺服器CPU與FPGA的加速功能進行整合。FPGA正越來越深入地嵌入到英特爾雲端處理解決方案當中。英特爾數據中心事業部副總裁Caroline Y Chan也表示,隨著5G網絡的建設,像是快速部署無線網絡、確保網絡性能、建置虛擬化環境等,都是必須完成的工作。而FPGA的優勢十分明顯,在實現網絡虛擬化加快當中勢必會使用到它。另外,其可編程的特性也為網絡新增功能提供了更多靈活性與可擴展性。
Achronix公司近日發布的Speedster7t代表了另一種發展趨勢,其力圖將FPGA的可編程性與ASIC的布線結構和計算引擎相結合,通過對二維片上網絡(2D NoC),以及高密度全新機器學習處理器(MLP)模塊陣列等的集成,簡化用戶設計,以應對人工智慧機器學習應用的需求。「Speedster7t系統將數學函數、存儲器和可編程性整合到機器學習處理器中,再結合交叉晶片、二維NoC結構,可以確保整個器件中數據自由流動。而在人工智慧機器學習應用中,內存帶寬就是一切,Speedster7t在這方面可以提供令人印象深刻的性能指標。」 Achronix Semiconductor總裁兼執行長Robert Blake表示。
嵌入式FPGA,市場接受程度提升
不同於CPU、GPU等在移動時代快速實現IP化的發展趨勢,嵌入式FPGA(eFPGA)一直沒有成為市場的主流。不過,隨著雲計算、人工智慧時代的到來,eFPGA的市場接受度有望進一步提升,成為FPGA產品的主要發展趨勢之一。
對此,Robert Blake指出,FPGA是可以有效地實現IP化。eFPGA具有易用性,大大降低了使用門檻,可以快速滿足用戶多樣化需求,無論是系統級還是晶片級都可以支持。這在人工智慧時代非常重要,特別是在邊緣側計算中受到歡迎。事實上,現在有很多用戶在尋問FPGA的IP問題。相信未來將有越來越多IP化的FPGA被應用。
eFPGA是指將一個或多個FPGA以IP的形式嵌入ASIC、ASSP或SoC等晶片中的發展模式。eFPGA的特色之一是易用性,它降低了客戶集成FPGA加速器的門檻。客戶通過定製其邏輯、Ram和Dsp資源需求,可以將多個IP進行組合,以便為特定的應用創建優化的可編程功能。這種發展模式在CPU和GPU等晶片中被大量使用,但在FPGA上卻沒有得到推廣。
「eFPGA是令人興奮的新工具,它使SoC架構師可以使他們的晶片更加靈活和可重新配置。」 Robert Blake表示。