英特爾發布最懂AI的CPU——第三代至強可擴展處理器

2020年6月19日，英特爾發布多款數據中心級產品和方案，包括第三代至強可擴展處理器，第二代傲騰和PCIe 4.0 SSD，以及一款為AI設計的FPGA新品。

第三代可擴展處理器：最懂AI的CPU

今年2月，英特爾發布了幾款二代至強可擴展處理器的升級版，當時提到，這次發布在性價比上有較大提升。四個月之後，北京時間6月19日，英特爾全球同步發布第三代至強可擴展處理器，發布節奏明顯比前幾年要快了許多，要知道第一代至強可擴展處理器是2017年發布的。

其實，今年二月份發布的是通用性更強的方案，而此次發布的第三代至強主要是面向四路和八路市場的處理器，主要應用於高性能計算這類場景，與二月份的發布並不衝突。

不過，英特爾也表示，今年下半年晚些時候會發布基於Ice Lake的單路和雙路版本，主打通用場景。2021年將發布下一代可擴展處理器，從單路到八路全面覆蓋。

三年計劃了三代產品，英特爾產品迭代速度明顯加快，對用戶來說是再好不過的事兒了，一方面產品性能步伐加快，帶來直接的性價比提升，另一方面，豐富的SKU給了用戶更多選擇，根據需求，選擇合適的方案也能帶來降本增效的效果，對整個行業的發展也能夠起到積極推動作用。

此次發布的第三代至強可擴展處理器包括白金8300系列，黃金6300和5300系列，其中8300系列有四路和八路兩種配置，最高28核心，6內存通道，最大支持單路4.5TB內存，標稱TDP最高達250瓦。黃金6300和5300系列只有四路配置。

第三代至強可擴展處理器主要強化了安全性和多核計算性能，適用於業務關鍵性負載，實時分析，機器學習以及混合雲等工作負載。與五年前的平臺相比，平均性能提升1.9倍，跑資料庫的性能最高提升1.98倍，運行的虛擬機的數量達到前者的2.2倍，作為市場上唯一可提供八路x86伺服器處理器的平臺，至強同時還集成了深度學習加速的功能。

從第一代至強可擴展處理器開始，至強就在往AI上靠，第一代加入了AVX-512指令，優化了FP32計算能力，2019年第二代可擴展處理器中引入了深度學習加速技術（Intel Deep Learning Boost），提升了Int8推理能力，第三代至強可擴展處理器在深度學習加速技術中加入了Bfloat16數據格式。

BFloat是一種越來越流行的加速機器學習的浮點格式，最早出現在谷歌的TPU裡，英特爾和ARM以及許多新的AI晶片公司也都將其視為AI加速架構的核心功能之一，可見其重要性。對比BFloat16與FP32，BFloat16大多數情況下有FP32的準確性，而效率要高於FP32，可以看做是FP32的改良版。

英特爾第三代至強可擴展處理器在AI性能方面表現如何呢？BFloat16的加入，讓第三代可擴展處理器提升了訓練和推理方面的能力，從圖中可見，CPU在推理方面的提升更多一些。與第二代可擴展處理器上使用的FP32格式相比，訓練性能最高能提升1.96倍，推理性能最高能提升1.9倍。另外，與上代相比，在圖像分類的訓練性能提升了1.93倍，推理性能提升了1.7倍。

對開發者來說，需要極少的代碼改動就能用上新平臺，所以，目前包括阿里雲，螞蟻金服，騰訊雲，東軟等國內廠商都已經用上了帶有Bfloat16的處理器，在推理和訓練性能方面有近兩倍的提升。

AI作為最新最熱的工作負載類型之一，頗受英特爾的關注。英特爾一方面致力於把至強打造成最適合AI的CPU，同時，還希望把GPU、FPGA等各種硬體加速方案組合在一起，共同解決AI工作負載。不過，英特爾此次發布會中沒有提及GPU的細節，只是說Xe GPU正在開發中，可能會在今年下半年的發布中做一些介紹。可以說，第三代至強可擴展處理器是市場上AI能力最強的CPU，是最懂AI的CPU了。

首款面向AI優化的FPGA-Stratix 10 NX

英特爾有一系列FPGA，而最新發布的FPGA-Stratix 10 NX是面向AI設計的，英特爾在其中嵌入了AI優化模塊AI Tensor，與現有的Stratix 10 MX相比，前者的Int8計算性能要高出十五倍。

Stratix 10 NX在定位上是作為至強處理器的補充，專門針對特定應用提供定製，為了進一步優化性能，英特爾重新設計了計算模塊（DSP模塊）。

在自然語言處理，在欺詐檢測，在智慧城市等場景中，Stratix 10 NX的表現都幾倍於英偉達顯卡V100的表現。

儘管GPU是AI計算領域應用的最為廣泛，但許多新的面向AI場景設計的晶片，包括Stratix 10 NX這類FPGA還有一些IPU之類的，在一些場景下的表現都優於GPU，AI晶片會隨著AI計算負載的變化還繼續演進。