美通社 發表於 2020-12-24 15:25:01
近日，在GTC China元腦生態技術論壇上，中科極限元、趨動科技、睿沿科技等元腦生態夥伴分享了多個場景下浪潮AI伺服器NF5488A5的實測數據，結果表明浪潮NF5488A5大幅提升了智能語音、圖像識別等AI模型的訓練和推理性能，促進了產業AI解決方案的開發與應用。
NF5488A5是浪潮自研的新一代AI伺服器，在4U空間內支持8顆第三代NVLink全互聯的A100晶片，可為用戶提供高達5 PetaFLOPS的AI計算性能和超高速帶寬，為各類AI應用場景提供強大的計算力支撐。NF5488A5曾屢次打破全球權威AI測試榜單MLPerf的記錄，基於ImageNet的ResNet50基準測試顯示，NF5488A5完成訓練僅需33.37分鐘，單機性能高居第一；推理性能達到每秒54.9萬張圖片，3倍於去年推理榜單的伺服器最好性能。
在本次GTC元腦生態技術論壇上，生態夥伴展示了與浪潮的合作方案並公布了在NF5488A5上的性能實測數據。
中科極限元開發的智能語音交互解決方案在國內處於領先水平，廣泛應用於教育、交通、呼叫中心、智能硬體等多個領域，本次在浪潮NF5488A5進行加速。NF5488A5高性能、高帶寬、易部署的特性極大地促進了智能語音模型訓練及線上推理。測試數據顯示，在相同準確率下，與原有的系統相比，NF5488A5將模型訓練速度提升了50%，單機最大推理路數提升88%，推理延遲提升65%。
趨動科技與浪潮聯合打造了業內領先的一體化GPU資源池化解決方案。本次測試採用TensorFlow框架的Benchmark，測試小模型推理、大模型訓練等多種AI應用場景，驗證趨動科技OrionX AI加速器資源池化方案對浪潮NF5488A5的兼容性和性能。結果表明，NF5488A5伺服器性能優異，部署資源池化方案後，本機性能損耗小於1%，對比以往伺服器的GPU性能，數據提升近50%。
睿沿科技推出的高山雨燕工業視覺平臺是為工業生產場景構建的智能多業務管理安全生產管理平臺，可實現遠程巡檢、作業安全監管、區域安防等功能。該平臺在計算層使用了浪潮NF5488A5加速訓練和推理。實測結果顯示，在圖片視頻解析度相同的情況下，模型原來的訓練時間為140分鐘，使用NF5488A5之後，訓練時間可縮短到105分鐘，速度提升25%。單機最大推理FPS（每秒傳輸幀數）由20800提高到28000，提升35%。
以上實測數據顯示，浪潮NF5488A5可廣泛應用於圖像視頻、語音識別、金融分析、智能客服等典型AI應用場景，幫助AI用戶高效完成AI基礎設施和開發環境的構建，縮短開發周期，顯著提升AI開發和應用效率。
浪潮是全球領先的AI計算領導廠商，其AI伺服器在中國的市場份額已連續三年保持在50%以上。面對產業AI化的趨勢，浪潮提出元腦生態，將聚集左右手夥伴、浪潮AI資源，以更加優質的產品技術能力和整體方案實施能力助力更多用戶實現智能化轉型和升級。在元腦生態中，浪潮將共享AI計算平臺、AI資源平臺和AI算法平臺。目前元腦生態吸引了200+左右手夥伴參與，孵化出6大行業100+解決方案。
責任編輯：gt
打開APP閱讀更多精彩內容
聲明：本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人，不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用，如有內容圖片侵權或者其他問題，請聯繫本站作侵刪。 侵權投訴