SoC設計與應用技術領導廠商SocionextInc.(以下「公司」)宣布成功發開一款集成有量化深度神經網絡(DNN)技術的原型晶片,可為小型、低功耗邊緣計算設備提供先進的AI處理。
受日本新能源與產業技術綜合開發機構(NEDO)委託,Socionext參與了以《先進的低功耗AI-EdgeLSI技術開發》為課題的項目研究,成功完成了結合量化DNN技術的晶片測試,並確認了其運行和性能。該測試晶片搭載有「量化DNN引擎」,能以高速、低功耗執行深度學習推理處理。
目前,基於通用GPU的邊緣計算處理器無法滿足日益增長的人工智慧處理需求。以搭載有圖像識別和分析功能的邊緣計算設備為例,其系統功耗和發熱量與通用GPU相比有明顯增加,不得不通過提升成本擴容設備等方式滿足AI處理需求。
量化DNN引擎
為提高AI處理性能並減少系統功耗,Socionext開發了一款採用「量化DNN技術」的專有體系架構,它減少了深度學習所需的參數和激活位。該體系架構將1-bit(binary)、2-bit(ternary) 低比特率技術、傳統8-bit技術及公司獨創的參數壓縮技術結合,以較少的計算資源執行大量計算處理,並減少數據量。
除此以外,Socionext還開發了一種新穎的片上存儲技術,可提供
通過結合上述新技術,Socionext將AI晶片及「DNN引擎」原型化,並確認了其功能和性能。原型化晶片通過「YOLOv3」以不到5W的低功耗及30fps的速度實現了目標檢測,其效率是通用GPU的10倍。此外,該晶片還配備了高性能、低功耗的ArmCortex-A系列CPU,無需外部處理器即可以單晶片執行整個AI處理。
深度學習軟體開發環境
除硬體開發外,Socionext還構建了深度學習軟體開發環境,通過結合TensorFlow作為基本框架,允許開發人員用原始低bit位進行量化感知訓練(QuantizationAware Training)和訓練後量化(PostTraining Quantization)。開發新晶片時,用戶可以選擇量化技術並將其應用於各種神經網絡中執行高精度處理,例如在小型低功耗邊緣設備上增設
Socionext目前正在通過對該原型晶片進行評估進一步調整電路優化其性能。公司將繼續與合作夥伴一起共同開發並交付AI-EdgeLSI最終產品,完成NEDO的委託項目。
搭載有量化DNN引擎的AI測試晶片
NEDO項目名稱
《創新型AI晶片及下一代計算技術開發》
《創新型AI邊緣計算技術開發》
《先進的低功耗AI-EdgeLSI技術開發》
http://news.zol.com.cn/740/7402427.html news.zol.com.cn true http://news.zol.com.cn/740/7402427.html report 1996 SoC設計與應用技術領導廠商SocionextInc.(以下「公司」)宣布成功發開一款集成有量化深度神經網絡(DNN)技術的原型晶片,可為小型、低功耗邊緣計算設備提供先進的AI處理。受日本新能源與產業技術綜合開發機構(NEDO)委託,Socionext參與了以《先進的低...