機器之心整理
參與：一鳴
NeurlPS 2019 大會正在加拿大溫哥華召開中。昨日，MIT 教授 Vivienne Sze 在大會上發表了一個關於深度神經網絡加速的演講，大會提供了視頻和同步的 PPT。通過兩個小時的精彩演講和多達 140 頁的 PPT，演講可謂是將神經網絡加速這個快速發展的領域一網打盡。
近日，NeurlPS2019 大會放出了一個名為「Efficient Processing of Deep Neural Network: from Algorithms to Hardware Architectures」的演講。該演講主要介紹各類能夠使硬體高效處理深度神經網絡（DNN）計算的方法，包括在計算機視覺、語音識別、機器人等領域，而涉及到的硬體包含了從 CPU、GPU 到 FPGA 和 ASIC 等各類計算硬體。
演講地址（包括同步的 PPT）：https://slideslive.com/38921492/efficient-processing-of-deep-neural-network-from-algorithms-to-hardware-architecturesPPT 地址：http://eyeriss.mit.edu/2019_neurips_tutorial.pdf
演講主講人是 Vivienne Sze，來自 MIT 的高效能多媒體系統組（Energy-Efficient Multimedia Systems Group）。她曾就讀於多倫多大學，在 MIT 完成 PhD 學業並獲得電氣工程博士學位，目前在 MIT 任教。Sze 教授的主要研究興趣是高效能算法和移動多媒體設備應用架構，
Sze 教授。
DNN 加速方法全涵蓋
本次演講的主題是 DNN 在硬體設備中的高效計算處理方法。隨著深度學習算法效率逐漸提高，計算速度、延遲程度、耗能和硬體成本成為制約算法性能的瓶頸問題。如果能夠解決這些問題，包括自動駕駛、無人機導航、智慧型手機、可穿戴設備和物聯網設備就都能夠受益於算法性能的提升。
在演講中，Sze 教授首先會介紹 DNN 算法，以及它們在各類硬體上部署時可能帶來的性能損失。更重要的是，演講會提到基準測試和評價標準對設計高效 DNN 算法帶來的影響。之後，Sze 教授會從算法角度硬體架構兩個角度介紹減少耗能的方法。同時，演講也會涵蓋將這些方法應用於計算機視覺等領域。Sze 教授因多項成果獲得過谷歌和 Facebook 的 faculty 獎等多個獎項。
本次演講的主要目標如下：
1. 讓硬體高效處理 DNN 的方法（非常多）；2. 關注包括設計 DNN 硬體處理器和 DNN 模型的評估方法；設計 DNN 硬體處理器和 DNN 模型的方法；研究過程中，你應當問什麼樣的關鍵問題；3. 具體地，演講還會討論；真正需要評價和對比的評估指標體系；達成這些指標的挑戰；了解設計中需要考慮到的問題，以及可能平衡在算法性能和耗能中遇到的問題；4. 要關注硬體推理，但包括一部分訓練的內容。
在講解的過程中，Sze 教授會穿插大量的圖解和案例，讓介紹更加充實有趣。
演講目錄
以下為演講目錄：
深度神經網絡概述；關鍵指標和設計目標；設計考量：CPU 和 GPU 平臺；專用/特殊用途平臺（ASICs）；Q&A；算法（DNN 模型）和硬體聯合設計；其他平臺；用於系統評價 DNN 處理器的工具；
從視頻來看，Sze 教授十分嚴謹、細緻地介紹了這一領域幾乎所有的內容，非常適合在實際應用中需要了解各類硬體加速方法的研究者和開發者觀看。機器之心對其中的主要內容進行了選編：
重點內容
演講剛開始，Sze 教授回顧了深度學習的發展，並簡要提到了一些主要的 DNN 模型。
隨後，她介紹了評價模型在耗能方面的一些關鍵指標。她指出，指標體系實際上比人們想的要豐富和複雜得多。比如說，在評價模型的時候，要更多地關注到諸如延遲性（在交互式應用中）、能耗、硬體成本、靈活性和可擴展性等方面。
這些指標背後，都應當有具體可量化的目標。因此，在演講中，Sze 教授將這些目標分解為多個實際的子任務目標，並量化了所需要經過的步驟和方法。並根據分解任務和分析後的結果提出應當進行優化的環節，以及具體的方法，整個講解鞭辟入裡。
要達成這些指標，需要的不僅僅是算法方面的優化。Sze 教授同時也介紹了設計方面應當考慮的目標和任務，並分解成了軟體和硬體層面，並給出了詳細的分解。
演講中還值得一提的是，Sze 教授提到了算法和硬體協同設計的思路。通過這樣的方式，更好更快地達到目標。
甚至有對神經架構搜索一類算法的設計思路整理。
最後，Sze 教授對整個演講進行了總結。
從演講內容來看，Sze 教授的思路非常清楚。她首先為「高效加速 DNN」提出了評價標準和對應的分解任務和目標，並根據這些目標提出相應的方法。期間還囊括了不同的硬體平臺、算法和任務，可謂是「一條龍」介紹。機器之心在此推薦讀者朋友觀看演講，定能有所收穫。
當然，除了 Sze 教授的演講外，機器之心還會繼續關注重要的 Tutorial 並推薦給大家。歡迎讀者們繼續關注 NeurlPS2019 大會相關報導。