Nature子刊：清華研究團隊盤點類腦計算晶片簡史

【新智元導讀】近日，清華大學研究人員發表在自然子刊上的一篇文章回顧了神經啟發式計算晶片的最新進展，同時提出了評估其有效性的四個指標。

再過幾天，馬斯克就要官宣其腦機接口的最新進展了。

他此前接受採訪表示，「Neuralink準備在一年內將腦機接口植入人體」。

人類對大腦的探索從未終止，近年來受神經啟發式的計算晶片也取得了舉世矚目的進展。

近日，清華大學的研究人員回顧了神經啟發式計算晶片的最新進展，以洞悉迄今為止取得的進展，提出仍需克服的挑戰。

他們發表在《自然·電子學》上的評論文章還概述了一系列共同設計原則，這些原則可以為新的神經啟發性電路、設備和算法的開發提供思路。

連結：https://www.nature.com/articles/s41928-020-0435-7

• 神經啟發式計算晶片的「大地震」
  

近年來，全球許多研究團隊一直在研究受人腦啟發的計算技術，比如深度學習算法。儘管人們認為某些技術在更廣泛的應用中很有前途，但是常規硬體有時候並不能支撐其計算負荷，因此會限制這些技術的性能。

為了克服現有硬體的局限性，同時要確保受大腦啟發的計算技術取得最佳結果，一種可能的解決方案便是創建新的電子組件，以更好地反映人腦的結構。

一類受神經啟發的計算晶片是專門為模仿人和其他動物的大腦神經結構的人工智慧應用而設計的。

清華大學的研究人員在他們的新論文中仔細研究了神經啟發性計算晶片設計的最新發展，並反思了他們在該領域的努力中所汲取的一些教訓。

基於NVM的神經啟發計算晶片的未來路線圖

上個世紀80年代，隨著用於超大規模集成電路（VLSI）技術的發展以及對計算能力的強烈需求，人們開始對神經啟發式計算晶片產生極大的興趣。

但是神經啟發式計算硬體的想法可以追溯到1957年 Perceptron7 的問世，Perceptron7 是一臺專用模擬計算機。

1961年，ADALINE8 通過將分立的可變電阻器組裝到能夠進行訓練的自適應硬體感知器中而構建。但是由於沒有高密度設備集成的能力，這些原始硬體的規模巨大，而所包含的突觸設備的數量卻非常有限。

超大規模集成電路

當 HP Labs 在2008年首次從實驗上建立了憶阻器的概念與固態電子器件的聯繫，利用基本的設備來開發神經啟發式的計算晶片，一場根本性的革命就開始了。

2010年，一種模擬演示突觸功能的憶阻器被創造出來，這是探索基於NVM的神經啟發式計算的首次嘗試。

從那時起，各國研究人員針對基於NVM的神經啟發式計算的設備、體系結構、晶片和算法投入了越來越多的研究工作。

神經啟發計算晶片的裡程碑

• 評估神經啟發式計算晶片的有效性的四個指標

除了概述評估大腦啟發式晶片的重要指標外，Wu和他的同事還介紹了一套共同設計原則，可以作為該領域未來研究的參考。這些原則主要基於其過去的研究發現和觀察結果。

研究人員提出的協同設計工具是他們研究中最重要的部分。在實際的神經啟發式計算晶片設計中，如果沒有這種協同設計工具，就很難獲得高性能的晶片。

例如，可用作突觸存儲器的非易失性存儲器（NVM）設備通常具有固有的內在特性，而這些非理想狀態會降低晶片的性能。

但是要降低器件的非理想狀態，需要付出很多努力，而且我們無法完全消除它們。因此清華大學研究人員設計的協同設計工具不僅在設備上，而且在電路或系統上可以幫助優化晶片的性能。

論文第一作者Huaqiang Wu表示，「本文的想法來自我們先前設計神經啟發性計算晶片的嘗試。在過去的研究中，我們發現很難在單個級別（例如設備或電路級別）上優化這些晶片的性能，並且需要使用涵蓋廣泛領域的共同設計策略來優化此類晶片從設備到算法的各種元素。」

研究人員主要研究了神經啟發的計算晶片在支持算法，增強神經網絡或人工神經網絡方面的潛力。

Wu強調了工程師在評估神經啟發式計算晶片的有效性的四個指標：計算密度、能效、計算精度、晶片學習能力。

評估神經啟發式計算晶片的有效性的四個指標

在回顧過去的研究中，研究人員發現這些指標對於神經啟發性計算晶片的設計和優化至關重要，因為它們最能代表晶片的獨特功能，以及與傳統晶片相比潛在的優勢。

比如，計算密度是一種反映晶片面積效率的指標。它使工程師能夠確定晶片一次可以存儲多少信息，以及它們內存是否足以運行大規模神經網絡。

可以從上圖中看出，與基於CMOS的晶片相比，基於NVM的晶片具有明顯的優勢。

因此，NVM是大規模神經啟發計算晶片未來主流技術的非常有希望的候選者。

目前已經開發了幾種基於NVM的小型晶片，從1000個單元到100萬個單元。

然而，集成多個大型模擬NVM陣列的神經啟發計算晶片的實現仍然面臨許多挑戰。從設備到晶片再到算法，還需要進行大量的研究工作。

Wu表示，「希望我們的工作將幫助非專業讀者找到更多有關神經啟發性計算晶片的信息，同時也將促進這一研究領域的更大發展。」

目前，清華大學研究人員正計劃制定其他指南，以加快和促進人工智慧和受神經啟發的電子領域的研究。他們的這篇論文可以為那些研究受大腦啟發的晶片的工程師提供總體路線圖。

Wu最後表示，在我們未來的研究中，我們可以將設計神經啟發性計算晶片分為兩部分：

1 在設備製造和技術集成部分，我們將優化設備性能，製造新的神經啟發設備，並探索三維神經啟發計算晶片。

2 在晶片和系統部分，我們將開發共同設計工具並設計通用的神經啟發計算晶片，尤其是基於NVM的內存計算晶片。