憶阻器的神經形態計算

2020-12-04 科技報告與資訊

本文參加百家號#科學了不起#系列徵文賽。

在《Nano》雜誌上發表的一篇論文中，研究人員研究了憶阻器在神經形態計算中的作用。這種新穎的基礎電子元件支持以低成本和低功耗克隆生物神經系統。

當代計算系統無法應對大數據時代尺寸縮小和計算速度的關鍵挑戰。馮-諾依曼瓶頸被稱為通過連接處理器和存儲器單元的總線進行數據傳輸的阻礙。這就給了一個基於生物神經元模型創建替代架構的機會。神經形態計算就是這樣一種模仿神經生物腦架構的替代架構。

仿人的神經腦系統包括大約1000億個神經元和眾多的連接突觸。因此，一個高效的電路裝置對於構建模仿人腦的神經網絡至關重要。憶阻器這種基本電氣元件的開發，具有可擴展性、內存處理和CMOS兼容性等幾個顯著特點，大大促進了神經網絡硬體的實現。

憶阻器是作為一種 "類記憶電阻 "推出的，應用輸入的背景會改變器件的電阻狀態。它是一種能夠記憶電流的電子元件，以有效地減小器件的體積，提高神經網絡的處理速度。像人類神經系統一樣，在新型計算架構中，在憶阻器的支持下，進行並行計算。

系統的不穩定性和不確定性已被描述為大多數基於存儲器應用的主要問題。這與生物過程正好相反。儘管存在噪聲、非線性、可變性和波動性，生物系統仍能很好地工作。然而，仍然不清楚生物系統的有效性實際上取決於這些障礙。有時會避免進行神經建模，因為它不容易建模和研究。因此，能否利用這些特性，是實現人工系統和生物系統成功的關鍵路徑。

論文標題為《Memristors: Understanding, Utilization and Upgradation for Neuromorphic Computing》。

相關焦點

  • 基於3D憶阻器的電路,用於大腦啟發式計算
    麻薩諸塞州大學和空軍研究實驗室信息局的研究人員最近創建了一個3-D計算電路，該電路可用於映射和實現複雜的機器學習算法，例如卷積神經網絡（CNN）。這種3D電路發表在《Nature Electronics》上的一篇論文中，由八層憶阻器組成。調節電路中電流並直接在硬體中實現神經網絡權重的電氣組件。
  • 《自然》雜誌:中國學者研究出微型生物憶阻器模擬大腦神經突觸
    僅在10年前，科學家們致力於希望利用憶阻器的「記憶」功能打開神經形態計算新領域，希望使用這種憶阻器的微電子工具，能夠像真實的大腦神經突觸一樣運作或操作。現在，美國麻薩諸塞州大學電氣與計算機工程系應用生命科學研究所（IALS）的一個研究團隊，發現了在更好地理解蛋白質納米線的過程中，如何使用這些導電的生物細絲製成神經形態憶阻器裝置。
  • 有了憶阻器,「超級人工大腦」不再是夢
    憶阻器和人腦的突觸功能相似，相當於一個「電子突觸」，搭建起來的智能晶片具有在線學習能力，可以處理機器系統之前無法勝任的任務。 　　「憶阻器是一種新的電子元件，其特性與人類大腦中的信息處理基本單元神經突觸很相似。」錢鶴解釋說，神經突觸最獨特的功能就是既可以存儲，也可以計算。
  • 類人腦神經形態微晶片
    腦生物學它們具有相同的神經電壓。在這一創新工藝的第三階段，來自同一所大學的另一組研究人員利用這些同樣的蛋白線獲得了一種記憶電晶體或神經形態記憶裝置。研究人員在發表在《自然通訊》上的一篇文章（使用蛋白質納米線從環境溼度中發電）中解釋說，該裝置以極低的功率極高效地工作，就像人類大腦一樣，在神經元之間傳輸信號。
  • 完全使用憶阻器實現CNN,清華大學微電子所新研究登上Nature
    基於憶阻器的神經形態計算系統為神經網絡訓練提供了一種快速節能的方法。但是，最重要的圖像識別模型之一——卷積神經網絡還沒有利用憶阻器交叉陣列的完全硬體實現。此外，由於硬體實現收益小、變化大，設備特性不完善，其結果很難媲美軟體實現。
  • 新研究:深入理解憶阻器的工作方式!
    此外，大腦在計算方面的一個重要優勢在於：體系結構。神經形態計算，也稱為腦啟發計算，擺脫了馮·諾依曼建立的計算結構，模擬大腦處理、加工信息的過程，將負責數據存儲和處理的單元整合到同一塊晶片中。神經形態晶片能效更高、性能更強，能更快速、更高效地學習數據。
  • 中國科學家提出基於憶阻器陣列的新型腦機接口
    清華大學研發的基於憶阻器陣列的腦電信號處理系統正在測試中。來自清華大學的科研團隊提出基於憶阻器陣列的新型腦機接口，相關研究成果日前在線發表於《自然·通訊》。主流腦機接口中的神經信號分析模塊由基於矽電晶體的集成電路構成，但隨著腦機接口中的信號採集通道數的增加，系統面臨著高功耗和延時等方面的挑戰，這也是制約腦機接口技術在植入式或可攜式醫療系統中應用的重要瓶頸之一。
  • ...出全球首款多陣列憶阻器存算一體系統,能效比GPU高兩個數量級
    簡言之，憶阻器（memristor）可以在斷電之後，仍能「記憶」通過的電荷，其所具備的這種特性與神經突觸之間的相似性，使其具備獲得自主學習功能的潛力。因此，基於憶阻器的神經形態計算系統能為神經網絡訓練提供快速節能的方法，但是，圖像識別模型之一 的卷積神經網絡還沒有利用憶阻器交叉陣列的完全硬體實現。
  • 首次在憶阻器中證實碳導電細絲的存在
    記者3月13日從河北大學獲悉，該校閆小兵課題組通過電子能量損失譜和第一性原理計算，首次在憶阻器中證實了碳導電細絲的存在，並通過電場調控實現了仿生神經突觸功能
  • 清華造人工神經網絡晶片,憶阻器陣列效能高過GPU兩個數量級
    再加上憶阻器還具有尺寸小、操作功耗低、可大規模集成（三維集成）等優點，難怪計算機科學家們在憶阻器身上看到了存算一體、低能耗類腦計算的前景。eYyednc人工神經網絡近年來大放異彩，如果用憶阻器連接成陣列，作為人工神經網絡的硬體，會有什麼效果？
  • ...研製出全球首款多陣列憶阻器存算一體系統,能效比GPU高兩個數量級
    簡言之，憶阻器（memristor）可以在斷電之後，仍能「記憶」通過的電荷，其所具備的這種特性與神經突觸之間的相似性，使其具備獲得自主學習功能的潛力。因此，基於憶阻器的神經形態計算系統能為神經網絡訓練提供快速節能的方法，但是，圖像識別模型之一 的卷積神經網絡還沒有利用憶阻器交叉陣列的完全硬體實現。
  • 會「學習」的超導人工突觸:讓神經形態計算更快更節能!
    神經形態計算，被認為代表了未來人工智慧的重要發展方向，引起了科學界的濃厚興趣。不同於傳統的馮·諾依曼計算機體系結構，神經形態計算的靈感來源於人類大腦，它模仿神經突觸和神經元，將負責數據存儲和數據處理的元器件整合到同一塊晶片中，更節能、更快速、更高效地處理和學習數據。
  • 回顧:神經擬態計算需求下的6種新內存技術
    它對神經擬態計算的適用性，與憶阻器根據施加電壓的歷史改變其狀態的能力有關。由於這種行為，它具有生物神經元與突觸的暫時性和模擬特性。然而，使這些憶阻器更均衡，讓其可靠地工作仍然是一個挑戰，作者說。　　2017年，由盧偉博士領導的密西根大學電氣工程與計算機科學系的一個小組展示了一個使用憶阻器的神經擬態原型設備，憶阻器被布置在一個交叉網絡中。
  • 清華類腦晶片再登Nature: 全球首款基於憶阻器的CNN存算一體晶片
    清華 LEMON 團隊成員：員高濱、姚鵬、吳華強、張清天、唐建石（從左到右）圖片來源：清華新聞網目前，何謙教授和吳華強教授領導了清華大學的LEMON實驗室（The Laboratory of Emerging Memory and Novel Computing，新興存儲與新型計算實驗室），在過去的幾年中一直致力於基於憶阻器的神經形態計算
  • ...全球首款基於憶阻器的CNN存算一體晶片,能效高出GPU兩個數量級
    清華 LEMON 團隊成員：員高濱、姚鵬、吳華強、張清天、唐建石（從左到右）圖片來源：清華新聞網目前，何謙教授和吳華強教授領導了清華大學的LEMON實驗室（The Laboratory of Emerging Memory and Novel Computing，新興存儲與新型計算實驗室），在過去的幾年中一直致力於基於憶阻器的神經形態計算。
  • 憶阻器類腦晶片與人工智慧
    近年來，類腦神經形態器件正在成為人工智慧和神經形態領域的一個重要分支，將為今後人工智慧的發展注入新的活力。人腦能夠以超低功耗處理大量信息，這得益於人腦中神經突觸的可塑性，若能利用納米尺寸的人造器件來模擬生物突觸，人造神經網絡乃至人造大腦都將會實現。信息大爆炸時代急速增加對存儲能力的需求，開發小尺寸多值非易失存儲器可廣泛服務於軍事和民用領域，符合國家重大需求。
  • 納米科學:實驗證明了憶阻器的工作原理!
    納米科學：實驗證明了憶阻器的工作原理！這一結果是設計這些固態器件的重要一步，可用於未來的計算機存儲器，這些存儲器運行速度更快，壽命更長，能耗比現今的快閃記憶體更少。「我們需要這樣的信息才能設計出能夠在商業上取得成功的憶阻器，」HPE科學家，該集團技術論文的第一作者Suhas Kumar說。憶阻器在理論上於1971年被提出作為電阻器，電容器和電感器的第四個基本電子器件元件。其核心是夾在兩個電極之間的一小塊過渡金屬氧化物。
  • 使用非線性鐵電憶阻器執行低功率線性計算
    日本東芝公司研發中心和日本Kioxia公司的研究人員最近進行了一項研究，探索了使用非線性鐵電隧道結（FTJ）憶阻器執行低功耗線性計算的可行性。他們的論文發表在《Nature Electronics》上，可以為有效運行人工智慧（AI）應用程式的硬體開發提供信息，例如人工神經網絡。
  • 基於憶阻器的神經網絡應用研究
    基於憶阻突觸器件的硬體神經網絡是神經形態計算的重要發展方向，是後摩爾時代突破傳統馮·諾依曼計算架構的有力技術候選。綜述了國內外憶阻硬體神經網絡的近期發展現狀，從器件發展和神經網絡兩個方面，詳細闡述了憶阻器這一新興信息器件在神經形態計算中所發揮的角色作用，討論了依然存在的關鍵問題和技術挑戰。憶阻器為實現存算一體化架構和超越摩爾定律提供了技術障礙突破的可行方案。
  • 神經形態運算新突破：兼具學習與記憶功能的神經電晶體
    神經形態運算（Neuromorphic Computing）需要在像是神經整合和突觸（Synapse）等人腦元素（例如）的啟發下建立體系架構。這些運算架構被證明能激發出許多極具發展前景與優勢的應用，因為它們可以同時兼具儲存和學習的功能。