神經形態運算新突破：兼具學習與記憶功能的神經電晶體

2020-07-06 有材有料有材料

神經形態運算（Neuromorphic Computing）需要在像是神經整合和突觸（Synapse）等人腦元素（例如）的啟發下建立體系架構。這些運算架構被證明能激發出許多極具發展前景與優勢的應用，因為它們可以同時兼具儲存和學習的功能。

神經形態運算新突破：兼具學習與記憶功能的神經電晶體

當前大多數的神經形態運算架構都是人為重建突觸的可塑性（亦即很容易隨著時間的推移而塑造的能力），突觸是神經細胞之間的連接點，能夠在大腦各區域進行脈衝傳播。然而，神經形態運算方法的另一個潛在有價值的靈感啟發來源是神經單位膜（Neuronal Membrane）的可塑性，它是保護神經元（Neuron）功能的屏障。

找到能複製神經單位膜特性的合適系統，讓神經晶片產生獨特非線性輸出動態

考慮到這一點，柏林工業大學（Technische Universität，TU）、德勒斯登和霍姆赫茲中心（Dresden and Hemholtz Center）研究人員最近設計了一種能模仿神經單元膜既有可塑性的神經電晶體（Neurotransistor）。關於這顆新型神經電晶體的論文已發表在5月25日的《自然─電子學》（Nature Electronics）期刊上，該電晶體是透過在矽奈米線（Silicon Nanowire）上塗上離子摻雜型溶膠－凝膠矽酸鹽薄膜製成的。

神經形態運算新突破：兼具學習與記憶功能的神經電晶體

DOI：10.1038/s41928-020-0412-1

進行這項研究之研究人員之一的 Larysa Baraban 表示：做為一個在生物和化學電子傳感器方面具有主要專業知識的團隊，我們試圖找到一種能利用生物傳感器原理來複製神經單位膜特性的合適系統。

由 Eunhye Baek、Baraban 和他們同事共同設計的神經電晶體，利用了基於矽奈米線電晶體之電子式電壓生物傳感器（Potentiometric Biosensor）的特性。這類傳感器可以將離子或分子的電荷轉換成電流。研究人員將能電子感應到離子電荷（Ionic Charge）的場效電晶體（Field Effect Transistor，FET）與溶膠－凝膠薄膜結合，進而實現離子電荷的重新分配。

「我們透過像是電子束（Electron Beam）與紫外光刻（UV Lithography）等 CMOS 製程，在 8 英吋絕緣層上覆矽（Silicon-On-Insulator，SOI）晶圓上製備奈米線電晶體，」參與這項研究的另一位研究員 Gianaurelio Cuniberti 表示：「然後我們在奈米線組件上塗上離子摻雜型矽酸鹽薄膜，這是由使用矽基前驅物（Silicate-Based Precursor）與金屬離子的溶膠─凝膠法合成的。」

由 Baek、Baraban、Cuniberti 和他們同事共同提出的新型神經電晶體可以充當短期內存，這是因為溶膠─凝膠薄膜限制了內部離子的移動，並在短時間內保持一定的離子狀態。由於這種獨特性，溶膠－凝膠薄膜允許神經電晶體產生獨特的非線性（亦即 Sigmoid 函數）輸出動態，它由歷史輸入訊號來控制。

這項研究最有意義的成就是，利用神經元可塑性獲得動態學習能力

由研究人員開發的這種組件仿真了神經元細胞的功能和既有可塑性。事實上，在神經元中，膜電位（Membrane Potential）會引發離子電流出現 S 型變化。這種非線性動態特性也賦與它進階的學習能力，使它成為機器學習應用的理想選擇，例如，學習如何在模式分類（Pattern-Classification）任務中表現良好。

「我們這項研究最有意義的成就就在於，我們利用神經元可塑性而獲得神經電晶體網絡的動態學習能力，」這項研究主要研究人員之一的 Eunhye Baek 指出：「許多神經形態組件（主要是 memristor 憶阻器）由於它們的隨機型（如隨機電流閾值），所以很難控制輸出動態。」

研究人員採用的設計策略是允許他們的神經電晶體使用其神經細胞中定量的摻雜離子來獲得穩定的輸出動態。Baraban、Cuniberti、Baek 和他們同事最近研究的目標是，仿真神經元的非線性運算，他們的神經電晶體可用於執行組件級分類，而無需進行數據的後處理。這使得更強大的神經形態運算能以更低的功耗實現，反觀當前運行在神經形態組件上的現有模式分類模型，多半需要額外的軟體運算。

Baraban 表示：「最終，我們證明了人們可以從傳統的場效電晶體，甚至整顆晶片，透過對溶膠－凝膠薄膜的選擇性修改，將其轉變成具有全新功能的神經電晶體（或神經晶片）。」

這項工作證實了神經形態電子零組件在單一組件中實現記憶和學習功能的巨大潛力。透過仿真神經單位膜的可塑性，他們設計神經電晶體的新策略讓具備進階學習能力之新電子組件的製造成為可能。

「我們現在正在清華大學透過混合憶阻器開發有如視網膜般的人工視覺感官神經元，來進行進一步的大腦啟發式運算研究，」Baek 指出：「在傳入的訊號到達大腦之前，感覺神經元已經開始記憶和學習，以便對訊號進行預處理。我們神經電晶體背後的動態學習原理將會應用在處理時變（Time-Varying）光訊號上。」

相關焦點

  • 運算速度更快,新型「神經元電晶體」和你一起燒腦
    近日，科學家們設計出一種新型「神經元電晶體」，有望成為具有學習和適應能力的神經形態硬體的基本組件。而且這種神經元電晶體的運算速度比以往的電晶體更接近人腦神經元。電子科技大學的胡紹剛和南洋理工大學的研究人員在最近一期的《納米技術》上發表了此次的研究成果。電晶體要想實現像神經元一樣的功能，必須能夠執行神經元的運算任務，尤其是加權求和與閾值函數。
  • 寧波材料所在柔性氧化物神經形態電晶體研究方面取得進展
    在突觸仿生電子學方面，目前的研究主要包括兩端阻變器件和三端電晶體，這類器件已經模仿了一些從簡單到複雜的各種突觸功能和神經元功能，有著潛在的應用前景。　　近日，中國科學院寧波材料技術與工程研究所功能材料界面物理與器件應用團隊在柔性神經形態器件研究方面取得新進展。
  • 類人腦神經形態微晶片
    在這一創新工藝的第三階段，來自同一所大學的另一組研究人員利用這些同樣的蛋白線獲得了一種記憶電晶體或神經形態記憶裝置。研究人員在發表在《自然通訊》上的一篇文章（使用蛋白質納米線從環境溼度中發電）中解釋說，該裝置以極低的功率極高效地工作，就像人類大腦一樣，在神經元之間傳輸信號。
  • 到底能不能設計出為人工智慧打造的神經網絡晶片
    、味覺、嗅覺、記憶、情感、學習等。這些神經元與突觸一起構成了一個極其龐大的生物神經網絡。 　　大腦具有極其強大的計算與學習能力，其邏輯功能與記憶功能密切關聯，能以極低的功耗並行地處理大量數據。即便是如今最強大的超級計算機，在執行模式識別、風險管理等類似複雜任務時，也無法與人腦相抗衡。
  • 新型「晶片上的大腦」：為可攜式人工智慧系統打造神經網絡硬體
    背景大腦是人體最重要的器官之一，它支撐著人的視覺、聽覺、平衡、味覺、嗅覺、記憶、情感、學習等。大腦的構造十分複雜，由大約1千億個神經元（Neuron）組成，並由約100萬億個突觸（Synapse）連接。這些神經元與突觸一起構成了一個極其龐大的生物神經網絡。
  • IBM首個人造神經元幕後,神經形態計算系統向人造大腦突破
    【編者按】本文由新智元編譯，來源：IBM Research、The Economist 等，譯者：聞菲、張冬君日前，IBM蘇黎世研究院研究人員利用相變存儲材料，製造出首例隨機興奮人工神經元。《經濟學人》評論，這是在人造大腦方面的又一突破。模仿大腦的概念簡單，但實際把它做出來卻相當難。
  • 新賽道新突破！我國研製出全球神經元規模最大的類腦計算機
    在中美科技戰的特殊背景下，這種重大突破可能為我國晶片技術變道超車、徹底扭轉晶片技術受制於人的被動局面帶來新機遇新希望！ 浙江大學校長吳朝暉院士在發布會上表示，人工智慧浪潮正加快智能增強時代的到來，類腦計算機將成為未來計算的主要形態和重要平臺，將在模擬腦功能、高效實現AI算法、提升計算能力等方面發揮重要的獨特作用。
  • 神經形態晶片可以幫助人進行大腦的逆向工程
    其神經網絡的不斷適應和自組織在其功能中起著至關重要的作用。神經形態工程成立於20世紀80年代末，是神經科學、生物學、計算機科學和其他一些領域的跨學科綜合體，它首先試圖了解大腦如何操縱信息，然後在計算機晶片上複製同樣的過程。
  • 神經形態計算何時帶領我們進入 AI 新時代?
    神經形態計算可能會以低功耗和高效率補充 CPU、GPU 和 FPGA 技術，用於包括學習、搜索和感知在內的一些任務。行業對其的預測千差萬別，比如預測全球神經形態計算市場 2028 年複合增長率在 12% 到 50% 之間。以下是雷鋒網(公眾號：雷鋒網)未改變文章原意的編譯。
  • 基於憶阻器的神經網絡應用研究
    基於憶阻突觸器件的硬體神經網絡是神經形態計算的重要發展方向，是後摩爾時代突破傳統馮·諾依曼計算架構的有力技術候選。綜述了國內外憶阻硬體神經網絡的近期發展現狀，從器件發展和神經網絡兩個方面，詳細闡述了憶阻器這一新興信息器件在神經形態計算中所發揮的角色作用，討論了依然存在的關鍵問題和技術挑戰。憶阻器為實現存算一體化架構和超越摩爾定律提供了技術障礙突破的可行方案。
  • 會「學習」的超導人工突觸:讓神經形態計算更快更節能!
    它能像生物系統一樣進行」學習「，並可以在未來類腦計算機中連接處理器並存儲記憶。神經形態計算，被認為代表了未來人工智慧的重要發展方向，引起了科學界的濃厚興趣。不同於傳統的馮·諾依曼計算機體系結構，神經形態計算的靈感來源於人類大腦，它模仿神經突觸和神經元，將負責數據存儲和數據處理的元器件整合到同一塊晶片中，更節能、更快速、更高效地處理和學習數據。
  • 研究人員以神經形態晶片打造超靈敏「電子鼻」
    XZ1EETC-電子工程專輯根據研究人員的實驗證明，這種電子鼻系統可以利用神經形態運算的輕鬆/快速訓練(「自學」)以及低功耗操作，還可能對於神經形態技術的潛在用例提出一些有趣的見解。XZ1EETC-電子工程專輯（來源：Walden Kirsch/Intel）XZ1EETC-電子工程專輯英特爾研究人員與康乃爾大學的嗅覺神經生理學家合作打造了一套仿真大腦嗅覺系統的新測試系統，採用英特爾的Loihi神經形態運算晶片，以處理來自化學傳感器的一系列數據。
  • 基於憶阻器的神經網絡應用研究
    神經形態計算概念的提出無疑是可以實現技術突破的一大曙光，人腦信息處理系統的複雜程度是最先進的超級計算機也無法媲美的。在已報導的神經形態計算架構晶片中，其計算能力顯著提高，並且體積和能耗遠小得多。因此，神經形態計算架構的發展在軟體和硬體領域都被極度重視，有望替換當前計算系統架構。
  • 擁有「嗅覺」 的新神經算法晶片
    前言： 人類除視覺、聽覺之外，在嗅覺研究上有新突破，帶來新想像空間和應用空間，人類對大腦的認知以及類腦晶片、AI晶片又跨上新臺階，未來的晶片發展之路又有可能另闢蹊徑。神經擬態計算可以大幅度提升數據處理能力和機器學習能力，更重要的是，神經擬態晶片比傳統晶片的能耗要低得多。神經擬態計算是英特爾為應對計算領域非結構化、有噪聲數據日益增加等挑戰而研發的新的計算機架構。應用神經科學的最新見解，來創造作用方式更類似於人腦的晶片而非傳統計算機的晶片。神經擬態系統在硬體層面上複製了神經元組織、通信和學習方式。
  • 能「聞出」10種有害物質的神經形態晶片是什麼樣的?
    雷鋒網消息，英特爾和康奈爾大學今天發表了一份聯合論文，展示了英特爾的神經形態晶片Loihi的新能力：它能夠從氣味中學習和識別10種有害物質——即使存在「顯著的」數據噪聲和遮擋的情況。合著者說，它表明了神經形態計算技術可用於檢測爆炸物、麻醉品、聚合物等的前體氣味物質。
  • IBM最強神經形態晶片電腦出貨,與人類大腦又近一步
    IBM系統的不同在於，它使用迴路模擬大腦神經元和突觸的運作模式。公司重新設計了記憶、計算和通訊特徵，從而在數據處理中更加節能高效。「我們的大腦裡，大腦皮層有一部分是專門負責視覺識別，另一部分是負責運動功能。NS16e也有些類似。你可以分配哪些晶片負責神經網絡中的哪個部分。「Sawada說。
  • 靠一種樣本學習多種氣味 神經擬態晶片拉近AI與人腦距離
    近日，一直致力於模仿人類五感的人工智慧又有新突破，通過神經擬態晶片，人工智慧已經掌握了丙酮、氨和甲烷等10種氣味的神經表徵，強烈的環境幹擾也不會影響它對氣味的準確識別。這項由英特爾研究院與美國康奈爾大學共同參與的研究成果，日前發表於《自然·機器智能》雜誌上。神經擬態即通過模擬人腦神經元的工作機制，讓計算機具備像人一樣的自然智能特性。
  • 《自然》雜誌:中國學者研究出微型生物憶阻器模擬大腦神經突觸
    但是與電阻器不同的地方在於，憶阻器可以在關掉電源後，仍能「記憶」先前通過的電荷量，所以也稱為「記憶電晶體」。僅在10年前，科學家們致力於希望利用憶阻器的「記憶」功能打開神經形態計算新領域，希望使用這種憶阻器的微電子工具，能夠像真實的大腦神經突觸一樣運作或操作。
  • ACS Nano:柔性碳納米管突觸電晶體,用於神經電子皮膚應用
    本文要點：一種模仿生物的感覺電子皮膚系統，通過柔性SWCNT人工突觸電晶體實現生物突觸的神經功能成果簡介 此外，展示了一種柔性的神經電子皮膚及其周圍的神經，以及一種柔性的鐵電駐極體納米發生器（FENG），用作感覺機械感受器，產生動作電位並由人工突觸進行處理和傳遞。在這種神經系統的電子皮膚中，柔性FENG傳感器將觸覺輸入（力的大小和頻率）轉換為突觸前動作電位脈衝，然後將其傳遞到突觸電晶體的柵極，以誘導其突觸後電流的變化，從而模仿突觸後電流的調製。
  • 神經符號系統: 讓機器善解人意
    Liang等人進一步引入了符號化的記憶機制[10]，幫助神經網絡更好地完成複雜推理。Mou等人用神經網絡和符號操作共同決策，提出了解決自然語言推理查詢的新途徑[11]。還有一些工作希望能用符號邏輯幫助神經網絡訓練、學習和推理。Hu等人提出了Teacher-Student網絡[12]，讓神經網絡（Student）擬合符號規則（Teacher）的結果，使得神經網絡在規則的指導下訓練學習。