科學網—尋找類腦計算的設計「範式」

2020-11-22 科學網

 

圖片來源：Unsplash

■本報記者 陳彬

無論是千百年前的偃師傳說，還是近代以來各種科幻小說，讓機器人像人類一樣思考和行事，一直都是人類的夢想。然而要實現這一夢想，就必須給機器人一顆類似人類的「大腦」。為此，人類在不斷探索著腦科學的奧秘，用機器模擬生物神經網絡的結構和信息加工的潛力，後者就是類腦計算，也叫神經形態計算。

當前，類腦計算在世界範圍內尚處於初步探索階段，也正因為如此，目前該領域還沒有形成公認的技術標準與方案。不過近日，清華大學計算機科學與技術系研究員張悠慧團隊和類腦計算研究中心主任施路平團隊與合作者在《自然》雜誌發表的一篇題為《一種類腦計算系統層次結構》的論文，正在嘗試改變這一現狀。

「這篇論文填補了類腦計算系統領域完備性理論與相應的類腦計算系統層次結構方面的空白。」受訪時，中國工程院院士、清華大學計算機科學與技術系教授鄭緯民評價道。

缺失的理論基礎

在通用計算領域有兩個著名概念——「圖靈完備性」和「馮·諾依曼體系結構」。前者用來衡量計算系統是否能夠用來解決通用計算問題，後者則是通用計算機運作的體系結構，該結構具有存儲部件與計算部件分離、程序與數據統一存儲等特性。

「通俗地說，一臺機器是只能解決一個問題還是能解決通用計算問題？如果屬於後者，那麼就可以說是具有圖靈完備性的。」在接受《中國科學報》採訪時，張悠慧介紹說，可以簡單地將馮·諾依曼體系結構理解為一種能夠實現圖靈完備性的處理器抽象模型。

「圖靈完備性與馮·諾依曼體系結構可以使通用計算領域在軟體層、編譯層和硬體層具有統一的範式，從而使不同層次各自發展而又可以無縫兼容。」張悠慧表示，這兩個基本概念幾乎構建起了目前所有處理器、計算機、手機等設備的基本架構。

然而，類腦計算系統領域並沒有屬於自己的「圖靈完備性」和「馮·諾依曼體系結構」。

「『類腦計算』與『通用計算』有很多不同。」施路平介紹，通用計算遵循圖靈計算規則，極其注重每一步計算過程的精確性，而類腦計算往往是通過參數擬合去近似。「它不在乎過程，只在乎最後結果的意義和特性。」他表示，正是這樣的區別，提出了對新的完備性理論和體系結構的需求。

然而，現有類腦計算系統研究大多聚焦於具體的晶片、工具鏈、應用和算法的創新實現，而忽略了從宏觀和抽象層面對計算完備性和體系結構進行思考。「通用計算領域的圖靈完備性和馮·諾依曼體系結構都非常基礎，其概念也十分普及，以至於很多人都很難意識到，對於新興的類腦計算系統領域，這是一個需要首先解決的問題。」張悠慧說，尋找類腦計算完備性，從而為類腦計算系統設計建立理論基礎，也就成為了科研人員的努力方向。

新穎的觀點

研究過程中，團隊成員思考的出發點，正是基於通用計算與類腦計算在計算方式上的不同。

相較於圖靈計算對每個計算步驟精確性的苛求，類腦計算由於主要是通過神經網絡完成，其一大特性是不追求過程的精確，而是更注重結果擬合，「基於此，團隊提出了類腦計算的完備性，同時構建了一個相應的類腦計算機層次結構。」張悠慧說，在這個結構中，最上層為具有圖靈完備性的軟體層，它可以在目前認知範圍內，支持一切可計算函數。底層為具有類腦完備性的硬體，在這兩層之間，則是由他們提出的一套構造性算法實現編譯適配。

「該算法可以將任何一個程序轉換成類腦計算完備性上的等價模型。換言之，任意圖靈可計算函數都可以轉換為類腦計算完備硬體上的模型，這意味著類腦計算系統也可以支持通用計算，從而極大地擴展了類腦計算系統的應用領域，也使類腦計算軟硬體各自獨立發展成為可能。」張悠慧說。

特別值得一提的是，明確類腦計算機層次結構，除了實現不同層次之間的去耦合之外，也有望為各相關學科的研究人員「減負」。

類腦計算是典型的交叉學科，涉及腦科學、微電子、計算機等。這意味著在研究中，專業壁壘會增加學科之間互相理解、協同配合的難度。研究團隊所提出的層次結構，可以使相關研究領域間的任務分工與接口更為清晰，有利於不同學科的研究人員專注於其專業領域、促進協同發展。

對此，《自然》雜誌的一位審稿人認為，「這是一個新穎的觀點，並可能被證明是神經形態計算領域及對人工智慧追求的重大發展」。而鄭緯民則直接評價：「這一基礎研究的突破，要遠比做出三五臺類腦計算的機器重要得多。」

可期的未來

在類腦計算領域，清華大學已經布局多年。2014年，該校成立了類腦研究中心。作為中心主任，對於目前類腦計算的發展態勢，施路平有著自己的理解。

「如果現在回頭去看圖靈、馮·諾依曼等學術先驅的設想，會發現他們其實原本就是打算發展以類腦計算為基礎的通用人工智慧的，只是由於當時條件不具備，才逐漸走向了一個問題一個解決方案的『窄人工智慧』。」施路平說，現如今，人類已經迎來了發展類腦計算的良好契機。

究其原因，可以分為以下四個方面。

「首先是隨著科技的進步，人類對大腦的理解愈加深入，甚至可以說是到了理解腦的『關口』；其次，超級計算機的發展讓科研人員可以做到更高水平的模擬仿真；第三，大數據、雲計算等技術的發展，使人類可以建立一個和腦交相呼應的系統，實現彼此間的借鑑；最後，納米技術的發展可以製造出與大腦能耗級別相當的先進器件。」施路平說。

早在2016年，《自然》雜誌就曾刊文指出，類腦計算不但是邁向通用人工智慧的極具潛力的路徑，類腦計算架構與晶片也是後摩爾時代體系結構重大發展方向之一。

談及未來，張悠慧表示團隊將從理論層面和系統層面同時發力。其中，在理論層面，團隊將更關注類腦應用的「神經形態特性」，持續完善完備性理論；在系統層面，團隊則將致力於研發受腦啟發的支持通用計算的新型計算機系統結構與晶片。

「團隊還特別關注一個問題，就是如何擴展類腦完備系統的硬體原語，使之更好地適配通用計算。這是一個非常有意思的問題，在這個方面我們已經開展了相關的研究，希望能有好的消息。」張悠慧說。

相關論文信息：https://doi.org/10.1038/s41586-020-2782-y

《中國科學報》 (2020-10-22 第3版 信息技術)

相關焦點

  • ...團隊填補腦計算系統領域理論空白 首次提出「類腦計算完備性」
    10月14日，清華大學計算機科學與技術系教授張悠慧團隊、精密儀器系教授施路平團隊與合作者在《自然》雜誌發文，首次提出「類腦計算完備性」以及軟硬體去耦合的類腦計算系統層次結構。該研究項目填補了類腦計算系統領域完備性理論與相應的類腦計算系統層次結構方面的空白。
  • 清華大學團隊填補腦計算系統領域理論空白 首次提出「類腦計算完備性」
    10月14日，清華大學計算機科學與技術系教授張悠慧團隊、精密儀器系教授施路平團隊與合作者在《自然》雜誌發文，首次提出「類腦計算完備性」以及軟硬體去耦合的類腦計算系統層次結構。該研究項目填補了類腦計算系統領域完備性理論與相應的類腦計算系統層次結構方面的空白。
  • 我科學家首次提出「類腦計算完備性」
    清華大學計算機科學與技術系張悠慧團隊、精密儀器系施路平團隊與合作者首次提出「類腦計算完備性」以及軟硬體去耦合的類腦計算系統層次結構，填補了類腦研究完備性理論與相應系統層次結構方面的空白，利於自主掌握新型計算機系統核心技術。該成果於10月14日以《一種類腦計算系統層次結構》為題發表在《自然》雜誌上。
  • 類腦計算，他們從0到1
    從傳統通用計算機的設計哲學和方法論中汲取靈感和經驗，團隊針對類腦計算不像通用計算注重每一個計算過程的精確而更注重結果擬合的特性，提出了對計算過程和精度約束更低的類腦計算完備性概念，並且設計了相應的類腦計算機層次結構：圖靈完備的軟體模型，類腦計算完備的硬體體系結構，以及位於兩者之間的編譯層。
  • 清華大學團隊完成《自然》類腦計算領域首次刊文
    清華大學類腦計算研究中心主任、精儀系教授施路平告訴記者。「受新冠肺炎疫情影響，論文的兩輪修改都是由各團隊通過線上緊密合作完成，我們通過和審稿人交流，針對文章實驗設計回復了超過70頁的反饋文件。」計算機體系結構專家、華中科技大學計算機學院教授金海評價此項研究「在類腦計算系統領域做出了基礎性、原創性的貢獻，有利於自主掌握新型計算系統軟硬體核心技術。」 通用計算領域有兩個著名概念，一個是「圖靈完備性」，另一個是「馮·諾依曼體系結構」。這使得通用計算領域在軟體層、編譯層和硬體層都有了統一的範式，使不同層次各自發展而又可以無縫兼容。
  • 自旋器件做類腦計算,怎麼做?
    解決上述關鍵問題必須突破現有的馮諾依曼的計算機架構，發展類腦計算和隨機計算等新型計算方案。類腦計算的核心是將人腦神經網絡的概念應用於計算機系統的設計，計算和存儲單元合二為一，利用神經網絡內在的高密集互聯與自然的並行化計算實現智能計算，從而同時滿足算力、能效和可移動性的需求。
  • 清華首次提出「類腦計算完備性」及計算系統層次結構,登上Nature
    機器之心報導編輯：澤南、蛋醬自一年多以來，這已是清華大學的類腦計算研究最近第三次被自然雜誌收錄。10 月 14 日，在最新一期《自然》雜誌上，出現了一項類腦計算體系結構的突破性進展。
  • 餘山:從腦網絡到人工智慧——類腦計算的機遇與挑戰
    所以AlphaGo 可以說是結合了類腦與非類腦的計算與智能，完美發揮其各自特長所取得的成功。除了AlphaGo 所運用的深度神經網絡之外，現在研究的類腦計算和智能還有哪些方面？可能會在不久的將來帶來什麼樣的突破呢？　　什麼是類腦計算？
  • 清華大學研發類腦計算機 類腦計算是什麼意思
    類腦計算是什麼意思？據央視新聞報導，北京時間 10 月 14 日 23 點，清華大學計算機系張悠慧團隊和精密儀器系施路平團隊與合作者在《自然》（Nature）雜誌發文，首次提出「類腦計算完備性」以及軟硬體去耦合的類腦計算系統層次結構。目前，清華大學正在開發新型類腦計算機。
  • 清華大學團隊首提「類腦計算完備性」概念
    科技日報北京10月15日電 （記者林莉君）記者15日從清華大學獲悉，我國首篇以「計算機系作為第一完成單位」的論文登上《自然》，論文首次提出「類腦計算完備性」以及軟硬體去耦合的類腦計算系統層次結構。首次提出「類腦計算完備性」（也稱為神經形態完備性）概念——針對任意給定誤差∈≥0和任意圖靈可計算函數f(x)，如果一個計算系統可以實現函數F(x)使得‖F(x)-f(x)‖≤∈對所有合法的輸入x均成立，那麼該計算系統是類腦計算完備的。　　類腦計算，是借鑑生物神經系統信息處理模式和結構的計算理論、體系結構、晶片設計以及應用模型與算法的總稱。
  • 清華大學計算機系張悠慧團隊首次提出「類腦計算完備性」
    類腦計算處於起步階段，國際上尚未形成公認的技術標準與方案，這一成果填補了完備性理論與相應系統層次結構方面的空白，利於自主掌握新型計算機系統核心技術。近年來，類腦計算研究受到了越來越多的關注。類腦計算，是借鑑生物神經系統信息處理模式和結構的計算理論、體系結構、晶片設計以及應用模型與算法的總稱。
  • 以全新類腦計算系統實現通用人工智慧
    其中，軟體層指的是神經形態應用和開發框架（如 Nengo和PyTorch），研究團隊設計構造性轉化算法，將任意圖靈可計算函數轉換為類腦計算完備硬體上的模型；硬體層則包括所有類腦晶片和架構模型，以EPG（ execution primitive graph）接口作為紐帶，最大化實現其對不同硬體的適應性，形成完備的類腦計算硬體體系結構；編譯層則位於兩者之間，將一個程序轉化為硬體所支持的一種等價形式
  • 清華首提「類腦計算完備性」及計算系統層次結構，登Nature
    10 月 14 日，在最新一期《自然》雜誌上，出現了一項類腦計算體系結構的突破性進展。考慮到類腦計算的相似性，研究者進一步提出了「類腦計算完備性」的概念，引入了逼近等價（approximation equivalence）和近似等價（precise equivalence）。
  • 清華大學團隊《自然》刊文，首提「類腦計算完備性」概念
    記者10月15日從清華大學獲悉，我國首篇以「計算機系作為第一完成單位」的論文登上《自然》，論文首次提出「類腦計算完備性」以及軟硬體去耦合的類腦計算系統層次結構。「這是一個新穎的觀點，並可能被證明是神經形態計算領域以及對人工智慧的追求的重大發展。」《自然》的一位審稿人給出評價。
  • 類腦計算機：一種新型的計算系統
    不過，近年來，「類腦計算」卻從理念走向實踐，正走出一條製造類人智能的新途徑。未來的計算機，或許真的越來越像人類「大腦」；實際上，人腦本身就是許多智能技術解決問題的靈感來源，它們通過機器學習，特別是深度學習來解決問題。
  • 類腦計算丨CNCC技術論壇
    類腦計算是借鑑神經科學處理信息的基本原理，面向人工通用智能，發展新的非馮諾依曼計算技術。類腦計算系統是人工通用智能的基石，擁有極為廣闊的應用前景。其重要性正如歐盟人腦旗艦研究計劃項目所指出的：「在未來10到20年內，誰要想主導世界經濟，誰必須在這個領域領先」。
  • 「天機芯」登《自然》封面後清華實現類腦計算「圖靈完備性」突破
    ，來設計計算機系統呢？這樣，通用計算系統的軟體和硬體的開發就可以獨立開來，各自專注於自己領域的事情，而無需擔心程序能否在所有晶片上使用，晶片又能否支持所有的程序。然而，由於類腦計算尚處於起步階段，類腦計算的功能邊界並沒一個很好的定義。往往是一類應用出來了，就按照歸納法，設計類腦計算系統來完成這類工作。但面對未來其它的工作，類腦計算能不能完成，就不得而知了。
  • 中國團隊提出類腦計算新概念，讓軟硬體開發「脫鉤」
    類腦硬體或能顛覆計算領域，但在這類系統上實現算法尚存挑戰傳統計算機設計有一個重要特徵，可以讓新器件（晶片、存儲器等）實現最佳性能——這個特徵就是軟硬體開發之間不存在緊耦合。通過對硬體設定最低要求，便可將高級語言寫的軟體程序轉換成任何計算機需要的精確、等價的指令序列——這個過程也稱為編譯（圖1）。在編譯過程中，支持使用表示基本計算操作的指令的計算機被認為具有圖靈完備性（Turing completeness）。
  • 清華團隊提出類腦計算系統新框架，通用人工智慧或將不再科幻
    尤其是，當前類腦計算的系統和晶片，雖然具體類型有所不同，但都比較側重於端到端的軟硬體協同設計方法，缺乏一種可以將算法、晶片和器件等不同領域技術和需求有機結合起來的軟硬體系統層次結構設計。而此次這一最新研究成果的提出，或許為通用人工智慧的加速到來提供了可能。
  • 清華團隊填補腦計算系統領域理論空白
    10月14日，清華大學計算機科學與技術系教授張悠慧團隊、精密儀器系教授施路平團隊與合作者在《自然》雜誌發文，首次提出「類腦計算完備性」以及軟硬體去耦合的類腦計算系統層次結構。該研究項目填補了類腦計算系統領域完備性理論與相應的類腦計算系統層次結構方面的空白。