類腦計算，他們從0到1

2020-12-10 中國青年報

類腦計算機層次結構（左）與現有通用計算機（右）的對比。清華大學供圖

施路平教授團隊在《自然》發表封面文章。清華大學供圖

中青報·中青網記者 葉雨婷通訊員 詹 萌

想像有一天，機器可以像人一樣思考和處理問題，這對於21世紀的我們早已不是一個陌生的話題。人工通用智能的夢想鞭策著人類不斷探索腦科學的奧秘與用機器模擬生物神經網絡的結構和信息加工的潛力，而後者就是我們所說的類腦計算，也叫神經形態計算。

然而，目前的類腦計算研究尚處於起步階段，國際上還沒有形成公認的技術標準與方案。10月14日，清華大學計算機系張悠慧團隊和精儀系施路平團隊與合作者在《自然》雜誌發表題為《一種類腦計算系統層次結構》的論文，填補了類腦計算系統領域完備性理論與相應的類腦計算系統層次結構方面的空白。

這是一年多來，清華團隊在類腦計算領域繼「天機芯」和「多陣列憶阻器存算一體系統」之後於《自然》正刊發表的第三篇成果，也是國內計算機體系結構領域首篇《自然》論文。

為類腦計算系統領域提供「準繩」

如果說，「圖靈完備性」是通用計算機領域的「圭臬」，那麼「類腦計算完備性」則是希望也能夠為類腦計算系統領域的發展提供一個「準繩」。

通用計算領域有兩個著名概念，一個是「圖靈完備性」，另一個是「馮·諾依曼體系結構」。前者用來衡量計算系統是否能夠用來解決通用計算問題，後者則是通用計算機運作的體系結構，該結構具有存儲部件與計算部件分離、程序與數據統一存儲等特性。這兩個基本概念幾乎構建起了目前所有處理器、計算機、手機等設備的基本架構。

然而，現有類腦計算系統研究卻沒有這樣的理論架構。類腦計算軟硬體間的高度耦合阻礙了它們在獨立發展的同時互相兼容的可能性，如何突破這一局面，擴展類腦計算系統的應用場景？這成了團隊下決心要解決的重點問題。

「通用計算領域的圖靈完備性和馮·諾依曼體系結構都是非常基礎、大家也非常熟悉的概念，以至於很多人都不會意識到，對於新興的類腦計算系統領域，這是一個需要首先解決的問題。」計算機系研究員張悠慧說。

從傳統通用計算機的設計哲學和方法論中汲取靈感和經驗，團隊針對類腦計算不像通用計算注重每一個計算過程的精確而更注重結果擬合的特性，提出了對計算過程和精度約束更低的類腦計算完備性概念，並且設計了相應的類腦計算機層次結構：圖靈完備的軟體模型，類腦計算完備的硬體體系結構，以及位於兩者之間的編譯層。

另外，通過構造性轉化算法，任意圖靈可計算函數都可以轉換為類腦計算完備硬體上的模型，這意味著類腦計算系統也可以支持通用計算，極大地擴展了類腦計算系統的應用領域，也使類腦計算軟硬體各自獨立發展成為可能。

「通俗來講，『完備性』可以回答系統能夠完成什麼、功能邊界在哪裡等問題。研究完備性，可以為軟硬體系統的解耦合、劃分不同研究領域間的任務分工與接口提供理論基礎，我們的研究聚焦完備性理論研究，先回答基本的問題。」張悠慧說。

交叉學科的「火花」，成就《自然》「三連發」

這一突破，是學科交叉的成果。

類腦計算屬於交叉研究領域，涉及腦科學、電子、微電子、計算機、自動化、材料以及精密儀器等多個學科。學科交叉意味著研究中需要集各科之所長，但是專業壁壘卻增加了學科之間互相理解、協同配合的難度。如何讓一個生物學家不必深入鑽研計算機理論卻依然能理解進而將自己的專業前沿成果結合到類腦計算當中？這是交叉研究項目面臨的現實問題。

《自然》雜誌審稿人說，這項研究「使得相關研究領域間的任務分工與接口更為清晰，有利於不同學科的研究人員專注於其專業領域、促進協同發展」。

2019年，一輛「成了精」的自行車成為了網絡熱點。這輛無人自行車可實時感知周圍環境，自己保持平衡騎行。而它的「大腦」，正是施路平教授團隊研製的「天機」（Tianjic）人工通用智能晶片。這款由中國自主研製的晶片，更是全球首款異構融合類腦晶片。2019年8月1日，它登上了最新一期《自然》雜誌的封面。

而此次文章的發表，意味著清華大學相關團隊在一年多的時間內完成了類腦計算領域《自然》正刊三連發——從「天機芯」登上《自然》封面開始，到2020年年初的的文章（微納電子系吳華強教授團隊與合作者），直至此次一文，上述論文分別從「異構融合的新型類腦計算晶片與系統」「基於憶阻器件的神經形態晶片」以及「類腦計算完備性與系統層次結構」等角度完成了類腦計算領域的首次實現。

事實上，只有不讓研究人員分心，專於所長，推動各個具體學科領域的技術突破，才能為類腦計算提供更加堅實的基礎和支持。

「施路平教授團隊的研究面向新型類腦計算晶片與系統，是在面向人工通用智能的應用方面開展工作，可以說是我們工作的牽引。而吳華強教授團隊在新器件、新工藝層面的創新，則是我們工作的推動。對於我們研究的計算機系統結構而言，兩者都是重要的支撐。」張悠慧說：「我們很榮幸能參與其中，進一步探索計算理論和計算系統架構的問題。」

據了解，清華大學對學科交叉要求極高的類腦計算研究高度重視，堅持有組織的科研，於2014年9月創立由7家院系聯合而成的類腦計算研究中心，精儀系施路平教授擔任中心主任。中心融合了腦科學、電子、微電子、計算機、自動化、材料以及精密儀器等學科，進行全方位類腦智能研究。

儘管文章從投稿到最終發表經歷了不到一年的時間，但這項成果的產生並不是一蹴而就的。在類腦計算系統設計和編譯技術上，團隊就已經在過去幾年的不懈研究中打下了堅實的基礎，加之此前清華在類腦領域新進展的借鑑與啟發，都為這次類腦計算完備性和類腦計算系統層次結構的提出提供了技術和方法上的支持。

「小團隊」的「大項目」

在學科「大咖」的支持和青年「後浪」的努力下，這個「小團隊」最終做成了類腦計算系統理論與原型構建的「大項目」。

從今年春節前夕投稿，到8月上旬正式被接收，論文的兩輪修改都是在疫情期間完成的。整個審稿過程無法在線下交流討論和開展實驗，對於團隊而言無疑是一個挑戰。「但從另一個角度看，因為疫情期間哪兒也去不了，我們能更加潛心和專一地去做好這一件事。」張悠慧說。

研究小組努力克服交流不便、實驗數據處理困難等問題，對文章的實驗設計做了較大補充與改進。

「一開始審稿人認同我們研究問題的意義，但是並不理解我們對於研究問題的解決思路，對於是否有必要進行底層的計算理論設計，審稿人提出了質疑。」計算機系博士後渠鵬說，「但是通過對整體行文邏輯、文章內容和原型實驗的反覆斟酌修改，以及對研究思路和質疑點的一一反饋，審稿人最後認同了我們的設計理念。」

今年剛畢業的博士生季宇是完成計算完備性相關工作的關鍵主力，因為在科研方面的優異表現，他的博士論文也被評為清華大學優秀博士論文。另一位文章的共同第一作者是精儀系的張偉豪，師從施路平教授的他提出了能夠充分利用類腦計算完備性的硬體抽象體系結構與映射方法，施路平教授的另一位博士生王冠睿則負責了全部硬體工作。大家各取所長，共同搭建起了類腦計算系統的層次結構。

70多頁的反饋文件，一次又一次的討論、修改、迭代，見證了團隊一步一步迎難而上的努力。「當審稿人說我們的研究明確了不同領域的分工和接口，將對類腦計算的交叉研究產生積極作用時，我真的很受鼓舞，感覺到自己研究的東西是十分有意義的，也是被類腦計算社區所認可的。」渠鵬說。

施路平表示，未來，在理論層面，團隊將更關注類腦應用的「神經形態特性」，並希望最終建立起一個與圖靈完備相對應的全新類腦計算理想範式；在系統層面，團隊將依託計算機系高性能所在超算與晶片方面的雄厚實力，研發受腦啟發的支持通用計算的新型計算機系統結構與晶片。

「儘管目標遠大，道阻且長，但日積跬步，終將到達千裡之外。至於是否能實現最初的夢想，時間會給所有的努力一個答案。」施路平說。

來源：中國青年報客戶端

相關焦點

  • 他們，從「0」到「1」
    從傳統到創新，用系統的眼光重新審視類腦計算如果說，「圖靈完備性」是通用計算機領域的「圭臬」，那麼「類腦計算完備性」則是希望也能夠為類腦計算系統領域的發展提供一個「準繩」。類腦計算軟硬體間的高度耦合阻礙了它們在獨立發展的同時互相兼容的可能性，如何突破這一局面，擴展類腦計算系統的應用場景？這成了團隊下決心要解決的重點問題。「通用計算領域的圖靈完備性和馮·諾依曼體系結構都是非常基礎、大家也非常熟悉的概念，以至於很多人都不會意識到，對於新興的類腦計算系統領域，這是一個需要首先解決的問題。」 計算機系研究員張悠慧說。
  • 類腦計算:從神經網絡到真正的人工智慧丨 CCF-GAIR 2019
    7 月 13 日，在「類腦計算」專場論壇上，來自學術界、企業界的多位知名學者、專家圍繞類腦科學這個主題，從類腦計算的底層技術、最新研究進展到實際落地進行了精彩的剖析和探討。他進一步表示，他們的目的是借用系統架構，從超級計算機裡面綜合神經科學、人工智慧和超級計算這三種科學來引領前沿的腦科學。這一研究的目的有三個，第一點是提升人群的身心健康，第二點是提升人群的智慧品質，第三點提升人群的道德水平。第三腦有四個方向：1. 研究腦，深入了解腦的基礎生物機制；2. 保護腦：防止腦損傷和找到早期精準檢測的方法；3.
  • 科學網—尋找類腦計算的設計「範式」
    新穎的觀點 研究過程中，團隊成員思考的出發點，正是基於通用計算與類腦計算在計算方式上的不同。 相較於圖靈計算對每個計算步驟精確性的苛求，類腦計算由於主要是通過神經網絡完成，其一大特性是不追求過程的精確，而是更注重結果擬合，「基於此，團隊提出了類腦計算的完備性，同時構建了一個相應的類腦計算機層次結構。」
  • 餘山:從腦網絡到人工智慧——類腦計算的機遇與挑戰
    計算機在一個公認的非常複雜的計算與智力任務中，打敗了人類的頂尖選手，靠的是類人腦的智能嗎？從系統的結構看，AlphaGo結合了深度神經網絡訓練與蒙特卡洛模擬[1]。廣義的說，深度神經網絡是類腦的計算形式，而蒙特卡洛方法則是發揮機器運算速度的優勢，模擬出數量巨大的可能性用以進一步判斷，這現在看來不是大腦工作的機制。
  • 自旋器件做類腦計算,怎麼做?
    解決上述關鍵問題必須突破現有的馮諾依曼的計算機架構，發展類腦計算和隨機計算等新型計算方案。類腦計算的核心是將人腦神經網絡的概念應用於計算機系統的設計，計算和存儲單元合二為一，利用神經網絡內在的高密集互聯與自然的並行化計算實現智能計算，從而同時滿足算力、能效和可移動性的需求。
  • 清華大學團隊首提「類腦計算完備性」概念
    科技日報北京10月15日電 （記者林莉君）記者15日從清華大學獲悉，我國首篇以「計算機系作為第一完成單位」的論文登上《自然》，論文首次提出「類腦計算完備性」以及軟硬體去耦合的類腦計算系統層次結構。首次提出「類腦計算完備性」（也稱為神經形態完備性）概念——針對任意給定誤差∈≥0和任意圖靈可計算函數f(x)，如果一個計算系統可以實現函數F(x)使得‖F(x)-f(x)‖≤∈對所有合法的輸入x均成立，那麼該計算系統是類腦計算完備的。　　類腦計算，是借鑑生物神經系統信息處理模式和結構的計算理論、體系結構、晶片設計以及應用模型與算法的總稱。
  • 清華大學團隊完成《自然》類腦計算領域首次刊文
    「從除夕夜提交論文到8月上旬被接受，這個審稿時間是非常快的。」清華大學類腦計算研究中心主任、精儀系教授施路平告訴記者。「受新冠肺炎疫情影響，論文的兩輪修改都是由各團隊通過線上緊密合作完成，我們通過和審稿人交流，針對文章實驗設計回復了超過70頁的反饋文件。」
  • 清華大學計算機系張悠慧團隊首次提出「類腦計算完備性」
    為此，研究團隊提出了「類腦計算完備性」（也稱為神經形態完備性）概念——針對任意給定誤差ϵ≥0和任意圖靈可計算函數f(x)，如果一個計算系統可以實現函數 F(x) 使得 ‖F(x)-f(x)‖≤ϵ對所有合法的輸入x均成立，那麼該計算系統是類腦計算完備的。「通俗來講，『完備性』可以回答系統能夠完成什麼、功能邊界在哪裡等問題。
  • 類腦計算機：一種新型的計算系統
    這臺類腦計算機包含792顆浙江大學研製的達爾文2代類腦晶片，支持1.2億脈衝神經元、近千億神經突觸，與小鼠大腦神經元數量規模相當，典型運行功耗只需要350-500瓦，同時它也是目前國際上神經元規模最大的類腦計算機。類腦計算機通過模擬海馬體記憶機制，實現對大腦內部記憶信息的存取，構造一種全新的人工智慧系統。
  • 類腦計算丨CNCC技術論壇
    類腦計算是借鑑神經科學處理信息的基本原理，面向人工通用智能，發展新的非馮諾依曼計算技術。類腦計算系統是人工通用智能的基石，擁有極為廣闊的應用前景。其重要性正如歐盟人腦旗艦研究計劃項目所指出的：「在未來10到20年內，誰要想主導世界經濟，誰必須在這個領域領先」。
  • 我科學家首次提出「類腦計算完備性」
    【科技前沿】本報北京10月15日電（記者鄧暉）我科學家在類腦計算體系結構領域再獲突破性進展。清華大學計算機科學與技術系張悠慧團隊、精密儀器系施路平團隊與合作者首次提出「類腦計算完備性」以及軟硬體去耦合的類腦計算系統層次結構，填補了類腦研究完備性理論與相應系統層次結構方面的空白，利於自主掌握新型計算機系統核心技術。該成果於10月14日以《一種類腦計算系統層次結構》為題發表在《自然》雜誌上。
  • 清華大學團隊《自然》刊文，首提「類腦計算完備性」概念
    記者10月15日從清華大學獲悉，我國首篇以「計算機系作為第一完成單位」的論文登上《自然》，論文首次提出「類腦計算完備性」以及軟硬體去耦合的類腦計算系統層次結構。「這是一個新穎的觀點，並可能被證明是神經形態計算領域以及對人工智慧的追求的重大發展。」《自然》的一位審稿人給出評價。
  • 復盤兩大研究進展,類腦計算與仿生機器人
    這兩項研究的核心貢獻者，清華大學類腦計算研究中心主任、清華大學教授施路平，哥倫比亞大學教授、機器人研究權威專家Hod Lipson，他們來到現場，分享這些前沿研究已經實現的進展，以及未來應用的可能。一、類腦計算是發展人工通用智能的基石今年8月1日，清華大學一輛自動行駛的自行車登上了《Nature》雜誌封面，這輛自行車由世界首款異構融合類腦晶片「天機芯」驅動，展現了人工通用智能的可行之徑。
  • 清華大學研發類腦計算機 類腦計算是什麼意思
    類腦計算是什麼意思？據央視新聞報導，北京時間 10 月 14 日 23 點，清華大學計算機系張悠慧團隊和精密儀器系施路平團隊與合作者在《自然》（Nature）雜誌發文，首次提出「類腦計算完備性」以及軟硬體去耦合的類腦計算系統層次結構。目前，清華大學正在開發新型類腦計算機。
  • 北京腦科學與類腦研究中心成立 主攻類腦計算與腦機智能等
    對接國家科技創新2030 主攻類腦計算與腦機智能等 早在2006年，我國就開始前瞻布局腦科學研究，《國家中長期科學和技術發展規劃綱要》（2006—2020）將「腦科學與認知」列入基礎研究8個科學前沿問題之一。
  • ...團隊填補腦計算系統領域理論空白 首次提出「類腦計算完備性」
    10月14日，清華大學計算機科學與技術系教授張悠慧團隊、精密儀器系教授施路平團隊與合作者在《自然》雜誌發文，首次提出「類腦計算完備性」以及軟硬體去耦合的類腦計算系統層次結構。該研究項目填補了類腦計算系統領域完備性理論與相應的類腦計算系統層次結構方面的空白。
  • 專家談計算神經科學與類腦人工智慧的關係
    即使美國情報高級研究計劃署這樣以應用為目標的機構，目前也主要資助「大腦皮層網絡的機器智能」（Machine Intelligence from Cortical Networks， MICrONS）的基礎研究【1】。該項目「旨在逆向大腦的運算法則，徹底改變機器學習」，並且「 參與者將利用他們對大腦表徵、轉換和學習規則的深入研究和理解，來創造能力更強的類腦機器學習算法。」
  • 不理解人腦原理,如何造出類腦計算系統天機晶片?
    發展類腦計算是發展人工通用智能的一個非常重要的部分，因為這是計算的基石。發展人工通用智能並不是最近才有的想法，如果我們翻閱圖靈、馮諾依曼這些大科學家早期的文章，不難發現這是科學家們一直以來的夢想。發展類腦計算去支撐人工通用智能，在這裡面腦起了非常大的作用，它到底起了一個什麼作用？13年前，有感於摩爾定律在二三十年後將要到頭，所以我開啟了類腦計算的研究，雖然我自認為自己研究做的還不錯，但在類腦計算方面，我忽然感到自己不會做研究了，因為這個領域沒有文獻，很多東西需要自己摸索，所以感到非常的苦惱。有一次我去爬山，故意讓自己鑽進森林，不出意外，我迷路了。
  • 「天機芯」登《自然》封面後清華實現類腦計算「圖靈完備性」突破
    這次，他們首次提出了 「類腦計算的完備性」 概念，為類腦計算這一有可能在未來與傳統計算系統相媲美的新型計算機系統，補上了一塊重要的理論短板，讓類腦計算的軟、硬體各自獨立開發成為了可能，更可以大幅提升很多應用的計算效能，是神經形態計算領域的重大理論突破。針對這一重大突破，DeepTech 與文章的共同一作與共同通訊作者、團隊負責人張悠慧教授進行了深入交流。
  • 清華團隊首次提出「類腦計算完備性」，實現《自然》雜誌「三連發」
    」以及軟硬體去耦合的類腦計算系統層次結構。與通用計算機的「圖靈完備性」概念與「馮諾依曼」體系結構相對應，本篇題為《一種類腦計算系統層次結構》的論文首次提出「類腦計算完備性」以及軟硬體去耦合的類腦計算系統層次結構，通過理論論證與原型實驗證明該類系統的硬體完備性與編譯可行性，並擴展了類腦計算系統應用範圍使之能支持通用計算。