...計算成果再登Nature:張悠慧施路平團隊出品,有望打破馮諾依曼瓶頸

2020-11-23 澎湃新聞

賈浩楠 發自 凹非寺

量子位 報導 | 公眾號 QbitAI

清華類腦計算研究成果,再登Nature。

新研究的關鍵詞是:類腦計算、新計算機系統框架、通用人工智慧(AGI)。

它的重要性,在於有希望打破如今馮·諾依曼型計算機,對人工智慧的普遍限制,完全發揮類腦算法的潛力,使AGI更具可行性。

研究了些什麼?

這並不是清華大學類腦計算中心的相關研究成果,第一次登上Nature。

去年8月,清華類腦計算中心施路平團隊自行研發的類腦晶片「天機」,登上了Nature封面。

以這片類腦晶片為基礎,研究團隊實現了高度靈敏,並且能聽懂自然語言指令的自行車。

而最新發表的研究,則是為了解決類腦計算系統的「基礎設施架構」問題。

在名為A system hierarchy for brain-inspired computing的論文中,施路平教授團隊提出了一種全新的、突破性的類腦計算通用系統層次結構。

這項研究中提出的神經形態完備性概念,這是一種更具適應性、更廣泛的類腦計算完備性的定義,它降低了系統對神經形態硬體的完備性要求,提高了不同硬體和軟體設計之間的兼容性。

這意味著這種專門為類腦計算任務設計的計算機結構,具備了和我們熟知的馮·諾依曼結構計算機相同的能力。

即避免系統中軟體和硬體之間的緊密關聯,實現了高效、兼容和獨立的進程。不同的程式語言可通過編譯器處理變為可供機器執行的指令。

這一點是十分重要關鍵的,因為以往,在馮·諾依曼結構計算機上,類腦計算缺乏合適的系統層次結構來支持整體開發,神經形態軟體和硬體之間沒有合適的接口。

一個特定的算法或類腦晶片,需要藉助一系列特定的軟體工具才能運行,

這種方法的弊端在於,類腦計算系統(包括應用程式模型、系統軟體和神經形態設備)的各個層被緊密綁定在了一起,影響了軟體和硬體之間的兼容性,降低了類腦計算系統的編程靈活性和開發效率。

解決這個問題的關鍵,是「神經形態完備性」。

神經形態完備的三層結構

這項研究中提出了神經形態完備性的概念。

這是一種類腦計算完備性的定義,與通用的圖靈完備性類似,定義通用機器和語言的要求。

定義提出,如果一個類腦系統能夠以規定的準確度執行一組給定的基本操作,那麼它就是神經形態完備的。

這與圖靈完備性有所不同。

在圖靈完備性中,只有當一個系統為一組給定的基本運算提供了一個精確且等價的結果時,才可以將其定義為完備。

而在所提出的神經形態完備框架中的基本運算,包括兩個已知的加權和運算,以及元素-整流線性運算,這使得硬體系統能夠同時支持脈衝和非脈衝人工神經網絡。

新定義降低了系統對神經形態硬體的完備性要求,使得不同硬體和軟體設計之間的兼容性更易實現。

新的層次結構的一個重要特點是,提出了完整的連續性,根據類腦系統能夠執行基本操作的精度,接受不同級別的算法性能。

完整的連續性還允許算法的不同實現路徑在同一硬體上運行。例如,探索如何權衡算法精度與晶片尺寸,以降低功耗。

為滿足神經形態完備性,團隊提出一種全新的系統層次結構,這一結構包括軟體、硬體和編譯三個層次:

其中,軟體層指的是程式語言或框架以及建立在它們之上的算法或模型。在這個層次上,團隊提出了一種統一的、通用的軟體抽象模式——POG 圖(programming operator graph)——以適應各種類腦算法和模型設計。

POG 由統一的描述方法和事件驅動的並行程序執行模型組成,該模型集成了存儲和處理,描述了什麼是類腦程序,並定義了如何執行。由於 POG 是圖靈完備的,它最大程度地支持各種應用程式、程式語言和框架。

硬體方面,則包括所有類腦晶片和架構模型。團隊設計了抽象神經形態體系結構(ANA)作為硬體抽象,包括一個 EPG 圖(execution primitive graph),作為上層的接口來描述它可以執行的程序。

EPG 具有控制、流、數據流的混合表示,滿足它對不同硬體的適應性。

編譯層,是將程序轉換為硬體支持的等效形式的中間層。為實現可行性,研究人員提出了一套被主流類腦晶片廣泛支持的基本硬體執行原語(hardware execution primitives)。

類腦計算領域的重要一步

近年來,隨著摩爾定律逐漸失效,馮·諾依曼結構帶來的局限日益明顯,存儲牆、功耗牆、智能提升等問題,讓當前計算機發展面臨重大挑戰。

從人類大腦中汲取靈感的類腦計算或神經形態計算,是一種有潛力打破馮·諾伊曼瓶頸並推動下一波計算機工程的計算模型和架構。

而Nature給這項研究的評語是「a welcome step」。

比較實現相同算法的等效版本的不同硬體平臺,以及在同一硬體上實現的不同算法的比較。

這些都是類腦結構的有效基準測試的關鍵。

新結構的另一個優勢是它可以將類腦算法和相應的硬體開發分流。

類腦算法在不斷實現強大功能的同時,算法的規模和複雜性將需要隨著時間的推移而增加。因此這種分流將有助於研究人員專注於特定方向,避免複雜的端到端解決方案。

這項研究是類腦計算領域的重要一步。

儘管現在,人類大腦本身是否符合「神經形態完備」還有待觀察,但這項研究仍然讓類腦計算實用化,以及可能在此基礎上發展的通用人工智慧離我們更近了。

進擊的清華類腦計算中心

清華大學類腦計算中心,由施路平教授2013年3月全職入職清華大學後組建,從基礎理論、類腦計算系統晶片和軟體系統全方位進行類腦計算研究。

去年 8 月,施路平團隊的「天機芯」登上《自然》雜誌封面 加連結,這是世界上首款異構融合類腦晶片,並通過自動駕駛自行車成功驗證了通用智能的可行性。

團隊很早就著手類腦計算的商業落地,2018年,北京靈汐科技作為清華大學類腦計算中心科技成果轉化項目正式成立,施路平教授是聯合創始人。

參考連結

https://www.nature.com/articles/d41586-020-02829-w

論文地址

https://www.nature.com/articles/s41586-020-2782-y

— 完 —

本文系網易新聞•網易號特色內容激勵計劃籤約帳號【量子位】原創內容,未經帳號授權,禁止隨意轉載。

ature:張悠慧施路平團隊出品,有望打破馮諾依曼瓶頸》

閱讀原文

相關焦點

  • 清華類腦計算再登《自然》:張悠慧施路平團隊定義新計算機結構
    賈浩楠 發自 凹非寺量子位 報導 | 公眾號 QbitAI清華類腦計算研究成果,再登Nature。在名為A system hierarchy for brain-inspired computing的論文中,施路平教授團隊提出了一種全新的、
  • 「天機芯」團隊又登Nature,清華類腦計算領域「三連發」
    來源:機器人大講堂去年8月,清華大學施路平團隊攜手第二代「天機芯」登上《自然》(Nature)雜誌封面(《面向人工通用智能的異構天機晶片架構》(Towards artificial general Intelligence with hybrid
  • 清華大學計算機系張悠慧團隊首次提出「類腦計算完備性」
    北京時間10月14日清華大學計算機系張悠慧團隊精儀系施路平團隊與合作者張悠慧說。相對於通用計算機,這一定義放鬆了對系統計算過程和精度的約束。團隊進一步提出相應的類腦計算機層次結構和確保類腦計算完備性的硬體原語(相當於通用處理器的機器指令)來充分利用這一新完備性帶來的優勢。
  • Nature:清華團隊提出類腦計算系統新框架,通用人工智慧或將不再科幻
    儘管在神經形態計算領域,要把許多工業和學術研究小組的工作結合起來,還有很多工作要做,但羅茲認為,施路平和張悠慧等人此次提出這一層次結構,是朝著這個方向邁出的重要一步。而從人類大腦中汲取靈感的類腦計算或神經形態計算,是一種有潛力打破馮·諾伊曼瓶頸並推動下一波計算機工程的計算模型和架構。類腦計算的概念最早由美國計算機科學家、美國加州理工學院榮譽退休教授卡弗·米德(Carver Mead)於 1989 年出,但當時摩爾定律下的「計算危機」並未顯現,相關研究也就並沒有引起太多人的關注。
  • 清華團隊首次提出「類腦計算完備性」,實現《自然》雜誌「三連發」
    清華大學供圖中國青年報客戶端北京10月15日電(中青報·中青網記者 葉雨婷)記者今天從清華大學獲悉,10月14日,清華大學計算機科學與技術系(以下簡稱「計算機系」)張悠慧團隊、精密儀器系(以下簡稱「精儀系」)施路平團隊與合作者在《自然》(Nature)雜誌發文,首次提出「類腦計算完備性」以及軟硬體去耦合的類腦計算系統層次結構。
  • 清華團隊提出類腦計算系統新框架,通用人工智慧或將不再科幻
    儘管在神經形態計算領域,要把許多工業和學術研究小組的工作結合起來,還有很多工作要做,但羅茲認為,張悠慧和施路平等人此次提出這一層次結構,是朝著這個方向邁出的重要一步。而從人類大腦中汲取靈感的類腦計算或神經形態計算,是一種有潛力打破馮·諾伊曼瓶頸並推動下一波計算機工程的計算模型和架構。
  • 清華大學研發類腦計算機 首提新概念突破圖靈與馮諾依曼體系
    清華大學計算機系張悠慧團隊和精儀系施路平團隊與合作者10月14日在《自然》雜誌發表題為《一種類腦計算系統層次結構》的論文,首次提出「類腦計算完備性」以及軟硬體去耦合的類腦計算系統層次結構,填補了這一領域的空白.這是一年多來,清華在類腦計算領域繼「天機芯」和「多陣列憶阻器存算一體系統」之後於《自然》正刊發表的第三篇成果,也是計算機系以第一完成單位發表的首篇《自然》論文
  • 首提新概念,突破圖靈與馮諾依曼體系!清華研發類腦計算機
    清華大學計算機系張悠慧團隊和精儀系施路平團隊與合作者10月14日在《自然》雜誌發表題為《一種類腦計算系統層次結構》的論文,首次提出「類腦計算完備性」以及軟硬體去耦合的類腦計算系統層次結構,填補了這一領域的空白。
  • ...團隊填補腦計算系統領域理論空白 首次提出「類腦計算完備性」
    10月14日,清華大學計算機科學與技術系教授張悠慧團隊、精密儀器系教授施路平團隊與合作者在《自然》雜誌發文,首次提出「類腦計算完備性」以及軟硬體去耦合的類腦計算系統層次結構。該研究項目填補了類腦計算系統領域完備性理論與相應的類腦計算系統層次結構方面的空白。
  • 清華施路平團隊新研究登上《自然》,提出類腦計算系統新框架
    10月14日,在最新一期《自然》雜誌中,發布了清華大學施路平團隊的一項新研究,在類腦計算通用系統層次結構方面取得了新進展,該層次結構將算法的要求及其在一系列神經形態系統上的實現形式化,從而為研究的結構化方法奠定了基礎。
  • 清華大學團隊填補腦計算系統領域理論空白 首次提出「類腦計算完備性」
    10月14日,清華大學計算機科學與技術系教授張悠慧團隊、精密儀器系教授施路平團隊與合作者在《自然》雜誌發文,首次提出「類腦計算完備性」以及軟硬體去耦合的類腦計算系統層次結構。該研究項目填補了類腦計算系統領域完備性理論與相應的類腦計算系統層次結構方面的空白。
  • 「天機芯」團隊再登《自然》,清華1年多完成類腦計算領域「三連發」
    北京時間10月14日清華大學計算機系張悠慧團隊精儀系施路平團隊與合作者此次,清華大學施路平教授團隊研究的軟硬體去耦合的類腦計算系統層次結構,利用「天機芯」等硬體性能架構相互兼容(即軟硬體去耦合),擴展類腦計算系統應用範圍,使之能支持通用計算。
  • 清華首提「類腦計算完備性」及計算系統層次結構,登Nature
    來自清華大學、北京信息科學與技術國家研究中心、美國德拉瓦大學(University of Delaware)科研團隊的研究者在論文《A system hierarchy for brain-inspired computing》(一種類腦計算系統層次結構)中提出了「類腦計算完備性」(neuromorphic completenes
  • 清華大學團隊首提「類腦計算完備性」概念
    」以及軟硬體去耦合的類腦計算系統層次結構。「這是一個新穎的觀點,並可能被證明是神經形態計算領域以及對人工智慧的追求的重大發展。」《自然》的一位審稿人給出評價。  這篇題為《一種類腦計算系統層次結構》的論文,由清華大學計算機科學與技術系張悠慧團隊、精密儀器系施路平團隊與合作者共同完成。
  • 清華大學張悠慧團隊首提類腦計算完備性,論文登上《自然》雜誌
    ,國際上尚未形成公認的技術標準與方案,清華大學計算機系張悠慧團隊首次提出的「類腦計算完備性」 填補了完備性理論與相應系統層次結構方面的空白。這一成果標誌著清華大學在類腦計算領域的國際領先地位,《自然》雜誌對這一論文進行了解讀和評論。InfoQ 中文站翻譯並分享。以大腦為模型的硬體也許能夠給計算帶來革命性的變化,但要在這種系統上實現算法卻是一個挑戰。本文所提出的概念框架可以簡化實施過程,加快這一領域的研究。下一代高性能、低功耗的計算機系統可以從大腦得到啟發。
  • 清華團隊填補腦計算系統領域理論空白
    10月14日,清華大學計算機科學與技術系教授張悠慧團隊、精密儀器系教授施路平團隊與合作者在《自然》雜誌發文,首次提出「類腦計算完備性」以及軟硬體去耦合的類腦計算系統層次結構。該研究項目填補了類腦計算系統領域完備性理論與相應的類腦計算系統層次結構方面的空白。
  • 清華首次提出「類腦計算完備性」及計算系統層次結構,登上Nature
    來自清華大學、北京信息科學與技術國家研究中心、美國德拉瓦大學(University of Delaware)科研團隊的研究者在論文《A system hierarchy for brain-inspired computing》(一種類腦計算系統層次結構)中提出了「類腦計算完備性」(neuromorphic completenes)概念。
  • 「天機芯」登《自然》封面後清華實現類腦計算「圖靈完備性」突破
    繼 「天機芯」 和基於憶阻器件的神經形態晶片之後,清華大學類腦計算團隊的研究成果,於 10 月 14 日再次發表在了《自然》雜誌上。例如,清華大學就曾在去年和今年兩次發文,展示了我國在類腦計算領域的強勁研發能力。2019 年,清華大學施路平教授團隊的類腦計算晶片 「天機芯」(Tianjic)讓一輛自行車實現了自動駕駛。
  • 清華大學團隊《自然》刊文,首提「類腦計算完備性」概念
    記者10月15日從清華大學獲悉,我國首篇以「計算機系作為第一完成單位」的論文登上《自然》,論文首次提出「類腦計算完備性」以及軟硬體去耦合的類腦計算系統層次結構。「這是一個新穎的觀點,並可能被證明是神經形態計算領域以及對人工智慧的追求的重大發展。」《自然》的一位審稿人給出評價。
  • 科學網—尋找類腦計算的設計「範式」
    不過近日,清華大學計算機科學與技術系研究員張悠慧團隊和類腦計算研究中心主任施路平團隊與合作者在《自然》雜誌發表的一篇題為《一種類腦計算系統層次結構》的論文,正在嘗試改變這一現狀。 「這篇論文填補了類腦計算系統領域完備性理論與相應的類腦計算系統層次結構方面的空白。」受訪時,中國工程院院士、清華大學計算機科學與技術系教授鄭緯民評價道。