科學網—尋找類腦計算的設計「範式」

2021-01-17 科學網

 

圖片來源:Unsplash

■本報記者 陳彬

無論是千百年前的偃師傳說,還是近代以來各種科幻小說,讓機器人像人類一樣思考和行事,一直都是人類的夢想。然而要實現這一夢想,就必須給機器人一顆類似人類的「大腦」。為此,人類在不斷探索著腦科學的奧秘,用機器模擬生物神經網絡的結構和信息加工的潛力,後者就是類腦計算,也叫神經形態計算。

當前,類腦計算在世界範圍內尚處於初步探索階段,也正因為如此,目前該領域還沒有形成公認的技術標準與方案。不過近日,清華大學計算機科學與技術系研究員張悠慧團隊和類腦計算研究中心主任施路平團隊與合作者在《自然》雜誌發表的一篇題為《一種類腦計算系統層次結構》的論文,正在嘗試改變這一現狀。

「這篇論文填補了類腦計算系統領域完備性理論與相應的類腦計算系統層次結構方面的空白。」受訪時,中國工程院院士、清華大學計算機科學與技術系教授鄭緯民評價道。

缺失的理論基礎

在通用計算領域有兩個著名概念——「圖靈完備性」和「馮·諾依曼體系結構」。前者用來衡量計算系統是否能夠用來解決通用計算問題,後者則是通用計算機運作的體系結構,該結構具有存儲部件與計算部件分離、程序與數據統一存儲等特性。

「通俗地說,一臺機器是只能解決一個問題還是能解決通用計算問題?如果屬於後者,那麼就可以說是具有圖靈完備性的。」在接受《中國科學報》採訪時,張悠慧介紹說,可以簡單地將馮·諾依曼體系結構理解為一種能夠實現圖靈完備性的處理器抽象模型。

「圖靈完備性與馮·諾依曼體系結構可以使通用計算領域在軟體層、編譯層和硬體層具有統一的範式,從而使不同層次各自發展而又可以無縫兼容。」張悠慧表示,這兩個基本概念幾乎構建起了目前所有處理器、計算機、手機等設備的基本架構。

然而,類腦計算系統領域並沒有屬於自己的「圖靈完備性」和「馮·諾依曼體系結構」。

「『類腦計算』與『通用計算』有很多不同。」施路平介紹,通用計算遵循圖靈計算規則,極其注重每一步計算過程的精確性,而類腦計算往往是通過參數擬合去近似。「它不在乎過程,只在乎最後結果的意義和特性。」他表示,正是這樣的區別,提出了對新的完備性理論和體系結構的需求。

然而,現有類腦計算系統研究大多聚焦於具體的晶片、工具鏈、應用和算法的創新實現,而忽略了從宏觀和抽象層面對計算完備性和體系結構進行思考。「通用計算領域的圖靈完備性和馮·諾依曼體系結構都非常基礎,其概念也十分普及,以至於很多人都很難意識到,對於新興的類腦計算系統領域,這是一個需要首先解決的問題。」張悠慧說,尋找類腦計算完備性,從而為類腦計算系統設計建立理論基礎,也就成為了科研人員的努力方向。

新穎的觀點

研究過程中,團隊成員思考的出發點,正是基於通用計算與類腦計算在計算方式上的不同。

相較於圖靈計算對每個計算步驟精確性的苛求,類腦計算由於主要是通過神經網絡完成,其一大特性是不追求過程的精確,而是更注重結果擬合,「基於此,團隊提出了類腦計算的完備性,同時構建了一個相應的類腦計算機層次結構。」張悠慧說,在這個結構中,最上層為具有圖靈完備性的軟體層,它可以在目前認知範圍內,支持一切可計算函數。底層為具有類腦完備性的硬體,在這兩層之間,則是由他們提出的一套構造性算法實現編譯適配。

「該算法可以將任何一個程序轉換成類腦計算完備性上的等價模型。換言之,任意圖靈可計算函數都可以轉換為類腦計算完備硬體上的模型,這意味著類腦計算系統也可以支持通用計算,從而極大地擴展了類腦計算系統的應用領域,也使類腦計算軟硬體各自獨立發展成為可能。」張悠慧說。

特別值得一提的是,明確類腦計算機層次結構,除了實現不同層次之間的去耦合之外,也有望為各相關學科的研究人員「減負」。

類腦計算是典型的交叉學科,涉及腦科學、微電子、計算機等。這意味著在研究中,專業壁壘會增加學科之間互相理解、協同配合的難度。研究團隊所提出的層次結構,可以使相關研究領域間的任務分工與接口更為清晰,有利於不同學科的研究人員專注於其專業領域、促進協同發展。

對此,《自然》雜誌的一位審稿人認為,「這是一個新穎的觀點,並可能被證明是神經形態計算領域及對人工智慧追求的重大發展」。而鄭緯民則直接評價:「這一基礎研究的突破,要遠比做出三五臺類腦計算的機器重要得多。」

可期的未來

在類腦計算領域,清華大學已經布局多年。2014年,該校成立了類腦研究中心。作為中心主任,對於目前類腦計算的發展態勢,施路平有著自己的理解。

「如果現在回頭去看圖靈、馮·諾依曼等學術先驅的設想,會發現他們其實原本就是打算發展以類腦計算為基礎的通用人工智慧的,只是由於當時條件不具備,才逐漸走向了一個問題一個解決方案的『窄人工智慧』。」施路平說,現如今,人類已經迎來了發展類腦計算的良好契機。

究其原因,可以分為以下四個方面。

「首先是隨著科技的進步,人類對大腦的理解愈加深入,甚至可以說是到了理解腦的『關口』;其次,超級計算機的發展讓科研人員可以做到更高水平的模擬仿真;第三,大數據、雲計算等技術的發展,使人類可以建立一個和腦交相呼應的系統,實現彼此間的借鑑;最後,納米技術的發展可以製造出與大腦能耗級別相當的先進器件。」施路平說。

早在2016年,《自然》雜誌就曾刊文指出,類腦計算不但是邁向通用人工智慧的極具潛力的路徑,類腦計算架構與晶片也是後摩爾時代體系結構重大發展方向之一。

談及未來,張悠慧表示團隊將從理論層面和系統層面同時發力。其中,在理論層面,團隊將更關注類腦應用的「神經形態特性」,持續完善完備性理論;在系統層面,團隊則將致力於研發受腦啟發的支持通用計算的新型計算機系統結構與晶片。

「團隊還特別關注一個問題,就是如何擴展類腦完備系統的硬體原語,使之更好地適配通用計算。這是一個非常有意思的問題,在這個方面我們已經開展了相關的研究,希望能有好的消息。」張悠慧說。

相關論文信息:https://doi.org/10.1038/s41586-020-2782-y

《中國科學報》 (2020-10-22 第3版 信息技術)

相關焦點

  • 類腦計算,他們從0到1
    從傳統通用計算機的設計哲學和方法論中汲取靈感和經驗,團隊針對類腦計算不像通用計算注重每一個計算過程的精確而更注重結果擬合的特性,提出了對計算過程和精度約束更低的類腦計算完備性概念,並且設計了相應的類腦計算機層次結構:圖靈完備的軟體模型,類腦計算完備的硬體體系結構,以及位於兩者之間的編譯層。
  • IEDM2020:復旦大學在類腦計算領域獲重要進展
    背景介紹  受啟發於人腦,類腦計算技術是當前發展人工智慧的重要計算範式之一,可以構建高智能、低能耗的計算系統。該系統由脈衝神經元和可塑的神經突觸構成,具有自主學習、時空信息處理、存算一體、高並行計算和事件驅動等特點。
  • 清華科學家團隊首次提出「類腦計算完備性」
    新華網北京10月16日電 14日,清華大學計算機科學與技術系張悠慧團隊、精密儀器系施路平團隊與合作者在《自然》(Nature)雜誌發文,首次提出「類腦計算完備性」以及軟硬體去耦合的類腦計算系統層次結構。
  • 清華首次提出「類腦計算完備性」及計算系統層次結構,登上Nature
    機器之心報導編輯:澤南、蛋醬自一年多以來,這已是清華大學的類腦計算研究最近第三次被自然雜誌收錄。10 月 14 日,在最新一期《自然》雜誌上,出現了一項類腦計算體系結構的突破性進展。
  • 清華大學研發類腦計算機 首提新概念突破圖靈與馮諾依曼體系
    清華大學計算機系張悠慧團隊和精儀系施路平團隊與合作者10月14日在《自然》雜誌發表題為《一種類腦計算系統層次結構》的論文,首次提出「類腦計算完備性」以及軟硬體去耦合的類腦計算系統層次結構,填補了這一領域的空白.這是一年多來,清華在類腦計算領域繼「天機芯」和「多陣列憶阻器存算一體系統」之後於《自然》正刊發表的第三篇成果,也是計算機系以第一完成單位發表的首篇《自然》論文
  • 【學術報告】類腦計算前沿學科論壇暨CSIG圖像圖形中國行會議通知
    為促進西北工業大學腦科學與類腦計算學科的快速發展,推動圖像圖形學科的普及,加強各高校研究所以及企業間的交流,針對腦科學、類腦計算、醫學圖像分析等領域中的前沿和關鍵問題,西北工業大學自動化學院和信息融合技術教育部重點實驗室將於2020年9月26日至9月27日在西北工業大學正禾賓館西四會議室舉辦「類腦計算前沿學科論壇暨CSIG圖像圖形中國行」和相關方向學術研討活動。
  • 人文計算與數字人文:概念、問題、範式及關鍵環節
    分析了當前人文計算研究存在的不足,提出了人文計算的五階段範式作為人文計算的規範化研究方法,並對其中的若干關鍵環節進行了深入探討。人文計算本質上是在數據的基礎上面向人文科學的知識生產、知識發現過程,應該遵守知識發現的規範化研究方法,即問題定義、數據集建構、技術實現(含算法設計)、問題求解、結果評價及呈現的五階段範式。
  • 在大數據世界「尋寶」,科研新範式如何用好存儲這把利器?
    繼實驗科學、理論科學、計算科學之後,基於「數據密集型科學」的科研新範式在大數據時代下,受到越來越多科研人員的青睞。 在「數據密集型科學」的科研新範式驅動下,高校、科研機構加速構建人工智慧與大數據平臺、為不同學科提供創新基礎設施成為當務之急。
  • 科學匯丨「腦容量」與小鼠相當,類腦計算機如何做到「像腦一樣思考...
    潘綱舉例說,馮·諾依曼架構中,數據的儲存和計算是分離開的。信息存儲在A處,但計算時卻要搬向B處,計算完畢再搬回來,「即使運算速度非常快,但搬運速度要遠遠低於運算速度,總速度還是影響到了大數據等計算性能的提升。」如果將兩類計算機進行對比,傳統計算機做加減法等數字計算,優勢在數據計算很快。但類腦計算機則往更深層發展,而不是簡單算數。
  • 我國科學家研發全球神經元規模最大的類腦計算機,「腦容量...
    ▲Darwin Mouse類腦計算機這是我國第一臺基於自主智慧財產權類腦晶片的類腦計算機,也是目前國際上神經元規模最大的類腦計算機。而用硬體及軟體模擬大腦神經網絡結構和運作機制的新型計算模式,被稱為類腦計算。
  • 「家有兒女」激發「父母大愛」—新聞—科學網
    科學家研究發現「猴寶寶」促進狨猴利他行為
  • ...家成功研製全球神經元規模最大的類腦計算機:可「意念」打字輸入
    從浙江大學官方獲悉,近日,浙江大學聯合之江實驗室共同研製成功了我國首臺基於自主智慧財產權類腦晶片的類腦計算機(Darwin Mouse)。據介紹,這臺類腦計算機包含792顆浙江大學研製的達爾文2代類腦晶片,支持1.2億脈衝神經元、近千億神經突觸,與小鼠大腦神經元數量規模相當,典型運行功耗只需要350-500瓦,同時它也是目前國際上神經元規模最大的類腦計算機。
  • 北京應用數學研究院將落戶懷柔科學城 —新聞—科學網
    截至目前,北京市共有四家新型研發機構適用關於新型研發機構的專門政策,包括北京生命科學研究所、北京量子信息科學研究院、北京腦科學與類腦研究中心、北京智源人工智慧研究院,北京應用數學研究院將是又一家新型研發機構。 此外,中科院北京納米能源與系統研究所也將於今年整建制遷入懷柔科學城。
  • 國元證券股份有限公司黨委書記、董事長俞仕新一行調研中科類腦
    ,中科類腦公司董事長、總經理劉海峰熱情接待。俞仕新一行首先參觀了類腦智能技術及應用國家工程實驗室(以下簡稱「實驗室」)展廳,對實驗室落地建設背景、最新研究成果、核心研發技術等方面做深入了解。調研中,劉海峰重點介紹了公司最新的產業化進展。
  • 計算數學家馮康院士百年誕辰紀念會舉行—新聞—科學網
    「新中國成立後,我國的計算數學學科長期處在與發達國家並駕齊驅甚至領先的地位,一個很重要的原因,是因為由馮先生領銜的一批國際知名計算數學專家,使得計算數學學科的起點和定位比很多其它學科都要高,學術視野也更加開闊。」
  • 探索方言文化研究新範式
    筆者認為,隨著語保工程取得重大進展,應當推動方言與文化研究相結合,探索科學的研究範式。 方言與文化研究的科學範式尚未形成把語言與文化(思維)結合起來進行系統研究,在西方有100多年的歷史,在我國也有幾十年的歷史。
  • 中山大學開設「馮·諾依曼」計算機實驗班—新聞—科學網
    該實驗班計劃設置計算機系統結構和超級計算兩個專業方向。系統結構方向在計算機專業基礎之上,強化諸如處理器設計等計算機硬軟體基礎技術的訓練和計算機系統能力培養;超級計算方向將結合計算數學和高性能計算,依託擁有世界領先的高性能計算機的國家超級計算廣州中心,強化並行計算思維的訓練,加強高性能工業計算軟體等交叉學科的課程設置與能力培養。
  • 科學網博客話題是華人科教界的風向標。科學網博主總是在第一時間...
    高校「破格」錄用年輕人才引發科教界爭議,科學網博主紛紛發文,有人質疑此為「學術界造神」,也有人為地方高校提高引進人才待遇叫好。 科學網特邀請了參與此次項目的曹俊、邢志忠兩位老師,與廣大網友就此次發現進行交流。
  • 細述哥白尼的傳承與顛覆—新聞—科學網
    而他之所以研究哥白尼,是要解決一個問題,即是什麼原因、什麼背景促使哥白尼提出了「日心說」。 聽完介紹後,朱孝遠「才知道這本書非同小可」。當即和韋斯特曼約定將來在中國出版這本書。現在,這本書經5年翻譯、3年編輯,終與國內讀者見面。