...Nature發布計算和理論神經科學特刊:剖析機器學習推動下的神經...

2021-01-18 機器之心Pro

2016-11-06 機器之心

選自Nature Neuroscience機器之心編譯參與:蔣思源、杜夏德

Nature Neuroscience 近日推出了一個關注應用於神經科學的計算驅動的和理論驅動的方法(computation- and theory-driven approaches)的特刊,介紹了許多生物物理模型和機械式的模型。相關論文可點擊「閱讀原文」查看。

神經科學研究的進展無法脫離數據收集,同時也需複雜的方法將這些數據組裝和合成到更廣泛的框架中。理論神經科學,加上必要的計算技術,能確保我們的努力不僅僅是大規模的收集工作。本期,Nature Neuroscience 呈現了一批論文綜述與觀點討論,包含了一系列當下該領域突出的思考,從神經迴路和網絡到認知評估和精神疾病。

神經機制的深刻見解都是來源於基於理論的研究。描述動作電位傳播的 Hodgkin-Huxley 模型,Hebbian-based 的可塑性規則,Barlow 的有效編碼假說和 Marr 的三層分析模型都是強有力的證明。然而儘管取得了這些成就,但生物學仍然存在實驗和理論之間的脫節,這些在物理學上簡直無法想像。技術的進步使得生物學在現代神經科學理論與實驗的分離更有先見之明。正是這種大量數據生成的能力需要敏銳的實驗設計和聚焦問題以獲得理解。由於在沒有理論基礎的條件下就對這一問題的概念化,實驗神經科學不過就是多個觀察的簡單堆疊,就像宇宙建立在海龜背上那種傳說中的模型毫無意義。

自然神經科學出版了一期關於計算神經科學的特刊,之前已經出版過三期的特刊。第一期是關於這一領域幾十年主流的歷史評論中不被看好但非常重要的內容。接下來兩個合刊分別介紹了一些綜述與主要的研究論文。現在我們處在一個臨界點,即該領域已經成熟到可以做一期新的特刊,由綜述和觀點還有一篇評論構成,強調了了計算和理論神經科學近期的一些進展。

實驗創新幾乎已經蔓延到神經科學的每一個分支,而每個問題上都有了更多的數據。在《理論神經科學的關鍵時刻,概念與技術的進步》(Conceptual and technical advances define a key moment for theoretical neuroscience)論文中,Churchland 和 Abbott 推薦一個稱之為大帳篷政策(big tent approach)的方法,計算和理論進入了從原始數據分析到建立詳細的機制和生物物理模型所有階段。

這裡有一個詳細的生物物理建模的例子,圍繞帶有相等的興奮性和抑制性輸入的網絡建模,實驗性證據也支持這種突觸平衡(synaptic balance)的存在。在《高效的代碼與均衡網絡》(Efficient codes and balanced networks)論文中,Denève 和 Machens 論述了平衡網絡模型的最新進展,他們特別強調這種網絡能夠支持高效的編碼。大多數網絡模型的實例化是以連續時間系統為背景的,然而我們知道神經元主要是是通過離散的尖峰脈衝傳遞信息的。

在《建立尖峰神經模型的功能網絡》(Building functional networks of spiking model neurons)的論文中,Abbott, DePasquale 和 Memmesheimer 討論了當前橋接模擬-數字鴻溝的方法。我們總希望能逆向運行而不是施加一個網絡結構來匹配當前的尖峰輸出。人口記錄和成像現在已經很平常了,但有可能推斷出這種生理機制和可變性的來源嗎?在《神經相關的狀態依從性機制》(The mechanics of state-dependent neural correlations)中,Doiron 和同事們論述了跟蹤大腦狀態中的神經關聯變化如何能暗示潛在的因果要素。但考慮記憶理論的時候,不同的神經狀態視圖就變得很重要了,也就是我們該如何如何構建並且維持穩定的表徵。

Chaudhuri 和 Fiete 在《記憶的計算法則》(Computational principles of memory)論文中關註記憶系統所必要的法則。他們論述了相關的網絡構架,潛在的生物物理過程,噪音的魯棒性(robustness to noise),信息能力和編碼策略,並承認其可以和計算機科學相媲美。計算機科學,特別是用計算機視覺技術構建的目標識別系統,又兜回來告訴我們如何建立人類視覺感知的模型。在《利用目標驅動的深度學習模型來理解感覺皮層》(Using goal-driven deep learning models to understand sensory cortex)論文的觀點中,Yamins 和 DiCarlo 介紹了目標驅動的深層神經網絡在解釋感官處理上成功的一些原因,並提出可以做出類似的進展來超越感知系統。

神經系統層級上升後,我們就可以做出感知上(perceptual)或者形式更加公開的決定。在《信心與確定:不同目標的不同概率量》(Confidence and certainty: distinct probabilistic quantities for different goals)這篇論文中,Pouget,Drugowitsch 和 Kepecs 提出了決策確定性(decision certainty)與決策信心(decision confidence)之間的絕對區分。當大腦在嘈雜的環境下工作時(「當」指的是「在任何時候」),大腦必須計算出概率分布。作者認為,確定性應該是指所有概率決策變量的編碼,而信心應被具體定義為一個決策正確的概率。也許只有時間才能決定是否應該對它們的建議有信心。有了更好的感知模型後,當系統出現故障時,行為和決策制定也能潛在地讓我們診斷和修改對策。Huys,Maia 和 Frank 在 Computational psychiatry as a bridge from neuroscience to clinical applications 這篇論文中對計算精神病學的新興領域做了一個綜述,詳細介紹了機器學習計算應用以及基於理論的機器模型這兩種方式在疾病分類和治療上綜合運用的進展。

本期雜誌中涉及的話題涉及的範圍很廣,大多數重點的內容都是發表在其他期刊上的文章。事實上,我們期刊上神經計算文章的數量最近幾年一直在穩步增長。從谷歌搜索的 Google Trends 上看,對計算神經科學的普遍興趣得到了初步支持(也許是確認偏誤(conformation bias)?)過去 5 年中「computational neuroscience」的搜索量穩步增長,其增長可以在同一時期「光遺傳學」的搜索頻率也有類似的增長中得到佐證。計算神經科學增長或許不會迎來拐點,因為對該領域主題特定的期刊(如計算神經科學期刊。Journal of Computational Neuroscience)以及博士課程的搜索也會將這個詞彙的搜索頻率推向在峰值。有趣的是,到目前為止,「認知神經科學」的搜索數量遠遠超過了計算神經科學,但是搜索頻率也會有季節性波動,每年秋天大學新生入學時搜索頻率會波動性增長。現在每所大學都應該讓計算成為神經生物學課程的核心部分。好處是在這 5 年的時間裡,我們不再需要通過證明計算與神經科學的相關性來吸引大家對神經計算研究的關注。最大的希望是能促使神經計算在生物學有更好的理解,以及實現更好疾病治療。

相關焦點

  • 前沿| Nature發布計算和理論神經科學特刊:剖析機器學習推動下的...
    2016-11-06 機器之心選自Nature Neuroscience機器之心編譯參與:蔣思源、杜夏德Nature Neuroscience 近日推出了一個關注應用於神經科學的計算驅動的和理論驅動的方法(computation- and theory-driven
  • 專家談計算神經科學與類腦人工智慧的關係
    該項目「旨在逆向大腦的運算法則,徹底改變機器學習」,並且「 參與者將利用他們對大腦表徵、轉換和學習規則的深入研究和理解,來創造能力更強的類腦機器學習算法。」 這樣的規劃正是基於長遠的戰略考慮。 學科交叉推動新興的計算神經科學發展 「類腦人工智慧」 至今最成功的例子,是「深度學習」(deep learning) 【2】。
  • 計算神經科學:腦科學與人工智慧的必要橋梁
    該項目「旨在逆向大腦的運算法則,徹底改變機器學習」,並且「 參與者將利用他們對大腦表徵、轉換和學習規則的深入研究和理解,來創造能力更強的類腦機器學習算法。」這樣的規劃正是基於長遠的戰略考慮。學科交叉推動新興的計算神經科學發展「類腦人工智慧」 至今最成功的例子,是「深度學習」(Deep Learning) 。
  • Nature Neurosci: 神經科學的深度學習框架是什麼?
    為什麼建立神經科學的深度學習框架,神經科學的深度學習框架的內容(是什麼),我們應該如何在深度學習框架下發展神經科學(怎麼做)。主要是源於當前神經科學的研究手段的局限,在以往經典的神經科學框架下,我們在研究小範圍的神經環路上卓有成效,比如視網膜如何計算運動,前庭-眼反射是如何促進注視穩定的,但是在大尺度的神經環路上,經典的神經科學研究方法有點捉襟見肘。
  • 計算神經科學:21世紀的前沿科學
    鑑於神經系統的複雜性,從分子到神經迴路再到功能的各個層面,理論和建模被越來越多地視為理解神經科學的必要條件。大腦連接組學和神經生理學的數據分析需要新的數學工具;計算機建模有助於探究大腦工作原理假說的細節並對特定的預測進行檢驗;理論工作可以幫助我們從數學上理解大腦運作的一般性原理。除了在基礎研究中的貢獻,計算神經科學還有助於為精神病學的發展建立堅實的理論基礎,為腦科學與人工智慧搭建合作的橋梁。
  • Nat Rev Neurosci:深度學習能解答神經科學中的什麼問題?
    頂刊導讀目錄 1,基於深部腦網絡和全球14468個人的腦年齡和壽命疾病的核磁共振特徵 2,發表易受攻擊言論的機器人可積極塑造了人類-機器人團隊中的人類溝通方式3,利用機器學習繪製複雜人類特徵和多基因結構的腦神經網絡連接圖譜4,大腦中的分布式強化學習5,深度學習能解答神經科學中的什麼問題?
  • 國內腦科學「天團」聯合撰文:計算神經科學的過去、現在和未來
    在本文中,我們將討論計算神經科學這一高度交叉的學科領域的過去、現在,以及未來面臨的挑戰,並為推動中國計算神經科學的發展提出三個建議。神經科學中的理論人腦是一種生物組織,重約3磅或1.4千克,它決定了我們的行為、思想、情感和意識。儘管只佔總體重的2%,大腦會消耗進入體內的氧氣的大約20%。
  • 國內腦科學「天團」聯合撰文:計算神經科學的過去、現在和未來
    在本文中,我們將討論計算神經科學這一高度交叉的學科領域的過去、現在,以及未來面臨的挑戰,並為推動中國計算神經科學的發展提出三個建議。神經科學中的理論人腦是一種生物組織,重約3磅或1.4千克,它決定了我們的行為、思想、情感和意識。儘管只佔總體重的2%,大腦會消耗進入體內的氧氣的大約20%。
  • 類腦計算背後的計算神經科學框架
    而真正通過生物後天學習可以得到的, 反而是一小部分內容。如果但看學習, 生物學習的關鍵詞是Hebian學習, 神經可塑性和強化學習, 而機器學習是監督學習, 非監督學習和強化學習。機器學習的基礎是監督學習。
  • 計算神經生物學:給機器一個大腦
    支撐這一技術的科學叫做計算神經生物學,用最簡單的話說,就是為不同的大腦功能建立不同的模型。什麼是計算神經生物學?「計算神經生物學是近年來迅猛發展的關於神經系統功能研究的一個新的交叉學科。它吸收了數學、物理學等基礎理論,以及信息科學等相關領域的研究理論和方法來研究神經科學所關心的大腦工作原理。」
  • 21世紀的中國計算神經科學展望
    中國要成功建立一流實驗神經科學,尤其是系統、認知神經科學,一定需要發展配套的一流計算神經科學。 除了在基礎研究方面的貢獻外,計算神經科學通過和神經科學的其他分支相結合,也會對社會的各個層面產生廣泛的影響。例如,心理學、神經科學和機器學習理論能夠為學習、教育提供新的模式。又如,對大腦如何作決策的研究已經開始影響微觀經濟學和社會抉擇行為學,開拓了「神經經濟學」這個新領域。
  • Nature通訊:判別神經網絡間的個體差異——計算神經科學新工具
    ,正在反哺神經科學。這對計算神經科學尤其是視覺模型研究具有啟發意義。例如判別植物和動物,是否使用了相同的神經機制。但直接觀測大腦太難。而觀測和大腦具有相近結構的人工神經網絡就容易多了。神經科學家可以根據人工神經網絡在判別動物與識別植物時,有何差異,推斷大腦識別動物和植物的腦區的異同。
  • 融合機器人技術和神經科學的神經工程未來與挑戰
    PHOTO OF HUMANOID ROBOT WITH SKIN BY ASTRID ECKERT/TUM機器人平臺已經被開發用來研究大腦功能和身體機制的各個方面,如學習和感覺運動控制。從內耳工作的計算模型中獲得的知識使得前庭眼功能(頭部運動時穩定注視的神經元反射機制)的模擬成為可能。
  • 大腦與AI,神經科學與人工神經網絡
    神經科學可以幫助我們理解為什麼AI和神經網絡在預測人類感知方面是有效的嗎?來自德克薩斯大學奧斯汀分校(UT Austin)的Alexander Huth和Shailee Jain的研究表明兩者都有可能。
  • 大腦海馬體藏有學習本質的秘密,這是DeepMind新發現 | 附論文
    理解我們這方面的行為是神經科學研究的一個重要課題,而在人工智慧研究中,開發能有效預測未來回報的系統也是個關注重點。 在《自然神經科學》(Nature Neuroscience)上新發布的論文中,DeepMind將神經科學知識應用於機器學習中的數學理論,從而帶來關於學習和記憶本質的新見解。
  • 解讀神經擬態計算:讓機器像大腦一樣"思考"
    不過,雖然時下大都採用深度學習方法,通過數據挖掘來賦予機器以智能,但歸根到底,一種深度學習訓練方法訓練出來的機器,絕大多數情況下還是只能應對一類事物。況且深度學習只是在圖像和語音等富媒體的分類和識別上取得非常好的效果,它並非人工智慧的終極方法。
  • 綜述 | Google-斯坦福發布~深度學習統計力學
    概述具有多層隱含層(1)的深度神經網絡在許多領域都取得了顯著的成功,包括機器視覺(2)、語音識別(3)、自然語言處理(4)、強化學習(5),甚至在神經科學(6、7)、心理學(8、9)和教育(10)中對動物和人類自身的建模。
  • 為什麼計算神經科學和AI會融合
    AI和AIOps的發展,但是我已經多次說過這是不可持續的。神經網絡提供有效和有意義的結果的能力達到了頂峰。該科學存在基本的難處理性,不匹配性和固有延遲的問題。即使在神經網絡上進行了大量投資,這也關係到AIOps,並且實時業務社區受到限制。這使我進入了計算神經科學領域,我相信它將極大地受益於AI。當我凝視著AI可能如何發展的未來時,我期望與計算神經科學有很多交叉。
  • 重建腦科學與AI之間的橋梁,人工神經網絡比機器學習更優嗎?
    1949 年,加拿大神經心理學家 Donald Hebb 在《The Organization of Behavior》一書中首次提出的赫布理論,解釋了在學習過程中大腦神經元所發生的變化,這一理論為後期機器學習的研究提供了理論支撐。
  • 受腦認知和神經科學啟發的人工智慧
    我們要構造一種更加健壯的人工智慧,需要腦認知和神經科學的啟發。計算機和人類大腦是對問題求解的物質基礎。在智力和計算能力方面,計算機遠遠超過了人類,但是人類面對的大部分問題都是開放的、動態的、複雜的,大腦在處理這種問題時表現出的想像和創造,還有對複雜問題的分析和描述,是傳統人工智慧的方法所不能企及的,我們只能夠從人類大腦的神經網絡結構中去獲得構造新的人工智慧的因素。