神經網絡受生物神經網絡啟發而來，但大腦裡的學習過程真如深度學習那樣嗎？這個問題的答案有望實現更強大的深度學習模型，也有助於進一步了解人類的智能。
12月5日，CIFAR研究員、多倫多大學的Blake A. Richards和同事在期刊eLife發表了論文《嘗試用分離的樹突進行深度學習》（Towards deep learning with segregated dendrites）[1]。他們在論文中提出了一種算法，對大腦中可以如何進行深度學習進行了模擬。他們構建的網絡表明，某些哺乳動物神經元具有適合進行深度學習的形狀和電學特性。不僅如此，他們的實驗也用一種更接近生物學的方法，展示了真實的大腦如何進行深度學習，甚至有望幫助解釋大腦如何演化出了「學習」的能力。
如果神經元與深度學習之間的關聯得以確認，我們就能開發更好的腦機接口，從疾病治療到增強智能，隨之而來的應用也將開啟各種可能。
哺乳動物大腦的神經元也能做深度學習
這項研究由Richards和他在多倫多大學的研究生Jordan Guerguiev一起，與DeepMind的Timothy Lillicrap合作完成。
實驗中使用的神經元是小鼠大腦新皮質的樹突細胞。新皮質腦區負責一些高等功能，比如知覺、運動指令的產生，與空間推理、意識及人類語言也有關係。而樹突則是從神經元細胞本體發出的多分支突起，形狀類似樹木。樹突是神經元的輸入通道，將從其他神經元接收到的動作電位（電信號）傳送至細胞本體。
研究構建的「多房室神經網絡」模型示意：左邊是小鼠初級視覺皮層錐體神經元；右邊是簡化的神經元模型。來源：CIFAR
利用這種神經元結構的知識，Richards和Guerguiev建立了一個模型，叫做「多房室神經網絡」（multi-compartment neural network model）。在這個網絡中，神經元都在隔開的「隔間」中接收信號。由於一段一段隔開，不同層的模擬神經元能夠協作，實現深度學習。
結果發現，在識別手寫數字時，多層網絡的效果明顯好於單層的網絡。算法能夠利用多層網絡結構識別高階表示正是深度學習的核心標誌。這表明小鼠大腦神經元跟人工神經元一樣都能進行深度學習。
「這只是一組模擬，所以不能準確反映大腦正在做什麼。但是，如果大腦可以使用AI使用的算法，這已經足以證明我們可以開展更進一步的實驗調查了。」Richards說。
用更好的訓練方法，證明深度學習體現人類大腦工作機制
在21世紀初，Richards和Lillicrap在多倫多大學上了Hinton的課，深信深度學習模型在一定程度上準確反映了人類大腦工作的機制。但是，在當時要驗證這個想法還有幾個挑戰。首先，人們還不確定深度學習是否能達到人類水平。其次，深度學習算法違反了神經科學家已經證明的生物學事實。
計算機網絡在深度學習中發生的活動模式也類似於人類大腦中所見的模式。但是，深度學習的一些特徵似乎與大腦的工作方式不相容。而且，人工網絡中的神經元比生物神經元簡單得多。
現在，Richards和一些研究人員正在積極尋求彌合神經科學和人工智慧之間差距的方法。本文以Yoshua Bengio團隊的研究為基礎，以生物學上更加可行的方式訓練神經網絡。
均衡傳播示意圖：使用均衡傳播訓練神經網絡時信息的傳遞過程。右邊的簡單網絡，一層一層傳遞，BP適用，當然均衡傳播也適用；而左邊的複雜網絡，更加類似生物神經網絡結構，BP在這裡就不適用了，這也是通常認為深度學習不能體現人腦機制的原因之一，但是，均衡傳播能夠適用於多連接的這種情況。
Bengio和他的研究生Benjamin Scellier發明了一種新的神經網絡訓練方法[2]，叫做「均衡傳播」（equilibrium propagation），是常用的反向傳播（BP）的一種替代方法。均衡傳播可以使用單一的迴路和單一類型的計算來進行誤差的推理和反向傳播。因此，均衡傳播過程可能更加類似大腦生物神經迴路中的學習過程。
這項研究還使用了DeepMind的Timothy Lillicrap開發的算法[3]，進一步放寬了神經網絡的一些訓練規則。（順便一說，Timothy Lillicrap也是DeepMind最強通用棋類AI AlphaZero論文的作者之一。）
這篇論文還吸收了Matthew Larkam對新皮質神經元結構的研究。通過將神經科學的發現與現有的算法相結合，Richards的團隊創建了一個更好的、更真實的算法來模擬大腦中的學習過程。
未來10年真正打通神經科學與人工智慧
樹狀新皮質神經元只是大腦中許多細胞類型之一。Richards說，未來的研究應該模擬不同類型的大腦細胞，並研究它們如何相互作用來實現深度學習。從長遠看，他希望研究人員能夠克服重大挑戰，比如在不接收反饋的情況下如何通過經驗進行學習。
Richards說：「我們在接下來的十年左右可能會看到神經科學與人工智慧之間真正的研究良性循環，神經科學的發現幫助我們開發新的人工智慧，而人工智慧幫助我們解釋和理解神經科學方面的實驗數據。」
參考資料
[1] Towards deep learning with segregated dendrites：https://elifesciences.org/articles/22901
[2] Equilibrium Propagation: Bridging the Gap between Energy-Based Models and Backpropagation：https://www.frontiersin.org/articles/10.3389/fncom.2017.00024/full
[3] Random synaptic feedback weights support error backpropagation for deep learning：https://www.nature.com/articles/ncomms13276
歡迎讀者朋友加入新智元讀者群一起交流探討，請加微信（備註名字+學校/企業+研究/關注領域）：aiera2015
新智元正在招聘，點擊下面的招聘海報，了解職位與招聘詳情。