一個模仿飛蛾識別味道的神經網絡,解釋飛蛾的學習速度遠超機器

2021-01-11 DeepTech深科技

作為現代機器學習基石的深度神經網絡,雖然模仿的是生物神經網絡,但其實這兩者之間有著極大的區別。拋開僅有的一些相似處,有些重要的機器學習機制沒有任何自然界的版本,而這兩者學習過程之間也有著大量的不同。

這些區別很有可能解釋了為什麼機器學習系統在某些領域中的表現遠遜於自然系統。就拿昆蟲來說,昆蟲僅需接觸幾次新的氣味就能學會如何識別這些新氣味。而機器則需要海量的數據集才能學會。因此,計算機科學家希望通過加深對自然學習方式的了解來減少這兩者之間的距離。

為了進一步找出自然與機器學習之間的差距,華盛頓大學研究科學家Charles Delahunt與他的團隊創造出了一款模仿菸草天蛾(學名:Manduca sexta)嗅覺學習系統的結構與行為的人工神經網絡。他們表示,他們的系統可以對自然神經網絡的學習方式提供一些重要的見解,為機器學習帶來突破。

與其他動物相比,飛蛾的嗅覺系統比較簡單,並已被神經科學家們很好地繪製出來。它是由5個獨特的網絡組成,由每個網絡向下一個網絡一層一層的傳輸信息。

飛蛾嗅覺系統的首層網絡,是一個由3萬多個用於檢測氣味的化學受體所組成的系統。它會把一套嘈雜的數據傳輸到下一層:天線葉(antenna lobe)。天線葉含有大約60個叫Glomeruli的單元,每一個單元都會專注於一種氣味。

天線葉會把分析過一邊的氣味數據傳輸給含有4000個kenyon細胞的蘑菇體(Mushroom Body),把它編成記憶。

作為記憶,這些關於氣味的信息最終會被一層僅有兩位數的外在神經元讀取。它們將把來自蘑菇體的信號轉化為行為,比如「向上飛」。

這個系統在多個方面與機器學習網絡完全不同。就拿天線葉來說,它會把信息編碼到低維參數空間中,把信息傳輸給蘑菇體;但蘑菇體卻會把信息編碼到高維參數空間中。相比之下,人工神經網絡每層的維度都十分相似。

此外,一旦飛蛾成功的識別一種氣味,這將出發一個獎勵機制,導致神經元向天線葉與蘑菇體噴射一種叫「章魚胺」(octopamine)的化學神經遞質。

這種獎勵機制在學習過程中起到了至關重要的作用。在飛蛾腦中,章魚胺可以幫助加強產生成功的神經線路。這也是赫布學習(Hebbian learning)中最重要的理論之一,即「一起激發的神經元也會連在一起」(Cells that fire together, wire together)。確實,神經科學家早就知道去掉章魚胺的飛蛾是無法學習的。我們只是不知道章魚胺的具體工作方式。

而機器的學習方式則十分不同。它依賴的是一種叫「反向傳播」(backpropagation)的過程,通過調整每個神經元之間的連接來提高結果。但是在這個過程中,信息是在神經網絡中進行反向流動的,而它在自然中也沒有任何相似的存在。

為了更好地了解飛蛾學習的方式,Delahunt的團隊創造出了一款模仿自然神經網絡的工作方式的人工神經網絡。「我們創造出來一款端到端的計算模型來模仿菸草天蛾的嗅覺系統,包括天線葉與蘑菇體在章魚胺刺激之下的互動行為」,他們說道。

這款模型的設計理念就是在每一層百分百重現自然系統的一切行為。比如由氣味受體所產生的嘈雜信號,以及數據從天線葉傳輸到蘑菇體時所產生的維度變化。它甚至還包含了一個模仿章魚胺作用的機制。

最終的結果十分有意思,這款模型顯示,氣味受體所產生的嘈雜信號會受到天線葉的前置放大。但是,這些信號在傳輸到蘑菇體時所經歷的維度變化可以有效的排除一切噪聲。因此,這些乾淨的信號可以讓該系統輸出「向上飛」這種明確的指令。

而章魚胺所起到的作用也更明確了。這款模仿系統顯示,在沒有章魚胺的情況下其實也可以實現學習,但由於它的速度極慢,相當於不存在。這意味著章魚胺是一種強效學習加速劑。

但是章魚胺具體是如何實現加速功能的呢?Delahunt與團隊認為「這可能是一種讓飛蛾繞開新增突觸在赫布生長時固有的有機約束的方式,否則這種約束可能將飛蛾學習的速度限制在一個難以接受的速度。」

此外,章魚胺還有另外一個作用。赫布學習只能加強現有的神經連接,因此無法解釋新的神經線路是如何產生的。Delahunt表示章魚胺還可以打開新的傳輸通道來形成連接:「這會擴展系統學習時能夠探索的解空間」。

總體來說,這款模仿自然神經網絡的人工神經網絡系統完美的實現了它的設計目標,以一個自然的方式學會了分彆氣味。「我們的模型可以學習新的氣味,通過模仿出來的整合-激發神經元也與飛蛾體內激發率的統計特徵一致」,Delahunt說道。

廣泛來說,此項研究成果可能給人工神經網絡領域帶來極大的影響。「從一個機器學習角度來看,該模型提供了一個由自然啟發的機制,並將十分利於建設需要用極少樣本實現迅速學習的神經網絡」,該團隊總結道。

所以,未來的機器學習網絡很可能將會包含章魚胺等神經遞質的仿品。

當然,神經遞質並不只在學習時有著重要的地位。神經科學家們十分了解它們在情緒與情緒調節等機制中的地位。而這,則可能成為機器學習研究者的下一個研究方向了。

相關焦點

  • 飛蛾藤 原來是說果子像飛蛾
    上次花事發過一個飛蛾藤,昨天再見,發現他還有不少神奇、美麗之處是我之前沒有發現的。▽飛蛾藤與牽牛花一個科,從葉子上就可以看出一二。屬於飛蛾藤屬,浙江植物志只有一種。飛蛾藤是個多年生草質攀援藤本,它漏鬥狀的花朵不大,直徑一釐米不到,湊到眼前了才能看出一點旋花科的特點「旋花」,若是遠看,這個潔白素雅小清新的花朵倒是有幾分酢醬草呢。小巧精緻的花朵總是惹人喜愛。▽
  • 科學家發現飛蛾翅膀可作為天然隱形聲學超材料
    打開APP 科學家發現飛蛾翅膀可作為天然隱形聲學超材料 科技日報 發表於 2020-11-30 11:32:35 據《美國國家科學院院刊》近日報導,英國研究人員發現了飛蛾翅膀的精確構造,正是這種構造使該物種能夠逃脫6500萬年前的「進化軍備競賽」中最麻煩的捕食者。
  • 飛蛾為何撲火?真正原因可能只有飛蛾自己知道
    只是後來人造光源的出現,使飛蛾發生了混亂,紛紛撲火尋死。而這也叫做「光定向行為假說」,解釋看來是合情合理啊。那麼將問題反過來,既然飛蛾會撲火,為什麼在晚上它們不會齊刷刷地飛向月亮?如果大家曾觀察過飛蛾撲火,應該能注意到它們的一個飛行特點。那就是,飛蛾並非全都筆直地撞向光源,而是繞著圈螺旋式地向光源靠近。
  • 飛蛾披著隱形聲學鬥篷躲避蝙蝠聲納
    飛蛾可以利用其聲學偽裝的翅膀躲避蝙蝠的聲納。它們進化出的隱身適應能力是由於它們的翼膜上附著了一系列的鱗片,這些鱗片可以吸收獵食蝙蝠發出的超聲波頻率,是自然界中首次發現的聲學超材料。英國布里斯托大學的一個團隊發現,蝙蝠發出的聲波擊中兩種飛蛾身上的叉形鱗片,會使它們彎曲和扭曲,消散能量。
  • 蝴蝶與飛蛾
    □駐馬店實驗小學三(6)班 關墨璇飛蛾總是羨慕蝴蝶有美麗的顏色,受人喜愛,
  • 真實存在的長角飛蛾
    答案讓人不禁汗毛豎立:一種超級可怕的長角飛蛾。上個星期,一位印度尼西亞的網友拍下了這隻飛蛾的視頻並將它們發布在了Facebook上,此舉給網絡人士們造成了巨大的驚嚇,超過40000人憂心忡忡地在這條視頻下評論道:我的天,這到底是什麼鬼啊?credit: Gandik/FaceBook不過放輕鬆。
  • 深度學習技術和卷積神經網絡(CNN)讓機器視覺識別更智能
    隨著人工智慧技術的進步,深度學習技術(DL)和卷積神經網絡技術(CNN)領域的人工智慧(AI)被引入到機器視覺圖像處理系統的應用中來,從而幫助機器學習和機器檢測缺陷更加高效,使機器視覺識別的過程更加精確。也讓使用這些技術的企業可以從智能化中獲得更高的生產經營效益。
  • 泰拉瑞亞飛蛾掉落和打法詳解
    下面小編來介紹下泰拉瑞亞飛蛾打法攻略和掉落一覽,一起看看吧! 飛蛾 ID:205 類型:飛行敵人 AI類型:飛行 環境:叢林地下 傷害:70/140 生命值上限:1000/2000 防禦:28 擊退抗性:60/64% 免疫混亂、中毒和劇毒
  • 飛蛾翅膀竟是天然隱形聲學超材料
    來源:科技日報  科技日報北京11月29日電 (記者馮衛東)據《美國國家科學院院刊》近日報導,英國研究人員發現了飛蛾翅膀的精確構造
  • 我愛你就像飛蛾撲向火,其實飛蛾才不會撲火,都是人類做的惡!
    ……明知道會受傷還要撲的義無反顧,但是作為一個在地球上存活時間遠超人類的物種,飛蛾真的有這麼不愛惜自己的蛾生麼?普羅大眾對於飛蛾撲火最科學的認知可能就是昆蟲的趨光性,但是答案遠沒有這麼簡單。簡單一句話推翻這個所謂的趨光性,既然趨光,為什麼它要選擇晚上活動,就算它可以選擇晚上活動,它們為什麼沒有飛向月亮?
  • 飛蛾身上驚現人臉(圖)
    專題:圖片頻道  錢江晚報訊 蘭谿市遊埠初中一名教師近日在學校偶然發現一隻特別的飛蛾,這隻飛蛾的腦袋背面像人面,又像猴面,能很清晰地看到眼睛、鼻子、嘴甚至鬍鬚。
  • 我們對飛蛾到底有多少誤解?
    飛蛾和一些昆蟲總愛聚在燈光周圍,往往不是被捕食者吃掉,就是被炙烤而亡,為什麼它們不惜冒著死亡的威脅,也要在燈火處翩翩起舞呢?有人說,那是因為一些昆蟲有趨光性,說到光!太陽光更大,為什麼它們不齊刷刷地飛向太陽呢?但飛蛾沒有考慮到現代人類社會的介入:一天24小時,亮著的燈火隨處可見。
  • 黑色飛蛾代表什麼預兆
    家裡有飛蛾說明你近期的運勢一般,可能會有令你煩惱的事情發生,財運上會有小小的阻礙,還有另外一種說法是親人會來探望你,因此遇到飛蛾最好不要打死,驅趕走是比較好的選擇,但是這些必定是沒有科學依據的,我們看看科學的解釋是什麼樣的。
  • 櫻花校園模擬器飛蛾怎麼消滅 飛蛾怎麼打
    櫻花校園模擬器飛蛾怎麼消滅?
  • 《櫻花校園模擬器》飛蛾在哪 飛蛾刷新位置一覽
    導 讀 櫻花校園模擬器飛蛾在哪裡?飛蛾的出現方法還是未知的,那麼具體的刷新地點是在哪裡呢?
  • 飛蛾「頂嘴」蝙蝠避免被抓
    不過,一些飛蛾讓這些敏捷的哺乳動物失去了目標。比如,燈蛾會發出使蝙蝠雷達失靈的幹擾超聲波。如今,科學家證實,天蛾(如圖所示)和其他物種也進化出了這種行為。 當有蝙蝠在附近時,這些在夜間出沒的對蝙蝠具有毒性的昆蟲會發出一種超聲波作為「警告」。在吃過幾次飛蛾後,蝙蝠學會了如何完全避免這些有毒物種。 在4年的時間裡,研究人員在8個國家拍攝了蝙蝠追逐的高速視頻。
  • 飛蛾總想著撲火,它怎麼敢的吖?
    前者是「稻花香裡說豐年」的有益動物後者是「想吃天鵝肉」的不自量力的醜物還有蝴蝶和飛蛾都是破繭而生的昆蟲但一個是醬紫的就因為這個成語飛蛾成為了頭鐵的象徵人家是不到黃河心不死飛蛾是不撲到火不痛快哪怕面對著看不見的阻礙飛蛾們仍然前赴後繼地展示著自己的頭鐵這份執著實在是讓人不得不去想飛蛾到底為什麼這麼想不開?
  • 人工智慧、機器學習、神經網絡和深度學習之間是什麼樣的關係?
    其實在1956年後,人工智慧發展的速度非常快,解決了業內很多的問題,讓當時的科學家以為,以當時的發展速度,機器可能在20年左右達到人類的水平。現在看,當時的科學巨頭還是過度樂觀了,直到60年後的今天,我們還是在弱人工智慧領域摸爬滾打。
  • 為了控制飛蛾數量,英國科學家竟然做出了這種事兒..
    他們把博物館裡的飛蛾掰彎,讓雄性飛蛾跑去跟別的雄性飛蛾交配。。事情是這個樣子的,英國自然歷史博物館擁有世界各地動植物和巖石礦物等標本,最近四年他們遇到了一件棘手的問題。。面對這些飛蛾,博物館的工作人員想了很多辦法,什麼灑滅蟲藥啊之類的,但是館內藏品都很珍貴,這種會破壞自然的方式他們覺得是能不用就不用啊。。就在最近博物館內的一群機智的科學家突然腦動大開。。想到了一個好辦法!那就是把飛!蛾!掰!彎!
  • 另類手作:這些毛茸茸的飛蛾,都是用布料縫製的
    那是兩隻飛蛾,個頭很大,我第一次看到差點以為那是風箏。莫莉很喜歡飛蛾,喜歡用布料縫製飛蛾造型的手工,她沒有完全按照真實飛蛾的樣子來製作,而是進行了二次創作,比如在翅膀上添加圖案元素。一隻畫風復古的飛蛾造型,材料來自上世紀70年代的沙發麵料,那是莫莉在跳蚤市場上找到的,顏色鮮豔,花紋典雅,莫莉說,用這些織物來縫製飛蛾,感覺超酷的。