機器學習新戰果,破解「蝴蝶效應」,預測火焰的下一秒形態

2020-12-05 科技行者

半個世紀前,混沌理論(Chaos theory)的先驅者們發現,「蝴蝶效應」使得長期預測變得深不可測,對複雜系統(如天氣、經濟或其他任何事物)而言,即使是最小的擾動,也能觸發一系列的連鎖反應,致使結果截然不同。如果我們不能更好更精確地理解這些系統的狀態,從而預見事件會發展成什麼樣,我們就會生活在不確定中。

這裡手動解釋一下混沌理論的背景。近半世紀以來,科學家發現許多自然現象即使可以化為單純的數學公式,但是其行徑卻無法加以預測。如氣象學家Edward Lorenz發現簡單的熱對流現象居然能引起令人無法想像的氣象變化,產生所謂的「蝴蝶效應」;60年代,美國數學家Stephen Smale發現,某些物體的行徑經過某種規則性變化之後,隨後的發展並無一定的軌跡可循,呈現失序的混沌狀態。

直到1963年,美國氣象學家愛德華·諾頓·洛倫茨提出混沌理論(Chaos),非線性系統具有的多樣性和多尺度性。混沌理論解釋了決定系統可能產生隨機結果。理論的最大的貢獻是用簡單的模型獲得明確的非周期結果。在氣象、航空及航天等領域的研究裡有重大的作用。

但現在,機器可以在此領域大顯身手了。

在《物理評論快報》(Physical Review Letters)和《混沌》(Chaos)雜誌上發表的一系列研究結果表明,科學家運用機器學習——其擁有最近在人工智慧領域取得成功的同一計算技術——來預測混沌系統未來的演變。該方法因其開創性並很可能被廣泛運用而得到專家盛讚。

德國不萊梅雅各布大學(Jacobs University)計算科學教授Herbert Jaeger評價道:「機器學習能預測遙遠的未來,實則令人驚喜。」

這些發現由資深混沌理論家Edward Ott和四名馬裡蘭大學的學者共同完成。他們採用了一種被稱為「庫計算」的機器學習算法,來「學習」一種典型的、叫做Kuramoto-Sivashinsky方程的混沌系統。這個方程式的演化方式如同火焰鋒面,在燃燒的介質中閃爍。該方程還描述了等離子體和其他現象中的漂移波,並可作為「時空混沌和幹擾研究的基礎」,奧特的研究生、論文的第一作者Jaideep Pathak說道。

經過對Kuramoto-Sivashinsky方程式以往的演算數據的訓練後,計算機就可以精確地預測出,在未來的8個「李亞普諾夫時間」(Lyapunov times)中,火焰系統將如何演變,比以往任何方法都要超前8倍。李雅普諾夫時間代表了一個混沌系統的兩個幾乎相同的狀態當出現指數差異時所用時間。因此,它通常設定了可預測性的範圍。

德國德勒斯登物理研究所混沌理論學家Holger Kantz說:「機器學習的確大有裨益。」「機器學習技術某種意義上說等同於認知真理。」

該算法本身對Kuramoto-Sivashinsky方程一無所知,它只獲取方程式演化數據。這就是機器學習法的強大所在。許多情況下,描述一種混沌系統的方程式並不為人所知,因而動力學家需努力建模以進行預測。Ott的研究結果表明你不需要那些方程式,需要的只是數據。Kantz說:「這篇論文表明,或許有一天我們可以通過機器學習算法來預測天氣,而不是通過複雜的大氣模型。」

除了天氣預報,專家稱,機器學習技術可以幫助監測心律失常現象,監測是否有心臟病發作跡象,並監測大腦神經元的放電模式,以尋找神經元突起跡象。進一步說,它還能有助於預測海面情況,以防洶湧的海浪危及船隻,抑或發生地震。

Ott特別希望這些新工具能對預警太陽風暴發揮作用,像1859年噴出太陽表面35000英裡的那一次。地磁的巨變使得北極光在地球上隨處可見,感生電壓讓許多沒有通電的電線上產生了電流,直接斷掉了地球上的電報系統。如果今天地球受到這樣規模的太陽風暴襲擊,人類的電子設施會遭到嚴重破壞。Ott說「如果你知道能預測太陽風暴即將來臨,你只需關掉電源,之後再重啟就好了。」

Ott、Pathak和他們的同事Brian Hunt、Michelle Girvan和Zhixin Lu(現就職於賓夕法尼亞大學)通過綜合現有的工具取得了成果。

約六、七年前,當強大的「深度學習」算法開始掌握像圖像和語音識別這樣的人工智慧任務時,他們開始研究機器學習,並想出巧妙的方法將其運用於混沌理論。他們在深度學習革命之前就已經得到了一些有希望的結果。其中最重要的一個是,在21世紀初,Jaeger和德國混沌理論學家Harald Haas利用一個隨機連接的人工神經元網絡——形成了庫計算中的」庫」——來學習三個混沌系統協同變量的動力學法則。在對這三組數字進行訓練後,網絡可以預測出這三個變量的未來值,且預測範圍之遠令人印象深刻。然而,當有多個相互作用的變量時,計算就變得難以處理了。Ott和他的同事需要一個更為行之有效的方法,使庫計算與大型混沌系統相關聯,這些系統有大量的相互關聯的變量。例如,火焰前部邊緣的每一個位置,都對應著三個不同空間方向的速度分量。

圖左至右:馬裡蘭大學Jaideep Pathak,Michelle Girvan,Brian Hunt,and Edward Ott

他們花了好幾年時間才找到這個直截了當的解決辦法。「我們利用的是在空間擴展的混沌系統中相互作用的局部性」,Pathak說,「局部性意味著局部的變量受其附近變量,而非遠處變量的影響。」通過利用該理論,可以將問題分解成塊。也就是說,可以將這個問題並行解決,利用一個神經元庫來學習一個系統補丁,另一個庫來學習下一個補丁,以此類推,相鄰區域的細微重疊,闡釋了它們之間的相互作用。

並行法使得庫計算法可以處理幾乎任何大小的混亂系統,只要該任務具備合適的計算機資源庫即可。

Ott闡明庫計算分為三步過程。例如說你想用它來預測火焰蔓延趨勢。

首先,你在火焰鋒面前五個不同的點測量火焰高度,繼而測量火焰燃燒一段時間後個點位高度。將這些數據流輸入庫中隨機選擇的人工神經元中。輸入數據觸發神經元放電,進而觸發相連的神經元,並在整個網絡中發送一連串信號。

第二步是使神經網絡從輸入數據中學習火焰鋒面的動態變化。為此,輸入數據時,還要監測庫中幾個隨機選擇的神經元的信號強度。以五種不同的方式加權和組合這些信號而產生的五個數字作為輸出。目的是調整計算輸出的各種信號的權值,直到這些輸出與下一組輸入一致——下一組輸入就是下一時刻在火焰前部測量的五個新高度。Ott解釋說:「你想要的應該是,輸出和下一時刻的輸入相同。」

為得到正確的權重,該算法簡單地將每組輸出與下組輸出或五點中的每一點的預測高度與實際火焰高度進行比較。每一次增加或減少各種信號的權重,無論以哪種方式,它們的組合都給出了5個輸出的正確值。從一個時間點到下一個時間點,隨著權重的調整,預效果測逐漸提高,直到算法能夠連續預測出火焰狀態。

「第三步時其實就是在做預測了。」Ott說。在了解了該系統的動態之後,庫計算就可以揭示其未來演變路徑。計算機本身會進行自問。輸出作為新的輸入反饋回來,如此循環往復,以此來預測火焰鋒面五個點位高度的演變過程。其他庫也在平行地預測火焰中其他地方的高度變化過程。

在一月份發表的物理評論快報(Physical Review Letters)的論文(論文地址:http://www.bmp.ds.mpg.de/tl_files/bmp/preprints/Zimmermann_Parlitz_preprint.pdf)中,研究人員表明,他們預測的Kuramoto-Sivashinsky方程式火焰演化,與混沌系統的真實演化幾乎完全一致,直到第八個李亞普諾夫時間之後,預測才開始偏離實際情況。

常規預測混沌系統的方法是儘可能精確地測量每一個時間點的狀態,利用這些數據來校準物理模型,然後使得模型不斷發展。由於是近似估計,必須將一個典型的系統的初始狀態測量100,000,000次,才能將初始狀態的數據用於更準確地預測混沌系統未來8個李亞普諾夫時間內的演化狀態。

這正是機器學習為「一種非常奏效且強大的方法」的原因,德國馬克斯普朗克動力和自我組織學院的Ulrich Parlitz說,他和Jaeger一樣,在21世紀初也將機器學習應用於低維度的混沌系統中。」我認為這不僅在他們給出的例子中發揮作用,而且在某種意義上來說是通用的,即可以應用於許多過程和系統中。在即將發表在《混沌》(Chaos)上的一篇論文中,Parlitz和其合作夥伴應用庫計算來預測「易激發媒介」(如心臟組織)的動態。Parlitz認為,深度學習雖然比庫計算更複雜,計算能力更強,但同其他機器學習算法一樣,也能很好地解決混沌問題。最近,麻省理工和蘇黎世聯邦理工學院的研究人員使用「長短期記憶」神經網絡,取得了類似的結果。這種神經網絡反覆循環,能夠長時期儲存臨時信息。

在《物理評論快報》發表論文之後,Ott,Pathak,Girvan,Lu等人繼續推進他們的研究,現在他們距離理想的預測技術的實現更進一步了。在《混沌》(Chaos)發表的新研究中,他們發現,通過混合數據驅動、機器學習方法和傳統的基於模型的預測,改進了諸如Kuramoto-Sivashinsky方程這樣的混沌系統的預測。Ott認為這是改善天氣預報和類似工作的更為行之有效的途徑,因為我們並不總是擁有完整的高解析度數據或完美的物理模型。他說:」我們應該做的是基於我們擁有的知識,如果我們對某事物一無所知,我們就應該利用機器學習來填補無知的空白。」庫計算的預測本質上可以用來校正模型;在Kuramoto-Sivashinsky方程的例子中,精確的預測被進一步擴展到了12個李亞普諾夫時間。

李亞普諾夫時間的長短因不同的系統而異,從毫秒到數百萬年不等。(就天氣而言,只有幾天。)時間越短,系統更容易受蝴蝶相應的影響。混沌系統在自然界中無處不在,然而奇怪的是,混沌本身很難確定。芝加哥大學數學教授Amie Wilkinson說:」大多數人在運用動力系統時都會用到混沌這個術語,但他們在使用時確有些尷尬。」「有點時候說某事有點混沌會給人感覺有些許俗氣。」因為在沒有約定俗成的數學定義或充分必要的條件下引起了廣泛注意。Kantz同意這樣的說法「混沌並不是一個簡單的概念,」。在某些情況下,調整系統的單個參數可以使系統從混沌變為穩定,反之亦然。

Wilkinson和Kantz都在拉伸和摺疊方面定義了混沌,就像麵團的重複拉伸和摺疊一樣。每一塊麵團在擀麵杖作用下水平伸展,在兩個空間方向上以指數的速度迅速分離,然後將麵團摺疊壓平,在垂直方向將麵團凸起凹陷的部分再壓平。Kantz說,天氣、森林大火、太陽風暴以及其他所有混沌系統都是這樣的。「為了使軌跡的指數發散,需要這種拉伸,為了不使系統發散到無窮大,需要一些摺疊。」摺疊來自於系統中變量之間的非線性關係。

在不同維度上的拉伸和壓縮對應於一個系統的正負「李亞普諾夫指數」。在《混沌》(Chaos)另一篇最新論文中,馬裡蘭州的研究小組報告說,他們的庫計算機模型,能夠成功地從混沌系統進化數據中,了解這些特徵指數的值。為什麼庫計算如此善於學習混沌系統的發展動態並不是很好理解,計算機根據反饋的數據調整混沌系統動力學的公式,直到這個公式能夠複製混沌系統的動態變化過程。這項技術非常有效,事實上,Ott和其他馬裡蘭研究人員現在打算用混沌理論來更好地理解神經網絡的內部機制。

Ps:「如果我們對某事物一無所知,我們就應該利用機器學習來填補無知的空白。」——Edward Ott

Ps:「機器學習技術某種意義上說等同於認知真理。」——Holger Kantz

相關焦點

  • 「蝴蝶效應」也能預測了?看機器學習如何解釋混沌系統
    那麼,有了機器學習之後呢?  半個世紀前,混沌理論的先驅們發現由於存在「蝴蝶效應」,長期預測是不可能的。對於複雜系統(如天氣,經濟等等),即使是最小的擾動也能觸發一連串事件,導致極為不同的後果。  我們生活在不確定的陰影之下,無法確定這些系統的狀態以預測它們將如何發展。
  • 量子世界存在蝴蝶效應嗎?
    這裡的蝴蝶便是那個影響巨大的擾動因素,「它身形雖小,卻能在漫長流逝的時間裡,打破平衡,推倒整排小片多米諾骨牌,進而觸動大骨牌乃至巨型骨牌。」Bradbury所描繪的「蝴蝶效應」——即過去的微小變化能對未來造成巨大影響——並不完全是科幻小說式的異想天開。
  • 崩壞學園2蝴蝶效應怎麼樣 蝴蝶效應搭配屬性介紹
    《崩壞學園2》蝴蝶效應怎麼樣?這是4月5日實裝的六星武器之一,傷害敲過可以追加連續傷害,傷害效果非常好,可以用來快速清屏,小編給大家帶來的是崩壞學園2蝴蝶效應的效果屬性搭配介紹,一起來看看吧!
  • 何為蝴蝶效應?
    一、蝴蝶效應的由來 蝴蝶效應來源於美國氣象學家洛侖茲60年代初的發現.在《混沌學傳奇》與《分形論——奇異性探索》等書中皆有這樣的描述:「1961年冬季的一天,洛侖茲(E.Lorenz)在皇家麥克比型計算機上進行關於天氣預報的計算.為了考察一個很長的序列,他走了一條捷徑,沒有令計算機從頭運行,而是從中途開始.他把上次的輸出直接打入作為計算的初值,然後他穿過大廳下樓,去喝咖啡
  • 「蝴蝶效應」是什麼?
    生活中我們總聽到「蝴蝶效應」這個詞,那「蝴蝶效應」是什麼呢?蝴蝶效應指在長時間和大範圍內,微小的空氣系統變化可能導致連鎖反應,並最終導致其他系統產生極大變化。在上世紀60年代,美國著名氣象學家愛德華▪洛倫茲提出了蝴蝶效應這個概念,他通過電腦進行「天氣預報」的模擬,發現如果將輸入的數據進行微調,得出的計算結果差別會非常大。這個概念被形象的表述為:德克薩斯州的一場龍捲風發生的原因可能是一個月前一隻蝴蝶在巴西輕輕拍打翅膀。「蝴蝶效應」這個名稱也就此誕生。
  • 混種科學中的蝴蝶效應:初始條件的微小變動,導致未來的不可預測
    混沌的特徵:在確定性系統中看似隨機的無規律行為;由於確定性的規律,短期內可預測;又因為蝴蝶效應的不可預測性,長期則無法預測。混沌:蝴蝶效應混沌的現象引起了一些微妙的哲學問題,這些問題蒙蔽了一些粗心的人。例如,我的幾名學生對蝴蝶效應嗤之以鼻,認為它平淡無奇。我們都知道,小事情確實可以在我們的生活中引起巨大的不同,甚至會影響國家的命運。
  • 什麼叫做蝴蝶效應?股市中蝴蝶效應是什麼意思?
    什麼是蝴蝶效應?蝴蝶效應(ButterflyEffect)是指在一個動力系統中,初始條件下微小的變化能帶動整個系統的長期的巨大的連鎖反應。這是一種混沌現象。那麼股市中效應是什麼意思?股市中蝴蝶效應是什麼意思美國氣象學家愛德華·羅倫茲(EdwardLorenz)1963年在一篇提交紐約科學院的論文中分析了這個效應。「一個氣象學家提及,如果這個理論被證明正確,一個海鷗扇動翅膀足以永遠改變天氣變化。」
  • 蝴蝶效應是什麼意思
    答:只需點上邊《安室美惠》免費關注蝴蝶效應是指在一個動力系統中,初始條件下微小的變化能帶動整個系統的長期的巨大的連鎖反應。這是一種混沌現象。在以後的演講和論文中他用了更加有詩意的蝴蝶。對於這個效應最常見的闡述是:「一隻南美洲亞馬遜河流域熱帶雨林中的蝴蝶,偶爾扇動幾下翅膀,可以在兩周以後引起美國德克薩斯州的一場龍捲風。」其原因就是蝴蝶扇動翅膀的運動,導致其身邊的空氣系統發生變化,並產生微弱的氣流,而微弱的氣流的產生又會引起四周空氣或其他系統產生相應的變化,由此引起一個連鎖反應,最終導致其他系統的極大變化。他稱之為混沌學。
  • 真正的「蝴蝶效應」和真的好看的《蝴蝶效應》
    後來洛倫茲正式發表演說,用蝴蝶煽動翅膀可以引起颶風的描述,說明一個微小的初始條件變化可能導致一連串逐漸放大的結果。一再表示複雜系統演化中對初始條件的極端敏感,一再表示複雜系統演化中對初始條件的極端敏感,這就是蝴蝶效應。
  • 蝴蝶效應真實存在嗎?量子蝴蝶效應更令人困惑
    北京時間8月7日消息,據國外媒體報導,2004年好萊塢電影《蝴蝶效應》是一部非常有意思的電影,人類認為蝴蝶效應具有神奇的效果,小規模的事件可以產生巨大、不可預見的後果,甚至導致戰爭、核災難等……事實上,蝴蝶效應僅是一個氣象術語,源於半個世紀前,它實際是什麼對於多數人是很難理解的,我們來看看物理學家、大氣科學家和心理學家,他們如何分析蝴蝶效應的真實作用及意義。
  • 奇異的量子世界裡,連蝴蝶效應都不存在
    根據蝴蝶效應,即便是微小的擾動,也能對未來造成非常誇張的影響。不過,最近一項新實驗發現,讓量子比特回到過去後,即使對其進行加擾,它仍能在未來恢復所有原始信息。通常在經典力學的體系下,只要已知初始條件,就能在很大程度上預測物體的運動,就像工廠的自動化流程,或是衝向太空的火箭(只需要回憶一下高中所學過的運動,力和動量等)。混沌系統一般來說也是用經典力學描述的,在這種模型中,給定的初始條件同樣也能產生相同的結果,但人類的運算總有誤差,即使是小數點後數十位的近似,最終也會成為推倒多米諾骨牌的蝴蝶。
  • 奇異的量子世界裡,連蝴蝶效應都不存在
    根據蝴蝶效應,即便是微小的擾動,也能對未來造成非常誇張的影響。不過,最近一項新實驗發現,讓量子比特回到過去後,即使對其進行加擾,它仍能在未來恢復所有原始信息。通常在經典力學的體系下,只要已知初始條件,就能在很大程度上預測物體的運動,就像工廠的自動化流程,或是衝向太空的火箭(只需要回憶一下高中所學過的運動,力和動量等)。混沌系統一般來說也是用經典力學描述的,在這種模型中,給定的初始條件同樣也能產生相同的結果,但人類的運算總有誤差,即使是小數點後數十位的近似,最終也會成為推倒多米諾骨牌的蝴蝶。
  • 在奇異的量子世界裡,連蝴蝶效應都不存在
    不過,最近一項新實驗發現,讓量子比特回到過去後,即使對其進行加擾,它仍能在未來恢復所有原始信息。作者丨Sophie Putka翻譯丨張和持編輯丨楊心舟在Ray Bradbury的短篇小說《一聲驚雷》中,主人公穿越到遠古時代去狩獵恐龍,卻不小心在史前叢林中踩死了一隻蝴蝶,待他回到當下,世界已經大不一樣:從空氣的味道,英語單詞的拼寫,到美國總統的選舉結果都發生了變化。
  • 是否存在蝴蝶效應?也許,但不是在量子領域
    布拉德伯裡(Bradbury)所描述的這種「蝴蝶效應」-過去的微小變化可能會導致巨大的未來效應-並非只為小說。正如著名的數學家和氣象學家愛德華·洛倫茨(Edward Lorenz)偶然發現的那樣,自然系統確實存在,其中初始條件的微小變化會導致高度可變的結果。這些系統,包括天氣,甚至流體如何混合,都被稱為混亂。
  • 「蝴蝶效應」是如何被誤解的?
    「一隻南美洲亞馬遜河流域熱帶雨林中的蝴蝶,偶爾扇動幾下翅膀,可以在兩周以後引起美國德克薩斯州的一場龍捲風」這個詩意化的比喻就是大家所熟知的:「蝴蝶效應」。雖然這個故事被認為是蝴蝶效應最廣為人知的典故,但我們要認識到的是,蝴蝶效應並不是決定論,倘若國王出徵提前準備,或者避免親自出徵,結果會怎樣呢?另外,我們有時候也會將蝴蝶效應與多米羅骨牌效應相混淆。多米諾骨牌效應指一件事的發生會引發一連串連鎖反應。
  • ——機器學習算法有望實現地震的精確預測
    Machine-Learning Algorithm Predicts Laboratory Earthquakes近日,美國新墨西哥洲「洛斯阿拉莫斯國家實驗室」團隊訓練了一個機器學習算法來試圖預測地震,該團隊還不確定這一技術能否用於現實地震的預測,目前僅為實驗室環境成果,但這項技術可能為地震預測領域的研究開闢了一條新的路徑。據統計,被地震奪走生命的人員數量十分驚人。
  • 蝴蝶效應真實存在嗎?
    2004年好萊塢電影《蝴蝶效應》是一部非常有意思的電影,人類認為蝴蝶效應具有神奇的效果,小規模的事件可以產生巨大、不可預見的後果,甚至導致戰爭、核災難等……事實上,蝴蝶效應僅是一個氣象術語,源於半個世紀前,它實際是什麼對於多數人是很難理解的,我們來看看物理學家、大氣科學家和心理學家,他們如何分析蝴蝶效應的真實作用及意義
  • 蝴蝶效應會失效嗎?
    這種神秘的效應在許多文學作品和影視作品中都有過出現,比如電影《生活多美好》(1946),科幻小說《雷鳴之音》(1952),電影《蝴蝶效應》(2004)中等等。這種過去的一個微小變化,導致了在未來出現巨大變化的效應,並不只存在於虛擬世界中。
  • 疫情的「蝴蝶效應」下,製冷劑企業如何破解用工荒?
    新型冠狀病毒肺炎疫情引發的「蝴蝶效應」波及廣泛。短期用工荒,已經板上釘釘。  更值得注意的是,比如長三角等製造業發達城市,很可能如溫州一樣是疫情的重點區域,又或者原來的老員工深陷於重點疫區而難以出門,完全復工復產的難度可以想見。
  • 量子的世界,不允許「蝴蝶效應」
    一旦回到過去,初始條件的改變是否會產生「蝴蝶效應」,以致改變整個歷史走向?蝴蝶效應是混沌理論的精髓,它提醒了世界運轉的一個本質:我們的世界並不遵循可預測的模式我們發現我們的世界仍然好好的,這意味著量子力學中沒有蝴蝶效應。」