含納維-斯託克斯方程(氣象學)實例,微分方程 VS 機器學習

2021-02-08 氣象學家

微分方程與機器學習作為 AI 領域建模的兩種方法,各自有什麼優勢?


微分方程(DE)與機器學習(ML)類數據驅動方法都足以驅動 AI 領域的發展。二者有何異同呢?本文進行了對比。


微分方程模型示例


納維-斯託克斯方程(氣象學)


這一模型被用於天氣預測。它是一個混沌模型,當輸入存在一點點不準確,預測結果就會大相逕庭。這就是為什麼天氣預報經常是錯誤的,天氣模擬使用超級計算機完成。



愛因斯坦場方程(物理學)


愛因斯坦場方程描述了重力定律,也是愛因斯坦廣義相對論的數學基礎。



Black-Scholes(金融)


Black-Scholes 模型在股票市場為金融衍生品定價。



SIR 模型(流行病學)


SIR 是基礎的房室模型,可以描述傳染病的傳播情況。




為什麼以上 4 個方程都是微分方程?因為它們都包含某些未知函數的導數(即變化率)。這些未知函數(如 SIR 模型中的 S(t)、I(t) 和 R(t))被稱為微分方程的解。


我們再來看一個模型。


Murray-Gottman(心理學)


這個模型用來預測浪漫關係的期限。根據心理學家 John Gottman 的開創性研究成果,持續的樂觀氛圍是預測婚姻成功的重要指標。



請注意 Murray-Gottman「愛情模型」實際上是一個差分方程(微分方程的一種姊妹模型)。差分方程輸出離散的數字序列(例如,每 5 年的人口普查結果),而微分方程則建模連續數值(即持續發生的事件)。


上述 5 個模型(微分和差分方程)都是機械模型,我們可以在其中自行選擇系統的邏輯、規則、結構或機制。當然,並不是每次試驗都會成功,反覆試驗在數學建模中非常重要。


納維 - 斯託克斯方程假定大氣是流動的流體,上述方程式就是來自流體動力學。廣義相對論假設在一種特殊的幾何形態下,時空會發生扭曲。愛因斯坦提出關於時空扭曲的一些重要想法,數學家 Emmy Noether 和 David Hilbert 將這些想法整合到愛因斯坦場方程中。SIR 模型假設病毒是通過感染者與未感染者之間的直接接觸傳播的,並且感染者會以固定的速率自動恢復。


使用機械模型時,觀察和直覺會指導模型的設計,而數據則用於後續驗證假設。


所有這些都與經驗模型或數據驅動模型形成鮮明對比,經驗或數據驅動模型首先從數據出發。這其中就包括機器學習模型,其算法通過輸入足夠的高質量樣本來學習系統的基礎邏輯或規則。當人類很難分析或定義系統的機制時,這樣的方法是很明智的。


數學模型的分類



機械模型對驅動系統的底層機制進行了假設,在物理學中很常用。實際上,數學建模是從 17 世紀人們試圖解開行星運動規律時才開始發展的。


經驗或數據驅動型建模,特別是機器學習,能夠讓數據來學習系統的結構,這個過程就叫做「擬合」。機器學習對於人類不確定如何將信號從噪聲中分離出來的複雜系統格外有效,只需要訓練一種聰明的算法,讓它來代替你做繁瑣的事情。


機器學習任務廣義上可以分為:


如今機器學習和人工智慧系統在日常生活中隨處可見。從亞馬遜、蘋果和谷歌的語音助手到 Instagram、Netflix 和 Spotify 的推薦引擎,再到 Facebook 和 Sony 的人臉識別技術,甚至特斯拉的自動駕駛技術,所有這些都是由嵌入在大量代碼下的數學與統計模型驅動的。我們可以進一步將機械模型和經驗模型分為確定性模型(預測是固定的)和隨機性模型(預測包含隨機性)。確定性模型忽略隨機變化,在相同的初始條件下,總會預測出相同的結果。隨機模型則考慮了隨機變化,如系統中單個主體的異質性,比如人、動物、細胞之間就存在細微的差別。隨機性通常會在模型中引入一些現實性,但同時也存在一定的代價。在數學建模中,我們需要考慮模型的複雜性:簡單的模型易於分析,但可能缺乏預測能力;複雜的模型具有現實性,但嘗試弄清楚模型背後的原理也很重要。因此,我們需要在簡單性和可分析性之間進行權衡,正如統計學家 George Box 所說:在機器學習和統計學中,模型複雜度被稱為「偏差 - 方差權衡」。高偏差模型過於簡單,導致欠擬合,高方差模型存儲的是噪聲而不是信號(即系統的實際結構),會導致過擬合。該方程涉及農業、生物學、經濟學、生態學、流行病學等領域。logistic 模型的一個例子是哈伯特峰值石油模型。1956 年,石油地質學家 Marion Hubbert 為德克薩斯州的石油生產量創建了一個預測數學模型。如果右邊是 rP,則石油生產量將會成倍增長。但是 Hubbert 知道油量一共只有 K=200 gigabarrels。隨著時間的流逝,開採石油變得越來越困難,因此生產率 dP/dt 有所下降。(1-P/K) 項說明了資源有限的觀察結果。注意,在考慮實際數據之前,我們就已經推斷出石油開採的機制。代表生產率的參數 r=0.079 是從 50 年的數據中推斷出來的。代表石油總量的參數 K=200,這是系統的穩定狀態。機器學習模型很難學習嵌入到微分方程中的邏輯所捕獲的潛在機制。從本質上講,任何算法都需要僅基於 1956 年之前存在的數據(綠色)預測能夠出現的最大值:完整起見,本文作者訓練了一些多項式回歸、隨機森林、梯度提升樹。注意只有多項式回歸會外推超出原始數據範圍。多項式回歸可以很好地捕獲信號,但是這種二次函數(圖像為拋物線)在 1970 年達到 Peak Oil 之後,不可能再度凹回去。紅色曲線只會越來越高,表示採油量接近無窮大。當人類很難捕捉和定義系統的規則和機制時,機器學習方法就會大放異彩。也就是說,從噪聲中提取信號的方法超出了人們的努力範疇,更好的方法是讓機器通過使用高質量示例來學習規則和信號,這就是用數據訓練機器。數據越好,結果就越好。神經網絡作為學術和應用機器學習領域的先鋒,能夠捕捉到驚人的複雜性。求解 logistic 微分方程,並繪製 P(t) 和 P』(t)上文介紹了 logistic 微分方程,並立即繪製了其解 P(t) 及其導數 dP/dt。這中間省略了一些步驟,詳細操作方法如下。首先將微分方程編程到 Python 或 Matlab 中,在將 dP/dt 繪製為 t 的函數之前,使用數值求解器獲得 P(t)。此處使用了 Python。該系統可以使用分離變量法求得解析解。請注意:大多數微分方程無法求得解析解。對此,數學家一直在尋找求解析解的方法。以紐西蘭科學家 Roy Kerr 為例,他發現了愛因斯坦場方程的一組精確解,進而使人類發現了黑洞。但還好,logistic 微分方程中有一些是具有確切解的。首先把所有含有 P 的項移到等式左邊,含有 t 的項移到等式右邊:將二者整合到一起可得到通解,即滿足微分方程的一組無窮多個函數。微分方程總是有無窮多個解,由一系列曲線以圖像的方式給出。這兩個公式對應上述 logistic 曲線和類高斯曲線。
在機械建模中,對驅動系統的基本機制進行假設之前,研究者會仔細觀察並研究現象,然後用數據驗證模型,驗證假設是否正確。如果假設正確,皆大歡喜;如果錯誤,也沒關係,建模本身就是要反覆試驗的,你可以選擇修改假設或者從頭開始。在數據驅動的建模中,我們讓數據來構建系統的藍圖。人類要做的是為機器提供高質量、有代表性並且數量足夠多的數據。這就是機器學習。在人類難以觀察到現象本質時,機器學習算法可以從噪聲中提取信號。神經網絡和強化學習是當下熱門的研究領域,它們能夠創建具有驚人複雜性的模型。而 AI 革命尚在繼續。




目前已有230+位成員,

快快加入吧!

近40+位嘉賓,

查看嘉賓信息

根據嘉賓的擅長領域提問、探討,

不止於氣象。

1.提供純粹小範圍的交流空間,高質量信息;

2.分享氣象相關領域最新資訊並進行探討;

3.集中且有深度地回復大家提出的各種問題;

4.結識國內外氣象圈志趣相投的本碩博朋友;

5.獲取就業資訊和工作內推資格;

6.了解學術相關動態,並且探討相關細節;

7.提供相關氣象業務需求對接;

8.為考研/博、導師選擇等提供指導意見;

9.分享學術文章、專業書籍等資源;

10.閒聊氣象人的生活、工作、家庭等等;

.



    歡迎加入氣象學家交流群   


請備註:姓名/暱稱-單位/學校-研究方向

(未備註的不通過申請)



相關焦點

  • 微分方程VS機器學習,實例講解二者異同
    編輯:小舟微分方程與機器學習作為 AI 領域建模的兩種方法,各自有什麼優勢?微分方程(DE)與機器學習(ML)類數據驅動方法都足以驅動 AI 領域的發展。二者有何異同呢?本文進行了對比。微分方程模型示例納維-斯託克斯方程(氣象學)這一模型被用於天氣預測。它是一個混沌模型,當輸入存在一點點不準確,預測結果就會大相逕庭。這就是為什麼天氣預報經常是錯誤的,天氣模擬使用超級計算機完成。
  • 世界級千禧難題— 「納維-斯託克斯方程」
    1826年納維確認彈性模量是材料的一個基本屬性,和物體的截面二次軸矩無關,因此納維也是結構分析的創始者之一。當然,納維主要的貢獻還是納維-斯託克斯方程,是流體力學的理論中心。由於其卓越的貢獻,納維也是法國艾菲爾鐵塔上所刻的72人名字之一(還有拉格朗日,拉普拉斯,傅立葉等大家)。
  • 世界級千禧難題「納維-斯託克斯方程」:數學史上最複雜的公式
    數學家和物理學家深信,無論是微風還是湍流,都可以通過理解納維-斯託克斯方程的解,來對它們進行解釋和預言。雖然這些方程是19世紀寫下的,我們對它們的理解仍然極少。挑戰在於對數學理論作出實質性的進展,使我們能解開隱藏在納維葉-斯託克斯方程中的奧秘。
  • 一個方程的故事:納維-斯託克斯方程
    但意外的是,這個方程的數學特性——解的存在性和光滑性至今沒有得到證明。納維-斯託克斯存在性與光滑性是有關納維-斯託克斯方程其解的數學性質有關的數學問題。方程可以描述空間中流體(液體或氣體)的運動。納維爾-斯託克斯方程式的解可以用到許多實際應用的領域中。
  • 說說納維爾-斯託克斯方程(Navier-Stokes Equations)
    但意外的是,這個方程的數學特性——解的存在性和光滑性至今沒有得到證明。       納維-斯託克斯存在性與光滑性是有關納維-斯託克斯方程其解的數學性質有關的數學問題。方程可以描述空間中流體(液體或氣體)的運動。納維爾-斯託克斯方程式的解可以用到許多實際應用的領域中。
  • 最新研究:新的深度學習技術破解偏微分方程的數學難題
    偏微分方程指含有未知函數及其偏導數的方程,描述自變量、未知函數及其偏導數之間的關係,符合這個關係的函數是方程的解。偏微分方程很神奇,非常擅長描述隨時間和空間的變化,因此對於描述種種現象非常有用,可用於描述從行星運動、天氣變化、到隨時空結構變化的所有事物,但是眾所周知,它們很難求解。譬如說,假設嘗試模擬空氣湍流,有一個稱為納維-斯託克斯(Navier-Stokes)的方程,用於描述任何流體的運動。
  • 困擾人類200年,數學史最難最複雜的公式之一:納維-斯託克斯方程
    可以說,該方程在流體力學中起著基礎性的作用,但也起著決定性的作用。關於這組方程所涉及的難題就是,如何用數學理論闡明這組方程。對,甚至用數學理論闡明用於描述奇特黑洞的愛因斯坦場方程都會比闡述納維-斯託克斯方程更簡單一些。所以有關納維-斯託克斯方程其解的數學性質有關的數學問題被稱為納維-斯託克斯方程解的存在性與光滑性。
  • 用MATLAB巧解微分方程實例分析
    MATLAB巧解微分方程實例分析王少華 西安電子科技大學 微分方程求解難,字母一堆看著煩。寫錯數字一時爽,一直寫錯一直爽。還記得那是大一第一學期快結束了,學到微分方程那了,學時挺高興的,看老師那刷刷地,那麼長的方程半個黑板就解完了,黑板上那叫一個主次分明,結構清晰,什麼特徵方程,齊次通解,非齊次特解,然後倆一加就是非齊次通解。心想挺簡單的嘛。(後來自己算時才知道什麼叫「真香」)回去有作業題,第一道是齊次微分方程,立刻換元,化成可分離變量的微分方程,一會兒結果就出來了。
  • 求解微分方程
    微分方程。微分方程中出現的未知函數的最高階導數的階數稱為微分方程的階。按照不同的分類標準,微分方程可以分為線性或非線性,齊次或非齊次。一般地,微分方程的不含有任意常數的解稱為微分方程的特解,含有相互獨立的任意常數,且任意常數的個數與微分方程階數相等的解稱為微分方程的通解(一般解)。下面介紹微分方程的求解方法。
  • AI解微分方程,數學是這樣一步步「淪陷」的
    今天我們就簡單梳理一下機器學習解方程的近些年最新進展。首先,先得說明,所謂的AI解方程,解的可不是簡單的數值方程!人家正經求解的是面對實際工程問題的偏微分方程,又稱PDE。什麼是偏微分方程呢?同時,最廣為人知,尤其是應用最廣泛的要屬描述流體行為的納維-斯託克斯方程了,簡稱N-S方程。這個方程很複雜並且具有很強的非線性,它的一般形式是△ N-S方程在汽車工程中的應用N-S方程已經被大量的應用在天氣預測、洋流建模、飛行器設計、船舶設計等工程領域。
  • 偏微分方程:一門揭示宇宙奧秘、改變世界面貌的科學
    其實,偏微分方程這門數學學科的出現和興起,並不是從偏微分方程的上述廣泛的定義出發的,恰恰相反,是源於實踐及應用需要的驅動,才使少數一些具特殊類型的偏微分方程引起了人們普遍的關注,成了反覆深入研究的對象,從而逐漸形成了氣候,而對其他種種 「可能」 出現的偏微分方程卻根本置之不顧。 自18世紀中葉開始對偏微分方程開展研究以來,人們的興趣長期集中在下面幾種典型的偏微分方程上。
  • 偏微分方程:一門揭示宇宙奧秘、改變世界面貌的科學
    這樣來界定偏微分方程,其研究的目標和對象就太寬泛了,很難得到深入的結果。其實,偏微分方程這門數學學科的出現和興起,並不是從偏微分方程的上述廣泛的定義出發的,恰恰相反,是源於實踐及應用需要的驅動,才使少數一些具特殊類型的偏微分方程引起了人們普遍的關注,成了反覆深入研究的對象,從而逐漸形成了氣候,而對其他種種 「可能」 出現的偏微分方程卻根本置之不顧。
  • MATLAB建模實例——微分方程
    ❞1 微分方程的解析解求微分方程(組)的解析解命令:dsolve(『方程1』,『方程2』,…『方程n』,『初始條件',『自變量』)記號: 在表達微分方程時,用字母D表示求微分,D2、D3等表示求高階微分.任何D後所跟的字母為因變量,自變量可以指定或由系統規則選定為確省。
  • 機器學習與流體動力學:谷歌AI利用「ML+TPU」實現流體模擬數量級加速
    不可壓縮流體通常由如上納維 - 斯託克斯方程來建模。在較長模擬中,該方法仍能保持穩定,並泛化至訓練所用流以外的力函數(forcing function)和雷諾數,這與黑箱機器學習方法正相反。此外,該方法還具備通用性,可用於任意非線性偏微分方程。
  • AI已能求解微分方程,數學是這樣一步步「淪陷」的
    今天我們就簡單梳理一下機器學習解方程的近些年最新進展。首先,先得說明,所謂的AI解方程,解的可不是簡單的數值方程!人家正經求解的是面對實際工程問題的偏微分方程,又稱PDE。什麼是偏微分方程呢?它所謂的非線性是方程第二項uux造成的:因為變量與導數相乘使得他沒辦法因式分解,導致我們難以求解。怎麼辦?目前來說最常用的方法就是直接對這類方程進行離散求數值解。同時,最廣為人知,尤其是應用最廣泛的要屬描述流體行為的納維-斯託克斯方程了,簡稱N-S方程。
  • 描述物質運動變化的數學學科:常微分方程、偏微分方程
    隨著分析學對函數引入微分運算,表示未知函數的導數以及自變量之間的關係的方程進入數學家的視野,這就是微分方程。微分方程的形成與發展與力學、天文學、物理學等科學技術的發展密切相關。因為在現實的世界中,物質的運動及其變化規律在數學上是用函數關係來描述的,這意味著問題的解決就是要去尋求滿足某些條件的函數,而這類問題就轉換為微分方程的求解問題。
  • 《歐拉方程及微分方程建模》思路與方法
    【注】歐拉方程其實就是一種線性微分方程的結構,只不過不具有直接的顯性結果,需要換元變換得到。 二、常係數線性微分方程組舉例常係數線性微分方程組解法步驟:第一步:用消元法消去其他未知函數 , 得到只含一個函數的高階方程; 第二步:求出此高階方程的未知函數;
  • 常微分方程第三版答案
    《常微分方程(第3版)》是原中山大學數學力學系常微分方程組編《常微分方程》1978年初版及1983年第二版後的新修訂版。考慮到二十多年科學技術的發展,除儘量保持原書結構與易學易教的特點外,在教學時數不增加及內容可選的前提下,適當補充應用實例、非線性內容及計算機應用,包括分支、混沌、哈密頓方程、數值解等;並增加數學軟體在常微分方程中應用作為附錄;同時在緒論中簡單介紹了常微分方程的發展歷史和在數學中的地位,書後附習題答案及參考文獻。