最新研究:新的深度學習技術破解偏微分方程的數學難題

2020-12-03 量子認知

偏微分方程指含有未知函數及其偏導數的方程,描述自變量、未知函數及其偏導數之間的關係,符合這個關係的函數是方程的解。

偏微分方程很神奇,非常擅長描述隨時間和空間的變化,因此對於描述種種現象非常有用,可用於描述從行星運動、天氣變化、到隨時空結構變化的所有事物,但是眾所周知,它們很難求解。

譬如說,假設嘗試模擬空氣湍流,有一個稱為納維-斯託克斯(Navier-Stokes)的方程,用於描述任何流體的運動。通過解此偏微分方程,可以得知任何時間點的流體運動,並模擬將如何繼續運動或之前是如何運動的。

但這些計算非常複雜且計算量很大,所以常常依賴超級計算機來進行數學運算。這就是人工智慧領域可以發揮作用的地方。通過使用深度學習來加快解決的速度,將對科學探索和工程應用產生很大的好處。

現在,加州理工學院的研究人員推出了一種用於解決偏微分方程的新的深度學習技術,該技術比以前開發的深度學習方法精確得多,還具有更為廣泛的通用性,無需重新訓練即可解決整個偏微分方程系列,例如適用於任何類型流體的納維-斯託克斯方程。而且,它比傳統的數學方式快上千倍,從而減輕對超級計算機的依賴,並提高為更難的問題建模的計算能力。

在介紹這個解決偏微分方程的新的深度學習技術之前,首先欣賞一下結果,在下面的動畫中,可以看到令人印象深刻的結果。左邊第一列顯示了流體運動的兩種初始條件;中間第二列顯示了流體的實際連續運動;右邊第三部分顯示新的深度學習技術的神經網絡如何預測流體的運動,它看起來基本上與中間第二列的實際運動幾乎完全相同。

這個解決偏微分方程的新的深度學習技術的神經網絡是什麼樣的呢?簡單來講,神經網絡從根本上說是一種函數逼近器,當訓練一對成對的輸入和輸出的數據集時,實際上是在計算該函數或一系列數學運算,將一個轉換逼近為另一個。

譬方說,考慮識別狗,通過向神經網絡提供各種狗的圖像(輸入)並分別用1或0標記每個組(輸出)來訓練神經網絡。然後,神經網絡尋找最佳功能,該功能可以將狗的每張圖像都轉換為1,將其它都轉換為0。這就是它如何看待新圖像並告訴是什麼樣的狗。它使用發現的功能來計算答案,如果訓練得當,大多數情況下都是正確的。

從數學上講,這是一個函數逼近過程,是解決偏微分方程所需要的,最終將嘗試找到最能描述在物理空間和時間上的函數。

通常訓練神經網絡是通過近似歐幾裡得空間中定義的輸入和輸出之間的函數,具有x,y和z軸的經典圖形。但是在該研究中,研究人員決定在傅立葉空間中定義輸入和輸出,這是一種用於繪製波頻率的特殊圖形。

為什麼這很重要?因為在傅立葉空間中逼近傅立葉函數比在歐幾裡得空間中與偏微分方程糾纏要容易得多,這極大地簡化了神經網絡的工作,同時準確性和效率提高:除了相對於傳統方法的巨大速度優勢外,這一技術在解決納維-斯託克斯方程時的錯誤率比以前的深度學習方法降低30%。

這樣的過程頗聰明,也使該方法更具通用性。研究實驗證實,以前的深度學習方法必須針對每種類型的流體分別進行訓練,而這種方法只需要訓練一次就可以處理所有流體。

參考:「Fourier Neural Operator for ParametricPartial Differential Equations」. https://arxiv.org/pdf/2010.08895.pdf

#機器學習#

相關焦點

  • 偏微分方程 學習筆記
    有一句話叫做「數學是大自然的語言,而偏微分方程則是大自然的語法」,從此足以看出偏微分方程在自然界中的廣泛應用。無論是工程領域,量子領域,還是金融領域等,都有著偏微分方程的影子。偏微分方程理論研究的發展,更是衍生出了一系列新的研究領域,例如金融工程這一學科,開始獨立於傳統的金融學,就得益於偏微分方程應用到了期權定價當中,從而催生出了現代金融理論。
  • 北洋數學講堂 江松院士帶你探索偏微分方程
    本站訊(通訊員趙亞璁 攝影劉麗麗)它是數學的一個古老分支,它是推動眾多領域發展的數學模型,它也是極具挑戰的世界級公認難題,它就是偏微分方程(Partial Differential Equation,PDE)。
  • 描述物質運動變化的數學學科:常微分方程、偏微分方程
    微分方程的發展歷程:  蘇格蘭數學家耐普爾創立對數時,就對微分方程的近似解進行了討論;牛頓用級數求解簡單的微分方程;瑞士數學家雅各布·貝努利、歐拉、法國數學家克雷洛、達朗貝爾、拉格朗日等人不斷地研究和豐富了微分方程的理論;複變函數、李群、組合拓撲學等數學分支的新發展,深刻影響了微分方程的發展;計算機成為微分方程的應用及理論研究的有力工具。
  • 數學與統計學院青年教師張凱在偏微分方程理論研究方面取得突破
    西工大新聞網6月9日電(郭千橋)近日,數學與統計學院分析與幾何研究團隊助理教授張凱與合作者在偏微分方程正則性理論研究方面取得突破,研究論文「Boundary Hölder Regularity for Elliptic
  • 科學大講堂 | 中科院院士、應用數學與計算數學專家江松院士闡述偏微分方程的應用、分析與數值
    講座中,江松院士首先介紹了什麼是偏微分方程(PDE),指出偏微分方程是一門非常古老的學科,是一種具有實際物理背景,蘊含信息非常廣泛的一類方程,並介紹了各種各樣用於描述世間萬物的偏微分方程,以及偏微分方程如何逐漸地從一個單一的學科變成研究解決其他數學分支(如幾何,拓撲,動力系統,概率統計等)問題的一個關鍵工具
  • 天生一對,硬核微分方程與深度學習的「聯姻」之路
    在眾多演講中,我們發現董彬老師介紹的微分方程非常有吸引力,它對於探索新的深度學習架構、構建更高性能的深度學習模型非常有幫助。因此在這篇文章中,我們重點關注微分方程在深度學習中的應用,看起來,它們確實是天生一對的組合。微分方程與深度學習深度學習還能與微分方程相結合?
  • 偏微分方程的數值解之偏微分方程的定解問題
    自然科學與工程技術中種種運動發展過程與平衡現象各自遵守一定的規律。這些規律的定量表述一般地呈現為關於含有未知函數及其導數的方程。我們將只含有未知多元函數及其偏導數的方程,稱之為偏微分方程。方程中出現的未知函數偏導數的最高階數稱為偏微分方程的階。如果方程中對於未知函數和它的所有偏導數都是線性的,這樣的方程稱為線性偏微分方程,否則稱它為非線性偏微分方程。
  • 學習一種更出色的偏微分方程求解模擬方法
    所有這些現象均通過偏微分方程 (Partial Differential Equations, PDE) 建模,這類方程用於描述現實世界中所有平滑而連續的事物,以及科學和工程領域中最常見一類的模擬問題。
  • [基礎理論]偏微分方程的類型
    偏微分方程(PDE)是真實世界常見現象的一種數學語言描述,二階偏微分方程始終是重要的研究對象。
  • 微分方程:極富生命力,包羅萬象的數學分支
    ;複變函數、李群、組合拓撲學等數學分支的新發展,深刻影響了微分方程的發展;計算機成為微分方程的應用及理論研究的有力工具。1746年,在論文《張緊的弦振動時形成的曲線的研究》中提議證明:無窮多種和正弦曲線不同的曲線是振動的模式;瑞士數學家丹尼爾·貝努利通過研究數學物理方面的問題,提出了解彈性系振動問題的一般方法;拉格朗日對一階偏微分方程進行了討論。
  • 偏微分方程:作用、分析與數值求解
    報告題目:偏微分方程:作用、分析與數值求解 報 告 人:江松 研究員 北京應用物理與計算數學研究所 報告時間:2020年9月27日9:00 報告地點:數學學院二樓報告廳 校內聯繫人:張然zhangran@jlu.edu.cn 報告摘要: 科學與工程技術
  • 偏微分方程:一門揭示宇宙奧秘、改變世界面貌的科學
    由於多元函數在應用中的重要性,對其研究必然會引起極大的重視。這比研究一元函數要困難得多,對數學也提出了新的發展機遇與挑戰。在一元函數的情形,如果在決定未知函數的方程中包括其某些導數,則稱其為常微分方程。求解相應的常微分方程得到其解,即得到所求的未知函數,已經對解決很多應用問題帶來了極大的推動與幫助。
  • 王明新——東南大學——非線性偏微分方程和生物數學
    性別: 男       出生年月: 1957-03 所在院校: 東南大學       所在院系: 數學系 職稱: 教授       招生專業: 應用數學
  • 2019年河南大學非線性偏微分方程研討會在我校舉行
    為了加強國內外非線性偏微分方程及相關領域的學術交流與合作,促進我校數學學科發展,助力我校「雙一流」>建設,5月24日至5月26日,數學與統計學院舉辦2019年河南大學非線性偏微分方程研討會。會議開幕式由數學與統計學院韓小森教授主持。本次研討會主題包括流體力學中的若干偏微分方程、非線性分析與橢圓問題以及幾何分析。國內外近20位相關專家學者受邀參加此次會議以交流非線性偏微分方程相關領域中的最新研究進展。院長馮淑霞致辭中簡要介紹了數學與統計學院的建設發展情況。
  • 「隨機偏微分方程數值計算研討會」在吉林大學召開
    9月14日—9月15日,由國家自然科學基金數學天元基金和吉林大學共同資助,天元數學東北中心和吉林大學數學學院聯合承辦的「隨機偏微分方程數值計算研討會
  • 「2019非線性偏微分方程理論及其應用學術研討會」在閩南師大舉辦
    中國教育在線訊 10月4日—5日,由廈門大學數學科學學院和閩南師範大學數學與統計學院聯合主辦的「2019非線性偏微分方程理論及其應用學術研討會」在閩南師大舉辦。來自香港中文大學、南京大學、中山大學、哈爾濱工程大學、廈門大學等16所高校的40餘名專家學者齊聚一堂,共同就流體力學方程、等離子體物理中的偏微分方程,以及相關的數學物理研究領域中的最新研究成果和研究動態進行交流研討。  閩南師大校長李順興,「閩江學者」特聘教授、廈門大學科技處處長譚忠教授分別在開幕式上致辭。
  • 偏微分方程(組)的數值解法介紹
    我們知道物理現象中很多問題可以用偏微分方程描述,例如振動、熱傳導、擴散等。一些典型物理方程的構建及解析解法,有興趣的用戶可參考顧樵編著的《數學物理方法》。涉及到多變量或多領域的偏微分方程就存在著變量的耦合,很難用數解析解法或無法用解析解法求得耦合偏微分方程解,此時就需要我們是用數值解法進行求解,本文的主題就放在耦合的偏微分方程組的數值解法介紹上。
  • 偏微分方程高效數值方法研討會在烏魯木齊召開
    8月13日至18日,由973計劃項目「適應於千萬億次科學計算的新型計算模式」組織發起的國際會議偏微分方程高效數值方法研討會在烏魯木齊召開。來自美國、英國、德國、瑞士、挪威、中國香港、中科院數學與系統科學研究院(以下簡稱中科院數學院)、北京應用物理與計算數學所、新疆大學等國內外高校和科研單位的50多名專家學者參加了會議。
  • 2018考研數學微分方程
    考研數學:考研數學複習先了解考察特點,命題趨勢,再對症下藥的複習,這樣才能提升效率。本文為廣大考生整理2018考研數學微分方程,更多考研數學怎麼複習、考研數學題型、考研數學大綱、考數學試題等備考資料,歡迎訪問北京研究生招生信息網。
  • 「神經常微分方程」提出者之一:如何利用深度微分方程模型處理連續...
    多倫多大學助理教授、向量學院聯合創始人、NeruIPS 2018 最佳論文獎得主,將帶著對微分方程和連續時間的最新思考出現在 WAIC 開發者日。提到 David Duvenaud 你或許有些陌生,但最近大熱的「神經常微分方程」想必你一定聽說過。