偏微分方程指含有未知函數及其偏導數的方程,描述自變量、未知函數及其偏導數之間的關係,符合這個關係的函數是方程的解。
偏微分方程很神奇,非常擅長描述隨時間和空間的變化,因此對於描述種種現象非常有用,可用於描述從行星運動、天氣變化、到隨時空結構變化的所有事物,但是眾所周知,它們很難求解。
譬如說,假設嘗試模擬空氣湍流,有一個稱為納維-斯託克斯(Navier-Stokes)的方程,用於描述任何流體的運動。通過解此偏微分方程,可以得知任何時間點的流體運動,並模擬將如何繼續運動或之前是如何運動的。
但這些計算非常複雜且計算量很大,所以常常依賴超級計算機來進行數學運算。這就是人工智慧領域可以發揮作用的地方。通過使用深度學習來加快解決的速度,將對科學探索和工程應用產生很大的好處。
現在,加州理工學院的研究人員推出了一種用於解決偏微分方程的新的深度學習技術,該技術比以前開發的深度學習方法精確得多,還具有更為廣泛的通用性,無需重新訓練即可解決整個偏微分方程系列,例如適用於任何類型流體的納維-斯託克斯方程。而且,它比傳統的數學方式快上千倍,從而減輕對超級計算機的依賴,並提高為更難的問題建模的計算能力。
在介紹這個解決偏微分方程的新的深度學習技術之前,首先欣賞一下結果,在下面的動畫中,可以看到令人印象深刻的結果。左邊第一列顯示了流體運動的兩種初始條件;中間第二列顯示了流體的實際連續運動;右邊第三部分顯示新的深度學習技術的神經網絡如何預測流體的運動,它看起來基本上與中間第二列的實際運動幾乎完全相同。
這個解決偏微分方程的新的深度學習技術的神經網絡是什麼樣的呢?簡單來講,神經網絡從根本上說是一種函數逼近器,當訓練一對成對的輸入和輸出的數據集時,實際上是在計算該函數或一系列數學運算,將一個轉換逼近為另一個。
譬方說,考慮識別狗,通過向神經網絡提供各種狗的圖像(輸入)並分別用1或0標記每個組(輸出)來訓練神經網絡。然後,神經網絡尋找最佳功能,該功能可以將狗的每張圖像都轉換為1,將其它都轉換為0。這就是它如何看待新圖像並告訴是什麼樣的狗。它使用發現的功能來計算答案,如果訓練得當,大多數情況下都是正確的。
從數學上講,這是一個函數逼近過程,是解決偏微分方程所需要的,最終將嘗試找到最能描述在物理空間和時間上的函數。
通常訓練神經網絡是通過近似歐幾裡得空間中定義的輸入和輸出之間的函數,具有x,y和z軸的經典圖形。但是在該研究中,研究人員決定在傅立葉空間中定義輸入和輸出,這是一種用於繪製波頻率的特殊圖形。
為什麼這很重要?因為在傅立葉空間中逼近傅立葉函數比在歐幾裡得空間中與偏微分方程糾纏要容易得多,這極大地簡化了神經網絡的工作,同時準確性和效率提高:除了相對於傳統方法的巨大速度優勢外,這一技術在解決納維-斯託克斯方程時的錯誤率比以前的深度學習方法降低30%。
這樣的過程頗聰明,也使該方法更具通用性。研究實驗證實,以前的深度學習方法必須針對每種類型的流體分別進行訓練,而這種方法只需要訓練一次就可以處理所有流體。
參考:「Fourier Neural Operator for ParametricPartial Differential Equations」. https://arxiv.org/pdf/2010.08895.pdf
#機器學習#