Google發布神經天氣模型,幾秒鐘預測整個美國的降水量

2020-12-01 雷鋒網

準確預測未來幾分鐘到幾周的天氣是一項基本的科學挑戰,它可以對社會的許多方面產生廣泛影響。

很多氣象機構目前採用的預報是基於大氣的物理模型。儘管在過去幾十年有很大的改進,但這些模型本身受到計算要求的限制。並且,它們對物理定律的近似值非常敏感。

另一種能夠克服這些限制的天氣預報方法是使用深神經網絡(DNNs)。DNNs 在強大的專用硬體(如 GPU 和 TPU)上使用並行計算,發現數據中的模式,並學習從輸入到所需輸出的複雜轉換。

近日,在先前對降水量預報的研究基礎上,Google 提出了 MetNet,這是一種用於降水預報的神經天氣模型。這種 DNN 能夠在未來 8 小時內以 1km 的解析度預報降水量,時間間隔為 2 分鐘。MetNet 的預測時間比 NOAA 目前使用的最先進的基於物理的模型提前了 7-8 小時。它可以在幾秒鐘內對整個美國的降水量進行預測,而 NOAA 需要花費一小時。

網絡的輸入來自雷達站和衛星網絡,無需人工標註。模型輸出是一個概率分布,Google 用它來推斷每個地理區域的降水率和相關的不確定性。下圖提供了該網絡對美國大陸的預測示例。

MetNet 模型預測結果與 NOAA 多雷達/多傳感器系統(MRMS)測量的地面真實值進行了比較。MetNet 模型(上圖頂部)顯示了從 2 分鐘到 480 分鐘前預測的每小時 1 毫米降水的概率,而 MRMS 數據(上圖底部)顯示了在同一時間段內接收到至少每小時 1 毫米降水的區域。

神經天氣模型

MetNet 不依賴於大氣動力學領域的物理定律,它是通過反向傳播學習,直接從觀測數據中預測天氣。該網絡使用由多雷達/多傳感器系統(MRMS)組成的地面雷達站,以及提供大氣中雲層自頂向下的視圖的衛星系統測量得出的降水量估計值。這兩個數據源均覆蓋美國大陸,並提供可由網絡有效處理的圖像類輸入。

該模型每 64km*64km 執行一次,覆蓋整個美國,其解析度為 1 km。然而,與這些輸出區域相比,輸入數據的實際物理覆蓋範圍要大得多,因為它必須考慮到在進行預測的時間段內雲和降水場的可能運動。

例如,假設雲以每小時 60km 的速度移動,為了作出可靠的預測,捕捉到 8 小時前的大氣時間動態,模型需要 60*8=480km 的全方位空間背景。因此,要達到這個程度,需要 1024km*1024km 區域中的信息來對中心 64km*64km 補丁進行預測。

包含衛星和雷達圖像(1024 *1024 平方公裡)的輸入補丁和輸出預測雷達圖像(64*64 平方公裡)

由於以全解析度處理  1024km*1024km 的區域需要大量內存,因此研究人員使用空間下採樣器,通過減少輸入面片的空間維度來減少內存消耗。同時,在輸入中查找並保留相關的天氣模式。然後沿降採樣輸入數據的時間維度應用時間編碼器,對 90 分鐘輸入數據的 7 個快照進行編碼,編碼片段長度為 15 分鐘。時間編碼器採用卷積 LSTM 實現,該卷積 LSTM 特別適合於圖像序列。

然後,時間編碼器的輸出被傳遞到空間聚集器,空間聚集器使用軸向自關注,有效地捕獲數據中的長距離空間依賴性,並基於輸入目標時間使用可變數量的上下文,以在 64km*64km 的輸出上進行預測。

這種結構的輸出是一個離散的概率分布,估計美國大陸每平方公裡的給定降水率的概率。

神經氣象模型 MetNet 的結構

結果

研究人員根據一個降水率預測基準對 MetNet 進行評估,並將結果與兩個基線進行比較:NOAA 高解析度快速刷新 HRRR 系統,這是目前在美國運行的物理天氣預測模型;一個估計降水場運動(即光流)的基線模型,它是一種在預測時間少於 2 小時時,表現也很好的方法。

Google 的神經天氣模型的一個顯著優點是,它是為密集並行計算而優化的,並且非常適合在專用硬體(如 TPU)上運行。無論是針對紐約市這樣的特定地點還是針對整個美國,預測可以在幾秒鐘內並行進行。而像 HRRR 這樣的物理模型在超級計算機上的運行時間約為一小時。

在下面的圖表中,研究人員量化了 MetNet、HRRR 和光流基線模型之間的性能差異。這裡展示了這三個模型所取得的性能,在降水率閾值為 1.0mm/h(相當於小雨)時使用 F1 分數進行評估。MetNet 神經天氣模型能夠在 8 小時內超過 NOAA-HRRR 系統,並且始終優於基於流量的模型。

1.0 mm/h 降水率(越高越好)下的 F1 得分評估性能。神經天氣模型(MetNet)比目前在美國運行的基於物理的模型(HRRR)的時間尺度要提前 8 小時。

由於大氣的隨機性,未來天氣狀況的不確定性隨著預測時間的延長而增加。

MetNet 是一個概率模型,隨著預測時間的延長,預測的不確定性在可視化中表現為預測的日益平滑。相反,HRRR 並不直接進行概率預測,而是會對未來的降水情況進行單一的預測。下圖比較了 MetNet 模型和 HRRR 模型的輸出。

從 NOAA MRMS 系統獲得的 MetNet(上)和 HRRR(下)到地面真值(中)的輸出之間的比較。注意,雖然 HRRR 模型預測的結構似乎更接近基本事實,但預測的結構可能嚴重錯誤。

與 MetNet 模型相比,HRRR 物理模型的預測更清晰、更結構化。但其結構,特別是預測結構的準確時間和位置的精度較低。這是由於初始情況和模型參數的不確定性造成的。

HRRR(左)從許多可能的結果中預測單個潛在的未來結果(紅色),而 MetNet(右)通過分配未來結果的概率直接解釋不確定性。

研究人員對 HRRR 和 MetNet模型之間進行了比較,感興趣的可以打開視頻觀看:https://youtu.be/-dAvqroX7ZI

未來方向

Google 正在積極研究如何改進全球天氣預報模型,尤其是在氣候快速變化很大的地區的準確性。雖然上文展示了美國大陸目前的 MetNet 模型,但它可以擴展到任何有足夠雷達和光學衛星數據的地區。本文提出的工作是這一努力的一個小小的墊腳石,Google 希望通過今後與氣象界的合作,能夠帶來更大的改進。

via:https://ai.googleblog.com/2020/03/a-neural-weather-model-for-eight-hour.html 

雷鋒網雷鋒網(公眾號:雷鋒網)雷鋒網

雷鋒網版權文章,未經授權禁止轉載。詳情見轉載須知。

相關焦點

  • Google發布神經天氣模型 幾秒鐘預測整個美國降水量
    原標題:Google發布神經天氣模型 幾秒鐘預測整個美國的降水量 來源:雷鋒網準確預測未來幾分鐘到幾周的天氣是一項基本的科學挑戰,它可以對社會的許多方面產生廣泛影響。很多氣象機構目前採用的預報是基於大氣的物理模型。儘管在過去幾十年有很大的改進,但這些模型本身受到計算要求的限制。並且,它們對物理定律的近似值非常敏感。
  • Google發布神經網絡天氣模型 幾秒鐘預測整個美國的降水量!
    準確預測未來幾分鐘到幾周的天氣是一項基本的科學挑戰,它可以對社會的許多方面產生廣泛影響。據外媒報導,近日,在先前對降水量預報的研究基礎上,Google提出了MetNet,這是一種用於降水預報的神經天氣模型。
  • Google推出神經天氣預報模型:幾秒就能快速預測降水量
    準確預測未來幾分鐘到幾周的天氣是一項基本的科學挑戰,它可以對社會的許多方面產生廣泛影響。據外媒報導,近日,在先前對降水量預報的研究基礎上,Google提出了MetNet,這是一種用於降水預報的神經天氣模型。
  • 谷歌天氣模型MetNet 可預測未來8小時降水量
    在最新一期谷歌AI博客中,官方介紹了一款可以快速準確預測未來8小時內將水量的天氣模型MetNet,並表示該模型性能優於美國國家海洋和大氣管理局(NOAA)目前使用的最先進的物理模型,MetNet能在幾秒鐘內對整個國家進行預測,而此前則需要一個小時左右。
  • 谷歌研發8小時降水預報神經天氣模型
    準確預測未來幾分鐘到幾周的天氣是一項基本的科學挑戰,可對社會的許多方面產生廣泛影響。目前很多氣象機構的預報是基於大氣物理模型,雖然幾十年來預報技術取得了很大的進展,但是仍受物理定律和計算需求的限制。
  • 谷歌發布又快又準的神經天氣模型,可精準預測未來8小時降雨
    Google基於之前以機器學習即時預測降雨的研究,進一步發展用於降雨預報的神經天氣模型MetNet,這是一個深度神經網絡(DNN),能用來預報未來8小時內的降雨情況,以每2分鐘為一個區間,解析度可達1公裡,且比起美國國家海洋與大氣管理局(NOAA)目前最先進物理模擬模型表現還要好,計算時間只需要幾秒鐘
  • 江蘇省氣象臺發布本周降水量預測
    江蘇省氣象臺剛剛發布本周降水量預測:本周天氣預報前期(7月13日至16日)沿江和蘇南地區多降水天氣,累積雨量100~160毫米,局部200毫米左右,7月18日至19日暖溼氣流北抬,淮北地區有一次中等降水過程,同時,淮河以南局部地區有強雷電、短時強降水、8~10級雷雨大風等強對流天氣。
  • 如何評價Google神經機器翻譯(GNMT)系統?
    幾年前,Google開始使用循環神經網絡來直接學習一個輸入序列(如一種語言的一個句子)到一個輸出序列(另一種語言的同一個句子)的映射。其中基於短語的機器學習(PBMT)將輸入句子分解成詞和短語,然後對它們的大部分進行獨立翻譯,而神經網絡機器翻譯(NMT)則將整個輸入句子視作翻譯的基本單元。
  • 預測未來?Google 用 AI 模型實現了「近乎實時」的天氣預報
    對人類來說,時間一直是最大的敵人,超越時間一直是人類的夢想,「預測未來」就是人類想要超越時間的一種方式。天氣預報就是生活中最常見的一種「預測未來」,但就像剛才說的,預測天氣同樣也是非常困難的一件事。研究人員表示,快速的預測有著極大的現實意義,這將有效適應氣候變化,特別是極端天氣狀況下,快速預測會是一個非常重要的工具。短期預測對於某些危機規避有著很高的重要性,合適運用能夠有效避免生命和財產損失。Google 的預測最大優勢就是速度,然而這樣的速度是怎麼來的呢?
  • 神經網絡的性能竟然優於神經符號模型
    ,居然比神經符號模型還要低!不僅如此,實驗結果證實,神經網絡的在關鍵任務上的效果還要更好。不需要預先訓練,完全無監督,居然這麼神奇?按照之前的常識,結合了算法和符號推理技術的神經符號模型(Neurosymbolic Models),會比神經網絡更適合於預測和解釋任務,此外,神經符號模型在反事實方面表現更好。
  • 神經影像個體差異預測模型的十個簡單規則
    我們希望這十條規則將增加神經影像數據的預測模型的使用。然後將該模型應用於以前看不見的測試數據,以根據每個人的神經成像數據預測表型。根據模型驗證策略,對於訓練和測試數據的不同組合,該過程可以重複多次。最後,通過將預測的表型測量與實際的表型測量進行比較來評估模型的性能。換句話說,訓練數據用於定義模型,而測試數據用於評估其性能或預測能力。
  • 像天氣預報一樣,癲癇發作也可以提前幾天預測了
    像天氣預報一樣預測癲癇發作。相關論文於當地時間12月17日發表在《柳葉刀神經疾病學》雜誌上。論文合著者、加州大學舊金山癲癇中心(UCSF Epilegy Center)的神經科醫生Vikram Rao博士說:「近四十年來,研究者一直在竭力開發癲癇發作的早期預警系統,目前這種系統最多能在癲癇發作前幾秒鐘或幾分鐘向病人發出警告
  • 別再吐槽天氣預報不準了!這次,AI將帶來氣象預測服務進階
    通過將深圳近十年的氣象數據進行訓練,災害性天氣預測模型有望將預測準確率提升10%~20%。基於新的合作,一次模型訓練,能由原來的1—2個星期縮短至3天甚至是幾個小時。天氣預報為什麼還不夠準?AI技術如何使氣象預測完成「跨代升級」,甚至精準預測方圓一公裡內幾分鐘之後的天氣變化?背後又有什麼樣的行業內幕?這是智東西想要了解的真相,也是本文要探討的話題。
  • 基於深度神經網絡的脫硫系統預測模型及應用
    不過因其設計的網絡只使用了 LSTM 一種結構,神經網絡在結構設計上還有改進空間。基於上述分析,本文採用多種網絡結構和數據處理技術設計深度神經網絡模型,模型預測誤差水平和訓練代價顯著下降。目前主流的脫硫系統神經網絡模型也大都以脫硫率預測結果來評價模型的性能。故本模型將預測的出口SO2濃度轉化,增加脫硫率指標,一則貼近現場需求,二則方便與其他模型預測性能進行比較。
  • OpenAI發布「顯微鏡」,可視化神經網絡內部結構
    OpenAI Microscope顯微鏡地址:https://microscope.openai.com/models如上圖所示,初始版本包含8個計算機視覺領域的神經網絡模型。每個神經網絡都用可視化的形式展示了一些重要神經元的內部結構。
  • 谷歌研發新AI模型:可以實現即時天氣預報 預測未來六小時天氣
    近日,據外媒報導,Google AI發布一項新研究,稱可以「近乎即時」地預報天氣。谷歌的研究人員描述了如何能夠以僅數分鐘的計算,以1公裡的解析度提前六小時生成準確的降雨預測。
  • DeepMind推出蛋白質結構預測算法,大勝人類傳統模型!
    在過去的幾年裡,DeepMind公司開發的人工智慧AlphaGo已經在西洋棋和圍棋比賽中取得了超越人類的表現。而如今,DeepMind又向推動和加速新科學發現上邁出了重要的一步。前幾天,DeepMind宣布推出全新的AlphaFold系統,能夠預測並生成蛋白質的3D結構。
  • 神經網絡模型預測值 論文_bp神經網絡預測模型建模步驟 - CSDN
    每一個連接都有各自的權重,通常情況下是一些隨機值(關於如何對人工神經網絡的權重進行初始化是一個非常重要的話題,這將會直接影響到之後的訓練過程,以及最終整個模型的性能)。這個權重可以是負值,正值,非常小,或者非常大,也可以是零。和這個神經元連接的所有神經元的值都會乘以各自對應的權重。然後,把這些值都求和。