通過圖神經網絡了解玻璃

在顯微鏡下，窗玻璃的窗格看起來不像晶體那樣是有序分子的集合，而是看起來雜亂無章的結構。玻璃是從高溫熔融的沙子和礦物質的發光混合物開始製成的。一旦冷卻，其粘度（衡量流體中摩擦力的量）就增加一萬億倍，並且變成固體，抵抗拉伸或拉力的張力。然而，玻璃中的分子仍然保持著一種看似無序的狀態，就像最初的熔融液體一樣——幾乎就像無序的液體已經被瞬間凍結在原地一樣。因此，玻璃轉變首先表現為玻璃分子運動的劇烈阻滯。此過程是否對應於結構相變（如水凍結或超導過渡）是該領域的一個主要開放性問題。了解玻璃動力學的本質是了解原子級性質如何定義許多固體材料的可見特徵的基礎。用最近去世的諾貝爾獎獲得者菲利普·W·安德森（Philip W.Anderson）的話說，他的開創性工作塑造了固態物理學領域：

固態理論中最深，最有趣的未解決問題可能是玻璃的性質和玻璃化轉變理論。

一種液體，當冷卻得過快超過其結晶點時，會變成過冷液體，進一步冷卻後，會變成無序的無定形玻璃。如果冷卻

造型玻璃的實際意義

玻璃轉變是一種普遍存在的現象。例如，當熨燙時，織物中的聚合物被加熱，變成可移動的，然後根據鐵的重量確定方向。對玻璃的更深入的了解可能會在將來帶來實際的進步，但是它們的神秘特性也引發了許多基礎研究問題。儘管人類製造石英玻璃已有至少四千年的歷史，但它們仍被科學家們迷惑不解：關於潛在的物理關聯，例如冷卻過程中發生的粘度增加了數萬億倍，人們尚有許多未知數。

利用圖神經網絡對玻化動力學建模

可以將玻璃建模為粒子通過短程排斥勢相互作用的方法，這實際上可以防止粒子彼此之間過於靠近。這種潛力是關係性的（只有粒子對相互作用）和局部的（只有附近的粒子彼此相互作用），這表明尊重這種局部和關係結構的模型應該是有效的。換句話說，考慮到該系統以類似圖形的結構為基礎，我們認為最好使用圖形結構的網絡對其進行建模，並著手應用圖形神經網絡來預測玻璃的物理外觀。

我們首先創建了一個輸入圖，其中的節點表示粒子，邊表示粒子之間的相互作用，並用它們的相對距離標記。粒子在一定半徑（在這種情況下為2個粒徑）內與其相鄰的粒子連接。然後，我們訓練了如下所述的神經網絡，以預測圖的每個節點的單個實數。該預測最終回歸到從眼鏡的計算機模擬獲得的粒子的遷移率。遷移率是粒子通常運動多少的量度（更嚴格地說，它對應於對初始速度求平均時所經過的平均距離）。

模型架構1

A）從3-D輸入中，連接距離小於2的節點以形成圖形。處理後，網絡會預測每個粒子的遷移率（用不同的顏色表示）。

模型架構2

B）圖網絡的核心首先根據其先前的嵌入及其相鄰節點的嵌入來更新邊，然後根據其先前的嵌入和傳入邊緣的嵌入來更新節點。C）圖網絡由一個編碼器，幾個核心應用程式，一個解碼器組成。每次應用核，都會增加粒子殼的大小，從而有助於給定粒子的預測，此處以中心粒子的顏色顯示（深藍色）。

模型架構：

我們的網絡體系結構是典型的圖網絡體系結構，由多個神經網絡組成。我們首先使用兩個編碼器網絡將節點和邊緣標籤嵌入到高維向量空間中（我們使用了標準的多層感知器）。接下來，我們使用圖B中可視化的兩個更新網絡迭代更新嵌入式節點和邊緣標籤。首先，每個邊緣都基於其先前的嵌入以及與其連接的兩個節點的嵌入進行更新。在使用同一網絡並行更新所有邊緣之後，還使用第二個網絡，基於其相鄰邊緣嵌入和先前嵌入的總和來更新節點。我們重複了幾次此過程（通常為7次），以使本地信息在整個圖形中傳播，如圖C所示。最後，我們使用解碼器網絡從相應節點的最終嵌入中提取了每個粒子的遷移率。生成的網絡具有所有必需的屬性：它是固有的關係型，在圖的節點和邊的置換下不變，並以一種由本地操作組成的方式更新嵌入。網絡參數訓練是通過隨機梯度下降完成的。

為了研究玻璃的完整動態演變，我們構建了一些數據集，這些數據集對應於在不同時間範圍和不同溫度下的遷移率預測。我們注意到，在這些時間維度上，每個粒子都會發生數千次碰撞。因此，網絡必須找到一種方法來粗略地表示系統的長期動態。

將網絡的預測與物理聯繫起來

將圖形網絡應用於我們模擬的三維玻璃後，我們發現它們的性能大大優於現有模型，從標準的物理啟發基準到最新的機器學習模型。將預測的遷移率（顏色梯度，圖3）與真實的真值模擬（點，圖3）進行比較，我們發現該協議在短時間內非常好，並且在玻璃的弛豫時間上保持良好的匹配。觀察玻璃在其弛豫時間的範圍內（對於實際的玻璃而言，這將是數千年的時間），就像在約1皮秒的時間內觀察液體（10 -12）：當粒子碰撞到足以開始失去有關其初始位置的信息時，鬆弛時間就會鬆散。從數量上看，我們的預測與模擬的真實性之間的相關性在非常短的時間範圍內為96％，在玻璃的弛豫時間中仍高達64％（與現有技術水平相比提高了40％）。

短時間範圍內的3D預測

短時間範圍內的3D預測

GNN預測的遷移率（從流動性最低的藍色變為紅色，以流動性最大的紅色），與模擬中我們最易移動的粒子（點）在3維盒子的一部分中的位置相比。更好的性能對應於紅色區域和點的更大對齊。此面板對應於短時間範圍內的預測：一種在其中我們的網絡獲得非常出色性能的機制。

長時間範圍內的3D預測

長時間範圍內的3D預測

在此面板中，對應於比頂部面板長28,000倍的時間刻度，玻璃中的粒子已開始擴散。動力學是異構的-粒子遷移率在本地是相關的，但在宏觀尺度上是異構的-但是我們的網絡仍會與地面真相模擬相一致地做出預測。

但是，我們不想簡單地對玻璃建模：我們想了解它。因此，我們探究了哪些因素對我們的模型的成功至關重要，以便推斷出哪些特性對基礎系統至關重要。玻璃動力學中一個尚未解決的中心問題是，粒子如何作為距離的函數相互影響，以及隨著時間的變化。我們通過設計一個利用圖網絡的特定體系結構的實驗來對此進行研究。回憶邊和節點更新的重複應用定義了任何給定粒子周圍的粒子殼：第一個殼包含距離此「標記」粒子僅一步之遙的所有粒子，第二個殼包含距離第一個殼僅一步之遙的所有粒子，依此類推（請參見圖2c中不同的藍色陰影）。修改了第n個殼層後，我們可以測量網絡用於提取其預測的面積有多大，從而可以估算物理系統中粒子相互影響的距離。

消融實驗

消融實驗：

在左側的實驗中，除去了圍繞一個中心粒子的第一個殼之外的所有粒子。在正確的實驗中，通過增加第一和第二粒子殼之間的距離來幹擾輸入。

我們發現，當預測在不久的將來或液相中發生的情況時，對第三層殼的劇烈修改（例如，將其完全刪除，圖4，左）並沒有改變網絡對標記粒子所做的預測。另一方面，當在低溫和不久的將來進行預測時，玻璃開始鬆弛後，第5層殼的微小擾動（圖4，右）也會影響標記顆粒的預測。這些發現與實際圖像相符，其中相關長度（粒子相互影響的距離的度量）在接近玻璃化轉變時會增長。相關長度的定義和研究是物理學中相變研究的基石，並且在研究玻璃時仍然是爭論的開端。儘管無法將這種「機器學習」的相關長度直接轉換為物理上可測量的量，但它提供了令人信服的證據，表明在接近玻璃化轉變時系統中存在越來越大的空間相關性，並且我們的網絡已經學會了提取它們。

結論

我們的結果表明，圖網絡是利用隱藏在局部粒子附近的結構，可以預測玻璃態系統的長期動力學的強大工具。我們希望我們的技術可用於預測對玻璃感興趣的其他物理量，並希望它將為玻璃系統理論家帶來更多見解。圖網絡是一種通用工具，可應用於包括交通在內的許多其他由多體交互組成的物理系統，人群模擬和宇宙學。這裡使用的網絡分析方法還可以在其他領域產生更深刻的理解：圖網絡不僅可以幫助我們對一系列系統進行更好的預測，還可以指出哪些物理關聯對於建模它們很重要–在這項工作中，本地之間的相互作用如何。