學術成果 | 基於圖卷積網絡的空間交互數據補全

2021-02-13 未名時空

SI-GCN模型基於訓練集迭代優化參數，因此訓練集的質量決定了模型能力，這裡探討了不同訓練集對空間流補全的影響。

(1)計程車出行量。第3節的實驗保留了網格間不少於30次出行的計程車流，圖7a的結果表明，對於不同的閾值，SI-GCN模型表現均好於其他模型。同時RMSE隨著閾值的上升而變大，是因為更多低強度的流被移除。

(2)訓練集大小。以20%為間隔按照從20%到80%的比例對計程車流進行採樣作為訓練集訓練模型，相應的測試集為剩下的流的一半。如圖7b所示，可以發現隨著訓練集的擴大，模型能夠更準確地估計交互強度。同時誤差線變短也說明大的訓練集可以使預測結果更加穩定，這是因為更多的流形成了更加完整的空間交互網絡，包含更多的空間分布信息。

(3)負採樣率。當使用觀察到的正樣本訓練SI-GCN時，模型傾向於對訓練數據進行精確估計，但流數據通常比較稀疏，將導致模型出現過擬合。負採樣在訓練過程中提供了更多的數據，能夠提高模型的泛化能力。圖7c中設置了11種負採樣率訓練模型，0表示不生產負樣本，100%表示Fn和Fp的大小相同。SCC先提高並在0.7之後波動。RMSE在採樣率30%之前下降，證明負採樣增強了模型的預測能力。有趣的是當採樣率繼續上升時，誤差反而增大，這是因為模型只能保證負樣本不出現在Fp中，但無法判斷測試集是否包含它們。如果生成的負樣本越多，這些流更可能出現在測試集中。如果測試集中的一條流被當作強度為0的負樣本，那麼模型將會低估其強度，因此不需要設置較大的負採樣率。

(4)訓練集的流強度。除了隨機採樣外，也可以使用不同的採樣方式生成訓練集。在第一個實驗中，高強度的流更可能被選作訓練數據，對應的測試集包含更多低強度流，第二個實驗與此相反。表2顯示與隨機訓練樣本(表1末行)相比，有偏樣本使得模型預測結果較差。需要注意的是直接比較RMSE是沒有意義的，因為高強度流的估計值偏差必然比低強度的流要大。

相關焦點

  • NAS-DIP: 基於神經架構搜索的自監督圖像補全算法
    From: Arxiv；編譯: T.R　　與先前使用大規模監督數據進行訓練的算法不同，Deep Image Prior(DIP)利用隨機初始化的神經網絡模型和退化後的圖像進行自監督迭代，在無需大規模數據進行訓練的情況下，就能有效實現圖像去噪、超分辨和補全等任務。
  • 華中大提出新型採樣與重建算法, 提升稀疏深度稠密補全任務性能
    在本文中研究人員主要從數據和先驗的角度來改進算法，一方面與傳統採樣方法不同， 提出了一種基於泊松disk的採樣方式 ；另一方面與先前使用的規則處理核不同， 利用了圖卷積動態重建的方法 更好地恢復出稠密的深度結果。　　實驗表明這種策略可以在更少的測量點情況下獲取更好的重建結果，同時對於室內和室外的場景都具有良好的泛化性。
  • 港中文AAAI錄用論文詳解:ST-GCN 時空圖卷積網絡模型 | AAAI 2018
    作為動作識別系統中的重要模態，基於骨架的動作識別已經展現出重要的實用價值與研究價值。本論文正是針對這個任務提出了一種全新的深度學習模型，我們稱之為「時空圖卷積網絡」（ST-GCN）。構建時空圖ST-GCN 的基礎是時空圖結構。
  • 基於層級圖網絡的圖卷積:用點雲完成3D目標檢測
    本文提出了一種基於層級圖網絡（HGNet）的圖卷積（GConv），可以直接將點雲作為輸入來預測 3D 的邊界框。形狀注意圖卷積（SA－GConv）可以通過劍魔點的位置星系來描述物體形狀，基於 SA－GConv 的 U 形網絡可以通過改進的 voting 模塊獲取多層級的特徵進而生成候選，然後一個基於圖卷積的候選推理模塊考慮全局的場景語義來對邊界框進行預測。
  • 基於神經網絡算法 羊毛_基於pso算法和bp算法訓練神經網絡 - CSDN
    圖神經網絡是用於圖結構數據的深度學習架構，將端到端學習與歸納推理相結合，業界普遍認為其有望解決深度學習無法處理的因果推理、可解釋性等一系列瓶頸問題，是未來 3 到 5 年的重點方向。2019 年圖神經網絡有哪些研究成果值得關注？2020 年它又將朝什麼方向發展？讓我們一起來一探究竟。
  • 一種基於深度卷積神經網絡(DCNN)用于于頭髮和面部皮膚實時分割方法
    為了解決這個問題，作者提出了一種基於深度卷積神經網絡（DCNN）的高效分割方法，用於頭髮和面部皮膚分割任務，該方法在三個基準數據集上實現了速度和性能之間的顯著權衡。據我們所知，由於外界環境因素（例如照明和背景噪聲）的影響，膚色分類的準確性通常不令人滿意。因此，使用分割後的人臉來獲得特定的人臉區域，並進一步利用色矩算法提取其色彩特徵。
  • 基於完全卷積神經網絡的多模態嬰兒腦圖分割技術
    現有的等強度組織分割方法通常在單一 T1、T2 或部分各向異性(FA)模態或其簡單疊加組合上採用基於 patch 的稀疏標記，此類方法並沒有充分挖掘多模態信息。為了解決這一難題，在本文中，我們提出使用全連接卷積網絡(FCNs)來分割等強度相位的腦磁振造影圖像。我們不是簡單地將三種模式疊加在一起，而是針對每幅圖像訓練一個網絡，然後將它們的高層特徵融合在一起進行最終的分割。具體來說。
  • 表徵圖數據絕不止圖神經網絡一種方法
    然後，我們優化這些映射，使他們反映嵌入空間的幾何結構，學習到的嵌入可以被用作機器學習任務的向量化輸入。需要注意的是，本文討論的是一些流行的使用基於圖表徵的數據域，包括生物學數據、化學數據、網頁數據、文本數據、關係數據、社交媒體數據等。
  • 空間-角度信息交互用於光場圖像超分辨重構,性能達到最新SOTA
    而每個視點內的信息（即空間信息）以及不同視點之間的信息（即角度信息）都有利於圖像超解析度（SR）。 在本文中，作者提出了一種用於LF圖像SR的空間角度交互網絡（即LF-InterNet）。在本方法中，作者使用兩個專門設計的卷積分別從輸入的光場圖中提取空間和角度特徵。然後，將這些提取的特徵重複地交互以合併空間和角度信息。
  • 表徵圖數據,絕不止圖神經網絡一種方法
    學習「圖表徵」背後的思想是：學習一類映射，這類映射將頂點、子圖或整體的圖嵌入到低維向量空間中的點上。然後，我們優化這些映射，使他們反映嵌入空間的幾何結構，學習到的嵌入可以被用作機器學習任務的向量化輸入。需要注意的是，本文討論的是一些流行的使用基於圖表徵的數據域，包括生物學數據、化學數據、網頁數據、文本數據、關係數據、社交媒體數據等。
  • 從圖(Graph)到圖卷積(Graph Convolution):漫談圖神經網絡 (二)
    在從圖(Graph)到圖卷積(Graph Convolution): 漫談圖神經網絡 (一)中，我們簡單介紹了基於循環圖神經網絡的兩種重要模型，在本篇中，我們將著大量筆墨介紹圖卷積神經網絡中的卷積操作。接下來，我們將首先介紹一下圖卷積神經網絡的大概框架，藉此說明它與基於循環的圖神經網絡的區別。
  • 今日Paper | 空間注意力網絡;深度信念網絡;GhostNet;位置預測等
    ：基於圖卷積的人體物體交互檢測的空間注意力網絡用單個深度學習模型代替移動相機ISP基於深度信念網絡來識別阿爾茲海默症的蛋白質組危險標誌物分層時空LSTM在位置預測中的應用GhostNet：廉價運營帶來的更多功能  VSGNet：基於圖卷積的人體物體交互檢測的空間注意力網絡
  • 如何讓圖卷積網絡變深?騰訊AI Lab聯合清華提出DropEdge
    這些模型分類效果往往隨著深度加深而變差（即使使用殘差連接），這與用於圖片分類的卷積網絡動輒超過幾十層的現象很不一致。圖卷積神經網絡變深之後難以訓練的現象嚴重製約了其表達能力。所以，如何有效的訓練超深圖卷積網絡是圖學習研究的一個重大挑戰。這項工作由騰訊 AI Lab 與清華大學合作完成。
  • 深入理解卷積網絡的卷積
    卷積神經網絡是一種特殊的神經網絡結構，是自動駕駛汽車、人臉識別系統等計算機視覺應用的基礎，其中基本的矩陣乘法運算被卷積運算取代。它們專門處理具有網格狀拓撲結構的數據。例如，時間序列數據和圖像數據可以看作是一個二維像素網格。
  • 混合時空圖卷積網絡:更精準的時空預測模型|KDD2020
    圖 2 四個不同路段的流量時間曲線另一方面，由於交通網絡的非歐幾裡得特性，我們利用圖卷積（graph convolution）結構提取空間依賴性特徵，並設計了一種新的鄰接矩陣用於更好地體現路段間的交通鄰近性。在以往的研究中[6]，鄰接矩陣的權重只按距離衰減，並沒有考慮到路段間固有的交通鄰近性（圖 3 給出了距離近但交通狀態相差較大的例子）。
  • 深度| 一文概覽圖卷積網絡基本結構和最新進展
    GitHub 連結：https://github.com/tkipf/gcn論文連結：https://arxiv.org/abs/1609.02907概覽在當今世界中許多重要的數據集都以圖或網絡的形式出現：社交網絡、知識圖表、蛋白質交互網絡、全球資訊網等。然而直到最近，人們才開始關注將神經網絡模型泛化以處理這種結構化數據集的可能性。
  • 德克薩斯A&M大學在讀博士遊宇寧:自監督學習在圖卷積網絡中的研究...
    為了有效利用大量的無標籤數據，自監督學習通過設置合理的學習目標和定義前置任務，從數據本身中得到了監督信號。當前自監督學習已經被廣泛用於訓練卷積神經網絡（CNNs），有效地提高了圖像表示學習可傳遞性、泛化能力和魯棒性，並且已在語義分割、目標檢測、圖像分類、人體動作識別等實戰場景中展現出卓越效果。現在更多無需人工標註的前置任務訓練也被提出，如前景對象分割、圖像修補、圖像著色等。
  • 為什麼要進行圖學習?談一談逆勢而上的圖神經網絡
    圖核論文的研究綜述: 2020圖核方法最新進展與未來挑戰，151頁pdf注意力機制 | 圖卷積多跳注意力機制 | Direct multi-hop Attention based GNNNeurIPS2020 | 基於路徑積分設計的圖卷積和圖池化操作NeurIPS 2020 | 基於模型的對抗元強化學習NeurIPS 2020 | Hinton
  • 圖神經網絡迎來快速爆發期 GNN的原理、變體及拓展
    該技術在視覺、語音、文本三大領域取得了極大的應用成果，這種成功，離不開深度學習技術對這三類數據定製化的模型設計工作。 脫離於這三類數據之外，圖數據是一種更加廣泛的數據表示方式，誇張地說，沒有任何一個場景中的數據彼此之間是孤立存在的，這些數據之間的關係都可以以圖的形式進行表達。
  • 重新思考圖卷積網絡:GNN只是一種濾波器
    新智元報導 來源：arxiv編輯：肖琴【新智元導讀】最新研究提出，圖神經網絡僅對特徵向量進行低通濾波，不具有非線性流形學習特性。論文提出了一種基於圖形信號處理的理論框架，用於分析圖神經網絡。圖神經網絡已成為解決圖結構數據機器學習問題的最重要技術之一。