德克薩斯A&M大學在讀博士遊宇寧:自監督學習在圖卷積網絡中的研究...

2020-12-12 智東西

自監督學習是一種介於無監督和有監督學習之間的新範式，可以有效減少對大量帶注釋數據的需求。在數據訓練的過程中，生成帶有無噪聲標籤的數據集的成本很高，而無標籤的數據又一直在不斷產生。為了有效利用大量的無標籤數據，自監督學習通過設置合理的學習目標和定義前置任務，從數據本身中得到了監督信號。當前自監督學習已經被廣泛用於訓練卷積神經網絡（CNNs），有效地提高了圖像表示學習可傳遞性、泛化能力和魯棒性，並且已在語義分割、目標檢測、圖像分類、人體動作識別等實戰場景中展現出卓越效果。現在更多無需人工標註的前置任務訓練也被提出，如前景對象分割、圖像修補、圖像著色等。

然而，自監督如何應用於處理圖數據結構的圖卷積網絡（GCNs）的問題卻很少被探索。作為圖神經網絡中的重要分支，GCNs解決了CNNs無法處理非歐幾裡德結構數據（如社交網絡、推薦系統上抽取的圖譜等）的問題，能從拓撲結構網絡中有效提取空間特徵。因此，GCNs成為了當前機器學習領域的研究熱點之一。近年的研究重點多聚焦於GCNs的半監督學習算法，而如何在圖卷積網絡中引入自監督學習，來解決圖卷積模型自身的問題，仍然十分值得探索。

8月10日上午10點，智東西公開課邀請到德克薩斯A&M大學電子工程系在讀博士遊宇寧參與到「機器學習前沿講座」第5講，帶來主題為《自監督學習在圖卷積網絡中的研究與應用》的直播講解。遊宇寧博士將深度講解自監督在GCNs多任務學習、自訓練等機制中的探索，並介紹三種基於GCNs的新型自監督學習任務以及如何將多任務自監督學習應用到圖對抗性訓練中。

遊宇寧是德克薩斯A&M大學電子工程系的在讀博士，研究方向是圖機器學習和自監督學習等，在CVPR、ICML等頂會發表多篇論文。遊博士本科畢業於西安交通大學。

課程內容

主題：自監督學習在圖卷積網絡中的研究與應用

提綱：1、自監督在圖卷積網絡多任務學習機制中的探索2、基於圖卷積網絡的新型自監督學習任務3、多任務自監督學習在圖對抗訓練中的應用

講師介紹

遊宇寧，德克薩斯A&M大學電子工程系在讀博士；研究方向是圖機器學習和自監督學習等；在CVPR、ICML等頂會發表多篇論文；本科畢業於西安交通大學。

直播信息

直播時間：8月10日上午10點直播地點：智東西公開課小程序答疑地址：智東西公開課討論群

加入主講群

本次課程的講解分為主講和答疑兩部分，主講以視頻直播形式，答疑將在「智東西公開課討論群」進行。加入討論群，除了可以免費收看直播之外，還能認識講師，與更多同行和同學一起學習，並進行深度討論。掃碼添加小助手曼曼（ID：zhidx006）即可申請，備註「姓名-公司/學校/單位-職位/專業」的朋友將會優先審核通過哦~

相關焦點

  • 自監督學習,如何從數據困境中拯救深度學習?
    在這篇文章中， 卷積網絡模型首次大幅度超越了當時最先進的模型。它是在所有的對比模型中唯一一個基於卷積神經網絡的解決方案。此後，卷積神經網絡變得無處不在。在深度學習之前，研究人員一直認為 ImageNet 挑戰非常困難，其主要原因是 ImageNet 數據集突出的變化性。即便只是找到能覆蓋 ImageNet 中各種犬類的手工特徵就已經很不容易。
  • 從圖(Graph)到圖卷積(Graph Convolution):漫談圖神經網絡 (二)
    在從圖(Graph)到圖卷積(Graph Convolution): 漫談圖神經網絡 (一)中，我們簡單介紹了基於循環圖神經網絡的兩種重要模型，在本篇中，我們將著大量筆墨介紹圖卷積神經網絡中的卷積操作。接下來，我們將首先介紹一下圖卷積神經網絡的大概框架，藉此說明它與基於循環的圖神經網絡的區別。
  • 2020最佳博士論文;南開等提出新型自校準卷積
    在本文中，來自南開大學、新加坡國立大學和字節跳動 AI 實驗室的研究者探究如何在不調整模型架構的情況下依然提升 CNN 的基本卷積特徵轉換過程。為此，他們提出了一種新穎的自校準卷積（self-calibrated convolution），它通過內部通信來顯式地擴展每個卷積層的視野，進而豐富輸出特徵。具有自校準卷積的網絡分別命名為 SCNet、SCNeXt 和 SE-SCNet。
  • 混合時空圖卷積網絡:更精準的時空預測模型
    以往的研究中主要利用通行時間作為模型輸入，很難預測整體的交通狀況，本文提出的混合時空圖卷積網絡，利用導航數據大大提升了時空預測的效果（本文作者高德機器學習團隊，論文已被收錄到KDD2020）。 日常通勤中的規律往往相對容易挖掘，但交通狀況還會受很多其他因素影響，之前的研究主要利用通行時間作為特徵，少量引入事件，不能很好地預測實際交通流量。
  • 深蘭科技動作識別-人體骨架時空圖卷積網絡的可學習邊與權
    本文將重點介紹論文中關於動作識別的時空圖卷積的可學習邊與權重，及其劃分策略。一、空間圖卷積神經網絡在深入研究成熟的ST-GCN之前，團隊首先要在一個幀內查看Graph CNN模型。而通過在p（x）中編碼矩形網格，可以實現圖像域上的標準卷積，在（Dai et al.2017）中找到該構思的更詳細的說明和其他應用。圖一然後，定義圖上的卷積操作：通過將以上形式擴展到把輸入特徵圖換成採用空間圖V_t的方式。
  • 自監督學習知識遷移
    自監督學習是一個非常有趣的研究領域，其目標是在沒有任何人工標註的情況下，從未標註的數據中學習豐富的表示。因此，對於自監督學習中的前置任務，目標是隱式學習一個使相同類別圖像相似而不同類別圖像不相似的度量。因此，如果我們能夠以某種方式將語義相關的圖像編碼到相同的標籤上，我們就可以對學習的表示提供可靠的估計。  通用框架作者提出了一個新穎的框架，可以將知識從一個深層的自監督模型轉移到一個獨立的淺層下遊模型。
  • NeurIPS 2020最佳論文;全卷積網絡實現E2E目標檢測
    所以，在本文中，來自曠視科技和西安交通大學的研究者提出了一個新穎問題：全卷積網絡是否可以實現良好的端到端目標檢測效果？並從標籤分配和網絡架構兩個方面回答並驗證了這一問題。儘管卷積神經網絡只要有大量已標記的訓練樣本就能夠執行，但是由於物體的變形與移動、場景照明變化以及視頻序列中攝像頭位置的變化，卷積神經網絡在視頻幀合成方面的表現並不出色。近日，來自東南大學的研究者提出了一種新型的端到端架構，稱為卷積 Transformer（ConvTransformer），用於視頻幀序列學習和視頻幀合成。
  • 圖神經網絡的「前世今生」
    深度學習通過端到端的訓練徹底改變了很多機器學習任務. 但是這些任務的數據都是歐式空間上的規則數據. 而現實中很多數據之間都有著相當複雜的關係, 一般表現為非歐空間之上的圖結構.為處理圖數據之上的任務, 圖神經網絡就應運而生了.
  • 阿德萊德大學在讀博士陳昊:高質高效的實例分割模型BlendMask:公開...
    簡單的理解就是：在同一個類的實例中區分不同的實例。在計算機視覺的任務中，由於實例分割是像素級識別輪廓任務，因此與其他類似的視覺任務相比，實例分割屬於最困難的視覺任務之一。實例分割兼具目標檢測和語義分割的特點，因此逐漸演化出基於語義分割的down-top apporach與基於目標檢測的top-down apporach兩種方法。
  • 今日Paper | CausalML;隱式函數;慢動作視頻重建;交叉圖卷積網絡等
    基於混合成像系統的慢動作視頻重建交叉圖卷積網絡（Cross-GCN）：使用k順序特徵交互來增強圖卷積網絡選擇核網絡  CausalML：用於因果機器學習的Python包此外作者也對後續的研究提出了自己的觀點。總之，本文適合於剛入機器學習方向的同學學習研究。
  • 清華CVer 對自監督學習的一些思考
    但標籤仍然存在，只不過標籤是從輸入數據中生成的，通常是使用啟發式算法生成。自監督學習的流行是勢在必然的。在各種主流有監督學習任務都做到很成熟之後，數據成了最重要的瓶頸。從無標註數據中學習有效信息一直是一個很重要的研究課題，其中自監督學習提供了非常豐富的想像空間。
  • ​卷積神經網絡與Transformer結合,東南大學提出視頻幀合成新架構
    深度卷積神經網絡（CNN）是功能非常強大的模型，在一些困難的計算機視覺任務上性能也很卓越。儘管卷積神經網絡只要有大量已標記的訓練樣本就能夠執行，但是由於物體的變形與移動、場景照明變化以及視頻序列中攝像頭位置的變化，卷積神經網絡在視頻幀合成方面的表現並不出色。
  • 卷積神經網絡與Transformer結合,東南大學提出視頻幀合成新架構
    深度卷積神經網絡（CNN）是功能非常強大的模型，在一些困難的計算機視覺任務上性能也很卓越。儘管卷積神經網絡只要有大量已標記的訓練樣本就能夠執行，但是由於物體的變形與移動、場景照明變化以及視頻序列中攝像頭位置的變化，卷積神經網絡在視頻幀合成方面的表現並不出色。
  • ​卷積神經網絡與Transformer結合,東南大學提視頻幀合成新架構
    深度卷積神經網絡（CNN）是功能非常強大的模型，在一些困難的計算機視覺任務上性能也很卓越。儘管卷積神經網絡只要有大量已標記的訓練樣本就能夠執行，但是由於物體的變形與移動、場景照明變化以及視頻序列中攝像頭位置的變化，卷積神經網絡在視頻幀合成方面的表現並不出色。
  • 丟棄Transformer,全卷積網絡也可以實現E2E檢測
    機器之心轉載作者：王劍鋒在近來研究人員熱衷於探索 Transformer 用於目標檢測的嘗試時，這篇論文提出了一種全新的觀點，即利用全卷積網絡也可以實現良好的端到端目標檢測效果。所以，在本文中，來自曠視科技和西安交通大學的研究者提出了一個新穎問題：全卷積網絡是否可以實現良好的端到端目標檢測效果？並從標籤分配和網絡架構兩個方面回答並驗證了這一問題。
  • 變形卷積核、可分離卷積?卷積神經網絡中十大拍案叫絕的操作。
    於是在VGG（最早使用）、Inception網絡中，利用2個3×3卷積核的組合比1個5×5卷積核的效果更佳，同時參數量（3×3×2+1 VS 5×5×1+1）被降低，因此後來3×3卷積核被廣泛應用在各種模型中。
  • 表徵圖數據絕不止圖神經網絡一種方法
    近年來，圖神經網絡掀起了將深度學習方法應用於圖數據分析的浪潮。不過其作為一門古老的認識世界的方法論，人們對於圖表徵技術的研究從很早以前就開始了。雖然現在深度神經網絡在物體識別、圖像分類和自然語言處理領域都取得了巨大的成功。然而，「設計出最優的神經網絡，學習並輸出任意的圖」仍然是一個熱門的研究課題。
  • 今天的卷積網絡,Yann LeCun在93年就已經玩得很溜了
    LeCun 表示，1993 年的文字識別系統已經用上了卷積神經網絡（CNN），自己在這套系統中編寫了一種網絡數據結構的編譯器，並生成了可編譯的 C 語言代碼，在原始碼中以權重和網表（netlist）代表文字。
  • 表徵圖數據,絕不止圖神經網絡一種方法
    不過其作為一門古老的認識世界的方法論，人們對於圖表徵技術的研究從很早以前就開始了。雖然現在深度神經網絡在物體識別、圖像分類和自然語言處理領域都取得了巨大的成功。然而，「設計出最優的神經網絡，學習並輸出任意的圖」仍然是一個熱門的研究課題。
  • 詳解凸優化、圖神經網絡、強化學習、貝葉斯方法等四大主題
    Time Domain, Spectral Domain　　　　Laplacian, Graph Laplacian　　　　第七周：譜域的圖神經網絡　　　　卷積神經網絡回歸　　　　卷積操作的數學意義