今日Paper|縮放神經網絡;形變的LSTM;知識圖譜複雜問答;陰影著色等

2020-12-12 雷鋒網

目錄

ZoomNet：用於3D對象檢測的部分感知自適應縮放神經網絡

ForecastNet：一種用於多步超前時間序列預測的時變深度前饋神經網絡結構

形變的LSTM

基於消息傳遞的知識圖譜複雜問答

基於深度學習的手繪草圖陰影著色

ZoomNet：用於3D對象檢測的部分感知自適應縮放神經網絡

論文名稱：ZoomNet: Part-Aware Adaptive Zooming Neural Network for 3D Object Detection

作者：Xu Zhenbo /Zhang Wei /Ye Xiaoqing /Tan Xiao /Yang Wei /Wen Shilei /Ding Errui /Meng Ajin /Huang Liusheng

發表時間：2020/3/1

論文連結：https://paper.yanxishe.com/review/13287?from=leiphonecolumn_paperreview0310

推薦原因

這是百度發表在AAAI 2020上的工作，用於估計遠處和被遮擋物體的3D姿勢檢測問題。

這篇論文提出了一個名為ZoomNet的新型框架，用於對3D立體圖像進行對象檢測任務。ZoomNet首先使用一個普通的2D對象檢測模型，獲取成對左右邊界框。然後為了進一步利用RGB圖像中豐富的紋理信息來進行更準確的視差估計，ZoomNet使用了一個模塊-自適應縮放塊，同時將2D實例邊框的大小調整為統一的解析度，並相應地調整了相機的固有參數。同時，這篇論文還提出學習局部位置信息來進一步提升模型性能，並提出了一個3D擬合評分以更好地估計3D檢測模型的質量。在KITTI 3D檢測數據集上進行的實驗表明ZoomNet大大超出了所有先前的最新方法。

ForecastNet：一種用於多步超前時間序列預測的時變深度前饋神經網絡結構

論文名稱：ForecastNet: A Time-Variant Deep Feed-Forward Neural Network Architecture for Multi-Step-Ahead Time-Series Forecasting

作者：Dabrowski Joel Janek /Zhang YiFan /Rahman Ashfaqur

發表時間：2020/2/11

論文連結：https://paper.yanxishe.com/review/11307?from=leiphonecolumn_paperreview0310

推薦原因

這篇論文考慮的是時間序列預測的問題。

深度學習中的循環和卷積神經網絡已經被用於時間序列預測，然而這些網絡通過在時間或空間上重複使用固定參數的一組不變結構來共享參數，使得整個體系結構是時域不變的，降低了執行多步提前預測的能力。這篇論文提出了ForecastNet，使用深度前饋體系結構來提供時變模型。ForecastNet中還使用了交錯輸出，有助於緩解逐漸消失的梯度。實驗證明ForecastNet在多個數據集上的表現優於統計和深度學習基準模型。

形變的LSTM

論文名稱：MOGRIFIER LSTM

作者：Gábor Melis /Tomá Kocisk /Phil Blunsom

發表時間：2020/1/29

論文連結：https://paper.yanxishe.com/review/11305?from=leiphonecolumn_paperreview0310

推薦原因

核心問題：先進的神經網絡模型的應用是自然語言理解（NaturalLanguage Processing）的眾多任務取得先進性進展的根本原因。但是現有的神經網絡模型仍然不完美，比如存在泛化能力和語言建模能力不強等諸多問題。

創新點：針對於在自然語言理解中最常使用的神經網絡模型是LongShort-Term Memory（LSTM），本論文對其進行了改進，提出了形變的LSTM，通過引入額外的門控運算，使得輸入x和狀態hprw在輸入到LSTM之前進行多輪交互計算，最終使得輸入和上下文之間具有更加豐富的交互表示。

研究意義：這種改進並不複雜，但是這種簡單的修改確在語言模型上取得了顯著的效果。

基於消息傳遞的知識圖譜複雜問答

論文名稱：Message Passing for Complex Question Answering over Knowledge Graphs

作者：Svitlana Vakulenko /Javier David Fernandez Garcia /Axel Polleres /Maarten de Rijke /Michael Cochez

發表時間：2019/8/19

論文連結：https://paper.yanxishe.com/review/10988?from=leiphonecolumn_paperreview0310

推薦原因

許多 KGQA 系統只能回答簡單問題（依賴一個三元組、單跳），為此本文提出 QAmp 模型，能夠回答覆雜問題（融合多個三元組、多跳），在 LC-QuAD 數據集取得 SOTA 結果。

文章值得借鑑的地方有：對問句模式的定義 q=

該工作使用了新的數據集 LC-QuAD 進行知識圖譜上複雜問答的研究，結合了圖神經網絡的思想，對進一步的研究具有借鑑意義。

基於深度學習的手繪草圖陰影著色

論文名稱：Learning to Shade Hand-drawn Sketches

作者：Qingyuan Zheng /Zhuoru Li /Adam Bargteil

發表時間：2020/2/26

論文連結：https://paper.yanxishe.com/review/12784?from=leiphonecolumn_paperreview0310

推薦原因

手繪草圖是一種比較流行的藝術創作，隨著深度學習的火熱，有學者研究給草圖著色、將草圖遷移為彩色圖片、從草圖進行三維建模等等。本文提出了一種給草圖添加陰影使其3D視覺效果的方法。

文章提出了一種全自動的方法，通過在深度學習網絡的潛空間中構建3D模型並渲染生成陰影，可以在給定的光照方向下為線描草圖生成詳細準確的藝術陰影。作者還提供了一個新的數據集，包含一千個標記了光照方向的成對的草圖和陰影。文章生成的陰影可以傳遞出草圖場景的基礎3D結構，可以直接使用或者作為藝術家的絕佳起點。

論文作者團隊招募

為了更好地服務廣大 AI 青年，AI 研習社正式推出全新「論文」版塊，希望以論文作為聚合 AI 學生青年的「興趣點」，通過論文整理推薦、點評解讀、代碼復現。致力成為國內外前沿研究成果學習討論和發表的聚集地，也讓優秀科研得到更為廣泛的傳播和認可。

我們希望熱愛學術的你，可以加入我們的論文作者團隊。

加入論文作者團隊你可以獲得

1.署著你名字的文章，將你打造成最耀眼的學術明星

2.豐厚的稿酬

3.AI 名企內推、大會門票福利、獨家周邊紀念品等等等。

加入論文作者團隊你需要：

1.將你喜歡的論文推薦給廣大的研習社社友

2.撰寫論文解讀

雷鋒網雷鋒網雷鋒網

相關焦點

  • 從神經轉化到符號:從知識圖譜的角度看認知推理的發展
    同樣，視覺問答例子中，神經系統可以輕鬆應對簡單的視覺問答場景（如，圖中有幾隻長頸鹿？），但是如果需要回答更複雜的問題（如，圖中動物和斑馬有哪些共同屬性？），則必須藉助外部的符號知識（如知識圖譜）進行認知推理，才能完成求解過程。 綜上所述，「神經+符號」系統無疑是人工智慧的理想模型。
  • 今日Paper|可視問答模型;神經風格差異轉移;圖像壓縮系統;K-SVD...
    圖像去噪神經閱讀理解與超越準確性與複雜性：可視問答模型中的一種權衡論文名稱：Accuracy vs.from=leiphonecolumn_paperreview0211推薦原因這篇論文考慮的是視覺問答的問題。為了驗證AI的推理能力，視覺問答（Visual Question Answering，VQA）被用作一種視覺圖靈測試。
  • 知識圖譜前沿跟進,看這篇就夠了,Philip S. Yu 團隊發布權威綜述...
    3）編碼模型編碼模型通過特定的模型架構（如線性/雙線性模型、因子分解模型、神經網絡）編碼實體和關係之間的相互作用。線性模型通過將頭實體投影到接近尾實體的表徵空間中，將關係表示為一個線性/雙線性映射。因子分解旨在將關係型數據分解到低秩矩陣中，從而進行表徵學習。神經網絡則通過非線性神經激活映射和更加複雜的網絡結構對關係型數據進行編碼。
  • 一文全覽,ICLR 2020 上的知識圖譜研究
    五個角度分別為：1）在複雜QA中利用知識圖譜進行神經推理（Neural Reasoning for Complex QA with KGs）2）知識圖譜增強的語言模型（KG-augmented Language Models）3）知識圖譜嵌入：循序推理和歸納推理（KG Embeddings: Temporal and Inductive Inference）
  • 人工智慧黑盒揭秘:深度神經網絡可視化技術
    深度神經網絡又是最為複雜的機器學習模型，其可解釋性與可視化性更加具有挑戰性。網絡模型為什麼起作用，它是否足夠好，圖像識別是如何抽象出「貓」這個概念的？本段分析了幾種典型深度神經網絡可視化技術，詳盡展示了前沿的可視化原理以及解釋性效果。
  • 知識圖譜從哪裡來:實體關係抽取的現狀與未來
    知識圖譜現有大型知識圖譜，諸如 Wikidata、Yago、DBpedia，富含海量世界知識，並以結構化形式存儲。如下圖所示，每個節點代表現實世界中的某個實體，它們的連邊上標記實體間的關係。這樣，美國作家馬克·吐溫的相關知識就以結構化的形式記錄下來。目前，這些結構化的知識已被廣泛應用於搜尋引擎、問答系統等自然語言處理應用中。
  • 第四範式NeurIPS 2020:知識圖譜嵌入的自動化
    這項研究受神經架構搜索（NAS）的啟發，提出將 Interstellar 作為一種處理關係路徑中信息的循環架構。此外，該研究中的新型混合搜索算法突破了 stand-alone 和 one-shot 搜索方法的局限，並且有希望應用於其他具有複雜搜索空間的領域。
  • 今日Paper | 3D手勢估計;自學習機器人;魯棒語義分割;卷積神經網絡...
    （paper.yanxishe.com），重磅推出【今日 Paper】欄目， 每天都為你精選關於人工智慧的前沿學術論文供你學習參考。以from=leiphonecolumn_paperreview0108推薦理由：隨著高容量，低精度計算技術的發展以及認知人工智慧啟發式系統的應用研究，通過具有實時學習功能的神經網絡的機器學習解決方案引起了研究界以及整個行業的極大興趣。
  • 今日Paper|RevealNet;時間序列預測;無監督問答;實時語義立體匹配等
    目錄F, B, Alpha Matting使用一種基於符號化方法的LSTM網絡進行時間序列預測RevealNet：窺探RGB-D掃描場景中的每個物體BERT還不足以稱之為知識庫：無監督問答任務中BERT對事實性的知識和基於名稱的推理學習能力對比
  • 今日Paper | 人臉旋轉;BiLSTM-CRF;神經注意模型;Abigail等
    神經網絡對出院總結中的藥品相關的實體信息進行抽取採用神經注意模型生成文本摘要基於指針生成網絡對Abigail進行匯總基於細觀遞歸神經網絡結構的抽象文本摘要  Rotate-and-Render: 基於單視角圖像的自監督真實感人臉旋轉
  • 愛分析·中國知識圖譜應用趨勢報告
    1.1.2知識圖譜發展歷程谷歌於2012年正式提出知識圖譜（Knowledge Graph）概念，並應用在智能搜索領域。知識圖譜（Knowledge Graph）本質是以圖的形式表現實體（概念、事物、人）及其關係的知識庫，可看作有向圖結構的網絡。目前，知識圖譜技術已在智能搜索、智能問答、網絡分析、決策輔助、推薦系統等領域廣泛應用。
  • 淵亭科技推出國防領域首個「億級規模武器裝備知識圖譜平臺」
    其次，知識圖譜具備可解釋性，這也意味著通過深度學習與知識圖譜的結合，可以消除模型底層特徵空間與人類自然語言之間巨大的語義鴻溝，更適用於解決分析、推理等複雜決策問題。3.3 提供面向作戰指揮、推演、裝備科研的圖譜建設平臺基於淵亭自主研發的「DataExa-Sati知識圖譜平臺」，可為用戶提供一套成熟的行業知識圖譜構建分析體系，包括可視化的知識建模、多源異構的知識抽取、解決實體衝突和屬性對齊的知識融合、支持萬億級別的高性能圖存儲、大規模分布式圖計算引擎以及複雜的知識推理等。
  • 今日Paper | 問答系統;3D人體形狀和姿勢;面部偽造檢測;AdderNet等
    （paper.yanxishe.com），重磅推出【今日 Paper】欄目， 每天都為你精選關於人工智慧的前沿學術論文供你學習參考。以作者證明了常規的機器學習模型和算法，例如隨機特徵模型，淺層神經網絡模型和殘差神經網絡模型，都可以作為不同連續公式的特定離散化而全部恢復。作者還介紹了新模型的示例，例如基於流的隨機特徵模型，以及新算法（例如平滑粒子法和光譜法）的示例，這些新算法自然地源於這種連續公式。作者在文中討論了如何在此框架下研究泛化誤差和隱式正則化問題。
  • 今日Paper|人臉旋轉;BiLSTM-CRF;神經注意模型;Abigail等
    目錄Rotate-and-Render: 基於單視角圖像的自監督真實感人臉旋轉使用基於特徵增強的BiLSTM-CRF神經網絡對出院總結中的藥品相關的實體信息進行抽取採用神經注意模型生成文本摘要基於指針生成網絡對
  • 今日Paper|虛擬試穿網絡;人群計數基準;聯邦元學習;目標檢測等
    為了幫助各位學術青年更好地學習前沿研究成果和技術，AI科技評論聯合Paper 研習社（paper.yanxishe.com），重磅推出【今日 Paper】欄目， 每天都為你精選關於人工智慧的前沿學術論文供你學習參考。
  • 美團智能問答技術探索與實踐
    近年來基於深度神經網絡的機器閱讀理解 ( Machine Reading Comprehension，MRC ) 技術得到了快速的發展，逐漸成為問答和對話系統中的關鍵技術。MRC模型以問題和文檔為輸入，通過閱讀文檔內容預測問題的答案。
  • 清華大學圖神經網絡綜述:模型與應用
    DeepWalk、LINE、SDNE 等方法在網絡表示學習領域取得了很大的成功。然而，這些方法在計算上較為複雜並且在大規模上的圖上並不是最優的，GNN 旨在解決這些問題。這篇文章對圖神經網絡進行了廣泛的總結，並做出了以下貢獻：文章詳細介紹了圖神經網絡的經典模型。主要包括其原始模型，不同的變體和幾個通用框架。
  • 百年古董電影秒變4K高清、60FPS,AI插值,還能著色
    十三 發自 凹非寺 量子位 報導 | 公眾號 QbitAI 古董級電影秒變4K高清，還能黑白變彩色。 由於技術原因，最早的影像資料都是較為模糊且卡頓的，這就讓大大降低了我們的觀感體驗。
  • 騰訊雲小微獲首批知識圖譜產品認證,加速AI交互能力升級
    ,中國電子技術標準化研究院在會上發布了首批知識圖譜產品認證證書,其中,騰訊雲小微的知識圖譜構建平臺、知識圖譜應用平臺獲得專業認證。 騰訊雲小微深耕知識圖譜技術,算法模型行業領先 據介紹,首批知識圖譜產品認證的測評,主要從知識圖譜構建平臺的知識獲取、知識抽取、知識存儲、知識建模等功能的完整度與算法性能指標。
  • 北郵教授石川:圖神經網絡需要解決的幾個關鍵問題
    網絡結構的數據在實際應用中非常普遍，學習網絡結構的表示是近些年來的研究熱點。 目前很多圖神經網絡主要是基於同質信息網絡，同質信息網絡只有一種類型的節點和邊；在實際應用中，會存在大量由不同節點和邊構成的交互系統，例如文獻數據、電影數據、以及社交網絡知識圖譜等，在這些網絡中，不同類型的對象相互交互。