雷鋒網-AI科技評論前線報導:美國太平洋時間2月8日早上8:30,在舊金山的AAAI 2017大會進行了最佳論文的頒獎典禮。最佳論文頒發給了史丹福大學的Russell Steward以及其導師Stefano Drmon撰寫的論文《Label-Free Supervision of Neural Networks with Physics and Domain Knowledge》。該文章從已知的關係(如物理定律)入手,通過輸出必須滿足物理定律的約束來訓練學習。
論文摘要
在許多機器學習應用中,帶標籤的數據數量稀少,而想要獲得更多的標籤需要付出高昂的代價。我們引入了一種新的神經網絡監督學習方法,不同於採用直接給出輸入-輸出對的直接示例的傳統方案。這種方法通過特定的約束條件來指定輸出空間,而這些約束條件來源於先前的特定領域知識,例如已知的物理定律。我們展示了這種方法在現實世界和模擬計算機視覺任務的有效性。利用這種方法,我們可以在訓練樣本沒有帶任何標籤的情況下,成功訓練了一個卷積神經網絡來檢測和跟蹤對象。這一方法還可以顯著減少對標記的訓練數據的需要,並同時帶來了將先驗知識編碼為適當的損失函數的新挑戰。(論文全文參見網址:http://www.aaai.org/Conferences/AAAI/2017/PreliminaryPapers/12-Stewart-14967.pdf。
PPT全文
在頒獎典禮後,Russell Steward進行了關於這篇論文的講解。以下是其講解的PPT全文:
大數據是好東西,但「大標籤」會讓你痛不欲生。那怎麼辦呢?我們可以利用約束條件而非標籤。
1.建立從f:X→Y的影射。
2.學習如何跟蹤物體運動軌跡。約束條件是輸出結果(按照物理規則)必須是一個拋物線。
3.預測與標記的對比。
4.計算f(xi)值。
下面舉兩個例子:
例子1:預測未標記的圖片中人的水平位置
例子2:預測圖片是否包含馬裡奧和桃子
結論
我們可以使用已知的高等級不變性關係來訓練分類器。所以,相比起打標籤,高等級不變性關係要更直接。
隨著未來更多普遍關係的挖掘,相信未來在這一領域會有著更多的應用出現。
文章由雷鋒網(公眾號:雷鋒網)-AI科技評論前線報導,轉載請聯繫雷鋒網-AI科技評論。
【兼職召集令!】
如果你對未來充滿憧憬,喜歡探索改變世界的科技進展,look no further!
我們需要這樣的你:
精通英語,對技術與產品感興趣,關注人工智慧學術動態的蘿莉&萌妹子&技術宅;
文字不求妙筆生花,但希望通俗易懂;
在這裡,你會收穫:
一群來自天南地北、志同道合的小夥伴;
前沿學術科技動態,每天為自己充充電;
更高的生活品質,翻翻文章就能掙到零花錢;
有意向的小夥伴們把個人介紹/簡歷發至 guoyixin@leiphone.com,如有作品,歡迎一併附上。
雷鋒網版權文章,未經授權禁止轉載。詳情見轉載須知。