我們總是聽說人工智慧在圖像識別上超越了人類，刷臉也逐漸成了生活中司空見慣的事兒。這些圖像識別技術背後，通常是深度神經網絡。
本文引用地址：http://www.eepw.com.cn/article/201711/371232.htm不過，神經網絡究竟是怎樣認識圖像的?
△特徵可視化能夠告訴我們神經網絡在圖片中尋找的是什麼
特徵可視化這個強大的工具，就能幫我們理解神經網絡內部的世界，知道它們的工作原理。
谷歌研究員Christopher Olah、Alexander Mordvintsev和Ludwig Schubert今天在distill博客上發文深度探索了特徵可視化這個問題，並順便介紹了一些新trick。
distill.pub是Olah等人今年3月推出的機器學習網站，會不定期發表文章，以可視化、可交互的方式來展示機器學習研究成果。
原文地址：https://distill.pub/2017/feature-visualization/。其中包含大量可交互的示例圖片。
下面，量子位對這篇文章做個簡要的介紹：
在2015年穀歌推出的DeepDream基礎上，經過AI研究界後來的共同努力，現在，計算機視覺模型中每一層所檢測的東西都可以可視化出來。經過在一層層神經網絡中的傳遞，會逐漸對圖片進行抽象：先探測邊緣，然後用這些邊緣來檢測紋理，再用紋理檢測模式，用模式檢測物體的部分……
上面是ImageNet訓練的GoogLeNet的特徵可視化圖，我們可以從中看出它的每一層是如何對圖片進行抽象的。
在神經網絡處理圖像的過程中，單個的神經元是不能理解任何東西的，它們需要協作。所以，我們也需要理解它們彼此之間如何交互。
通過在神經元之間插值，我們可以更好地理解他們是如何彼此交互的。下圖就展示了兩個神經元是如何共同表示圖像的。
Distill原文中的這個例子，能夠動手探索不同神經元組合在一起會得到什麼結果。
當然，這篇文章還介紹了一些特徵可視化的trick。
在進行特徵可視化時，得到的結果通常會布滿噪點和無意義的高頻圖案。這些高頻圖案似乎和strided convolution或者池化關係密切。
△反向傳播時，每次strided convolution或池化都會在梯度幅值上創建棋盤格圖案
我們想更好地理解神經網絡模型是如何工作的，就要避開這些高頻圖案。這時所用的方法是進行預先規則化，或者說約束。改變梯度也是一種方法，這種優化方法稱為預處理(preconditioning)。
當然，了解神經網絡內部的工作原理，也是增強人工智慧可解釋性的一種途徑，而特徵可視化正是其中一個很有潛力的研究方向，谷歌的幾位研究員將其視為幫人類理解神經網絡的一個基礎模塊，可以與其他工具結合使用。