多面特征可视化：揭示深层神经网络中每个神经元学习特征的不同类型

作者：18届 cyl

日期：2021-08-08

论文：《Multifaceted Feature Visualization: Uncovering the Different Types of Features Learned By Each Neuron in Deep Neural Networks》多面特征可视化-呈现神经元学习到的不同类型特征的可视化结果-引入一种正则化技术改善激活图像质量

一、本文围绕的主要问题

1、MFV算法的具体流程
2、MFV的实验结果

二、背景

1.Deep Learning很吸引人，也很玄乎的一个点就是大家都说它可以提取到分级的逐层抽象的特征。但
对我们来说，总是耳听为虚，眼见为实。所以，每当我们训练完一个深度模型后，我们还特别想把这个
深度模型学到的东西给可视化出来，好弄明白它到底学到了什么东西，是不是有意义的，是不是像传说
中的那样神奇。那怎样有意义的可视化呢？对了，我们用deep net来做什么的了？来提取特征的。那它
提取什么特征呢？如果它像我们所说的提取的是底层到高层的特征，例如边缘，到形状，到目标等等，
那就证明我们的目的是达到的。
2.因此，通过确定每个神经元已经学会检测哪些特征，我们可以更好地理解深度神经网络。为此，研究
人员创造了包括激活最大化在内的深度可视化技术。而对激活最大化技术简单的概括就是使用梯度上升
的方法来寻找能够最大程度激活某个神经元的图像，并将其可视化，以有意义的表达这个神经元所学习
到的特征。
3.虽然在当时有了这么一个初步解析神经网络，对特征进行可视化的理解思路，但