神经网络超参数之隐藏层个数+每个隐层的神经元数
隐藏层个数
神经网络的灵活性也恰好是它的一个主要的短板:有太多的超参数需要调整。不仅仅是可以使用的网络拓扑结构(神经元是如何彼此互相连接的),即使是简单的多层感知机MLP,也有很多可以调整的参数:你可以调整层数,每层的神经元的个数,每层使用的激活函数的类型,初始化的类型,dropout的概率等。怎么样才能知道超参数的河中组合适合你当前的应用问题那?
现实世界的数据往往会按照层次结构来组织,而DNN天生就很擅长处理这种类型的数据:低级隐藏层泳衣建模低层结构(例如,各种形状