深度学习（十二）

如何使用keras建立一个model

1、定义一个数据生成器：需要设置什么样的数据扩充，想做什么样的规范化等等，然后从数据目录生成数据，示例代码如下：

2、建立模型，主要是定义神经网络的各个层，示例如下：

3、编译模型
4、输入参数进行训练：使用model.fit_generator
5、微调，冻结某些层

dropout

防止过拟合，丢掉一些权值，使模型变得简单些，当然，这样做模型的精度也会出现下降，在具体操作时，如果出现了过拟合，可以尝试将丢掉的权值调多一点。其原理是通过随机丢掉权值，迫使网络拥有更好的泛化能力，即虽然丢掉了某些能有效识别的神经元，但网络仍能进行识别。
在将权值随机丢弃后，为了权值的分布不变，应该对权值的倍率进行改变，这是为了不改变某些权值的意义，比如，原来只要大于0.6，就代表是毛茸茸的耳朵，现在权值减半了，变成了只要大于0.3就代表是毛茸茸的耳朵，显然不合适。一般来说，框架应该已经自己做了这件事。

嵌入矩阵

1、一般嵌入矩阵大小是其类别加一再除以二，但一般不大于50.
2、一般而言，学习率不会大于0.3