深度学习基础知识

1.finetune
        当自己的数据集与公开数据集有相似之处是,如自然景物对自然景物, 可以使用预训练好的网络,加载进来, 在此权重基础上进行训练. 即使用训练好的模型进行初始化权重!!! 实际加载时, 可能只使用网络前段的权重参数, 因为后续的网络softmax等可能不同. 一般我们可能需要冻结底层信息,因为共享低级特征,  只训练高层.

参考:CNN入门讲解：什么是微调（Fine Tune）？ - 知乎

2.池化

池化用于提取图片一块区域的特征, 可以降低图片维度,减小计算量, 具有特征平移不变性,一般使用平均池化和最大池化, 有论文使用了最小池化,而且不用relu函数???

nn.MaxPool2d(kerner_size=3, stride =2, padding=1)维度降低一倍的最大池化,常用!

nn.MaxPool2d(kerner_size=(5, 3), stride =(2, 2), padding=(2, 1))长宽不同池化

池化方法总结（Pooling） 和卷积 。