在解决一个任务时,我会选择加载预训练模型并逐步fine-tune。比如,分类任务中,优异的深度学习网络有很多。
ResNet, VGG, Xception等等... 并且这些模型参数已经在imagenet数据集中训练的很好了,可以直接拿过来用。
根据自己的任务,训练一下最后的分类层即可得到比较好的结果。此时,就需要“冻结”预训练模型的所有层,即这些层的权重永不会更新。
以Xception为例:
加载预训练模型:
from tensorflow.python.keras.applications import Xception
model = Sequential()
model.add(Xception(include_top=False, pooling='avg', weights='imagenet'))
model.add(Dense(NUM_CLASS, activation='softmax'))
include_top = False : 不包含顶层的3个全链接网络
weights : 加载预训练权重
随后,根据自己的分类任务加一层网络即可。
网络具体参数:
model.summary
得到两个网络层,第一层是xception层,第二层为分类层。
由于未冻结任何层,trainable params为:20, 811, 050

冻结网络层:
由于第一层为xception,不想更新xception层的参数,可以加以下代码:
model.layers[0].trainable = False
<
本文介绍了如何在Keras中加载预训练模型,如ResNet, VGG, Xception,并进行冻结网络层的操作。通过设置`include_top=False`和`weights='imagenet'`加载不包含顶层的模型,然后添加分类层。通过调整`trainable`属性来冻结或微调特定层。此外,文章还讨论了根据数据集大小和相似度选择不同微调策略的重要性。"
112120624,10542061,理解CAS单点登录机制:浏览器登录流程解析,"['CAS', '单点登录', 'Web安全', '认证机制', 'Cookie管理']
最低0.47元/天 解锁文章
1605

被折叠的 条评论
为什么被折叠?



