深度学习tensorflow之一点笔记

本文围绕TensorFlow展开,介绍了tf.train.saver()保存变量的方法,默认保存所有变量,也可指定保存部分。说明了导入图和变量的操作,以及restore时的对应要求。还阐述了迁移学习流程,最后提出只训练部分参数时迁移模型保存的相关问题。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

(1)tf.train.saver()保存变量,如果不对tf.train.saver()指定任何参数,默认保存所有所有变量;(可通过指定Variables/collections保存部分变量)

(保存模型时,只会保存变量的值,placeholder里的值不会被保存)

(2)想要训练好的模型:

导入图:saver=tf.train.import_meta_graph("路径")

导入变量:saver.restore(sess,"模型路径")

(3)restore时,saver(图)要和模型对应;saver.restore将持久化模型中的变量的值加载到当前代码计算图中的变量中,所以持久化模型中的变量(value)是当前代码计算图中变量集合(key)中的一个子集;(将变量名映射到对应的tensor值)

(4)saver.save向文件夹中写入包含了当前模型中所有可训练变量的checkpoint文件;

(5)迁移学习流程:定义变量——>(初始化持久化类,保存所有变量)saver=tf.train.Saver();——>(重载预训练模型,将预训练模型中变量值放入图中的变量)saver.restore()——>(迁移学习,微调RETRAIN等部分参数,保存迁移后的新模型)saver.save();

 

问题:只训练部分参数,迁移模型如何保存(变量):未训练的那一部分(固定的参数),如何变成模型的一部分,重训练一部分参数,(是否仅保存了这一部分在新模型data文件中);

          saver.restore只加载模型中的变量(训练的那一部分),预训练模型中未被训练的那一部分参数是否以常量的形式保存在某一个文件中(具体在哪里未知),当再次使用迁移学习训练后的模型时,重载restore是否需要另外传入这些值;

 

转载于:https://www.cnblogs.com/xiaowa/p/10811767.html

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值