复现论文:打印权重文件的信息

本文介绍了如何在PyTorch中自定义保存模型状态、优化器状态以及额外训练元数据,包括epoch数和学习率,并演示了如何加载这些信息进行恢复。
部署运行你感兴趣的模型镜像

查看信息 

import torch


weights = torch.load('./results/0.pkl')

# 打印出所有的键
for key in weights:
    print(key)

# 查看特定参数的形状
print(weights['conv1.weight'].size())

自定义保存额外信息

1. 自定义保存额外信息

在训练时,可以选择以某种方式手动保存这些元数据。例如,在PyTorch中,除了保存模型的state_dict,你还可以保存一个包含训练元数据的字典,如下所示:

# 假设 model 是你的模型实例,optimizer 是你的优化器实例
torch.save({
    'epoch': epoch,
    'model_state_dict': model.state_dict(),
    'optimizer_state_dict': optimizer.state_dict(),
    'learning_rate': learning_rate,
    # 可以添加更多需要的信息
}, 'model_with_metadata.pth')

加载这个文件时,你可以读取这些额外的信息:

checkpoint = torch.load('model_with_metadata.pth')
epoch = checkpoint['epoch']
learning_rate = checkpoint['learning_rate']
model.load_state_dict(checkpoint['model_state_dict'])
optimizer.load_state_dict(checkpoint['optimizer_state_dict'])

2. 查看优化器状态

在某些情况下,如果你保存了优化器的状态(optimizer.state_dict()),你可以从中获取到某些训练参数,比如学习率。但是,这仍然不会直接告诉你总的训练epochs数,只能提供在保存时刻的优化器状态,如当前学习率:

optimizer_state = checkpoint['optimizer_state_dict']
current_lr = optimizer_state['param_groups'][0]['lr']

您可能感兴趣的与本文相关的镜像

PyTorch 2.8

PyTorch 2.8

PyTorch
Cuda

PyTorch 是一个开源的 Python 机器学习库,基于 Torch 库,底层由 C++ 实现,应用于人工智能领域,如计算机视觉和自然语言处理

评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值