Pytorch保存训练好的模型以及参数(8)

pytorch训练后pt模型中保存内容详解(yolov8n.pt为例) 在 PyTorch 中,.pt 模型文件通常包含以下几类数据:模型参数:存储模型的权重和偏置参数;优化器状态:包含优化器的状态信息,以便在恢复训练时能够从中断的地方继续。 训练状态:一些训练过程中的信息,例如当前的 epoch 数和训练进度。其他元数据: 包括模型的配置、训练时使用的超参数等.本文以yoloV8n.pt进行讲解。 阅读详情

(1)代码中部分函数讲解

         Pytorch中的state_dict其实就是python中的字典对象,可以将训练中的layer(卷积层,线性层等等)保存下来;优化器对象Optimizer也有一个state_dict,其中包含了优化器的状态以及被使用的超参数(如lr, momentum,weight_decay等等)

(2)代码

import torch
import matplotlib.pyplot as plt

# f伪造数据
x = torch.unsqueeze(torch.linspace(-1, 1, 100), dim=1)  # x data (tensor), shape=(100, 1)
y = x.pow(2) + 0.2*torch.rand(x.size())  # noisy y data (tensor), shape=(100, 1)

# The code below is deprecated in Pytorch 0.4. Now, autograd directly supports tensors
# x, y = Variable(x, requires_grad=False), Variable(y, requires_grad=False)


def save():
    # save net1
    net1 = torch.nn.Sequential(
        torch.nn.Linear(1, 10),
        torch.nn.ReLU(),
        torch.nn.Linear(10, 1)
    )
    optimizer = torch.optim.SGD(net1.parameters(), lr=0.5)
    loss_func = torch.nn.MSELoss()

    for t in range(100):
        prediction = net1(x)
        loss = loss_func(prediction, y)
        optimizer.zero_grad()
        loss.backward()
        optimizer.step()

    # plot result
    plt.figure(1, figsize=(10, 3))
    plt.subplot(131)
    plt.title('Net1')
    plt.scatter(x.data.numpy(), y.data.numpy())
    plt.plot(x.data.numpy(), prediction.data.numpy(), 'r-', lw=5)

    # 2 ways to save the net
    torch.save(net1, 'net.pkl')  # save entire net
    torch.save(net1.state_dict(), 'net_params.pkl')   # save only the parameters


def restore_net():
    # restore entire net1 to net2
    net2 = torch.load('net.pkl')
    prediction = net2(x)

    # plot result
    plt.subplot(132)
    plt.title('Net2')
    plt.scatter(x.data.numpy(), y.data.numpy())
    plt.plot(x.data.numpy(), prediction.data.numpy(), 'r-', lw=5)


def restore_params():
    # restore only the parameters in net1 to net3
    net3 = torch.nn.Sequential(
        torch.nn.Linear(1, 10),
        torch.nn.ReLU(),
        torch.nn.Linear(10, 1)
    )

    # copy net1's parameters into net3
    net3.load_state_dict(torch.load('net_params.pkl'))
    prediction = net3(x)

    # plot result
    plt.subplot(133)
    plt.title('Net3')
    plt.scatter(x.data.numpy(), y.data.numpy())
    plt.plot(x.data.numpy(), prediction.data.numpy(), 'r-', lw=5)
    plt.show()

# save net1
save()

# restore entire net (may slow)
restore_net()

# restore only the net parameters
restore_params()

(3)运行结果

注:本文中代码主要参考:https://github.com/MorvanZhou

 

更多《计算机视觉与图形学》知识,可关注下方公众号:
在这里插入图片描述

Pytorch应用训练好的模型 Pytorch应用训练好的模型1.保存训练好的模型:torch.save方法2.加载之前保存的模型:torch.load方法3.对于分类问题的补充4.CPU训练完整代码5.GPU训练 1.保存训练好的模型:torch.save方法 保存训练好的模型有两种方式,第一种保存模型结构且保存模型参数,第一种方式存在一种陷阱,也就是每次加载模型都得把类定义,或者访问类所在的包。保存方式为: torch.save(模型名, 以pth为后缀的文件) 第二种保存方式只保存模型参数,不保存模型结构,这样可以面对较大的网络 阅读详情

相关推荐

pytorch保存训练模型参数并实现继续训练

最近的想法是在推荐模型中考虑根据用户对推荐结果的后续选择,利用已训练的offline预训练模型参数来更新新的结果。简单记录一下中途保存参数和后续使用不同数据训练的方法。 简单模型和训练数据 先准备一个简单模型,简单两层linear出个分类结果。 class MyModel(nn.Module): def __init__(self): super().__init__() self.linear = nn.Linear(64, 32) self.lin

回炉重造P的博客 1万+

python训练模型函数参数_keras读取训练好的模型参数并把参数赋值给其它模型详解...

介绍本博文中的代码,实现的是加载训练好的模型model_halcon_resenet.h5,并把该模型的参数赋值给两个不同的新的model。函数式模型官网上给出的调用一个训练好模型,并输出任意层的feature。model = Model(inputs=base_model.input, outputs=base_model.get_layer(‘block4_pool').output)但是这有...

weixin_39592240的博客 1029

Pytorch加载保存好的模型发现与实际保存模型的参数不一致

Pytorch加载保存好的模型发现与实际保存的参数不一致发现问题初衷:问题:保存模型并打印参数:加载模型并打印模型参数问题来了解决问题先说结论原因:联想问题本质二级目录三级目录参考博客 发现问题 初衷: 最近跑深度学习代码,数据量比较庞大所以训练速度慢的一,一旦有什么问题训练突然停止了,心态都要炸了,所以这时候使用pytorch保存每轮训练好的模型(可以使用一些保存技巧,保存得到的当前最新的模型checkpoint,倒不至于每轮都保存),即使训练停止还能接着去加载保存好的模型得到当前模型输出结果,节省时间,

weixin_42416791的博客 1万+

【python编程】参数的保存和读取

加入你想将训练网络中的一些参数进行保存,并且在推理阶段读取,可以按照下面的方式进行处理。

原来也有北瓜 839

Pytorch保存与加载训练模型,同时可以保存中间训练过程中的训练模型

在进行神经网络(NN)训练的时候,有时候需要保存中间epoch的训练模型,知道最后所有的epoch训练完成。有如下的方法可以进行模型的保存与对应的加载方法: 保存中间的训练模型 保存 保存模型主要分为两种: (1)只保存参数:torch.save(model.state_dict(), path) 对应的加载:model.load_state_dict(torch.load(path)) 其中model指定义的模型实例变量,如 model=vgg16( ), path是保存参数的路径,如 path=’./m

qq_38402260的博客 4127

自动驾驶系统架构解析:从传感器到决策控制的完整链路(附实际案例)

本文深入解析了自动驾驶系统从感知、决策到控制的完整架构链路。通过对比摄像头、毫米波雷达、激光雷达等核心传感器的特性与选型策略,阐述了多传感器融合的必要性。文章结合行为决策、运动规划及控制执行的实际案例,揭示了系统集成、数据闭环与功能安全等工程化落地的关键挑战,为理解自动驾驶技术提供了清晰的蓝图。

weixin_29051811的博客 339

使用训练好的模型

使用OpenCV实现在新的数据上调用训练好的模型-------caffe model + depoly文件一起使用 fine turning微调网络.如果有新图片来了,用点新图片对net微调. 1.改写depoly文件有4步 把数据层(Data Layer)和连接数据层的Layers去掉(即top:data的层) 去掉输出层和连接输出层的Layers(即bottom:l

jingtingxu369的博客 3133

从‘眼花缭乱’到‘心中有数’:rs-fMRI统计分析全流程避坑指南(附DPABI操作截图)

本文详细解析了rs-fMRI统计分析的全流程,从质量控制到统计模型选择,再到多重比较校正和结果解读。特别针对DPABI软件操作中的常见陷阱提供实用指南,帮助研究者避免FDR和GRF校正等关键环节的错误,实现从数据混乱到清晰分析的转变。

weixin_33686714的博客 400

pytorch自定义dataloder的时候,返回参数

比如我想在返回矩阵同时,也返回地址。只需要将这两个信息用字典封装起来一起返回。 在train的时候用XXX[‘path’]和XXX[‘data’]调用即可。(for i,XXX in in enumerate(train_loader)) class Tche_loader(data.Dataset): def __init__(self, lowlight_images_path): self.train_list = sorted(glob.glob(lowlight_images_path

m0_37833297的博客 657

【详细】芯片设计全流程(包括每个流程需要用到的工具以及需要参与的工作人员)

一颗芯片的诞生经历了设计、制造和测试(分别对应集成电路产业链的设计业、制造业和封测业),而每一步都包含了复杂的步骤和流程。 图0-1 集成电路产业链 现在,我们重点介绍芯片设计的全流程以及每个流程需要用到的设计工具和需要参与的工作人员。 一、IC设计分类 首先对IC设计的分类做个介绍,如图1-1所示。 图1-1 IC设计分类 如图1-1所示,IC设计可以粗分为数字IC设计和射频/模拟IC设计,数字IC设计又可分为ASIC设计和FPGA/CPLD设计,此外还有一部分IC设计.

qq_36045093的博客 8万+

【AAAI 2025】轻量级特征增强新范式!FCM 模块助力小目标检测,即插即用提升模型泛化能力

本文介绍了AAAI 2025提出的轻量级特征增强新范式FCM模块,它通过显式分离并双向交互语义与空间特征,有效解决了小目标检测中特征信息失配的核心难题。该模块设计精巧,计算开销极低,能够即插即用式地嵌入YOLO等主流检测网络,显著提升模型对小目标的泛化检测能力,尤其适用于遥感、自动驾驶等对计算资源敏感的实际场景。

weixin_29056145的博客 291

pytorch 获取模型的参数数量

# Find total parameters and trainable parameters total_params = sum(p.numel() for p in model.parameters()) print(f'{total_params:,} total parameters.') total_trainable_params = sum(p.numel() for p in model.parameters() if p.requires_grad) ...

Ibelievesunshine的博客 3222

指纹对抗指南:如何绕过Cloudflare与Akamai的5s盾与浏览器指纹检测

现在的CDN反爬技术虽然越来越强,但是道高一尺魔高一丈,只要掌握了指纹伪造、流量伪装、行为模拟这些核心技术,就可以绕过绝大多数的防护措施。对抗过程中要注意效率和成本的平衡,小规模爬取用Playwright+stealth最方便,大规模爬取用curl_cffi+代理池性价比最高,遇到验证码用打码平台或者自动识别服务,不需要死磕破解。本文介绍的方案已经在实战中验证过,可以绕过95%以上的Cloudflare/Akamai防护,成功率非常高。

专注于Python爬虫开发,分享爬虫技巧、项目实战与反爬经验,使用Scrapy、BeautifulSoup等工具,解决数据抓取难题。 299

YOLOv9训练全流程详解:从data.yaml配置到模型保存

本文介绍了如何在星图GPU平台上自动化部署YOLOv9 官方版训练与推理镜像,快速构建目标检测训练环境。基于预置PyTorch 1.10.0+CUDA 12.1等兼容环境,用户可一键启动训练流程,典型应用于工地安全帽检测等实时目标识别场景,显著降低环境配置门槛。

weixin_42577243的博客 917

【用unity实现100个游戏之1】制作类元气骑士、挺进地牢——俯视角射击游戏多种射击效果(一)(附源码)

俯视角射击游戏)是一类以俯视视角进行游戏展示的射击游戏。在这种游戏中,玩家控制着一个角色或载具,从俯视的角度上方观察游戏世界,并与敌人进行战斗。这种视角使玩家能够有更好的全局观察和策略性,同时也强调快速反应和精确射击。视角:俯视角度可以是固定的,也可以随着玩家角色的移动而变化,但都允许玩家以全局视角观察整个战场,有利于制定战略和规划行动。射击:玩家通常需要使用各种武器来与敌人进行战斗,包括枪械、爆炸物等。射击动作依赖于玩家的反应速度和准确性。

向宇的博客,专注php/web全栈 unity游戏开发,欢迎大家评论纠错 7836

【Bug已解决】codex: rate limit 429 / Too many requests / RPM exceeded — CodeX CLI 速率限制解决方案

CodeX CLI 触发 429 速率限制(RPM/TPM/并发)的解决方案,含请求间隔、自动重试、便宜模型、Tier 升级与多 Key 轮换。

博客 4897

GPTQ模型转换脚本:从PyTorch模型到量化格式全流程

GPTQ是一种高效的后训练量化方法,能够将PyTorch模型转换为低精度量化格式,显著减少模型大小并加速推理。本文将详细介绍如何使用GPTQ项目提供的工具和脚本,完成从PyTorch模型到GPTQ量化格式的完整转换流程,帮助用户轻松实现模型优化。 ## 准备工作:环境搭建与依赖安装 在开始模型转换之前,需要确保已正确安装项目所需的依赖。首先克隆项目仓库: ```bash git clone

gitblog_01244的博客 453

NTscan扫描工具

ntscan是一个扫描器,可以扫描没有密码和弱密码的共享,先到配置文件中填写猜测的用户名和密码,扫描过程中右侧出现的是扫描日志。

yolo模型训练出的.pt文件过大

只需要把文件中.pt文件读取,重写一遍保存,就能和原来大小一致。经过仔细调查,发现是保存的模型中多了很多数据。

W_extend的博客 1320

复分析 阿尔福斯(Ahlfors) 第三版答案 英文

答案分为十章,有部分习题没有答案,全英文复分析阿尔福斯(Ahlfors) 第三版答案

老版QQ原生表情gif动态

这是老版的QQ表情,不过全是动态的的,Windows照片查看器是不会动的,可以右击用浏览器打开查看,再说一遍是老版的,只是分享给宁愿用老版也要动态的人。

Pytorch如何保存训练好的模型

0.为什么要保存和加载模型 用数据对模型进行训练后得到了比较理想的模型,但在实际应用的时候不可能每次都先进行训练然后再使用,所以就得先将之前训练好的模型保存下来,然后在需要用到的时候加载一下直接使用。模型的本质是一堆用某种结构存储起来的参数,所以在保存的时候有两种方式,一种方式是直接将整个模型保存下来,之后直接加载整个模型,但这样会比较耗内存;另一种是只保存模型的参数,之后用到的时候再创建一个同样结构的新模型,然后把所保存的参数导入新模型。 1.两种情况的实现方法 (1)只保存模型参数字典(推荐) #保存

comli_cn的博客 5万+

visio安装包

Microsoft Office Visio 是一款专业的制图软件。利用经过更新的形状、协作工具和数据链接图表,创建专业级图表以简化复杂的信息。

Pytorch——保存训练好的模型参数

文章目录1.前言2.torch.save(保存模型)3.torch.load整个网络4.torch.load网络参数(只提取参数) 1.前言 训练好了一个模型, 我们当然想要保存它, 留到下次要用的时候直接提取直接用,下面我将来讲如何存储训练好的模型参数 2.torch.save(保存模型) 首先,先搭建一个神经网络 from torch import nn def make_model_and...

weixin_37763870的博客 1万+

PyTorch保存和加载模型(全面汇总)

pytorch 中的 state_dict 是一个简单的python的字典对象,将每一层与它的对应参数张量建立映射关系.(如model的每一层的weights及偏置等等) 只有那些参数可以训练的layer才会被保存到模型的state_dict中,如卷积层,线性层等等。 优化器对象Optimizer也有一个state_dict,它包含了优化器的状态以及被使用的超参数(如lr, momentum,w...

zhongzhh8的博客 5389

使用 pytorch 保存和加载训练好的模型

本篇博客讲述如何使用 pytorch 保存训练好的神经网络和如何将训练好的神经网络加载进来以便使用。 定义网络结构 这里使用最简单的一个结构,两个线性的全连接层,有激活函数,用来拟合二维空间上的一些点 """ net.py 用于定义网络的结构 """ class Net(nn.Module): def __init__(self): super(Net, self)....

分享日常的学习,开展的项目,编写的软件,解决的问题等~ 2万+

PyTorch 保存和加载模型参数,从预训练模型中加载部分参数,包括预训练模型中某些参数不匹配的情况

这篇博客主要是对使用PyTorch保存和加载训练模型参数的一个学习记录。第1-5小节是比较常规的模型参数保存操作,第6小是用已经训练好的模型参数来初始化新的模型,包括从一层加载到另一层,某些参数名不匹配的情况,也给出了实验代码和结果,完整实验项目见github。

PAN_Andy的博客 9445

pytorch模型保存与加载总结

pytorch模型保存与加载方式、打包保存tar、多卡训练遇到的问题、torch.jit、加载预训练模型、保存模型再加载精度损失

蜗牛博客 1万+

pytorch保存与加载模型来测试或继续训练

pytorch中与保存和加载模型有关函数有三个: 1.torch.save:将序列化的对象保存到磁盘。此函数使用Python的pickle实用程序进行序列化。使用此功能可以保存各种对象的模型,张量和字典。 2. torch.load:使用pickle的unpickle工具将pickle的对象文件反序列化到内存中。即加载save保存的东西。 3. torch.nn.Module.load_state_dict:使用反序列化的state_dict加载模型的参数字典。注意,这意味着它的传入的参数应该是一个stat

yanghao201607030101的博客 7382
上一篇: 使用Pytorch框架实现简单的数据分类(7)
下一篇: 最前沿的论文&代码直通车&论文查询工具
元宇宙MetaAI
博客等级 码龄10年 331粉丝 333原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值