【深度之眼】Pytorch框架班第五期-Week7【任务1】第二节：Finetune

原创于 2020-08-31 10:50:13 发布 · 171 阅读

0 ·

CC 4.0 BY-SA版权

本文探讨了机器学习分支——迁移学习，介绍了如何将源域知识应用于目标域，并详细讲解了模型微调的过程，包括预训练模型参数的获取、模型加载、输出层修改及训练方法。

部署运行你感兴趣的模型镜像

Transfer Learning & Model Finetune

模型微调

Transfer Learning: 机器学习分支，研究源域（source domain）的知识如何应用到目标域（target domain）.
在这里插入图片描述

模型微调步骤：

1、获取预训练模型参数
2、加载模型（load_state_dict)
3、修改输出层

在这里插入图片描述

模型微调训练方法：

1、固定预训练的参数（requires_grad=False, lr=0)
2、Features Extractor较小学习率(params_groups)

Pytorch中的Finetune

在这里插入图片描述

您可能感兴趣的与本文相关的镜像

Llama Factory

模型微调

LLama-Factory

LLaMA Factory 是一个简单易用且高效的大型语言模型（Large Language Model）训练与微调平台。通过 LLaMA Factory，可以在无需编写任何代码的前提下，在本地完成上百种预训练模型的微调

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

Brignt_run

关注关注

0
点赞
踩
0

收藏

觉得还不错? 一键收藏
0
评论
分享

复制链接

分享到 QQ

分享到新浪微博

扫一扫
举报

举报

[PyTorch 学习笔记] 汇总 - 完结撒花

张贤的博客

10-17

1284

PyTorch 学习笔记这篇文章是我学习 PyTorch 过程中所记录的学习笔记汇总，包括 25 篇文章，是我学习深度之眼 PyTorch 框架版课程期间所记录的内容。课程地址：https://ai.deepshare.net/detail/p_5df0ad9a09d37_qYqVmt85/6。学习笔记的结构遵循课程的顺序，共分为 8 周，循序渐进，力求通俗易懂。代码配套代码：https://github.com/zhangxiann/PyTorch_Practice 所有代码均在 PyCharm

Python深度学习-快速指南

cunzai1985的博客

09-22

3686

Python深度学习-快速指南 (Python Deep Learning - Quick Guide) Advertisements 广告 Previous Page 上一页 Next Page 下一页 Python深度学习-简介 (Python Deep Learning - Introduction) Deep structured learning o...

参与评论您还未登录，请先登录后发表或查看评论

高校如何建立科研人员驻企服务的考核标准？_1.docx

12-16

高校如何建立科研人员驻企服务的考核标准？_1

大学如何评估中试基地对区域经济的拉动效应？.docx

12-16

大学如何评估中试基地对区域经济的拉动效应？

IMG_0338.jpg

12-16

IMG_0338.jpg

安卓应用源码Android仿百度地图气泡程序源码

最新发布

12-16

安卓应用源码Android 仿百度地图气泡程序源码

MYVU 2.48.8 安装包

12-16

MYVU 安装包版本号 2.48.8。

算法设计基于分枝限界法的最短路径求解：优先队列优化的带权有向图路径搜索

12-16

内容概要：本文主要介绍分枝限界法的基本思想与应用，重点阐述其基于广度优先或优先队列的搜索策略。通过节点分支生成子问题，并利用界值进行剪枝，避免无效搜索，提升效率。文中详细说明了该方法的两大核心机制：一是以节点为单位进行扩展，从根节点出发逐步生成子节点；二是基于界值判断是否剪枝，若当前路径长度已不优于最优解则停止扩展。同时给出了使用优先队列实现最短路径求解的具体C++程序，针对带权有向图从起点s到终点t搜索所有最短路径，记录最短路径长度及条数。; 适合人群：具备数据结构与算法基础，正在学习算法设计与分析的高校学生或初级程序员；使用场景及目标：①理解分枝限界法与回溯法的区别，掌握其在最优化问题中的应用；②通过实际代码掌握优先队列在状态扩展中的使用，深入理解剪枝条件的设计逻辑；阅读建议：建议结合文中代码仔细分析搜索过程与剪枝条件，手动模拟队列变化流程，加深对分枝限界法执行机制的理解，并可尝试修改图结构验证算法正确性。

高等院校如何建立跨部门数据共享安全规范？.docx

12-16

高等院校如何建立跨部门数据共享安全规范？

【顶刊TAC复现】事件触发模型参考自适应控制（ETC+MRAC）：针对非线性参数不确定性线性部分时变连续系统研究（Matlab代码实现）

12-16

【顶刊TAC复现】事件触发模型参考自适应控制（ETC+MRAC）：针对非线性参数不确定性线性部分时变连续系统研究（Matlab代码实现）内容概要：本文档介绍了“事件触发模型参考自适应控制（ETC+MRAC）”的研究与Matlab代码实现，聚焦于存在非线性参数不确定性且具有时变线性部分的连续系统。该研究复现了顶刊IEEE Transactions on Automatic Control（TAC）的相关成果，重点在于通过事件触发机制减少控制器更新频率，提升系统资源利用效率，同时结合模型参考自适应控制策略增强系统对参数不确定性和外部扰动的鲁棒性。文档还展示了大量相关科研方向的技术服务内容，涵盖智能优化算法、机器学习、路径规划、电力系统、信号处理等多个领域，并提供了Matlab仿真辅导服务及相关资源下载链接。; 适合人群：具备自动控制理论基础、非线性系统分析背景以及Matlab编程能力的研究生、博士生及科研人员，尤其适合从事控制理论与工程应用研究的专业人士。; 使用场景及目标：① 复现顶刊TAC关于ETC+MRAC的先进控制方法，用于非线性时变系统的稳定性与性能优化研究；② 学习事件触发机制在节约通信与计算资源方面的优势；③ 掌握模型参考自适应控制的设计思路及其在不确定系统中的应用；④ 借助提供的丰富案例与代码资源开展科研项目、论文撰写或算法验证。; 阅读建议：建议读者结合控制理论基础知识，重点理解事件触发条件的设计原理与自适应律的构建过程，运行并调试所提供的Matlab代码以加深对算法实现细节的理解，同时可参考文中列举的其他研究方向拓展应用场景。

12-16

12-16

【地理空间分析】基于GEE的京都城市热岛缓解潜力区识别与矢量化：面向政府客户的多格式数据交付方案设计

12-16

内容概要：本文介绍了基于Google Earth Engine（GEE）进行城市热岛效应分析后，如何将识别出的绿化潜力区域转化为实际可交付客户的成果数据。通过将栅格图像中的高温低植被覆盖区（绿化的潜在区域）转换为矢量多边形，并计算各多边形面积，筛选出面积大于10,000平方米（1公顷）的重点治理区域。最终，将这些高优先级区域导出为CSV表格文件，同时将地表温度变化（LST差分）影像导出为GeoTIFF格式，便于客户在GIS软件中使用，完成从数据分析到决策支持的完整流程。; 适合人群：具备基础遥感与地理信息系统（GIS）知识，熟悉Python及GEE平台操作的科研人员或城市规划相关从业者；适合从事环境监测、城市生态研究的技术人员；使用场景及目标：①用于城市热岛缓解策略制定，辅助政府部门（如京都府役所）或建设公司确定优先绿化区域；②实现GEE分析结果向实际业务应用的转化，提升项目交付能力；阅读建议：建议读者结合代码实践，重点掌握reduceToVectors、属性计算、Filter过滤及数据导出等关键步骤，理解从遥感分析到空间决策支持的全流程设计逻辑。

高等院校如何用语音输入完成复杂转化任务？.docx

12-16

高等院校如何用语音输入完成复杂转化任务？

mybatis plus源代码

12-16

已经博主授权,源码转载自 https://pan.quark.cn/s/a4b39357ea24 MyBatis-Plus-Example Spring Boot 整合 MyBatis Plus 实例，持续更新！！！代码生成器请点击此处的传送门不再维护作者尽力有限，此项目不再维护，后续会全部迁移到这里 demo-spring-boot-mybatis-plus 三方框架版本总览项目版本标识说明 BUILD 开发版本：用于标识该版本正在构建或者开发中。 SNAPSHOT 预览版本：开发已经完成，开始进入测试阶段。 RELEASE 稳定版本：已发布到中央仓库。数据库设计商品类别表-category 商品表-goods 常见问题 1、LocalDateTime无法使用的问题描述用代码生成器生成的时间类型默认为 , 但是在项目中使用报错。今天在项目上遇到了这个问题，什么原因呢？分析首先要明确，如果你的项目都和示例项目配置、依赖、版本都一样，那说明本身是没有问题的。肯定是其他问题导致的。经过排查，项目引入了 , 版本比较老，所以无法转换导致的。解决升级版本

含中间直流的三相电力电子变压器PET仿真模型（Simulink仿真实现）

12-16

含中间直流的三相电力电子变压器PET仿真模型（Simulink仿真实现）内容概要：本文档介绍了含中间直流环节的三相电力电子变压器（PET）的Simulink仿真模型，重点实现了PET的多级拓扑结构及其控制策略。该模型涵盖AC-DC整流、DC-DC隔离变换和DC-AC逆变三个主要环节，通过中间直流环节实现电压等级变换与电气隔离，具备高功率密度、双向功率流动和优良动态响应特性。仿真模型详细展示了各模块的工作原理与参数设计，并通过系统级仿真验证了PET在稳态与暂态工况下的性能表现，适用于新型电力系统、智能电网及新能源接入等场景。; 适合人群：电气工程、电力电子及相关专业的高校师生、科研人员及从事电力系统仿真的工程技术人员。; 使用场景及目标：①用于教学与科研中理解电力电子变压器的工作原理与建模方法；②支撑PET控制系统的设计与优化，如电压外环、电流内环控制策略的验证；③为多端口能量路由器、直流配电系统等先进电力系统装备的研发提供仿真基础。; 阅读建议：建议结合Simulink模型文件同步操作，重点关注各子模块的搭建细节与控制参数设置，通过调整负载或输入条件进行仿真实验，深入掌握PET的动态特性与控制逻辑。

游戏中心 12.1.2 安装包

12-16

游戏中心安装包版本号 12.1.2。

大学如何通过语音交互完成成果技术画像？_1.docx

12-16

大学如何通过语音交互完成成果技术画像？_1