- 博客(17)
- 收藏
- 关注
RSS订阅原创 Pytorch框架之多学习率调度器的运用
本文介绍了在PyTorch中使用多学习率调度器组合的方法，重点展示了如何将预热学习率调度器和余弦退火调度器通过SequentialLR进行组合。作者分享了实际应用中的断点续训问题解决方案：通过手动调用scheduler.step()来同步调度器状态，解决了父调度器与子调度器之间的epoch计数冲突问题。该方法简单有效，为复杂学习率调度策略的实现提供了实用参考。
2025-09-02 15:50:15
268
原创 Pytorch框架之训练中不同阶段使用不同的optimizer
在模型训练的不同阶段使用不同的optimizer，以避免loss爆炸的问题，让模型中后期的训练更稳定。
2024-08-09 16:29:23
330
原创 torch中实现depthwise convolution
介绍了depthwise convolution，并且提供了运用torch.nn.functional.conv2d和torch.nn.Conv2d的两种实现方式
2023-12-14 17:27:29
2395
1
原创 CV中的self-attention操作
详细介绍了计算机视觉（CV）中，transformer中的重要模块，self-attention及其各种变体，内容包括数学原理和代码实现及注释
2023-08-15 13:01:26
284
1
原创 超像素(superpixel)——SLIC和深度学习法
用简单的语言描述超像素的形成原理，提供传统法SLIC和深度学习法学习超像素的具体数学过程和核心代码
2022-11-20 11:38:17
10293
4
原创 交叉熵nn.CrossEntropyLoss()和nn.BCELoss()
简要讲解交叉熵损失的数学基础，并介绍pytorch中torch.nn.CrossEntropyLoss()函数和torch.nn.BCELoss()函数的具体实现
2022-10-05 20:27:41
1235
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人