UserWarning: nn.init.kaiming_normal is now deprecated in favor of nn.init.kaiming_normal_.

最新推荐文章于 2024-12-18 16:32:52 发布
原创 最新推荐文章于 2024-12-18 16:32:52 发布 · 3.5k 阅读 · 4 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#深度学习 #pytorch #神经网络

在使用torch1.8.1进行模型训练时遇到UserWarning：nn.init.kaiming_normal已弃用，推荐使用nn.init.kaiming_normal_。警告不影响代码执行，但为消除警告，可以在代码中导入warnings模块并设置filterwarnings忽略警告。

基于torch1.8.1 训练模型时，出现如下warning，记录解决方法。

UserWarning: nn.init.kaiming_normal is now deprecated in favor of nn.init.kaiming_normal_.

解决：
出现警告的原因，是torch版本的更新导致之前的参数不再使用。然而警告并不影响代码运行，所以可以不管。但是，为了输出不再出现警告，可加入忽视warning的代码：

import warnings
warnings.filterwarnings('ignore')
Python中import了zhconv模块，每次导入时都会显示警告Warning：UserWarning: pkg_resources is deprecated as an API...如何解决？
**My Coding Family**
10-22 1466
🏆本文收录于 《全栈Bug调优(实战版)》 专栏，该专栏专注于分享我在真实项目开发中遇到的各类疑难Bug及其深层成因，并系统提供高效、可复现的解决思路和实操方案。无论你是刚入行的新手开发者，还是拥有多年项目经验的资深工程师，本专栏都将为你提供一条系统化、高质量的问题排查与优化路径，助力你加速成长，攻克技术壁垒，迈向技术价值最大化与职业发展的更高峰🚀！
Pytorch相似度的计算（二）
永远的小白虾的博客
06-08 2977
本文章中的相似度计算方法摘抄自：BiMPM 1 带权重的cosine相似度计算 这个方法与传统的cosine相似度计算方法不同之处就是为输入的两个向量增加了一个权重，可以通过训练权重来调节向量，获得更加精确的相似度。 import torch import torch.nn as nn class CosineSimilarityWithW(nn.Module): def __init__(self): super(CosineSimilarityWithW,self).__ini
PyTorch学习笔记：用Module和Sequential两种方式搭建网络
一颗胡萝卜的秘密基地
01-26 558
'''搭建网络：用Module和Sequential两种不同的网络定义方式''' import torch import torch.nn as nn # nn模块方便用户对网络中的层的使用 from torch.optim import SGD import torch.utils.data as Data # Data模块用于对使用数据的预处理 from sklearn.datasets import load_boston # 用于导入数据 from sklearn.preprocessing.
UserWarning: torch.nn.utils.clip_grad_norm is now deprecated in favor of torch.nn.utils.clip_grad_no
qihshe的博客
01-04 2102
这样做的目的是限制模型参数的梯度范数，以防止梯度过大导致训练不稳定等问题。版本的函数，将在不增加额外内存开销的情况下完成梯度裁剪操作。后缀版本的函数会直接修改张量的梯度值，而不会创建新的副本。函数已被弃用，并推荐使用。在 PyTorch 中，
UserWarning: nn.init.normal is now deprecated in favor of nn.init.normal_
qq_43960994的博客
10-21 4694
在保存之前将图像转换为uint8以禁止显示此警告。 解决办法：乘以255，然后加.astype(np.uint8)。
UserWarning: nn.init.kaiming_normal is now deprecated in favor of nn.init.kaiming_normal_. nn.init.kaiming_normal(m.weight, mode='fan_out')
04-01
### PyTorch 中 `nn.init.kaiming_normal` 被弃用的原因 在较早版本的 PyTorch 中，存在名为 `nn.init.kaiming_normal` 的初始化方法。然而，在后续更新中该方法已被标记为过时并最终移除。其原因是官方为了统一...
/anaconda/bin/conda run -n myl_ssrs --no-capture-output python /home/smart615/smart615/myl/SSRS-main/SSRS-main/CMFNet/trainAndtest.py /home/smart615/smart615/myl/SSRS-main/SSRS-main/CMFNet/Utils/CMFNet.py:947: UserWarning: nn.init.kaiming_normal is now deprecated in favor of nn.init.kaiming_normal_. torch.nn.init.kaiming_normal(m.weight.data) Traceback (most recent call last): File "/home/smart615/smart615/myl/SSRS-main/SSRS-main/CMFNet/trainAndtest.py", line 169, in <module> vgg16_weights = torch.load('/home/smart615/smart615/myl/SSRS-main/SSRS-main/vgg16_bn-6c64b313.pth') File "/home/smart615/.conda/envs/myl_ssrs/lib/python3.10/site-packages/torch/serialization.py", line 1028, in load return _legacy_load(opened_file, map_location, pickle_module, **pickle_load_args) File "/home/smart615/.conda/envs/myl_ssrs/lib/python3.10/site-packages/torch/serialization.py", line 1264, in _legacy_load typed_storage._untyped_storage._set_from_file( RuntimeError: storage has wrong byte size: expected %ld got %ld-42048 ERROR conda.cli.main_run:execute(125): `conda run python /home/smart615/smart615/myl/SSRS-main/SSRS-main/CMFNet/trainAndtest.py` failed. (See above for error)
最新发布
05-30
nn.init.kaiming_normal_(m.weight, mode='fan_in', nonlinearity='leaky_relu') ``` #### 四、环境配置建议 创建专用环境避免依赖冲突： ```bash conda create -n torch20 python=3.8 conda activate torch20 ...
UserWarning: nn.init.xavier_uniform is now deprecated in favor of nn.init.xavier_uniform_. nn.init.xavier_uniform(m.weight, gain=nn.init.calculate_gain('relu'))
06-08
这个警告意味着 PyTorch 中的 `nn.init.xavier_uniform` 已被弃用，建议使用 `nn.init.xavier_uniform_` 替代。为了避免这个警告，你可以将原来的代码： ``` nn.init.xavier_uniform(m.weight, gain=nn.init....
torch.nn.init.kaiming_normal_
weixin_36670529的博客
08-17 1万+
torch.nn.init.kaiming_normal_(tensor, a=0, mode='fan_in', nonlinearity='leaky_relu')[source] Fills the input Tensor with values according to the method described in Delving deep into rectifiers: Surp...
Pytorch Kaiming 初始化（Initialization）中fan_in和fan_out的区别/应用场景
bxdzyhx的博客
02-28 5233
fan_in 如果权重是通过线性层（卷积或全连接）隐性确定的，则需设置mode=fan_in。 例子： import torch linear_layer = torch.nn.Linear(node_in, node_out) init.kaiming_normal_(linear.weight, mode=’fan_in’) output_data = relu(linear_layer(input_data)) fan_out 如果通过创建随机矩阵显式创建权重，则应进行设置mode=‘fan_ou
PyTorch----torch.nn.init.kaiming_normal_
xinxin的博客
03-27 3840
具体而言，对于ReLU激活函数，Kaiming初始化方法使用了激活函数的非线性属性，将权重初始化为以0为中心、标准差为sqrt(2 / fan_in)的正态分布，其中fan_in表示输入的数量。Kaiming初始化方法用正态分布中采样的值初始化权重，该正态分布的均值为0，标准差根据层中使用的特定非线性计算。传统的初始化方法，如Xavier初始化，是根据输入和输出层的连接数来初始化权重的，但在使用ReLU激活函数时，这种方法可能导致梯度在反向传播过程中逐渐消失，尤其是在深度网络中。该参数影响如何计算标准差。
【torch杂记】torch.nn.init.kaiming_normal_
椰子奶糖的博客
07-03 1万+
torch.nn.init.kaiming_normal_ 文章目录torch.nn.init.kaiming_normal_参考源码 参考 torch.nn.init.kaiming_normal_ python中的numel()函数 源码 这个函数就是实现这个公式 std=gainfan_mode \text{std} = \frac{\text{gain}}{\sqrt{\text{fan\_mode}}} std=fan_mode​gain​ def kaiming_normal_(
深入浅出Pytorch函数——torch.nn.init.kaiming_normal_
冯·诺依曼
08-19 6987
torch.nn.init.kaiming_normal_(tensor, a=0, mode='fan_in', nonlinearity='leaky_relu')
神经网络权重初始化代码 init.kaiming_uniform_和kaiming_normal_
热门推荐
qq_41917697的博客
04-23 2万+
神经网络权重初始化--容易忽视的细节为什么要初始化初始化方法 为什么要初始化 权重初始化的目的是防止在深度神经网络的正向（前向）传播过程中层激活函数的输出损失梯度出现爆炸或消失。如果发生任何一种情况，损失梯度太大或太小，就无法有效地向后传播，并且即便可以向后传播，网络也需要花更长时间来达到收敛。 初始化方法 建议可以看看这个：《Delving Deep into Rectifiers: Surpassing Human-Level Performance on ImageNet Classificatio
Kaiming_normal 正态分布
tangweirensheng的博客
10-08 4043
torch.nn.init.kaiming_normal_(tensor, a=0, mode= 'fan_in', nonlinearity='leaky_relu') 此为0均值的正态分布，N～ (0,std) std = sqrt(2/(1+a^2)*fan_in) a为激活函数的负半轴的斜率，relu是0 mode: 选择“fan_in”保留了forward传递中权重的方差大小。选择' 'fan_out' ' '保留了向后传递的幅度。 没理解 mode作用，先占个坑 nonlin...
Pytorch初始化方法
JNash的博客
01-25 6196
常用初始化方法 PyTorch 中提供了 10 中初始化方法 Xavier 均匀分布 Xavier 正态分布 Kaiming 均匀分布 Kaiming 正态分布 均匀分布 正态分布 常数分布 正交矩阵初始化 单位矩阵初始化 稀疏矩阵初始化 3、nn.init.kaiming_normal_(m.weight.data) 5、用均匀分布的值填充输入张量, 参数a：均匀分布的下界, 默认为0.; 参数b：均匀分布的上界, 默认为1 uniform_weights = nn.ini
警告 torch.nn.utils.weight_norm is deprecate 的参考解决方法
qq_39779233的博客
12-18 2195
警告 torch.nn.utils.weight_norm is deprecate 的参考解决方法
「细聊」torch.nn.init 初始化
绿色羽毛
08-11 1万+
init.uniform从均匀分布 \mathcal{U}(a, b)中生成值，填充输入的张量或变量 Parameters:tensor - n维的torch.Tensor a - 均匀分布的下界 b - 均匀分布的上界 nn.init.normal 从给定均值和标准差的**正态分布** $\mathcal{N}(mean, std)$中生成值，填充输入的张量或变量 Parameters: tensor – n维的torch.Tensor mean – 正态分布的均值 std nn.init.constan
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

irober

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值