Pytorch定义网络结构时网络结构参数初始化

远古穷鬼

于 2021-11-06 10:28:07 发布

阅读量348

点赞数

CC 4.0 BY-SA版权

分类专栏： pytorch学习深度学习文章标签： pytorch 深度学习人工智能

版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。

本文链接：https://blog.youkuaiyun.com/weixin_43327191/article/details/121175436

pytorch学习深度学习专栏收录该内容

20 篇文章

订阅专栏

本文探讨了在定义神经网络结构时如何初始化权重，以促进模型训练的更快收敛。通过使用正态分布初始化全连接层和卷积层的权重，并将偏置设置为零，可以改善学习过程的稳定性。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

定义网络结构时，对网络结构参数进行初始化，有时更利于网络的训练收敛

    def weight_init(self):
        for m in self._modules:
            if isinstance(m, nn.Linear) or isinstance(m, nn.Conv2d):  #判断当前网络结构是否为全连接层或者卷积层
                m.weight.data.normal_(0.0, 0.01)
                m.bias.data.zero_()

博客等级

码龄7年

95
原创

47
点赞

353
收藏

19
粉丝

关注

私信

热门文章

分类专栏

展开全部收起

上一篇：: python非线性优化--minimize

下一篇：: torch.cat与torch.stack的区别

最新评论

图像运算
傾一世ゐ帝: 续数字水印 plt.subplot(2, 2, 1), plt.imshow(water_mark, cmap="gray"), plt.title("original water_mark") plt.subplot(2, 2, 2), plt.imshow(image, cmap="gray"), plt.title("original image") plt.subplot(2, 2, 3), plt.imshow(image2, cmap="gray"), plt.title("after image") plt.subplot(2, 2, 4), plt.imshow(water_mark2, cmap="gray"), plt.title("after water_mark") # 显示图像 plt.tight_layout() # 自动调整子图间距 plt.show()
图像运算
傾一世ゐ帝: 数字水印有点问题 import cv2 import numpy as np import matplotlib.pyplot as plt # 导入 matplotlib.pyplot 并使用别名 plt # 水印图片 water_mark = cv2.imread("true.jpg", cv2.IMREAD_GRAYSCALE) # 实体图片 image = cv2.imread("color_2.jpg", cv2.IMREAD_GRAYSCALE) # 检查图像是否加载成功 if water_mark is None or image is None: print("Error: Unable to load one or both images. Please check the file paths.") exit() x, y = image.shape # 将两张图片大小统一 water_mark = cv2.resize(water_mark, (y, x)) # 嵌入 # 将实体图片最低有效位清零 # 构建清零矩阵 mode1 = np.zeros(image.shape, dtype=np.uint8) + 254 # 清零 image1 = cv2.bitwise_and(image, mode1) # 水印图片预处理 mark1 = water_mark > 0 water_mark1 = water_mark.copy() water_mark1[mark1] = 1 # 嵌入 image2 = cv2.bitwise_or(image1, water_mark1) # 水印图片提取 # 创建提取矩阵 mode2 = np.ones(image.shape, dtype=np.uint8) # 提取 water_mark2 = cv2.bitwise_and(image2, mode2) mark2 = water_mark2 > 0 water_mark2[mark2] = 255 # 使用 matplotlib 显示图像 plt.figure(figsize=(10, 8)) # 设置图像显示窗口大小
图像运算
傾一世ゐ帝: 位平面那里显示不出来import cv2 import numpy as np import matplotlib.pyplot as plt # 读取灰度图像 dog = cv2.imread("dog_1.jpg", cv2.IMREAD_GRAYSCALE) # 检查图像是否加载成功 if dog is None: print("Error: Unable to load image 'dog_1.jpg'. Please check the file path.") exit() # 获取图像大小 x, y = dog.shape # 创建提取矩阵 mode = np.zeros((x, y, 8), dtype=np.uint8) for i in range(8): mode[:, :, i] = 2 ** i # 显示原始图像 plt.subplot(3, 3, 1), plt.imshow(dog, cmap="gray"), plt.title("original") # 逐位分解图像 for i in range(8): # 位图分解 image = cv2.bitwise_and(dog, dog, mask=mode[:, :, i]) # 注意掩码的使用方式 image = np.where(image > 0, 255, 0) # 将非零值转换为255 plt.subplot(3, 3, i + 2), plt.imshow(image, cmap="gray"), plt.title(str(i)) # 显示图像 plt.show()
图像运算
傾一世ゐ帝: 图像加权改下 import cv2 # 读取猫和狗的图像 cat = cv2.imread("cat.jpg") dog = cv2.imread("dog.jpg") # 对狗的图像进行缩放 dog = cv2.resize(dog, (533, 300)) # 确保猫的图像和狗的图像大小一致 cat = cv2.resize(cat, (533, 300)) # 将猫和狗的图像进行融合 cat_dog = cv2.addWeighted(cat, 0.5, dog, 0.5, 0) # 显示图像 cv2.imshow("cat", cat) cv2.imshow("dog", dog) cv2.imshow("cat and dog", cat_dog) # 等待用户按键并关闭窗口 cv2.waitKey(0) cv2.destroyAllWindows()
对抗样本cleverhans的使用
qq_40619760: 这个就是完整的啊

大家在看

最新文章

目录

展开全部

收起

评论

被折叠的条评论为什么被折叠?

到【灌水乐园】发言

查看更多评论

添加红包

成就一亿技术人!

hope_wisdom

发出的红包

实付元

使用余额支付

点击重新获取

扫码支付

钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。