《GANs实战》学习笔记（四）第四章 深度卷积生成对抗网络（DCGAN）

最新推荐文章于 2025-10-09 08:00:00 发布
原创 最新推荐文章于 2025-10-09 08:00:00 发布 · 1.1k 阅读 · 9 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。

本文介绍深度卷积生成对抗网络（DCGAN）的原理及其实现，包括批归一化的重要性、卷积神经网络的基础知识，以及如何用Keras构建并训练DCGAN生成MNIST手写数字。

GAN（生成对抗网络）出版了一本实战书，了解下？

第四章 深度卷积生成对抗网络（DCGAN）

生成器和鉴别器都使用卷积神经网络，这种GAN架构称为深度卷积生成对抗网络（DCGAN）。

DCGAN复杂架构在实践中变为可行的关键性突破之一：批归一化（Batch Normalization）。

一、卷积神经网络

1、卷积滤波器

卷积是通过在输入层上滑动一个或多个滤波器（filter）来执行的。每个滤波器都有一个相对较小的感受野（宽乘高），但它贯穿输入图像的全部深度。

2、参数共享

滤波器参数被其所有输入值共享，这具有直观和实用的优点。直观地讲，参数共享能够有效地学习视觉特征和形状（如线条和边缘），无论它们在输入图像中位于何处。（位置无关性。）

二、批归一化

就像对网络输入进行归一化一样，每个小批量训练数据通过网络时，对每个层的输入进行归一化。

1、理解归一化

归一化（Normalization）是数据的缩放，使它具有零均值和单位方差。这是通过取每个数据点x减去平均值\mu，然后除以标准偏差得到的。

\hat{x}=\frac{x-\mu }{\sigma }

归一化有几个优点：最重要的一点或许是：使得具有巨大尺度差异的特征之间的比较变得更容易。从而使训练过程对特征的尺度不那么敏感。

归一化通过将每个特征值缩放到一个标准化的尺度上解决了这个问题，这样一来每个数据点都不表示为其实际值，而是以一个相对的“分数”表示给定数据点与平均值的标准偏差。

在处理具有多层的深度神经网络时，仅规范化输入可能还远远不够。当输入值经过一层又一层网络时，他们将被每一层中的可训练参数进行缩放。当参数通过反向传播得到调整时，每一层输入的分布在随后的训练中都容易发生变化，从而影响学习过程的稳定性。在学术界，这个问题称为：协变量偏移（covariate shift）。批归一化通过按每个小批量的均值和方差缩放每个小批量中的值来解决该问题。

2、计算批归一化

批归一化的计算方式与之前介绍的简单归一化方程在几个方面有所不同。

令\mu _{B}为小批量B的平均值，\sigma _{B}^{2}为小批量B的方差（均方误差）。归一化值\hat{x}的计算公式

\hat{x} = \frac{x-\mu _{B}}{\sqrt{\sigma ^{2}+\varepsilon }}

增加\varepsilon项是为了保持数值稳定性，主要是为了避免被零除，一般设置为一较小的正常数。例如0.001。

同时，在批归一化中，不直接使用这些归一化值，而是将它们乘以\gamma并加上\beta后，再作为输入传递到下一层。

重要的是：\gamma和\beta是可训练的参数，就像权重和偏置一样在网络训练期间进行调整。这样做有助于将中间的输入值标准化，使其均值在0附近（但非0）。方差也不是1。\gamma和\beta是可训练的，因此网络可以学习哪些值最有效。

Keras中的函数

最低0.47元/天 解锁文章
2025年 课程设计 机器学习&深度学习实战案例,含有python代码和教程 (4月10日已更新1179篇)
斌擎科技
10-05 9530
10月促销价99.9,适合初学python机器学习深度学习的学生,从入门到精通,专栏内含有讲解,每篇文章都含有对应的代码,会持续更新,更新至千篇案例,已经更新六百多个项。
深度学习七：GAN和DCGAN入门
qq_24946843的博客
03-14 1655
GAN的全称为Generative Adversarial Networks，意为对抗生成网络。原始的GAN是一种无监督学习方法，它巧妙地利用“对抗”的思想来学习生成式模型，一旦训练完成后可以生成全新的数据样本。DCGAN将GAN的概念扩展到卷积神经网络中，可以生成质量较高的图片样本。GAN和DCGAN在各个领域都有广泛的应用，这篇文章首先会介绍他们的原理，再介绍如何在TensorFlow中使用D...
【代码篇】【1】详解GAN代码生成mnist图片（keras）
qq_37900662的博客
03-09 2148
【代码篇】【1】详解GAN代码生成mnist图片（keras） 0.GAN的基本概念 GAN (Generative Adversarial Networks)从其名字可以看出，是一种生成式的对抗网络。再具体一点， 就是通过对抗的方式，去学习数据分布的生成式模型。所谓的对抗，指的是生成网络和判别网络的互相对抗。生成网络尽可能生成逼真的样本，判别网络则尽可能去判别该样本是真实样本，还是生成的假样本...
批归一化(Batch Normalization)详解
热门推荐
AI视觉Daily
02-02 3万+
批归一化(Batch Normalization)详解 文章目录批归一化(Batch Normalization)详解前言一、数据归一化二、BN解决的问题：Internal Covariate Shift三、BN如何做的数据归一化四、BN的本质总结 前言 批归一化简称BN，是由Google于2015年提出，这是一个深度神经网络训练的技巧，它不仅可以加快了模型的收敛速度，而且更重要的是在一定程度缓解了深层网络中“梯度弥散（特征分布较散）”的问题，从而使得训练深层网络模型更加容易和稳定。所以目前BN已经成为几
经典GAN架构：DCGAN详解与复现（含代码）
最新发布
fykam的博客
10-09 555
DCGAN（深度卷积生成对抗网络）是一种结合卷积神经网络的经典GAN架构，专门用于图像生成。它包含生成器和判别器：生成器通过反卷积层将随机噪声转化为高分辨率图像，判别器则通过卷积层判断图像真伪。本文详细介绍了DCGAN的架构，并提供了分步骤复现教程，包括数据加载（以CIFAR-10为例）、模型初始化（含PyTorch代码实现生成器和判别器）以及训练过程（优化器和损失函数设置）。通过生成器与判别器的对抗训练，DCGAN能够生成逼真的图像。完整的代码示例帮助读者解决复现中可能遇到的问题。
深度学习笔记（一）：卷积神经网络CNN
Lineng's blog
12-25 2068
卷积层 卷积核Kernel 步幅Stride 填充Padding 多通道上的卷积 激活函数 卷积函数 转置卷积 池化层 池化的三种方式 局部池化 全局池化 ????卷积神经网络由一个或多个卷积层和顶端的全连通层（对应经典的神经网络）组成，通过也包括关联权重和池化层（Pooling Layer） -用于手写识别的一个比较简单的卷积神经网络，由卷积层(Conv2d)、池化层(MaxPool2d)和全连接层(Linear)叠加而成 import torch.nn as nn im
【AI知识点】批归一化（Batch Normalization）
AI完全体
10-07 1980
批归一化（Batch Normalization） 是一种重要的神经网络正则化方法，它通过标准化每一层的输入来加速神经网络的训练过程并提高模型的稳定性。其主要优势包括减少梯度消失和梯度爆炸、加快收敛速度，并提供一定的正则化效果，降低过拟合风险。批归一化在卷积神经网络和全连接神经网络中非常流行，几乎是现代深度学习模型中的标准组件。
炉火纯青__深度卷积生成对抗网络（DCGAN）（四）
散修炼丹师手记
04-14 1098
近年来，深度卷积神经网络（CNN）的监督学习在计算机视觉应用上发挥巨大的作用，然而CNN的非监督学习只受到较少的关注。我们希望有助于缩小CNN在监督学习和非监督学习成功的差距，于是提出了一种叫做深度卷积生成对抗网络的CNN，它具有一定的结构约束，展示了其在非监督学习方向上强有力的候选方案。
深度学习07-深度卷积生成对抗网络(DCGAN)
liaomin416100569的专栏
07-11 6766
GAN（Generative Adversarial Network）是一种生成模型，由两个神经网络组成：生成器（Generator）和判别器（Discriminator）。GAN的基本思想是通过让生成器和判别器相互对抗来学习生成真实样本的能力。生成器的作用是将一个随机噪声向量作为输入，通过一系列的神经网络层逐渐将其转化为一个与真实样本相似的输出。生成器的目标是尽量使生成的样本被判别器误认为是真实样本，从而欺骗判别器。生成器的训练目标是最小化生成样本与真实样本之间的差异。
《GANs实战》学习笔记（一）第一章 GAN简介
xiaoyaolangwj的博客
05-05 867
GAN（生成对抗网络）有一本实战书出版了，了解下？ 这个标题的文章中有对本书的非常专业的概括，我也是因为读了它的导读购买阅读并整理这个子分类专栏。 本书电子版。 目录： 1、第一章 GAN简介 2、第二章自编码器生成模型入门 3、第三章你的第一个GAN模型：生成手写数字 4、第四章深度卷积生成对抗网络（DCGAN） 5、第五章训练与普遍挑战：为成功而GAN 6、第六章渐进式增长生成对抗网络（PGGAN） 7、第七章半监督生成对抗网络（SGAN） 8、第八章条件生...
GAN生成对抗网络入门篇
【人工智能】王小草的博客
01-19 1万+
笔记整理：王小草 时间：2019年1月 一、GAN简介 1 背景 全称：generative adversarial network 生成式对抗网络（不一定是深度学习） 论文：https://arxiv.org/abs/1406.2661 提出者：Ian Goodfellow（也是深度学习花园书的作者） 2 Gan能做什么？ 2.1 生成图片 下图，第一张图是真实图片，第二张是使用MSE为损失的监...
KKB——深度卷积生成对抗网络
小白菜的博客
08-04 491
!pip install tensorflow-gpu==2.0.0 DCGAN import glob import imageio import matplotlib.pyplot as plt import numpy as np import os import PIL from tensorflow.keras import layers import time from IPython import display (train_images, train_labels), (_,
网络模型（DCGAN-深度卷积 GAN）
炉边碎语
06-24 1545
概念 生成网络 尺寸变大（1 → 图片尺寸）。 通道数变大，再逐渐变小（in → max → …… → 3）。 输出用 Tanh 激活。 输出层不用 BN。 判别网络 尺寸变小（图片尺寸 → 1）。 通道数逐渐变大，再变小（3 → …… → max → 1）。 输出用 Sigmoid 激活。 输入层不用 BN。 实验（生成卡通人脸） 数据集：96×96 的卡通人脸。（5 万） 网络结构： 判别器：卷积 + 标准化（BN）+ 激活（LeakyReLU）+ Sigmoid。 生成器：转置卷积 + 标准化（B
深度卷积生成对抗网络(DCGAN)来生成对抗图像
微信公众号：码奋
07-19 823
DCGAN 实现深度卷积生成对抗网络(DCGAN)来生成对抗图像 图来源网络 main.py import os import numpy as np import tensorflow as tf from tensorflow import keras from scipy.misc import toimage from gen import Generator, Discriminator def save_result(val_out, val_block_s
[生成对抗网络GAN入门指南]（4）DCGAN 深度卷积生成对抗网络
gdtop的个人笔记
02-12 6516
一、DCGAN介绍 1. DCGAN的设计规则 2. DCGAN的框架结构 二、DCGAN的工程实践及代码 1、导入keras及可视化相关包 2、设计DCGAN主函数 3、运行 三、实验室应用 1、三个数据集的实验结果： ①LSUN ②face ③Imagenet-1K 2、隐含空间 3、学习到的特征 4、词嵌入（Future Work） 完整代码（判别器结构，生成器结构） DCG...
深度学习之生成对抗网络（Gan）
legalhighhigh的博客
07-14 1万+
概念： 生成对抗网络（GAN，Generative Adversatial Networks）是一种深度学习模型，近年来无监督学习上最具前景的方法之一。 模型主要通用框架有（至少）两个模块：生成模型（generative）和判别模型（Discriminative）的互相博弈学习产生的相当好的输出。 原始GAN理论中，并不要求G和D都是神经网络，但使用中一般均使用深度神经网络作为G和D。 ...
【深度学习·命运-59】多尺度生成对抗网络
m0_69378371的博客
12-10 1297
是一种通过引入多尺度生成和判别结构的生成对抗网络方法。它通过同时考虑不同分辨率和尺度的图像生成和判别，增强了生成模型的表现力，使其能够更好地捕捉图像的细节和全局结构。MS-GAN在生成图像质量、稳定性和多尺度信息流通方面具有显著优势，但也面临着计算开销和架构设计等挑战。随着深度学习技术的不断进步，MS-GAN有望在图像生成、超分辨率、风格迁移等多个领域发挥重要作用。
好像还挺好玩的GAN2——Keras搭建DCGAN利用深度卷积神经网络实现图片生成
Bubbliiiing的学习小课堂
12-28 1万+
好像还挺好玩的GAN2——DCGAN利用深度卷积神经网络实现生成学习前言什么是DCGAN神经网络构建1、Generator2、Discriminator训练思路实现全部代码 学习前言 我又死了我又死了我又死了！ 什么是DCGAN DCGAN的全称是Deep Convolutional Generative Adversarial Networks , 意即深度卷积对抗生成网络。 它是由Alec ...
GAN2——Keras搭建DCGAN利用深度卷积神经网络实现图片生成
Mo181111的博客
07-04 1852
参考：https://blog.youkuaiyun.com/weixin_44791964/article/details/103743038 b站视频：https://www.bilibili.com/video/BV13J41187Fo 目录 学习前言 什么是DCGAN 神经网络构建 1、Generator 2、Discriminator 训练思路 实现全部代码 实现效果为： 学习前言 什么是DCGAN DCGAN的全称是Deep Convolutional Generative A
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值