Gumbel-Softmax Trick+VAE重参数化技巧

最新推荐文章于 2025-07-15 19:48:45 发布
转载 最新推荐文章于 2025-07-15 19:48:45 发布 · 564 阅读 · 1 ·
CC 4.0 BY-SA版权
原文链接：https://www.cnblogs.com/initial-h/p/9468974.html
文章标签：

#gumble #VAE

本文探讨了如何将前端技术如Vue与人工智能技术如TensorFlow结合，分享实例和实践，适合开发者了解前沿趋势。
部署运行你感兴趣的模型镜像

在这里插入图片描述
更多详见 https://www.cnblogs.com/initial-h/p/9468974.html

您可能感兴趣的与本文相关的镜像

TensorFlow-v2.15

TensorFlow-v2.15

TensorFlow

TensorFlow 是由Google Brain 团队开发的开源机器学习框架,广泛应用于深度学习研究和生产环境。 它提供了一个灵活的平台,用于构建和训练各种机器学习模型

VAE的重参数化是什么
weixin_51176105的博客
12-02 2660
重参数化技巧的关键优势在于它允许随机变量的梯度通过变分参数传递，这使得可以使用基于梯度的优化方法（如SGD）来训练VAE。这是使VAE成为一个强大的生成模型的基础，因为它不仅可以生成新的数据点，而且还可以通过潜在空间学习到有意义的表示。在变分自编码器（VAE）中，重参数化技巧是解决优化问题的关键步骤。VAE旨在通过最大化数据的边缘对数似然来训练一个生成模型，但是这通常是不可行的，因为涉及到潜在变量的积分，这个积分通常是无法直接计算的。因此，VAE采用变分推断来最大化边缘对数似然的下界（ELBO）。
机器学习：VAE重参数技巧一个细节理解
随便记记
06-29 3885
关于q(z)q(z)q(z)和p(ε)p(\varepsilon)p(ε) VAE中，用随机梯度变分推断进行参数θθθ进行更新时，如果直接从q(z)q(z)q(z)中采样z，算期望的梯度会导致"高方差问题"，因此采用重参数化技巧，换种方式采样，即用随机变量ε\varepsilonε来代表随机性，服从一个标准正太分布，然后通道对这个随机变量进行变换。 一个关键步骤是： Ez q(z)[f(z)]=Eε p(ε)[f(g(ε))]E_{z~q(z)}[f(z)]=E_{\varepsilon
连续型和离散型随机变量（基于Gumbel Softmax）的重参数化
上帝是个娘们的博客
11-01 4013
本文是阅读苏剑林大佬的博客漫谈重参数：从正态分布到Gumbel Softmax之后的记录，算是自己的阅读笔记吧。 在苏大佬的那篇博客中，分别针对连续型和离散型随机变量讲解了如何进行重参数化，但是自己不是特别理解离散型随机变量的重参数化，便记录在此。 什么是连续型和离散型随机变量？ 这里没有各种形式化的定义，只是根据自己的理解通俗的来讲解二者的区别。 可以先告诉大家，我们目前经常用到的连续型随机变量...
【通俗理解】重参数化技巧：这是VAE中的“魔法棒”，它允许我们从隐变量的分布中采样，并通过一个可微分的变换将其映射到数据空间，从而实现梯度的传递。
神经美学_茂森的博客
08-19 1642
变分自编码器 #VAE #隐变量 #重参数化技巧 #生成模型 #概率模型 #编码器 #解码器 #变分推断。
VAE中重参数化技巧
qq_40128284的博客
07-12 1万+
谈起重参数化技巧，不得不提变分自编码器(VAE)；在VAE中，我们知道需要对编码器的输出、进行采样，从而可以将采样输入到编码器网络，能够得到输入样本的重构，以这种方式对模型进行训练。而VAE并没有这么做，而是采取了另一种做法：从高斯分布中采样，然后和训练样本训练得到的和，做运算的结果输入到解码器网络（点乘符号表示每个元素位置上的相乘），便能得到我们样本x的重构，这让我很困惑很久。下面开始介绍重参数化技巧，以两种情况： 概率分布： 直接从边缘概率分布中采样，即给定一个随机变量y，并且，这里我们用表示
Gumbel-Softmax
Rhett_Butler0922的博客
04-28 1195
Gumbel-Softmax是一种将离散采样转化为可微过程的强大工具，核心是通过Gumbel噪声和Softmax函数近似分类分布的采样。它解决了深度学习中离散变量不可微的难题，广泛应用于VAE、GAN、强化学习和NAS等领域。通过温度参数τ\tauτ，Gumbel-Softmax可以在离散性和连续性之间灵活调节。背景：离散采样不可微，阻碍端到端训练。方法：用Gumbel-Max技巧采样，用Softmax近似argmax。数学：Gumbel噪声保证随机性，Softmax保证可微性。应用。
Gumbel-Softmax简介
qq_44733706的博客
08-07 3565
Gumbel softmax：解决了采样于计算图的分离问题。
【一文学会】Gumbel-Softmax的采样技巧
热门推荐
小明的博客
10-24 4万+
目录 基于softmax的采样 基于gumbel-max的采样 基于gumbel-softmax的采样 基于ST-gumbel-softmax的采样 Gumbel分布 回答问题一 回答问题二 回答问题三 附录 以强化学习为例，假设网络输出的三维向量代表三个动作（前进、停留、后退）在下一步的收益，value=[-10,10,15]，那么下一步我们就会选择收益最大的动作（后退...
Gumbel Softmax方法
Reaearcher-Du
11-07 1712
在很多场景中，我们需要对离散数据进行采样，然而神经网络等深度学习模型更擅长处理连续数据。为此，Gumbel Softmax通过引入Gumbel分布，将离散的选择过程转换为连续的分布，从而使得模型可以端到端地进行训练。
重参数采样Reparameterization Trick和Gumbel-Softmax
邹九的个人博客
10-22 964
在RL强化学习的学习过程，有很多地方都需要用到类别采样，也就是神经网络输出了每个类的概率，然后需要采样的，而且采样过程要能反向传播求梯度或者神经网络输出了 平均值 以及 标准差，需要对该正态分布采样，能反向传播和求梯度的但是通常的类别采样，或者正态分布采样，都是不可导的，求不出梯度的，需要使用其他的方式来求出梯度Reparameterization Trick重参数采样就是将采样分成了两个部分： 随机 + 确定采样由随机部分负责，确定则用来算出采样结果和反向传播梯度，确定也就是输入，随机部分不需要求梯度下
深度矢量量化：VQVAE，GumbelSoftmaxes和朋友
03-04
深度矢量量化 实现VQVAE的培训代码，即具有分类潜在变量瓶颈的自动编码器，然后可以轻松地将其插入到现有基础结构中，以对离散变量序列（GPT和朋友）建模。 dvq/vqvae.py是训练脚本的入口点，可以称为一次小型训练运行，例如： cd dvq; python vqvae.py --gpus 1 --data_dir /somewhere/to/store/cifar10 这将使用CIFAR-10上的一个半小型网络来复制原始DeepMind VQVAE论文（请参阅之前的参考资料）。 此仓库上的工作仍在进行中，目前需要阅读代码并理解这些方法。 接下来，旨在重现DALL-E的结果，因为大多数代码已经到位，但是我们需要使用logit laplace分布进行训练，调整gumbel softmax超参数，并在ImageNet +上进行训练。 参考 DeepMind的 可以使用--vq_fla
Gumbel-Softmax Trick和Gumbel分布 附VAE讲解
Beryl的博客
10-26 3512
转自https://www.cnblogs.com/initial-h/p/9468974.html 写的非常好，思路清晰，顺带连VAE trick也讲了 之前看MADDPG论文的时候，作者提到在离散的信息交流环境中，使用了Gumbel-Softmax estimator。于是去搜了一下，发现该技巧应用甚广，如深度学习中的各种GAN、强化学习中的A2C和MADDPG算法等等。只要涉及在离散分布上运用重参数技巧时(re-parameterization)，都可以试试Gumbel-Softmax Trick。
【扩散模型基础知识】Diffusion Model中的重参数化和VAE中的重参数化的区别
页页读
03-05 5778
在机器学习中，重参数化（reparameterization）是一种技术，用于改变模型参数的表达方式，以便能够更高效或者更稳定地进行优化。它在不同的模型中有不同的应用和含义。下面我们分别看看在扩散模型（Diffusion Models）和变分自编码器（Variational Autoencoder, VAE）中重参数化的含义及其区别。
gumbel-softmax trick
weixin_43301333的博客
12-07 1076
VAE和GAN里面训练的时候常用的技巧，主要是为了解决那种预测是"hard"，即输出是一个one-hot的决策时，没有办法直接计算后续损失的情况。而使用softmax强制其输出为概率分布的话，虽然可以计算后续损失，但是其本质上还是argmax的含义。为了能够在模型决策训练的过程中引入一定的随机性(个人理解为决策的soft程度，而不是单纯的hard)，尤其是在Reinforce Learning里面，常用一个trick就是gumbel-softmax。其核心思想是利用gumbel分布进行采样，增加模型决策的随
具身智能零碎知识点（六）：VAE 核心解密：重参数化技巧（Reparameterization Trick）到底在干啥？
最新发布
xzs1210652636的博客
07-15 1612
摘要： 变分自编码器（VAE）通过编码器输出概率分布参数（均值μ和方差σ²），并从中采样潜在向量z，但采样操作的随机性导致梯度无法回传，阻碍训练。重参数化技巧通过将采样过程改写为确定性计算（z = μ + σ·ε，ε∼N(0,1)），将随机性转移至独立噪声ε，使梯度可顺利回传至编码器的μ和σ参数。代码中，编码器通常输出对数方差（logσ²），经指数和平方根运算得到σ，再结合标准正态噪声ε生成z。这一技巧是VAE实现端到端训练的关键，保障了模型在潜在空间中的连续性与可学习性。
Gumbel-Softmax Trick和Gumbel分布
lrt366的博客
11-27 1452
看这里：www.cnblogs.com/initial-h/p/9468974.html
离散变分自编码器(dVAE)详解(采用Gumbel Softmax)
sjtu_wyy的博客
06-25 1437
离散变分自编码器(dVAE)是基于标准VAE的改进模型，其核心特点是将连续潜在空间离散化，从而更好地处理文本、类别标签等离散数据类型。dVAE通过引入Gumbel Softmax技巧解决离散采样不可导的问题，使梯度能够反向传播。模型架构包含编码器、解码器和离散潜在变量三部分，其中编码器输出离散变量的概率分布，解码器重建原始数据。损失函数采用变分下界(ELBO)，包含重建损失和KL散度项。与VQ-VAE相比，dVAE使用概率表示和软量化，提供更强的可解释性，但训练速度较慢且对超参数更敏感。
推荐开源项目：Gumbel Softmax VAE - 革新的变分自编码器
gitblog_00064的博客
06-02 434
推荐开源项目：Gumbel Softmax VAE - 革新的变分自编码器 在这个快速发展的AI时代，我们不断寻找能够优化模型性能的新技术和方法。今天，我要向大家推荐一个基于PyTorch的开源项目——Gumbel Softmax VAE。这个项目实现了Gumbel-Softmax分布与**变分自编码器（Variational Autoencoder, VAE）**的结合，为深度学习中的离散变量建...
Gumbel-Softmax(离散采样如何进行反向传播)
f9547064141的博客
12-17 824
https://zhuanlan.zhihu.com/p/166632315
通俗易懂地理解Gumbel-Softmax
03-19
### Gumbel-Softmax 算法原理及通俗解释 Gumbel-Softmax 是一种用于离散变量分布优化的技术，它通过引入连续松弛来近似离散随机变量的选择过程[^2]。这种方法允许梯度能够流经采样操作，从而使得模型可以利用反向传播算法进行端到端的学习。 #### 原理概述 Gumbel-Softmax 方法的核心在于将离散概率分布转化为可微分的形式。假设有一个离散的概率分布 \( p(z) \)，其中 \( z \in \{1, ..., K\} \) 表示可能的状态集合，则可以通过加入噪声项并应用 softmax 函数将其映射为连续空间上的表示： \[ y_i = \frac{\exp((\log(\pi_i) + g_i)/\tau)} {\sum_{j=1}^{K}\exp((\log(\pi_j)+g_j)/\tau)}, i = 1,...,K \] 这里： - \( g_i \sim Gumble(0,1) \) 是独立同分布的标准 Gumbel 随机变量， - \( \pi_i \) 是原始类别 \( i \) 的先验概率， - \( \tau > 0 \) 被称为温度参数 (temperature parameter)[^3]。 当温度参数趋近于零 (\( \tau \to 0 \)) 时，上述表达式会逐渐逼近 one-hot 编码形式；而较大的温度则会使输出更加平滑，接近均匀分布。 #### 通俗理解 可以把这个机制想象成掷骰子游戏：如果每面都有不同的权重（即各个类别的可能性），那么我们不仅要知道哪一面朝上，还需要考虑如何调整这些权值以便更好地适应目标函数的要求。然而，在传统的方法里，“选择哪个数”的动作本身不可导，因此无法直接计算损失相对于输入数据的变化率。于是乎，借助 Gumbel 分布制造一些可控扰动之后再做软最大化处理，就相当于给每个候选答案赋予了一个介于完全确定与彻底模糊之间的中间状态值，这样既保留了原有逻辑关系又实现了数值意义上的光滑过渡，最终达到既能保持决策多样性又能有效训练神经网络的目的[^4]。 ```python import torch from torch.distributions import OneHotCategorical def sample_gumbel_softmax(logits, temperature): """ Sample from the Gumbel-Softmax distribution and optionally discretize. Args: logits: Unnormalized log probabilities as a Tensor of shape [..., n_categories]. temperature: Non-negative scalar controlling smoothness. Returns: A tensor sampled according to the Gumbel-Softmax reparameterization trick. """ uniform_noise = torch.rand_like(logits) gumbel_noise = -torch.log(-torch.log(uniform_noise + 1e-20) + 1e-20) noisy_logits = (logits + gumbel_noise) / temperature return torch.nn.functional.softmax(noisy_logits, dim=-1) # Example usage logits = torch.tensor([[1., 2., 3.]]) # Log-probabilities for three categories temperature = 0.5 # Temperature hyperparameter sampled_values = sample_gumbel_softmax(logits, temperature) print(sampled_values) ```
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值