重参数化技巧 Gumbel softmax trick

原创 已于 2022-10-31 15:13:48 修改 · 499 阅读 · 0 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#人工智能 #机器学习

于 2022-10-31 15:12:26 首次发布

https://zhuanlan.zhihu.com/p/455084077
Gumbel softmax trick
本质上是：采样还得可求导
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
此外， Gumbel分布是个极值分布
在这里插入图片描述
softmax函数：大的越大，小的越小，概率之和为1.
在这里插入图片描述

Gumbel Softmax Trick
LittleSeedling的博客
07-26 997
Gumbel Softmax Trick
Reparameterization trick（重参数化技巧）
努力学习的DS
10-22 1万+
这个确定性函数通常是一个线性变换，将从标准高斯分布（均值为0，方差为1）中采样的随机噪声与潜在变量的均值和标准差相结合。然后，通过一个神经网络或其他可微分的映射函数，将这个随机噪声向量与模型的均值和标准差参数相结合，生成最终的潜在变量。总之，“Reparameterization trick” 允许模型在训练过程中通过随机采样得到的潜在变量，同时保持了可微性，从而使生成模型更容易优化。：在生成模型中，通常会有一个随机性的潜在变量，例如高斯分布中的均值和方差，用于生成样本。
gumbel-softmax如何实现离散分布可微+torch代码+原理+证明
Braylon的博客
03-09 3693
gumbel-softmax 的原理和数学证明与torch代码实现
Gumbel-Softmax trick
UglyDuckling_16的博客
10-23 2182
Gumbel-Softmax 是一种可导采样技巧，它可以用来对离散分布进行重参数采样。与softmax区别是，gumbel-softmax得到得是样本（即采样,对于神经网络，离散输入常转化为one-hot形式，采样出来的样本是经soft后one-hot向量[x1,x2,...,xn][x_1,x_2,...,x_n][x1​,x2​,...,xn​]），而softmax得到是样本得均值（即各分类概率,[p1,p2,...,pn][p_1,p_2,...,p_n][p1​,p2​,...,pn​]）。 假设每
重参数化技巧
Drug discovery
12-20 8518
训练时： 训练资源一般是相对丰富的，我们更在意推理时的开销和性能，因此我们想要训练时的结构较大，具备好的某种性质(更高的精度或其他有用的性质，如稀疏性【节省空间】)， 推理时：转换得到的推理时结构较小且保留这种性质(相同的精度或其他有用的性质)。这样一来，训练时的结构对应一组参数，推理时我们想要的结构对应另一组参数；只要能把前者的参数等价转换为后者，就可以将前者的结构等价转换为后者。 结构A对应一组参数X，结构B对应一组参数Y，如果我们能将X等价转换为Y，就能将结构A等价转换为B。 结构重参数的意
Gumbel Softmax方法
Reaearcher-Du
11-07 1711
在很多场景中，我们需要对离散数据进行采样，然而神经网络等深度学习模型更擅长处理连续数据。为此，Gumbel Softmax通过引入Gumbel分布，将离散的选择过程转换为连续的分布，从而使得模型可以端到端地进行训练。
连续型和离散型随机变量（基于Gumbel Softmax）的重参数化
上帝是个娘们的博客
11-01 4010
本文是阅读苏剑林大佬的博客漫谈重参数：从正态分布到Gumbel Softmax之后的记录，算是自己的阅读笔记吧。 在苏大佬的那篇博客中，分别针对连续型和离散型随机变量讲解了如何进行重参数化，但是自己不是特别理解离散型随机变量的重参数化，便记录在此。 什么是连续型和离散型随机变量？ 这里没有各种形式化的定义，只是根据自己的理解通俗的来讲解二者的区别。 可以先告诉大家，我们目前经常用到的连续型随机变量...
Gumbel-Softmax
Rhett_Butler0922的博客
04-28 1193
Gumbel-Softmax是一种将离散采样转化为可微过程的强大工具，核心是通过Gumbel噪声和Softmax函数近似分类分布的采样。它解决了深度学习中离散变量不可微的难题，广泛应用于VAE、GAN、强化学习和NAS等领域。通过温度参数τ\tauτ，Gumbel-Softmax可以在离散性和连续性之间灵活调节。背景：离散采样不可微，阻碍端到端训练。方法：用Gumbel-Max技巧采样，用Softmax近似argmax。数学：Gumbel噪声保证随机性，Softmax保证可微性。应用。
【一文学会】Gumbel-Softmax的采样技巧
热门推荐
小明的博客
10-24 4万+
目录 基于softmax的采样 基于gumbel-max的采样 基于gumbel-softmax的采样 基于ST-gumbel-softmax的采样 Gumbel分布 回答问题一 回答问题二 回答问题三 附录 以强化学习为例，假设网络输出的三维向量代表三个动作（前进、停留、后退）在下一步的收益，value=[-10,10,15]，那么下一步我们就会选择收益最大的动作（后退...
Gumbel Softmax
whaosoft143ai的博客
06-04 5109
那为什么随机部分要用gumbel分布而不是常见的高斯分布呢? 这是因为gumbel分布是专门用来建模从其他分布 (比如高斯分布) 采样出来的极值形成的分布, 而我们这里“使用argmax挑出概率最大的那个类别索引 "就属于取极值的操作, 所以它属于极值分布。在此之前, 你可能想都不敢想, 极值形成的分布竞然是有规律的, 可的确就是有这么神奇的存在, 这就是数学的魅力所在, 但是要加个条件, 就是极值是采样自某一个指数族的概率分布, 比如高斯分布。 下面我们用一个例子和代码来验证一下这个极值分布的规律。假
gumbel-softmax trick
weixin_43301333的博客
12-07 1075
VAE和GAN里面训练的时候常用的技巧，主要是为了解决那种预测是"hard"，即输出是一个one-hot的决策时，没有办法直接计算后续损失的情况。而使用softmax强制其输出为概率分布的话，虽然可以计算后续损失，但是其本质上还是argmax的含义。为了能够在模型决策训练的过程中引入一定的随机性(个人理解为决策的soft程度，而不是单纯的hard)，尤其是在Reinforce Learning里面，常用一个trick就是gumbel-softmax。其核心思想是利用gumbel分布进行采样，增加模型决策的随
VAE中重参数化技巧
qq_40128284的博客
07-12 1万+
谈起重参数化技巧，不得不提变分自编码器(VAE)；在VAE中，我们知道需要对编码器的输出、进行采样，从而可以将采样输入到编码器网络，能够得到输入样本的重构，以这种方式对模型进行训练。而VAE并没有这么做，而是采取了另一种做法：从高斯分布中采样，然后和训练样本训练得到的和，做运算的结果输入到解码器网络（点乘符号表示每个元素位置上的相乘），便能得到我们样本x的重构，这让我很困惑很久。下面开始介绍重参数化技巧，以两种情况： 概率分布： 直接从边缘概率分布中采样，即给定一个随机变量y，并且，这里我们用表示
Gumbel-Softmax Trick和Gumbel分布
weixin_34365635的博客
08-13 963
  之前看MADDPG论文的时候，作者提到在离散的信息交流环境中，使用了Gumbel-Softmax estimator。于是去搜了一下，发现该技巧应用甚广，如深度学习中的各种GAN、强化学习中的A2C和MADDPG算法等等。只要涉及在离散分布上运用重参数技巧时(re-parameterization)，都可以试试Gumbel-Softmax Trick。   这篇文章是学习以下链接之后的个人理解...
【通俗理解】重参数化技巧：这是VAE中的“魔法棒”，它允许我们从隐变量的分布中采样，并通过一个可微分的变换将其映射到数据空间，从而实现梯度的传递。
神经美学_茂森的博客
08-19 1641
变分自编码器 #VAE #隐变量 #重参数化技巧 #生成模型 #概率模型 #编码器 #解码器 #变分推断。
深度学习算法中的变分自编码器中的重参数化技巧（Reparameterization Trick in Variational Autoencoders）
牛肉胡辣汤
09-27 914
在深度学习中，变分自编码器（Variational Autoencoder，VAE）是一种有效的无监督学习算法，主要用于学习输入数据的潜在表示。在VAE中，我们通过引入隐变量来增强模型灵活性，同时使用重参数化技巧来构建一个概率模型，该模型可以将输入数据编码为隐变量，并解码为输出数据。重参数化技巧的主要优势在于，它允许我们使用梯度下降方法来优化似然函数，从而解决了传统自编码器中优化困难的问题。在训练过程中，我们使用重参数化技巧来构建似然函数，并使用梯度下降方法来优化该函数。
Gumbel softmax trick pytorch（快速理解附代码）
bagba的知识分享库
01-03 6531
在深度学习中，对某一个离散随机变量X进行采样，并且又要保证采样过程是可导的（因为要用梯度下降进行权重更新），那么就可以用Gumbel softmax trick。属于重参数技巧(re-parameterization)的一种。 首先我们要介绍，什么是Gumbel distribution，然后再介绍怎么用到梯度下降中，最后是用pytorch实现它。
详细讲解重参数化技巧 (reparameterization trick)
最新发布
m0_52448367的博客
09-01 1377
摘要：重参数化技巧（RT）通过将随机采样转化为确定性函数（如高斯分布中的 ( z = \mu + \sigma \cdot \epsilon )，其中 (\epsilon) 为外部噪声），解决深度网络中采样操作不可导的问题。RT将随机性从计算图中分离，保留梯度回传路径（如 (\partial z/\partial \mu = 1)），使变分自编码器等模型能端到端训练。其核心思想是**“确定性变换+外部噪声”**，既维持随机性，又确保参数可优化。代码实现中，(\epsilon) 在前向传播时随机采样，反向传播
机器学习笔记之生成模型综述(五)重参数化技巧(随机反向传播)
静静的学习就好
02-15 2065
本节将系统介绍重参数化技巧。
gumbel–softmax
09-02
此外，还可以通过设置hard参数为True将Gumbel-Softmax样本离散化回去，以便在训练和评估中使用相同的样本。这个技术被称为Straight Through Gumbel-Softmax。 如果您想进一步了解Gumbel-Softmax，可以参考以下资源...
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值