[AAAI2017]SeqGAN:Sequence Generative Adversarial Nets with Policy Gradient

最新推荐文章于 2025-03-03 11:59:52 发布
最新推荐文章于 2025-03-03 11:59:52 发布
阅读量602 收藏 3
点赞数 1
分类专栏： PaperNotes 文章标签： gan rl policy gradient
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/appleml/article/details/86527533
版权

断断徐徐终于把源码看完啦，果然paper+code才是正确的阅读paper方式呀
预训练生成器：用真实数据训练
预训练判别器：真实数据+生成器生成虚假数据混合后训练
对于Generator来说，预训练和对抗过程中使用的损失函数是不一样的，在预训练过程中，Generator使用的是交叉熵损失函数，而在对抗过程中，我们使用的则是Policy Gradient中的损失函数，即对数损失*奖励值。

而对Discriminator来说，两个过程中的损失函数都是一样的，即我们前面介绍的对数损失函数。
之后就是生成器和判别器的对抗训练过程了：

关于本文解析的非常好的几篇博文：
https://www.jianshu.com/p/de4e913e0580
https://www.colabug.com/2639033.html
https://www.colabug.com/2639033.html
https://blog.youkuaiyun.com/Mr_tyting/article/details/80269143
https://www.jianshu.com/p/45d45b8541f0

详解GAN在自然语言处理中的问题：原理、技术及应用：
http://www.360doc.com/content/17/0210/18/32056199_628087216.shtml

Strong AI: The Future of Humanlike Intelligence and Decision Making
AI天才研究院
01-11 499
人工智能（Artificial Intelligence, AI）是一门研究如何让计算机模拟人类智能的学科。人类智能可以分为两类：弱智能（Weak AI）和强智能（Strong AI）。弱智能是指计算机可以完成特定任务的AI，如语音识别、图像识别、自动驾驶等。强智能则是指具有人类级别智能和决策能力的AI，可以理解、学习和创造新的知识。 强智能的研究是人工智能领域的一个重要方向，它旨在开发一种可以与人类相媲美的AI系统，具有自主思考、决策和行动的能力。这种AI系统将有望改变人类社会、经济和科学的发展轨迹
AAAI 2022 论文列表
热门推荐
gbstack08的专栏
02-15 2万+
链接及代码之后会更新 GitHub链接：https://github.com/gbstack/AAAI-2022-papers Scaled ReLU Matters for Training Vision Transformers Pichao Wang, Xue Wang, Hao Luo, Jingkai Zhou, Zhipeng Zhou, Fan Wang, Hao Li, Rong Jin Search Strategies for Topological Network Optimizat
SeqGAN: Sequence Generative Adversarial Nets with Policy Gradient读书笔记
weixin_62791428的博客
04-18 2936
标准的GAN在处理离散数据时遇到的问题：生成器难以传递梯度更新；鉴别器难以评估非完整序列。对于前者，作者把整个GAN看作一个强化学习系统，用policy gradient更新生成器的参数；对于后者，作者借鉴了蒙特卡洛树的思想，对任意时刻的非完整序列都可以进行评估；生成器：目标函数-各个状态价值的和，状态价值怎么算？策略函数×动作价值，策略函数是用策略网络训练出来的，动作价值不知道怎么办？用roll-out估算出一整个序列的动作就能用判别器计算其动作价值了
论文笔记之：SeqGAN: Sequence generative adversarial nets with policy gradient
a1424262219的博客
11-26 376
SeqGAN: Sequence generative adversarial nets with policy gradient AAAI-2017 Paper:https://arxiv.org/abs/1609.05473 Offical Tensorflow Code:https://github.com/LantaoYu/SeqGAN PyTorch...
【深度学习实践】GAN技术进行数据增强
最新发布
人工智能(AI)技术，大模型技术，深度学习，机器学习，计算机视觉，AI工具实践应用等分享
03-03 858
数据增强是深度学习中的关键技术，GAN（生成对抗网络）提供了一种数据生成的方式，特别适用于 图像、文本、时间序列 数据增强。本篇详细介绍 DCGAN（图像）、SeqGAN（文本）、TimeGAN（时间序列） 三种不同类型的 GAN 及其 Python 代码实现。
SeqGAN: Sequence Generative Adversarial Nets with Policy Gradient
qq_36616268的博客
11-30 1052
这篇文章是在GAN的基础上加入了pg策略，从而可以进行文本等离散数据的生成与处理。 看一遍文章倒是不需要多少时间，但是看代码花费了大量时间。感觉有代码的还是收获要多一些。 GAN之所以无法对离散数据进行很好的生成，是因为:离散输出使得从d到g的梯度难以传递。（微小的变化引起的改变，可能没有与之对应的标签）。同时也只有当d得到一个完整的数据的时候，才可以进行判断。部分完成的无法给出评分。 ...
Generative Adversarial Network（GAN）笔记
m0_37374707的博客
11-22 598
Generative Adversarial Network 核心思想 生成对抗网络由一个生成网络（Generator）与一个判别网络（Discriminator）组成。生成网络从隐空间（latent space 即噪声所在空间）中随机采样作为输入，其输出结果需要尽量模仿训练集中的真实样本。判别网络的输入则为真实样本或生成网络的输出，其目的是将生成网络的输出从真实样本中尽可能分辨出来。而生成网...
《MuseGAN: Multi-track Sequential Generative Adversarial Networks for Symbolic Music Generation and A...
weixin_30244681的博客
01-13 1873
出处：2018 AAAI SourceCode:https://github.com/salu133445/musegan abstract： （写得不错 值得借鉴）重点阐述了生成音乐和生成图片，视频及语音的不同。首先音乐是基于时间序列的；其次音符在和弦、琶音（arpeggios）、旋律、复音等规则的控制之下的；同时一首歌曲是多track的。总之不能简单堆叠音符。本文基于GAN提出了三种模型...
一文看懂——序列数据的生成：GAN的方法
华章IT官方博客
01-20 5395
导读：序列数据指的是一种按照先后顺序排列的离散数据，这类数据虽然不如图像数据那么直观，但其实在实际生活中非常常见。比如我们平时浏览网站的行为其实就是序列数据，我们会不断地在各种不同的网页链...
seqGAN：“ SeqGAN：具有策略梯度的序列生成对抗网络”的简化PyTorch实现。 （于兰涛等）
02-03
seqGAN PyTorch实现的“ SeqGAN：具有策略梯度的序列生成对抗网络”。 （于兰涛等）。 该代码经过高度简化，注释和（希望）易于理解。 实施的策略梯度也比原始工作（ ）简单得多，并且不涉及推广-整个句子使用单一奖励（受的示例启发） ）。 使用的体系结构与原始工作中的体系结构不同。 具体而言，将循环双向GRU网络用作鉴别器。 该代码按论文中所述对合成数据进行实验。 我们鼓励您对代码作为问题的工作方式提出任何疑问。 要运行代码： python main.py main.py应该是您进入代码的入口。 技巧与观察 在这种情况下，以下黑客（从借来）似乎有效： 培训鉴别器
论文解读-SeqGAN: Sequence Generative Adversarial Nets with Policy Gradient
wwpwwpwwpemmm的博客
02-27 2440
本文是上海交通大学张伟楠教授发表的一篇关于使用基于策略梯度的GAN来生成轨迹的文章，文章称作为一种训练产生式模型的新方法，产生式对抗性网络(GAN)利用判别模型指导产生式模型的训练，在生成实值数据方面取得了相当大的成功。然而，GAN在生成实值数据方面也存在不少的问题，例如1）产生式模型的离散输出使得从判别模型到产生式模型的梯度更新很难通过。2）判别模型只能评估完整的序列，而对于部分生成的序列，一旦整个序列生成后，平衡其当前分数和未来分数是非常困难的。 本文提出了一个序列生成框架SeqGAN来解决问题，将数据
SeqGAN:Sequence Generative Adversarial Nets with Policy Gradient
小肥柴不是小废柴的博客
12-04 551
论文：SeqGAN 代码：Github 这篇paper主要介绍了GAN在文本生成上的应用。GAN在2014年被提出之后，在图像生成领域取得了广泛的研究应用。然后在文本领域却一直没有很惊艳的效果。主要在于文本数据是离散数据，而GAN在应用于离散数据时存在以下几个问题： GAN的生成器梯度来源于判别器对于正负样本的判别。然而，对于文本生成问题，RNN输出的是...
论文分享(5)----SeqGAN: Sequence Generative Adversarial Nets with Policy Gradient
qq_18838211的博客
05-06 510
提示：文章写完后，目录可以自动生成，如何生成可参考右边的帮助文档 文章目录前言一、问题定义二、Model1.生成器Generator2.蒙特卡洛算法3.鉴别器Discrimination4.生成器G参数更新三、总结 前言 Generative Adversarial Net (GAN)通过鉴别器Discrimination去指导训练Generator在图像领域已经取得成功，但是对于生成句子来说效果往往不尽人意，是因为文本数据是离散的，鉴别器很那捕获离散输出的loss，并将梯度传输给生成器。另一个原因是.
SeqGAN论文翻译与原理理解 =>SeqGAN: Sequence Generative Adversarial Nets with Policy Gradient
love_image_xie的博客
12-21 2499
       摘要：GAN采用判别模型引导生成模型的训练在连续型数据上已经产生了很好的效果，但是有两个limitations，第一，当目标是离散数据时，如文本，不可能文本+1产生梯度信息引导生成器的生成；第二，判别模型只能对完整的序列产生判别信息，对于非完整序列，它并不知道当前的判别结果和未来完整序列的判别结果是否相同。SeqGAN可以解决这两个问题。采用强化学习的reward思想，实行梯度策略更...
[生成对抗网络] 论文研读-SeqGAN: Sequence Generative Adversarial Nets with Policy Gradient
LeYOUNGER的博客
12-04 2249
GAN作为生成器已经在图像方面大放异彩，然而在NLP方面的应用还不多，原因一部分在于GAN是为连续空间设计的，而NLP是离散的，因此需要一点小小的trick才可以work
论文分享-- >SeqGAN: Sequence Generative Adversarial Nets with Policy Gradient
村头陶员外的博客
05-10 4787
本次要分享和总结的论文为：SeqGAN:SequenceGenerativeAdversarialNetswithPolicyGradientSeqGAN:\ Sequence\ Generative\ Adversarial\ Nets\ with\ Policy\ Gradient，其论文链接SeqGAN，源自AAAI−17AAAI-17，参考的实现代码链接代码实现。 本篇论文
SeqGAN Sequence Generate Adversarial Nets with Policy Gradient（阅读理解）
u014029197的博客
05-17 861
SeqGAN在目前是在使用生成对抗网络解决文本序列生成问题的最有影响力的一篇文章，作者针对对抗生成网络难以解决序列生成问题，提出了很多十分有价值的方法问题：（1）在GANs中，Generator是通过随机抽样作为开始，然后根据模型的参数进行确定性的转化。通过generative model G的输出，discriminative model D计算的损失值，根据得到的损失梯度去指导generati...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值