解决GANs训练中模式崩塌/训练崩溃的十五个方法

最新推荐文章于 2025-05-27 18:19:13 发布
最新推荐文章于 2025-05-27 18:19:13 发布
阅读量3k 收藏 9
点赞数 3
分类专栏： 深度学习-计算机视觉 文章标签： python 人工智能 开发语言
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/qq_41895747/article/details/125723033
版权
本文探讨了GANs训练时常见的模式崩塌问题及其原因，并提供了15种有效解决方法，包括归一化、损失函数优化、采样策略改进、避免稀疏梯度等，旨在提升生成数据的多样性和训练效果。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

前言：GAN和强化学习一样，不以loss收敛作为训练质量的指标，因此都存在训练难的问题。其中GANs在训练时经常会出现模式崩塌/训练崩溃的问题，这篇博客总结了十五个解决模式崩塌/训练崩溃的方法，建议收藏！

目录

什么是模式崩塌现象？

为什么会出现模式崩塌？

方法一：归一化

方法二：生成器损失函数采用min(1-D)

方法三：不要在均匀分布上采样

方法四：一个mini-batch中必须有正样本或负样本

方法五：避免稀疏梯度

方法六：平滑标签

方法七：尽量使用混合模型

方法八：尽早发现错误，及时止损

方法九：小批量判别

方法十：多训练判别器，加噪声

什么是模式崩塌现象？

模式崩塌即在某个模式下生成大量重复样本，生成的数据缺乏多样性，存在大量重复。

如下图所示，我们本来希望生成0-9的数字，出现模式崩塌后只生成单一的数字。

GAN手写数字生成中的模式崩塌：最终只生成单一数字
了解本专栏 订阅专栏 解锁全文 超级会员免费看
从0-1 用AI做一个赚钱的小红书账号（不是广告不是广告）
热门推荐
程序员-杨胡广的博客
09-17 1万+
小红书和抖音的主要变现模式不同，小红书侧重于 广告变现、私域种草抖音变现模式多样，但是对于普通人难度更高，无论带货还是接广告，都更卷！想赚点小钱，搞点副业，就去小红书，想做大网红、直播带货，就去抖音，当然有能力可以2个平台都做，但是注意内容呈现逻辑。1. 爆款选题，一定是在平台上已经做火过的博主的选题基础上，继续去模仿、创造，不要自嗨，觉得自己写的选题很棒。对于新手做内容，只有跟着已经火过的内容做，才更容易火，找到做内容的自信！
1.5万字讲清楚从0到1搭建电商营销中心（建议收藏）
u010291330的博客
03-12 899
如sku参与了两个活动，根据活动命中规则，活动1优先命中，其次才是活动2，但是活动1的准入用户中没有用户a，活动2的准入用户中有用户a，此时用户a狗买该sku时，应该命中活动1还是活动2呢？因为抵扣类活动基本上完全叠加，因此可视为全部命中，其中优惠券的抵扣又有其特殊性，优惠券本身是一个庞大且独立的系统，优惠券又分不同的券类型，因此优惠券本身也存在命中的情况，如同一个sku被挂在了3张不同的优惠券上，并且用户恰好拥有这3张优惠券，当下单使用优惠券时，能使用几张券也有对应的规则，本文暂不展开券系统的设计说明。
用trae+deepseek帮我实现个给牛马打鸡血的工具（上）
强哥叨逼叨
05-12 691
最近看到一个视频，是推荐一个激励牛马好好干活的网站。网站可以设置自己的工资和每天的工作时长，设置好后，会显示你现在工作的每一秒的收入（单位到角），这样，你在公司工作或者摸鱼的时候，就能时时刻刻看到都有钱入账。哈哈，看起来还挺有意思。不过它那个只有网页版，而且收入单位是角，这让工资不高，设置完后，看着过个几秒才跳动一下，妥妥的精神激励不大，反而有点影响心情。哈哈，既然有问题，而且看着实现起来又很简单。外加现在ai这么火，直接trae+deepseek主打一个免费无脑，我们也自己搞一个。
从一个例子开始，理解互联网岗位分工
机器学习杂货铺1号店
02-09 775
今年应该又有不少牛马涌入互联网，简单用一个例子，讲下自己对互联网岗位分工的理解，欢迎评论区友好交流，保留文章著作权，请勿转载。互联网岗位可以粗糙地分为：专业序列和管理序列（有些公司是双轨制，有些公司的基层管理可能同时负责技术和管理），其中大部分牛马都应该是专业序列，大概可分为：职能岗（比如人力资源）、产品岗、技术岗、运营岗，其中我们熟悉的技术岗有可以继续细分到：开发岗位（前端、后端）、算法岗位、数据岗位、测试岗位、运维岗位、设计美术岗、基础建设岗位等等。
做了一个打工人时薪计算器(牛马计算器)
m0_48069349的博客
05-06 932
开源地址演示地址。
从牛马到自由奔腾，打工人如何破局？
weixin_48445672的博客
02-25 2164
不知从何时起，“牛马” 成了打工人挂在嘴边的自嘲之语。清晨，被闹钟从睡梦中粗暴拽起，睡眼惺忪地奔赴在拥挤的通勤路上，像被无形的鞭子驱赶着；到了公司，面对堆积如山的任务，埋头苦干，不敢有丝毫懈怠，宛如耕地的老牛，永不停歇。加班到深夜，城市早已被夜色笼罩，万家灯火闪烁，却好像没有一盏是为自己而留 ，此时的自己，可不就像那疲惫不堪仍在劳作的牛马？“牛马” 一词，看似是简单的调侃，实则饱含着当代打工人内心深处的迷茫与困境。我们努力工作，却常常感觉与自己的理想生活渐行渐远；薪资涨幅永远跟不上物价上涨的速度，生活的压力
FastAPI 从0到1（Jinja2和ORM篇）筛选
weixin_53970868的博客
10-27 1151
Jinja2是Flask作者开发的⼀个模板系统，仿照django模板的⼀个模板引擎，为Flask提供模板⽀持，有着灵活，快速和安全等优点。变量取值 {{ }}控制结构 {% %}
【成长记录——一个理科女生的牛马成长记录】
weixin_43096393的博客
07-30 1224
作为一个95后，我从小到大都是在按部就班地生活，在成长的过程中，鲜少有停下脚步，思考自己的处境和状态的时间。像很多同龄人一样，我习惯性地按照父母、朋友、社会的规划，扮演着一个乖乖女的角色，认真完成每一个成长阶段“应该”做的事情，这同时也给予了我一种“不会出错”的安全感。
1024程序员节 | 一个机械专业的牛马转行牛码的经历
Arya的博客，专注后端领域
10-20 1400
1024程序员节 | 一个机械专业的牛马转行牛码的经历
中国30个省的空间地理邻接矩阵（0-1矩阵）
11-01
这个文件和31个省的邻接矩阵数据的区别在于删除了西藏地区，考虑到部分研究缺少西藏地区数据，但是想做空间分析又不会操作的，此Excel数据也是处理好的原始数据，可以直接引用到stata等软件中直接构建W0-1矩阵。
牛马抽奖(1).zipPHP项目程序网站源码下载
03-05
牛马抽奖(1).zip 是一个包含PHP项目的压缩包，这个项目主要用于实现在线抽奖功能。在互联网应用中，抽奖活动是一种常见的吸引用户参与、增加用户黏性的手段，尤其适用于电商、社交、游戏等平台。此项目源码的提供，...
ChatGPT从0到1学习资料汇总，入门:原理:应用:场景:实操，最好的GPT学习中文文档.zip
04-29
如果你是一个纯粹的玩家，也不关心 ChatGPT 的是什么、为什么和能干什么，那么这个文档可能不太适合你。在这个文档里我们比较少地提及了具体的操作步骤，比如，怎么魔法上网，怎么注册账号，怎么把 ChatGPT 接入 ...
鸿蒙开发：CodeGenie，一个DevEcoStudio中自带的AI编程工具
知足常乐
05-23 1440
CodeGenie，它就是DevEcoStudio中一个自带的用于AI辅助编程的工具，最大的作用就是支持智能知识问答，同时支持ArkTS代码生成和万能卡片生成能力，帮助我们提高编码效率。
claude ai-推出的最新AI编程系列模型提升Al Agent 的实用性和效率
微丽宝、科技、相关内容
05-23 938
Anthropic公司推出的ClaudeAI系列模型，包括ClaudeOpus4和ClaudeSonnet4，代表了新一代AI技术的进步。ClaudeOpus4在编程和复杂任务处理方面表现卓越，特别是在代码生成、优化和调试上，其在SWE-bench和Terminal-bench测试中的高分证明了其领先地位。该模型还具备处理长时间任务的能力，并能进行高级推理和多模态任务。ClaudeSonnet4则在代码编辑和调试方面表现出色。此外，ClaudeAI引入了工具辅助的延伸思考、记忆文件管理等功能，显著提升了AI
借助AI编程，两周上线了一个网站。
最新发布
持之以恒
05-27 889
高效搭建自己网站。
AI编程对传统软件开发的冲击和思考
小木的博客
05-23 509
2025年AI将彻底改变软件开发行业：AI程序员24小时高效编码，企业淘汰前端岗位转向AI全栈工程师，产品经理转型为AI产品经理，生产力提升十倍。AI编程催生新框架标准（如简写标签uab替代传统HTML），数据库将统一支持AI混合检索。行业面临AI耗能成本问题，需选择高效节能的AI开发方案。这场变革将重构软件开发全流程，传统岗位面临重大转型。
AI资讯：Anthropic发布Claude 4：AI编程、推理与多模态任务，全面增强AI Agent实用性
丨汀、的博客
05-23 978
AI资讯：Anthropic发布Claude 4：AI编程、推理与多模态任务，全面增强AI Agent实用性
CodeGeeX - AI编程助手
独泪了无痕
05-26 625
CodeGeeX 是是国内人工智能公司智谱AI开发的对标 GitHub Copilot 的免费 AI 智能编程助手，它可以实现代码的生成与补全、自动为代码添加注释、自动解释代码、自动编写单元测试、实现代码审 查Code Review、自动修复代码fixbug、自动生 成commit message 完成 git 提交，以及在不同编程语言的代码间实现互译、针对技术和代码问题的智能问答等丰富的功能。
VSCode推出开源Github Copilot：AI编程新纪元
冰茶的博客
05-22 2247
在AI编程助手领域掀起一场重大变革，微软于2025年5月19日宣布将GitHub Copilot Chat扩展的代码以MIT许可协议开源，并将其核心AI功能整合到Visual Studio Code中，这一战略性举措旨在将VS Code打造成为一个真正的开源AI编辑器。这一消息对开发者社区产生了巨大影响，标志着编程工具发展的新方向。
评论 6
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

沉迷单车的追风少年

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值