用MMD量化生成质量：RGAN中的最大均值差异评估实战指南
项目地址: https://gitcode.com/gh_mirrors/rg/RGAN 训练生成对抗网络（GAN）时，最难回答的问题往往是："生成的数据到底像不像真的？"在 RGAN（Recurrent GAN）这个专为生成实值时间序列而设计的开源项目中，作者给出的答案之一就是 MMD（最大均值差异）。MMD 是一种无需训练额外判别器、直接比较两个分布差异的非参数统计量，被广泛应用于 GAN 生成质量评估。本文是一份 MMD 评估实战指南，带你读懂 RGAN 项目里 MMD 的完整用法：从训练中的 MMD² 监控，到模型记忆检测与模型对比，再到 RBF 核带宽的选择技巧。
MMD 是什么？一句话理解最大均值差异
MMD 的核心思想非常直观：把两组数据（比如"真实时间序列"和"生成时间序列"）映射到一个高维再生核希尔伯特空间，然后比较两组数据在这个空间里的均值向量。均值越接近，说明两组数据分布越相似。MMD 等于 0 意味着两个分布完全相同，数值越大代表差异越明显。
RGAN 项目在 mmd.py 中实现了基于 Gaussian RBF 核的二次时间复杂度 MMD，支持有偏（biased）和无偏（unbiased）两种估计，并额外提供了方差估计与检验统计量，为"定量判断哪个模型更好"提供了扎实的数学基础。
RGAN 中 MMD 评估的三条实战路径
1. 训练中实时监控 MMD²，自动挑选最优模型
在 experiment.py 中，RGAN 会在每个评估周期从验证集中抽取真实样本，从生成器中抽取同等数量的合成样本，计算两者的 MMD² 与检验统计量。更有意思的是，项目把 mmd2 < best_mmd2_so_far 作为模型保存的判据——只要某个 epoch 的 MMD² 创下新低，就自动把该时刻的模型参数保存下来。
这意味着：MMD² 不只是事后打分的工具，它直接参与训练决策，充当了"无监督早停"的裁判。从上图的紫色曲线可以看到，MMD² 在训练早期剧烈波动，随后迅速下降并趋于平稳，这与生成质量的提升过程高度吻合。
2. 用 MMD 三样本检验检测模型"死记硬背"
GAN 生成数据的一大隐患是过拟合与记忆化：模型可能只是记住了训练集，而非学会分布。在 eval.py 的 model_memorisation 函数中，RGAN 使用 eugenium_mmd.py 提供的 MMD_3_Sample_Test 做了一次巧妙的统计检验：
- X = 模型生成样本
- Y = 测试集样本
- Z = 训练集样本
检验原假设是"MMD(X,Y) ≤ MMD(X,Z)"，即测试数据与生成数据的距离，不大于训练数据与生成数据的距离。如果 p 值小于 0.05，说明模型生成的样本更贴近测试集，而不是机械复制训练集，即通过了记忆化检测。这把"生成质量"从主观感觉变成了可复现的统计结论。
3. 相对 MMD 检验：两个模型谁更强？
当你想比较两个候选模型的生成质量时，model_comparison 函数（见 eval.py）给出了答案。它让两个模型分别生成同样数量的样本，再利用三样本检验判断：模型 A 是否比模型 B 更接近真实分布。这一"相对 MMD"思路来自论文 "A Kernel Two-Sample Test for Functional Data"（arxiv: 1511.04581），非常适合在医疗时间序列等难以用肉眼判断的场景下做客观横向对比。
关键参数：RBF 核带宽 sigma 怎么选？
MMD 的 RBF 核带宽 σ（sigma）直接决定比较的"尺度"。σ 太大，核函数对所有点一视同仁，MMD 趋近于 0；σ 太小，只有几乎重合的点才有相似度，MMD 失去区分度。
RGAN 项目给出了两种实用策略：
- 中位数启发式（Median Heuristic）：
median_pairwise_distance（mmd.py）计算联合数据的成对距离中位数作为 σ。这也是 Gretton 2012 论文中的经典做法，训练期间固定 σ 可以省去反复重算。 - 训练期间动态优化 σ：在 experiment.py 中，项目把 σ 当作可训练变量，用 RMSProp 直接优化"MMD 与方差的比值"（即统计量 t-hat），让核带宽在每一个评估时刻自适应地选择最有区分力的取值。
实战建议：先用中位数启发式给出一个合理初值，再在评估阶段微调；多核（多个 σ 加权混合）通常比单核更稳健。
完整评估流程：从训练到报告
把以上模块串起来，一套完整的 RGAN 生成质量评估流程大致是：
- 训练期间：每个评估周期计算 MMD²，记录到
experiments/traces/下的 trace 文件，并用plotting.py的plot_trace绘制 MMD² 收敛曲线； - 选型阶段：以 MMD² 最小原则保存最优 epoch 的模型参数；
- 验收阶段：用
model_memorisation做记忆化检验，用model_comparison横向对比不同超参数配置； - 可视化辅助：查看 sine_animation.gif 这类生成样本动画，与 真实样本图 对照，直观感受 MMD² 数值背后的含义。
三个新手最容易踩的坑
- 样本量太小：MMD 是估计量，样本量不足时方差极大。RGAN 在评估时用数千个样本计算，切勿用几十个点下结论。
- 忽视 σ 的影响：σ 选择不当会让 MMD² 永远偏低或偏高，务必结合中位数启发式或多核混合。
- 只盯单一指标：MMD² 与 TSTR（在合成数据上训练、真实数据上测试）等指标相互补充，建议交叉验证生成质量，而非依赖单一数字。
总结
MMD 让"生成质量"从一个模糊的主观印象，变成了可计算、可检验、可优化的客观指标。在 RGAN 项目中，MMD² 既是训练时的模型选择器，又是训练后的记忆化与模型对比工具，一鱼多吃。如果你想在自己的时间序列生成任务中引入分布级别的质量评估，RGAN 的 mmd.py 与 eval.py 是很好的参考起点。克隆项目后运行 python experiment.py --settings_file test，就能在 trace 文件里看到 MMD² 随训练下降的真实过程——实践永远是理解 MMD 最好的方式。
创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考
