Wasserstein distance&测度

最新推荐文章于 2025-02-26 20:57:11 发布
最新推荐文章于 2025-02-26 20:57:11 发布
阅读量1.5k 收藏
点赞数
分类专栏： 数学
本文深入探讨了Wasserstein距离的概念及其在机器学习中的应用，特别是GANs领域。通过直观的解释，帮助读者理解该距离度量如何衡量两个概率分布之间的差异，并详细介绍了其在优化过程中的作用。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

Wasserstein distance

维基百科

https://www.zhihu.com/question/41752299/answer/147394973

参考

令人拍案叫绝的Wasserstein GAN的第三部分：Wasserstein距离的优越性质对于Wasserstein距离的解释，十分清晰

注意这里 Π(Pr,Pg) 是 Pr 和 Pg 组合起来的所有可能的联合分布的集合，反过来说， Π(Pr,Pg) 中每一个分布的边缘分布都是 Pr 和 Pg

其实很容易可以想像，真实分布 Pr 是恒定的，但是生成分布 Pg 是变化的，是个变量，在寻找下确界inf的过程，其实就是在优化 Pg ，使得 Pr 和 Pg 之间W距离最小

Earth-Mover距离

http://blog.youkuaiyun.com/garfielder007/article/details/50389507

测度

https://www.zhihu.com/question/28367115

均匀分布函数的MATLAB代码-wasserstein-distance:用于计算1D和2-Wasserstein距离的紧凑Matlab代码
06-08
统一分发函数的MATLAB代码 Matlab 的 Wasserstein 距离代码 这是一个紧凑的 Matlab 代码，用于计算一维概率分布的 1-和 2-Wasserstein 距离。 有关 Wasserstein 距离的一般定义，请参阅 。 此实现基于以下事实：对于给定的分布u和v ，1-Wasserstein 距离可以写为 和 2-Wasserstein 距离为 这里 和 参考u和v的累积密度函数，以及由下式定义的相应伪逆累积密度函数 代码假定（与 不同） u和v是离散且均匀的概率分布。 在这种情况下，存在样本使得任何u分布的随机变量满足所有k 。 这些样本是函数的输入，让我们不失一般性地假设它们越来越排序，然后累积分布函数及其伪逆由阶跃函数给出 该代码已在 Matlab R2017a 中进行了测试，并针对（在 1-Wasserstein 距离的情况下）和 . 后一种代码允许计算一般的 p-Wasserstein 距离，但在计算上比所描述情况的当前代码更复杂。 一些参考 Carrillo, JA 和 G. Toscani。 “非线性扩散方程的 Wasserstein 度量和大时间
Wasserstein distance（EM距离）
weixin_42360095的博客
07-15 1729
Wasserstein 距离：用于计算 1D 中的 1- 和 2-Wasserstein 距离的代码-matlab开发
05-31
此代码计算通过样本给出的两个均匀概率分布之间的 1-Wasserstein 距离和 2-Wasserstein 距离。 从图形上讲，它测量输入向量的（归一化）直方图之间的距离。 有关更多详细信息，请参阅 GitHub 存储库。
Wasserstein Distance(贪心)
河马海马
11-06 414
链接：https://www.nowcoder.com/acm/contest/91/A 来源：牛客网 题目描述 最近对抗生成网络(GAN)很火，其中有一种变体WGAN，引入了一种新的距离来提高生成图片的质量。这个距离就是Wasserstein距离，又名铲土距离。 这个问题可以描述如下: 有两堆泥土，每一堆有n个位置，标号从1~n。第一堆泥土的第i个位置有ai克泥土，第二堆泥土的第i个位置有bi克...
Wasserstein距离
思维缜密的博客
07-04 681
可以证明p-Wasserstein distance也是距离。表示Lipschitz连续，其中Lipschitz常数为。称为p-Wasserstein distance，
Cross-lingual Document Retrieval using Regularized Wasserstein Distance
weixin_43087818的博客
12-21 343
使用正则化的Wasserstein距离进行跨语言文档检索 Introduction： 许多信息检索算法都依赖于有效距离的概念，该距离可以有效地比较不同性质的对象。最近，提出了一种新的矩阵：Word Mover’s Distance，用于测量文本段落之间的差异。在本文中：提出两种扩展方法： 1.在Word Mover’s Distance上融入词的权重 2.在Word Mover’s Distanc...
【最优传输论文十四】2019 CVPR-Sliced Wasserstein Discrepancy for Unsupervised Domain Adaptation
m0_60231311的博客
07-12 954
无监督域适应大部分工作都集中在建立源域和目标域的特征分布之间的直接对齐。这种对齐涉及最小化模型学习到的特征分布的一些距离度量。更复杂的方法使用对抗性训练，通过在特征级、像素级或输出级跨域调整表示，从而提高分布之间对齐的质量。在MCD中提出了一种基于网络内对抗学习的方法，该方法包含一个特征生成器和两个(特定任务)分类器，该方法使用特定任务的决策边界来对齐源样本和目标样本。然而存在一些局限性。例如，它们的差异损失(MCD中为L1)只有在分类器的两个输出概率度量重叠时才有用。
【最优传输论文十九】2020 AAAI - Gromov-wasserstein factorization models for graph clustering
m0_60231311的博客
08-05 984
(Gromov-Wasserstein距离)设和是两个度量度量空间，其中(X, dX)是紧度量空间，uX是X上的Borel概率测度((Y, dY, uY)以相同的方式定义)。对于p∈[1，∞]，定义p阶Gromov-Wasserstein距离为是损失函数，Π(uX, uY)是X× Y上以uX和uY为边际的所有概率测度的集合。GW差异类似于GW距离，但它不要求dX和dY是严格的度量。因此，它在结构数据(如图表)上定义了一个灵活的伪度量和点云。特别地，给定两个图和它们的经验实体分布。
wasserstein 距离
热门推荐
NockinOnHeavensDoor的博客
08-25 1万+
注明：直观理解而已，正儿八经的严谨证明看最下面的参考。 Earth Mover’s Distance 推土机距离的例子：有一堆土的分布是 PrPrP_r, 其随机变量是xxx,现在要求把这堆土挪动成为分布 PgPgP_g ，其随机变量是yyy(图上是PθPθP_\theta)，这样做的方法很多，那么做最小功的挪动该是什么？这是一个优化问题对应着的最优解是： 这里Π(Pr,Pg...
论文解读（NWR）《Graph Auto-Encoder via Neighborhood Wasserstein Reconstruction》
「 虚幻私塾」
08-20 787
图神经网络(GNNs)近年来引起了广泛的研究关注，主要是在半监督学习的背景下。当任务不可知的表示是首选或监督完全不可用时，自动编码器框架与无监督GNN训练的自然图重建目标一起使用。然而，现有的图自动编码器是通过设计来重建直接链路的，因此以这种方式训练的gnn只针对面向邻近的图挖掘任务进行优化，当拓扑结构很重要时就会失败。
基于Wasserstein距离和_省略_类的风电_光伏经典场景集生成算法_王群.pdf
09-03
随着风电、光伏等可再生能源发电渗透率的增加，电 力系统运行需要考虑随之而来的不确定性。场景分析法因为 可明确体现不确定性因素的概率特征而被广泛采用，但是由于大规模场景会降低随机规划的求解效率，实用性受到限 制。
Optimal Transport and Wasserstein Distance
03-09
最佳路径与wasserstein距离的介绍与应用。 The Wasserstein distance | which arises from the idea of optimal transport | is being used more and more in Statistics and Machine Learning. In these notes we review some of the basics about this topic.
KL距离matlab实现
07-23
KL距离是反应数据分布的距离，计算KL距离在数据挖掘中有着很重要的作用。
Wasserstein distance
caoyongsheng的博客
12-16 953
https://zhuanlan.zhihu.com/p/84617531
【菜鸟学习论文】2020_Wasserstein Distances for Stereo Disparity Estimation
qq_42344132的博客
05-15 885
目录 摘要： 1.介绍 2.背景 3.视差估计 3.1 Continuous disparity network (CDN) 3.2 Learning with Wasserstein distances【https://zhuanlan.zhihu.com/p/58506295】 3.3 Extension: learning with multi-modal ground truths 4. 实验 4.2 实施的详细信息 Stereo disparity. The offse.
最优传输论文（六）：Wasserstein Distance Guided Representation Learning for Domain Adaptation论文原理
lyy的博客
05-17 1304
目录前言原理阐述文章介绍回顾原理模型结构图代码地址 前言 本文属于我最优传输系列里的六篇，该专栏用于记录本人研究生阶段相关最优传输论文的原理阐述以及复现工作。 本专栏的文章主要内容为解释原理，论文具体的翻译及复现代码在文章的github中。 原理阐述 文章介绍 文章发表于2018年的AAAI。 该论文是将Wasserstein Distance应用到了DA领域。 本文介绍了WDGRL模型。 回顾 我的最优传输上一篇文章（https://blog.youkuaiyun.com/qq_41076797/artic
【数学】Wasserstein Distance理解
caoyongsheng的博客
07-10 1450
https://zhuanlan.zhihu.com/p/58506295 如何理解K-L散度（相对熵） https://www.jianshu.com/p/43318a3dc715
Wasserstein Distance
comeonow的博客
12-16 338
Wasserstein Distance
Wasserstein 距离（Wasserstein Distance）
最新发布
m0_74052450的博客
02-26 2233
Wasserstein 距离（Wasserstein Distance），也称为Earth Mover's Distance（EMD），是一种用于衡量两个概率分布之间差异的度量方法。它起源于最优传输理论，描述了将一个分布“搬移”成另一个分布所需的最小“工作量”。
Wasserstein 距离
12-26
### Wasserstein距离的概念 Wasserstein距离，也称为Earth Mover's Distance (EMD)，衡量两个概率分布之间的差异。具体来说，在最优传输理论框架下，该距离计算将一个分布转换成另一个所需的最小工作量。对于任意的概率测度 \( P \) 和 \( Q \)，以及成本函数 \( c(x,y) \)，Wasserstein 距离定义如下： \[ W(P,Q)=\inf_{\gamma\in\Pi(P,Q)}\int_{X\times Y}c(x,y)\mathrm{d}\gamma(x,y)[^1] 这里 \( \Pi(P,Q) \) 表示所有边缘分别为 \( P \) 和 \( Q \) 的联合分布集合。 ### 应用于机器学习中的场景 #### 生成对抗网络(GAN) 在生成对抗网络中，传统方法采用Jensen-Shannon散度来评估生成样本的质量；但是这种方法可能导致训练过程不稳定或梯度消失等问题。为此提出了使用Wasserstein距离作为替代方案之一，即所谓的WGAN模型[^2]。通过引入Lipschitz约束条件下的批评家(critic)，可以更稳定有效地优化目标函数并改善最终效果。 #### 数据增强与迁移学习 除了图像生成领域外，Wasserstein距离还在其他方面有着广泛的应用价值。例如，在数据集之间存在较大差距的情况下实施迁移学习时，可以通过最小化源域和目标域间特征表示上的Wasserstein距离实现更好的泛化性能[^3]。 ```python import torch from torch import nn class Critic(nn.Module): def __init__(self, input_dim=784, hidden_dim=512): super(Critic, self).__init__() self.model = nn.Sequential( nn.Linear(input_dim, hidden_dim), nn.ReLU(), nn.Linear(hidden_dim, 1) ) def forward(self, x): return self.model(x) def wasserstein_loss(real_scores, fake_scores): """Compute the Wasserstein loss.""" return -(torch.mean(real_scores) - torch.mean(fake_scores)) ```
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值