本页只解决一个问题

概率分布之间的几何距离怎样区别于逐点差异？

本页是原长篇讲义的单概念版本。第一次阅读只追踪本页定义的对象；看见未掌握的前置符号时，先沿链接退回，不要跳过定义硬背结论。

开始前

在度量空间 $(X,d)$ 上，取代价 $c(x,y)=d(x,y)^p$ ：

W_p(\mu,\nu) =\left( \inf_{\pi\in\Pi(\mu,\nu)} \int d(x,y)^p,d\pi \right)^{1/p}.

满足有限 $p$ 阶矩时， $W_p$ 是概率测度空间上的距离。

两个窄峰相距 $\epsilon$ ：逐点密度差可能几乎不变，但 Wasserstein 距离约为 $\epsilon$ ，因为它测量“质量移动多远”。

当 $c=d$ ：

\boxed{ W_1(\mu,\nu) =\sup_{\|f\|_{Lip}\le1} \left(\int f,d\mu-\int f,d\nu\right). }

WGAN 中的 critic 正是在近似 1-Lipschitz 势函数，但神经网络训练只是对偶优化的一个近似实现，并不自动得到精确 Wasserstein 距离。