自动关联目录：最优输运与几何深度学习

本页是集中复习用的长篇参考。第一次学习请进入模块 9：最优输运与几何深度学习，按 8 个单概念短课阅读。

本章目标

共形映射主要控制角度，最优输运主要控制质量守恒。两者结合可以把曲面先标准化到公共参数域，再以最小代价匹配面积、密度或概率分布。

本章目标：

区分 Monge 映射与 Kantorovich 输运计划；
推导线性规划原始/对偶形式；
理解 Wasserstein 距离、Brenier 定理与 Monge–Ampère 方程；
理解离散熵正则与 Sinkhorn 迭代；
说明共形几何、最优输运和几何深度学习各自解决什么，而不是把它们混成一个流行词列表。

1. 从“点对应”到“质量输运”

设源空间 $X$ 上有概率测度 $\mu$ ，目标空间 $Y$ 上有概率测度 $\nu$ 。代价函数

c:X\times Y\to\mathbb R

表示把单位质量从 $x$ 移到 $y$ 的成本。

传统点云最近邻只关心局部距离，不保证目标每个区域接收到正确质量。最优输运要求整体质量守恒。

2. Monge 问题

寻找映射 $T:X\to Y$ ，使推前测度

T_\#\mu=\nu,

并最小化

\boxed{ \inf_{T_\#\mu=\nu} \int_Xc(x,T(x)),d\mu(x). }

推前定义为

(T_\#\mu)(B)=\mu(T^{-1}(B)).

若有密度且 $T$ 可微可逆，质量守恒写成 change-of-variables：

\rho_\mu(x) =\rho_\nu(T(x))|\det DT(x)|.

2.1 Monge 问题的困难

可行映射可能不存在：一个原子不能被映射拆成两份；
约束 $T_\#\mu=\nu$ 非线性；
映射空间不凸；
极限映射可能需要“分裂质量”。

3. Kantorovich 松弛

用联合测度/输运计划 $\pi$ 代替确定映射。 $\pi(A\times B)$ 表示从 $A$ 运到 $B$ 的质量。要求边缘分布：

(P_X)_\#\pi=\mu, \qquad (P_Y)_\#\pi=\nu.

问题：

\boxed{ \inf_{\pi\in\Pi(\mu,\nu)} \int_{X\times Y}c(x,y),d\pi(x,y). }

$\Pi(\mu,\nu)$ 是凸集，目标对 $\pi$ 线性，因此这是凸优化。

4. 离散最优输运

设

\mu=\sum_{i=1}^na_i\delta_{x_i}, \qquad \nu=\sum_{j=1}^mb_j\delta_{y_j},

其中 $a_i,b_j\ge0$ 且总和相等。输运矩阵 $P\in\mathbb R_+^{n\times m}$ 满足

P\mathbf1_m=a, \qquad P^T\mathbf1_n=b.

代价矩阵 $C_{ij}=c(x_i,y_j)$ 。线性规划：

\min_{P\ge0}\langle C,P\rangle \quad\text{s.t.}\quad P\mathbf1=a, P^T\mathbf1=b.

变量数为 $nm$ ，大规模直接 LP 很贵。

5. Kantorovich 对偶

给边缘约束引入势函数 $\varphi_i,\psi_j$ 。Lagrangian：

\mathcal L(P,\varphi,\psi) =\sum_{ij}C_{ij}P_{ij} +\sum_i\varphi_i(a_i-\sum_jP_{ij}) +\sum_j\psi_j(b_j-\sum_iP_{ij}).

整理：

\mathcal L =\varphi^Ta+\psi^Tb +\sum_{ij}(C_{ij}-\varphi_i-\psi_j)P_{ij}.

为了使 $\inf_{P\ge0}\mathcal L$ 有限，必须

\varphi_i+\psi_j\le C_{ij}.

于是对偶问题：

\boxed{ \max_{\varphi,\psi} \varphi^Ta+\psi^Tb \quad\text{s.t.}\quad \varphi_i+\psi_j\le C_{ij}. }

互补松弛：若 $P_{ij}>0$ ，则

\varphi_i+\psi_j=C_{ij}.

6. Wasserstein 距离

在度量空间 $(X,d)$ 上，取代价 $c(x,y)=d(x,y)^p$ ：

W_p(\mu,\nu) =\left( \inf_{\pi\in\Pi(\mu,\nu)} \int d(x,y)^p,d\pi \right)^{1/p}.

满足有限 $p$ 阶矩时， $W_p$ 是概率测度空间上的距离。

6.1 为什么它比逐点 $L^2$ 更懂几何

两个窄峰相距 $\epsilon$ ：逐点密度差可能几乎不变，但 Wasserstein 距离约为 $\epsilon$ ，因为它测量“质量移动多远”。

7. $W_1$ 的 Kantorovich–Rubinstein 对偶

当 $c=d$ ：

\boxed{ W_1(\mu,\nu) =\sup_{\|f\|_{Lip}\le1} \left(\int f,d\mu-\int f,d\nu\right). }

WGAN 中的 critic 正是在近似 1-Lipschitz 势函数，但神经网络训练只是对偶优化的一个近似实现，并不自动得到精确 Wasserstein 距离。

8. 二次代价与 Brenier 定理

在 $\mathbb R^n$ 中取

c(x,y)=\frac12\|x-y\|^2.

若源测度 $\mu$ 对 Lebesgue 测度绝对连续，则最优 Monge 映射几乎处处唯一，且存在凸函数 $u$ ：

\boxed{T(x)=\nabla u(x).}

这就是 Brenier 定理。

8.1 Monge–Ampère 方程

质量守恒：

\rho_\mu(x) =\rho_\nu(\nabla u(x))det D^2u(x).

因此凸势满足

\boxed{ \det D^2u(x) =\frac{\rho_\mu(x)}{\rho_\nu(\nabla u(x))}. }

这是完全非线性 PDE。凸性是椭圆性和唯一性的关键条件，不能省略。

9. 半离散最优输运与凸几何

源 $\mu$ 连续、目标

\nu=\sum_{i=1}^na_i\delta_{y_i}

离散时，可优化高度 $h_i$ ，定义 power/Laguerre cells：

W_i(h)=\{x: \langle x,y_i\rangle+h_i \ge \langle x,y_j\rangle+h_j, \forall j\}.

希望每个 cell 质量满足

\mu(W_i(h))=a_i.

存在凸能量，其梯度为

\frac{\partial E}{\partial h_i} =\mu(W_i(h))-a_i.

Hessian 由相邻 cells 的公共边/面构成，适合 Newton 法。这正是“凸几何视角”的计算核心。

10. 熵正则与 Sinkhorn

对离散 OT 添加负熵正则：

\min_{P\ge0} \langle C,P\rangle +\varepsilon\sum_{ij}P_{ij}(\log P_{ij}-1)

满足相同边缘约束。最优解具有形式

P=\operatorname{diag}(u)K\operatorname{diag}(v), \qquad K_{ij}=e^{-C_{ij}/\varepsilon}.

边缘约束给出交替缩放：

u\leftarrow a/(Kv),

v\leftarrow b/(K^Tu).

这就是 Sinkhorn 迭代。

10.1 偏差与稳定性

$\varepsilon$ 大：更平滑、更快，但偏离原 OT；
$\varepsilon$ 小：更接近 OT，但 $K$ 下溢且迭代困难；
实现应使用 log-domain stabilization；
regularized OT 有熵偏差，比较分布时可用 Sinkhorn divergence 消除自相似偏差。

11. 曲面上的代价

对曲面数据，代价选择决定匹配的几何含义：

代价	优点	问题
三维欧氏距离	易算	会穿过薄壳，忽略曲面内在结构
曲面测地距离	内在	全对全计算昂贵
heat/geodesic 近似	可扩展	有离散与时间尺度误差
共形参数域距离	可转成标准域问题	受共形尺度和 Möbius 归一化影响
谱嵌入距离	对噪声可稳定	截断和重特征值导致不唯一

12. 共形几何与最优输运如何配合

它们解决不同畸变：

共形映射消除复杂拓扑/几何域，保局部角度；
最优输运在公共域中匹配面积或概率质量。

一个典型流程：

flowchart LR
    M[曲面 M] -->|一致化| DM[标准域 D_M]
    N[曲面 N] -->|一致化| DN[标准域 D_N]
    DM -->|Möbius/标记点归一化| D[公共标准域]
    DN -->|Möbius/标记点归一化| D
    D -->|最优输运匹配密度| T[质量保持映射]
    T -->|拉回| F[M 到 N 的配准]

仅做共形映射会有面积畸变；追加 OT 可校正密度，但组合后通常不再共形。这是多目标取舍，不是“同时完美”。

13. 几何深度学习中的三类结构

13.1 图 Laplacian 与谱卷积

离散 Laplace–Beltrami 广义特征问题：

L\phi_k=\lambda_kM\phi_k.

特征函数是曲面上的 Fourier 基。谱滤波：

y=g(\Delta)x \approx\sum_{k=0}^{K-1}g(\lambda_k) \langle x,\phi_k\rangle_M\phi_k.

问题：不同曲面的特征基可能有符号、旋转和重特征空间不唯一，不能直接逐列对齐。

13.2 内在消息传递

图神经网络

h_i^{(l+1)} =\Phi\left(h_i^{(l)}, \operatorname{Agg}_{j\in N(i)} \Psi(h_i^{(l)},h_j^{(l)},e_{ij}) \right)

若 $e_{ij}$ 使用测地距离、角度、平行移动等内在量，可减少对三维刚体姿态和网格嵌入的依赖。

但普通 message passing 只保证顶点置换等变，不自动保证旋转、Möbius 或重新参数化等变。

13.3 测度损失与生成模型

OT 可用于：

点云分布匹配；
形状生成的分布损失；
domain adaptation；
特征分布对齐；
unbalanced OT 处理质量不等或局部缺失。

需要区分：精确 OT、熵正则 OT、sliced Wasserstein、Chamfer distance 并不是同一个量。

14. 共形结构在神经网络中的作用边界

共形几何可提供：

canonical domain：把不同形状映到球面、平面或双曲域；
角度稳定的局部坐标：定义卷积核方向；
内在 Laplacian：谱特征和扩散算子；
Beltrami 场：把形变编码成空间分布的各向异性；
曲率和拓扑特征：跨网格分辨率的几何信号。

它不能自动解决：

语义对应；
对称形状上的唯一规范化；
不同拓扑间的双射；
噪声/缺失导致的拓扑错误；
离散化改变后的跨网格泛化。

15. Python：Sinkhorn 教学实现

import numpy as np


def sinkhorn(a, b, cost, epsilon=0.05, max_iter=5000, tol=1e-9):
    """教学实现；小 epsilon 时应改用 log-domain 版本。"""
    a = np.asarray(a, dtype=float)
    b = np.asarray(b, dtype=float)
    C = np.asarray(cost, dtype=float)

    if not np.isclose(a.sum(), b.sum()):
        raise ValueError("source and target mass must match")
    if np.any(a < 0) or np.any(b < 0):
        raise ValueError("mass must be nonnegative")

    K = np.exp(-C / epsilon)
    u = np.ones_like(a)
    v = np.ones_like(b)

    for iteration in range(max_iter):
        old_u = u.copy()
        u = a / np.maximum(K @ v, 1e-300)
        v = b / np.maximum(K.T @ u, 1e-300)
        if np.max(np.abs(u - old_u)) < tol:
            break

    P = u[:, None] * K * v[None, :]
    row_error = np.max(np.abs(P.sum(axis=1) - a))
    col_error = np.max(np.abs(P.sum(axis=0) - b))
    return P, {
        "iterations": iteration + 1,
        "cost": float(np.sum(P * C)),
        "row_error": float(row_error),
        "col_error": float(col_error),
    }

这个实现容易下溢。工程版应维护对偶 log-potentials：

f_i=\varepsilon\log u_i, \qquad g_j=\varepsilon\log v_j,

并用 logsumexp 更新。

16. 研究/工程检查表

使用 OT 损失时必须报告：

代价 $c$ 的定义与单位；
是否精确 OT、熵正则、unbalanced 或 sliced 近似；
$\varepsilon$ 与迭代停止条件；
边缘残差；
点数/网格分辨率变化下的稳定性；
是否对输入质量归一化；
梯度是否穿过迭代求解器，采用何种隐式/展开求导；
与 Chamfer、Hausdorff、普通 $L^2$ 的对照实验。

使用共形参数域时还要报告：

Möbius 自由度如何固定；
切缝和奇点位置；
共形/面积畸变分布；
不同 triangulation 下结果是否稳定。

17. 习题

计算题

对两个二点离散分布手算所有可行输运矩阵和最优成本。
从离散 Lagrangian 推导 Kantorovich 对偶。
对一维均匀分布推导最优单调重排 $T=F_\nu^{-1}\circ F_\mu$ 。
推导熵正则最优解 $P=\operatorname{diag}(u)K\operatorname{diag}(v)$ 。

证明题

证明 Monge 映射诱导的 $(\operatorname{id},T)_\#\mu$ 是一个 Kantorovich 计划。
用 change-of-variables 推导 Monge–Ampère 方程。
证明 $W_p(\delta_x,\delta_y)=d(x,y)$ 。
说明为何三维欧氏距离不是薄壳曲面的可靠内在代价。

实现题

实现 log-domain Sinkhorn 并与教学版比较小 $\varepsilon$ 的稳定性。
对两个曲面上的热核分布，用测地代价计算 OT。
将两个 genus-0 曲面映到球面，固定 Möbius 自由度后做球面 OT 配准。
比较 Chamfer、Sinkhorn divergence 与精确 EMD 对离群点和密度变化的响应。

18. 本章结论

三条理论主线各有职责：

\boxed{ \begin{aligned} \text{共形几何}&:\ \text{控制角度与标准域},\\ \text{最优输运}&:\ \text{控制质量与分布匹配},\\ \text{几何深度学习}&:\ \text{学习任务相关表示与映射}. \end{aligned} }

把它们组合时必须明确哪些性质被保留、哪些被牺牲，以及离散算法是否尊重连续理论的对称性和守恒律。