约束条件下的动力学朗之万分裂格式
Kinetic Langevin Splitting Schemes for Constrained Sampling
https://arxiv.org/pdf/2603.23397
摘要
约束采样是计算统计学中一项重要且具有挑战性的任务，涉及在特定约束下从分布生成样本。有许多类型的算法旨在完成此任务，范围从一般的马尔可夫链蒙特卡洛到未调整朗之万方法。在本文中，我们提出了一系列基于后者（具体来说是动能朗之万动力学）的新采样算法。我们的系列算法基于高级数值方法，即分裂阶格式，其中包括 BU 和 BAO 族分裂格式。它们的优势在于具有有利的强阶（偏差）速率和计算效率。特别是，我们提供了一些理论见解，包括 Wasserstein 收缩和收敛结果。我们能够展示有利的结果，例如相比现有非分裂方法改进了复杂度界。我们的结果通过一系列带约束模型的数值实验得到验证，其中包括一个玩具示例和贝叶斯线性回归。
关键词： 约束采样，分裂格式，未调整朗之万算法，Wasserstein 复杂度。
1 引言
从概率分布中采样在各种科学与工程领域发挥着至关重要的作用。此类领域的例子包括数值天气预报、地球物理科学，以及近期的机器学习，例如生成模型或贝叶斯神经网络 [SSDK21, HNPSD21, SDWMG15]。这些应用大多利用蒙特卡洛方法进行采样，且限制有限，或者几乎没有任何显著限制。然而，在许多情况下，人们有兴趣考虑涉及凸集或紧集的采样，换句话说，即将采样限制在样本空间内的特定区域。我们将此任务称为约束采样，这将是本工作的重点。许多场景涉及在约束或受限空间上进行采样，例如随机最优控制和分子动力学 [CEAMR12, LM15]。在此背景下，该问题涉及从此类集合上的概率测度（我们常称之为目标测度） ν ν 中进行采样，该测度由具有以下形式的密度函数表征：
使用 KLD（动能朗之万动力学）优于 OLD（过阻尼朗之万动力学）的好处在于，已知前者能更快地收敛到其各自的不变测度。在贝叶斯采样的背景下，公式 (1.5) 和 (1.7) 均可用于从分布 ν ν 生成样本。这只需将势函数设定为对数后验即可实现，即 。最近的研究致力于将这些过程与著名的优化算法联系起来。为了实现此类动力学，直接使用全连续过程极具挑战性，且往往是不可能的。因此，必须诉诸于离散化格式。最显而易见的离散化方法是 Euler-Maruyama (EM) 格式，然而现有结果表明，基于偏差、复杂度和稳定性的考量，存在替代方法。其中一种方法是随机中点法 (RMM) [SL19]。RMM 还在误差容限和条件数依赖性方面提供了优势，这一点已通过机器学习中的应用得到证明 [LJ24, YY25a, KD24]。在约束采样的背景下，Yu 等人 [YY25b] 在其工作中使用了该方法，他们展示了更精确的近似分析，以及在 Wasserstein 距离方面改进的误差界。
1.1 分裂格式族
求解常微分方程（ODEs）的一个流行选择是分裂格式，其源于 Gilbert Strang [Str63] 的启发，其中将动力学分裂为不同的分量并分别求解它们。之所以可行，是因为它们可以被精确积分。这也适用于包括 KLD 在内的随机微分方程（SDEs）。我们将介绍两类分裂格式族，(i) BU 分裂族，和 (ii) BAO 分裂族。对于前者，这是在 [Zap21] 中提出的。该方法基于如下方式分裂 SDE (1.5)：
UBU 格式在 [SSZ21] 中得到了分析，其优势在于每次迭代仅需一次梯度评估，却具有二阶强误差阶。此外，如 [CLPW26] 所示，其步长稳定性分析独立于维度 p 。
其他对称分裂方法也是可行的，且近年来已得到广泛研究。特别是其中的 BAO 分裂格式。对应于这些部分的解映射可分别记为 B、A 和 O，定义如下：
如前所述，已知这些方法能达到 的弱阶。然而，与 UBU 不同，它们在强误差方面未能达到相同的速率。针对此类格式，收缩性与收敛性分析在以下文献 [LPW24b, LPW24a] 中提出，其中也包括了对随机梯度的扩展。
到目前为止，在约束采样的背景下，对于理解 KLD 的分裂格式尚未建立联系，这在惩罚设置下构成了我们的动机。在讨论本文的贡献之前，我们简要概述了使用各种基于朗之万的算法进行约束采样的相关工作。
1.2 其他相关工作
约束采样的概念可能有多种不同的解释，这取决于所采用的设置和施加的假设。我们的设置，至此已通过 (1.4) 简要定义，基于 [GHZ24] 工作中首次引入的惩罚约束设置。他们的动机源于连续优化中的惩罚方法，其中包括针对约束违反的惩罚项。然而，这并不是人们可以考虑的用于约束设置的唯一框架。一种自然但困难的设置可能是直接考虑流形，这需要复杂的数学方法才能有效地从目标分布中采样。最近在朗之万动力学背景下考虑这一点的研究包括 [KLV22, NDBD24]。其中一些工作需要技术性的耦合，以确保能够获得 Wasserstein 收敛性和收缩性。此外，这些工作大多基于接受 - 拒绝 MCMC 算法，如 HMC。尽管此类所提出的工作具有优雅性，但我们考虑一个更简化的设置，作为更容易的起点，以便在未来工作中再转向潜在的流形设置。其他此类工作包括 [LST24]，其中作者为朗之万动力学开发了受限 BAO 积分器。这是第一篇旨在在受限空间背景下利用此类分裂格式的论文。然而，其不同之处在于动力学被设计为在边界处反射，且信息被编码到积分器的每一步中。更近期的文献包括 [DFT+25, CKK24]，这些论文考虑了一种不同的设置，其动机源于原对偶设置，且不包含 KLD 设置，即仅有一个底层过程 。
1.3 贡献
我们通过以下几点来强调本工作的贡献：
• 我们引入了用于约束采样任务的新算法，该任务基于从 (1.1) 进行采样。具体而言，我们引入了基于分裂阶离散化格式（即 UBU 和 BAOAB）的 ULA 型算法。因此，我们为本作提出的新算法包括 CUBU 和 CBAOAB 算法。
• 我们为上述讨论的每种新算法开发了步长稳定性分析。此类分析利用了对底层势函数的假设，例如凸性和平滑性假设，我们将在文档后续部分提供这些假设。
• 我们提供了基于 Wasserstein 收敛的复杂度分析，这转化为达到精度阶 ε > 0 所需的步数。我们的复杂度界限总结在表 1 中，突出了使用分裂格式相较于传统离散化格式所带来的增益和改进。我们的结果将考虑不同的投影方法，其中包括 Bregman 投影和 Gauge 投影。
• 为了配合新开发的约束采样算法，我们还提供了随机梯度情形的扩展。这将包括 SG-CUBU 和 SG-BAOAB，以及一个此前未推导过的用于比较的非分裂格式。这些内容也展示在表 1 中，同时也展示了相较于 SG-CKLMC 更优的复杂度，我们也在本作中对该方法进行了考虑并提供了证明。
• 我们在一系列问题上提供了数值实验，以展示约束分裂格式的性能提升。这将包括一个玩具问题，其约束通过三角形和圆形定义，以及一个更高级的贝叶斯逻辑回归数值示例。对于每个示例，我们将新开发的算法与现有算法进行了比较。
1.4 提纲
本文的提纲如下：我们将从第2节开始，该节将概述后续章节所需的材料。这将包括对我们基于势函数和密度函数所使用假设的讨论，以及我们要引入的约束分裂阶格式。这将引出第3节，我们在其中展示主要理论发现，包括步长稳定性分析和Wasserstein复杂度界。我们将证明部分推迟至附录A。为了验证我们的理论结果，我们将在第4节介绍数值模拟，展示新方法下的改进，并在第5节总结我们的发现。我们还在附录B中以算法形式展示了我们的新方法。
1.5 符号
2 背景材料与算法
在本节中，在讨论我们的主要结果之前，我们提供了必要背景材料的概要介绍。其中包括对势函数和紧集 K 所需的各种假设。此后，我们将介绍我们新的约束算法，我们称之为 CUBU 和 CBAOAB。随后，这也将扩展到随机梯度的情形进行考虑。所有算法均以算法形式列于附录中。
我们通过假设凸紧集 K 满足以下假设来开始本节。
与假设 2.3 相关，我们现在基于常用的投影类引入 的两种选择，即 Bregman 投影和 Gauge 投影。这些投影已广泛应用于各种机器学习应用中，其中包括聚类和异常点检测 [XNZ08, Gho19]。我们在下面陈述这一点。
2.1 约束分裂格式
让我们介绍我们的第一个约束算法，我们称之为 constrained-UBU，或简称为 CUBU。这种分裂的形式与 UBU [SSZ21] 的思路一致，关键区别在于 B-算子，其定义如下：
为了建立 UBU 在约束条件下的收敛性，我们需要 [SSZ21] 中定理 23 和 25 的以下结果。
我们现在将 UBU 现有的 Wasserstein 收敛结果扩展到 CUBU，如下所示。
2.2 向随机梯度的扩展
对于许多实际场景而言，势函数的精确计算可能很困难，或者非常耗时，尤其是在高维情形下。因此，我们考虑使用随机梯度（SG），这种方法不需要对 ∇ U λ ( θ )
进行完整计算。我们要考虑的基于 SG 的方法的形式是基于小批量（mini-batching）的概念。为了探讨 SG 变体，我们需要定义我们的不精确梯度，如下所示。
BAOAB 和 UBU 的随机梯度版本已经在一系列工作中得到了分析和讨论，即 [CLPW26, LPW24a]，这些工作讨论了 Wasserstein 度量下的收缩率和非渐近收敛性。稍后我们将利用其中一些结果，在约束设置下建立类似的结果。在我们的设置中，我们提供了另外两种算法，即 SG-CUBU 和 SG-BAOAB，它们也分别在算法 1 和算法 2 中给出。为了避免重复，我们没有列出全梯度版本的完整算法，但它们的遵循方式非常相似。
我们要简要指出的是，假设 2.6 包含的子假设将针对不同的 SG 算法而有所不同。
2.3 Wasserstein 距离下的收敛性
为了验证我们的误差界，我们需要一个充分的度量。我们将考虑 Wasserstein 距离，这是一种用于展示采样算法收敛性的流行度量。特别是，我们将重点关注 Wasserstein 收缩性 [EGZ19, Dal17]。其背后的核心思想是，如果证明了两个测度之间的收缩性，这就意味着存在唯一的不变测度以及向该测度的收敛。这些结果的一般设置源于
3 主要结果
在本节中，我们提供来自上一节的所引入约束算法的主要结果。具体而言，我们将基于 2.3 小节中定义的 Wasserstein 复杂度提供一系列收敛结果。这将针对 CUBU、CBAOAB、它们的 SG 版本以及 SG-CKLMC 完成，后者利用了 KLD 的 Euler-Maruyama 离散化。最后，我们提供复杂度分析，就每个算法获得一定水平精度所需的迭代次数而言。我们首先开始讨论 CUBU。所有证明将推迟至附录。
3.1 CUBU 的收敛性分析
3.1.1 向 SG-CUBU 的扩展
现在我们将重点放在带有梯度的 CUBU 算法上，称为 SG-CUBU。在下述定理中，我们量化了 SG-CUBU 算法输出分布与目标密度 ν ν 之间的 Wasserstein-1 和 Wasserstein-2 距离。
3.2 CBAOAB 的收敛性分析
现在让我们将我们的结果和设置扩展到约束 BAOAB 的方法，即 CBAOAB。 以下定理展示了约束下 BAOAB 格式的收敛结果。
本推论中 CBAOAB 方法的迭代复杂度与推论 3.1 中 CUBU 方法的迭代复杂度之间的比较表明，它们属于同阶，仅相差常数因子。
3.2.1 向 SG-CBAOAB 的扩展
如前所述，我们考虑将 CBAOAB 进一步扩展到随机梯度，从而产生了一种名为 SG-CBAOAB 的新算法。下面我们展示一个主要收敛结果和一个详细说明计算复杂度的推论。
3.3 SG-CKLMC 的结果
得益于我们对光滑代理函数与目标分布之间距离的改进分析，我们能够推导出带有随机梯度的 CKLMC（称为 SG-CKLMC）收敛速率的更紧上界，如下述定理所述。
4 数值实验
在本节中，我们提供数值实验，以比较表 1 中讨论的用于约束采样问题的算法。我们考虑三个问题，其中前两个将是受单纯形约束的简单采样问题，而我们的最后一个实验将包括一个贝叶斯线性回归问题。由于计算高维 Wasserstein 距离的困难，我们在本节中专注于二维设置，以便于更清晰的展示和更轻松的可视化。因此，我们将考虑一个二维正态分布，并考虑我们将施加于目标分布 ν ν 的 K K 的特定选择。随后，我们将给出一个关于贝叶斯线性回归的最终示例。
4.1 圆形约束
4.2 三角形约束
对于我们的第二个数值实验，我们现在考虑一个修改后的约束集，它是一个从原点平移开的 3-单纯形，形式如下：
其中我们再次应用 Gauge 投影来强制执行该约束。与之前一样，我们在 K K 下运行每个算法 n = 1000
次迭代并对它们进行比较。下面的图 3 展示了全梯度算法之间的这种比较，而图 4 则是随机梯度方法的比较。通过与圆形约束的结果进行比较，我们看到了几乎相同的结果，这突显了对于动能朗之万动力学，通过使用带有全梯度的分裂格式所带来的性能提升。同样，在随机梯度下也出现了相同的效果，即分裂格式表现更好。
4.3 方形约束
我们现在考虑该问题的最后一个约束，即方形约束。它将类似于三角形约束，其中我们现在将集合定义为
我们的结果展示在图 5 和图 6 中。正如预期的那样，与 CKLMC 和 SG-CKLMC 相比，约束分裂格式表现更好。
为了总结我们的第一个实验，我们针对 K 的不同选择，提供了所有算法之间运行时间（以秒为单位）的比较。这通过表 2 呈现。正如我们所预期的，CKLMC 的计算成本更低，但正如前文所示，其表现较差。
4.4 贝叶斯约束线性回归
。然而，该分布覆盖了整个约束集。这与分裂格式不同，后者表现更好，因为大部分质量集中在正方形的右边界上，而分布并未覆盖整个正方形。图 8 将此扩展到随机梯度情形，其中观察到了与之前进行的实验类似的现象。
5 结论
本工作的目的是基于动能朗之万动力学（KLD）为约束采样提供新的统计算法。特别是，我们考虑使用分裂阶格式，将 KLD 分裂为不同的分量。这自然地衍生出不同的分裂族，其中包括 ABO 和 BU。我们考虑了基于它们的两种此类方法，即 BAOAB 和 UBU，以及它们的随机梯度（SG）版本。为了考虑约束设置，我们提供了势函数的修正版本，并在 Wasserstein 度量下提供了收敛性分析。此外，我们就达到特定精度水平所需的步数提供了复杂度分析。如表 1 所示，我们所有的格式都展示了相对于采用 EM 格式的 KLD 的复杂度优势。我们提供了数值证据以验证我们的理论发现，其中包括一个贝叶斯线性回归问题。
关于约束采样，这项工作还有几个可以探索的方向。
打开网易新闻 查看精彩图片强阶的随机方法，它基于应用无放回小批量处理（minibatching without replacement），其形式如下：
- 第二个方向是考虑约束采样的替代策略，例如受限采样（confined sampling）。在此设置中，可以考虑反射扩散过程，例如 Leimkuhler 等人 [LM, LST24] 的工作。他们的设置与我们的非常不同，但允许以一种自然的方式应用不同的分裂格式，从而也能推导出新的收敛性和偏差率。这种方法的优势在于它对步长没有限制。然而，挑战在于如何在积分器的指数项内设计约束。
- 最后，也可以将本文中的此类技术应用于无偏估计中。最近的工作分析了带有分裂族的 KLD，其中包括一种名为 UBUBU 的方法论 [CLPW26, RCJ23]。这种方法论能够减轻出现的偏差，而这在高维情形中普遍存在。据我们所知，唯一进行过无偏约束采样的工作是 Noble 等人 [NDBD24] 的工作，但这需要使用新的复杂耦合技术。也可以利用 [CLLW24] 中的思想。
原文链接：https://arxiv.org/pdf/2603.23397
热门跟贴