可视化与解释后验不确定性的方差增量|后验|方差增量|未知量|算法|贝叶斯

可视化与解释后验不确定性的方差增量

Variance Deltas for Visualizing and Explaining Posterior Uncertainty

https://arxiv.org/pdf/2606.26309

摘要

在观测性设定中，由于数据生成过程以及可能的样本量不受控制，通常不可能先验地保证感兴趣的量能够以足够的精度被估计。然而，即使数据不能确定感兴趣的量，它们可能仍然允许确定什么是缺失的——即未被观测到的信息，如果这些信息被观测到，将会显著地减少不确定性。我们提出了一种被称为“方差增量”的交互式可视化系统，以使得能够从贝叶斯后验分布中发现此类缺失信息。该系统（我们将其作为一个软件包提供）将缺失信息表示为未观测模型量的子集，并根据每个子集对感兴趣的量的不确定性的解释程度，将它们组织成一棵树。该系统既通过最少的用户输入自动构建候选子集，又实现了用于子集划分与组合的交互式操作，从而允许高效地发现有趣且有价值的解释。我们通过使用该系统来发现不确定性的非显而易见的解释来演示该系统，这些解释针对的是：（1）一个模拟因果推断问题中的处理效应参数，以及（2）一个包含许多偏差来源的真实民意调查数据预测模型中的总体比例。

关键词：不确定性量化，图模型，贝叶斯统计，敏感性分析

1 引言

在对数据生成过程既不受控制又复杂的观测数据进行建模时，关于感兴趣量的统计不确定性可能太大，以至于不允许进行任何实质性推断（Greenland 2009, 2005）。这种症状的常见原因包括拥有不足数量的数据、拥有错误类型的数据，以及拥有一个感兴趣量所依赖的未识别讨厌参数。补救措施可能包括收集更多和/或不同的数据，引入先验信息加以利用，或者重新思考分析的实质性目标。找到这种不确定性的正确解释通常是正确减轻或适应它所必需的。但是发现这样的解释通常需要对模型进行人工分析和大量的猜测。此外，现有的总结和可视化工具通常不包含我们需要的信息。在贝叶斯推断中，Gelman等人（2020）指出，通常基于直方图和散点图的后验可视化“没有完全捕捉我们推断中多层次的变化和不确定性。” 我们提出了一种交互式可视化系统，以在贝叶斯设定中结构化并部分自动化对此类解释的搜索。该系统的用户只需要指定一小部分初始潜在解释，从中自动生成进一步的解释并组织成树状结构。然后可以交互式地划分、扩展和合并这些树的分支，以产生新的解释。在这些树中，我们认为信息从根流向叶子解释，每一个后续的解释比前一个更弱。因此，我们将这些可视化称为方差增量，以类比河流三角洲的树状流动。我们在一个名为variance-deltas的软件包中实现了这个系统，我们使用它来生成所有图表。

1.1 量化解释

为了可视化不确定性的解释，我们必须首先度量解释力。关于可解释与可解读机器学习的文献已经提出了许多用于解释模型预测的测度（Hullman 等人 2025，Linardatos 等人 2021）。例如，流行的SHAP方法本质上执行了预测相对于预测特征的敏感性分析（Lundberg & Lee 2017，Owen 2014）。我们遵循一种类似的方法来解释不确定性。

1.3 相关工作

这项工作遵循了关于贝叶斯工作流（Bayesian workflow）的日益增长的文献，该文献以集成的方式解决了统计建模流程的所有阶段。静态或交互式图形在贝叶斯工作流问题中的其他应用包括 shinystan 和 bayesplot 软件包（Gabry & Veen 2022, Gabry & Mahr 2025）——这是用于绘制 MCMC 输出和诊断的工具。在贝叶斯设定之外，基于图的可视化已被用于揭示模型结构和变量重要性（Champion & Elkan 2017, Inglis et al. 2021）。

先前的工作也将敏感性分析（sensitivity analysis）的工具应用于贝叶斯工作流问题。这项工作的大部分研究了推断对分析中非随机方面的敏感性，例如先验设定（prior specification）（Roos et al. 2015, Kallioinen et al. 2023）和数据样本（data sample）（Nguyen et al. 2024）。另一方面，决策论应用（Decision-theoretic applications）分析关于随机的、建模的量的敏感性，正如我们在这里所做的那样。例如，部分完美信息的期望值（expected value of partial perfect information）被定义为：当决策是在基于某个未知量进行条件化和不基于该未知量进行条件化这两种情况下做出时，期望损失的减少量（Felli & Hazen 1998）。当损失是二次的（quadratic）时，这与我们的不确定性指数 (1) 密切相关（Jackson et al. 2019）。虽然这种信息价值分析通常假设我们要预先知道要在哪些量上进行条件化，但这项工作关注的是发现有趣的未知量集合来进行分析。

我们提出的可视化结构也受到 John Tukey 关于交互式统计图形的早期工作的启发（Friedman & Stuetzle 2002）。在超越后验样本的直接可视化方面，我们受到了 Tukey 建议的影响，即为了发明有用的新形式的可视化，我们应该“找到潜在有趣的新现象，然后学习如何制作可能揭示它们的显示”（Tukey 1990）。

1.4 符号

1.5 大纲

本文的其余部分组织如下。第 2 节定义了方差增量（variance deltas），提出了一种半自动生成它们的算法，并介绍了一组用于变换它们的交互式操作。接下来的两节应用方差增量来发现不确定性的非平凡（nontrivial）解释。第 3 节将我们的方法应用于使用面板数据的模拟因果推断问题，其中感兴趣的量是处理效应（treatment effect）。然后，在第 4 节中，我们考察了一个应用于 2016 年美国总统大选真实数据的民调模型，其中感兴趣的量是选举日民主党的选民份额（Democratic share of the electorate）。第 5 节提出了总结性思考。

2 方差增量 (Variance Deltas)

方差增量由两个组成部分构建：编码模型中条件独立性关系的底层树，以及从树节点到相应不确定性指数估计值的映射。方差增量的形式化陈述分为四个部分：(i) 其底层的分流树（distributary trees）的定义，(ii) 一种估计绘制它们所需的不确定性指数的方法，(iii) 一种半自动构建它们的算法，以及 (iv) 用于转换和扩展它们的交互式操作。

2.1 分流树 (Distributary Trees)

2.2 可视化与估计不确定性

2.3 构建分流树

构建有用的分流树面临两个困难，我们将在本节中解决。

手动构建分流树要求用户既知道 (i) 应该为树的节点选择哪些未知量，又知道 (ii) 如何连接节点，以便树中的每条路径都满足马尔可夫条件 (5)。我们通过定义一种算法来解决这个问题，该算法仅根据根节点（感兴趣量）和叶节点的规格说明来构建分流树。
对于任何给定的模型，仅凭根节点和叶节点通常无法确定唯一有效的分流树。这是敏感性分析中出现的一个更普遍问题的实例：即需要约束执行分析所针对的量的子集（Constantine & Diaz 2016, Jacques et al. 2006, Iooss & Lemaître 2015）。因此，我们需要一个额外的标准，以便在算法的任何给定阶段，让我们在构建树的多个选项之间进行选择。为此，我们引入了一种解释特异性（explanatory specificity）的度量。

为了解决这些困难，我们需要分解（factorizations）和因子图（factor graphs）的概念。

2.3.1 度量解释的特异性

2.4 分流树上的操作

给定一个初始的分流树，我们可能希望添加节点以寻找更好的解释性集合。为此，我们开发了一套用于修改分流树的操作。

备注：引理 2 的陈述要求分流树必须由算法 2 生成，因为该算法产生的对象具有比分流树定义所保证的独立性性质略强的独立性性质。我们在补充材料中给出了这些更强对象的定义，我们将其称为分离树。

3 示例：模拟面板数据中的因果推断

估计处理效应依赖于推断处理前时期（pre-treatment period）单元之间的相关性，并将这些相关性外推到处理后时期（post-treatment period）。特别是，我们依赖于未处理单元在处理后时期的行为，以了解处理单元在没有接受处理的情况下可能的行为表现。这种策略以及相应的处理效应推断可能会以多种方式受到削弱。

缺乏相关数据是对推断最直接的威胁。例如，在图 3 中，单元 4 – 6 在处理前时期与单元 1 的匹配度很差，因此几乎无法提供关于单元 1 在处理后时期的可靠信息。另一方面，单元 2 和 3 在处理前时期与单元 1 高度匹配，但却造成了另一种对推断的威胁：尽管在处理前与单元 1 匹配得同样好，单元 2 和 3 在处理后时期却发生分歧并给出不兼容的预测。在这种情况下，由于存在太多潜在的相关信息，我们无法自信地推断处理效应。

3.1 参数与模型

我们使用一个增加了处理效应参数的潜因子模型（latent factor model）来拟合图 3 中的数据。我们的模型与合成控制（synthetic control）的贝叶斯方法非常相似，这是一种针对观测面板数据的因果推断方法论（Abadie et al. 2010, Pang et al. 2022）。具体而言，观测矩阵被建模为三项之和：

3.2 使用方差增量进行分析

4 民调模型示例

我们的第二个示例应用方差增量来刻画 2016 年美国总统大选民调复杂模型中的不确定性。特别是，我们分析了 Heidemanns 等人 (2020) 的模型，该模型包含了时间趋势、州际相关性以及几种潜在偏差/测量误差来源的成分。我们使用方差增量来分离两个模型成分，这两个成分共同解释了大部分后验不确定性，并使我们能够确定这种不确定性可以在多大程度上被降低。

数据是 2016 年美国总统大选在州和国家级民调的一个子集。每项民调都报告了受访者人数以及支持民主党候选人希拉里·克林顿的人数。我们的目标是预测选举日各州将支持民主党候选人的选民比例。

4.1 参数与模型

4.2 使用方差增量进行分析

5 结论

我们引入了方差增量（variance deltas），这是一种用于解释贝叶斯模型中关于标量感兴趣量的后验不确定性的交互式可视化方法，并将该系统实现为一个名为 variance-deltas 的软件包。当贝叶斯模型具有分解 F F 时，我们表明相应的马尔可夫图可用于半自动地构建和转换方差增量，从而实现潜在解释的高效生成与探索。

我们的两个示例表明，方差增量能够迅速排除对不确定性的拙劣解释，并将我们的注意力集中在模型量的特定、可解释的子集上，这些子集可以解释我们整体不确定性的很大一部分。在模拟面板数据示例中，我们能够识别出在较长时期内进行观测会有用的小单元组合，同时确定其他单元的价值微乎其微。在民调模型示例中，我们能够分离出一对解释了我们要大部分不确定性的参数，指引我们要去获取特定类型的信息，以消除分析中的瓶颈。