算法专家聚合
Algorithmic Expert Aggregation
https://arxiv.org/pdf/2607.08744
摘要
预测聚合旨在将多个贝叶斯专家预测中的信息合并为一个聚合预测。然而，在大部分此类文献中，聚合预测是针对特定的损失或鲁棒性标准进行优化的，其本身不必针对结果进行校准：所报告的预测不必等于在给定聚合预测本身条件下的结果条件概率。我们引入并研究专家聚合，其目标则是将贝叶斯专家聚合为一个新的专家，该新专家能够继续提供校准的预测。具体而言，我们考虑这样一种设定：每个输入专家报告校准的预测，聚合器可以观察到状态上的先验分布以及输入专家，但无法观察到状态潜在的贝叶斯概率。我们探讨是否能够：(i) 构建一个校准的输出专家，该专家布莱克韦尔细化（Blackwell refines）了目标专家，且无法利用可用信息进一步进行布莱克韦尔改进；以及 (ii) 在指定了恰当损失（proper loss）的情况下，在所有此类细化中计算出一个近乎损失最优的专家。
我们将校准的专家表述为简化型信息结构（reduced-form information structures），并通过所诱导预测分布的布莱克韦尔占优（Blackwell dominance）来衡量细化程度。我们通过可观测线性信息来刻画可构建的输出专家：输入专家生成一个线性系统，其行空间决定了哪些校准的输出预测是可识别的，并且当且仅当一个新专家的预测位于相关的可观测非负锥内时，该新专家才是可构建的。我们确立了一幅清晰的算法图景。当允许使用随机化输出专家时，细化搜索问题 (i) 和恰当损失优化问题 (ii) 均存在高效算法。相比之下，确定性输出专家在计算上是难以处理的：即使只有两个输入专家且目标专家为恒定基准率专家，判定是否存在确定性校准细化也是 NP 难的；并且除非 P = NP，否则确定性恰当损失优化不存在乘法多项式时间近似方案（multiplicative PTAS），即使对于布里尔损失（Brier loss）也是如此。
1 引言
决策者正在斟酌是否采取某项行动，该行动的收益取决于某一事件是否发生：为具体起见，若事件发生则收益为1，否则为-1。为提供协助，一个专家团队对该事件发生的概率进行预测。出于专业性，这些专家总是报告其尽最大努力做出的预测，并综合考虑了他们所掌握的所有信息。尽管如此，不同的专家专注于该事项的不同方面，导致从各自专家的视角来看，所有不同的预测都是诚实的。于是决策者面临一个问题：如何将这些不同的预测聚合为一个能为决策提供最佳指导的单一预测？
这正是预测聚合（forecast aggregation）这一研究脉络所探讨的核心研究问题（参见，例如，[Sto61, BG69]）。在一个决策者拥有所有相关先验知识的理想化世界中，上述问题可归结为贝叶斯推断：给定有关所关注事件及所有专家预测的联合信息结构，（至少在原则上）可以推断出以所有专家的预测为条件的该事件的后验概率。另一方面，决策者往往无法获取完整的信息结构（或无法以贝叶斯意义形成关于它的信念），在这种情况下，人们可以转向鲁棒预测聚合（robust forecast aggregation），其旨在针对信息结构的不确定性，在最坏情况下优化聚合预测[ABS18, LR22, KWW24, GHH+25, FMNW25]。在考虑实际情况时，这一直是预测聚合中占主导地位的方法。
在本文中，我们从另一个角度审视预测聚合，并研究其一种自然的变体，我们将其称为专家聚合（expert aggregation）。在专家聚合中，我们不再处理一次性的预测，而是直接处理专家本身，将每位专家视为从可能的观测到数值预测的一个可能随机化的映射。其目标是将多个输入专家聚合为一个单一的输出专家，该输出专家的优越性由布莱克韦尔信息量（Blackwell's informativeness）[Bla53]来量化，这是一个通过“整体有用性”对专家进行排序的经典概念。专家聚合的显著特征，尤其是在鲁棒预测聚合的背景下，是我们要求输出专家做出校准的预测（calibrated forecasts），即专家做出的预测始终精确等于以该预测为条件的该事件的后验概率。1从概念上讲，专家聚合对应于这样一些场景：我们旨在构建一个通用的专家系统，该系统并非针对特定的单次任务，而是为不特定的下游应用提供有用的建议。更具体地说，设想以下场景：一家医院收集了多年医疗病例的档案，其中特别包含了多位医学专家关于每位患者患有某种潜在疾病（如亚临床糖尿病）的可能性的判断。用更专业的术语来说，这些档案精确地包含了以下信息：患者可观测特征的总体分布，以及这些可观测特征与每位专家关于该潜在疾病可能性的预测之间的相关结构。2请注意，后者等同于上文讨论的输入专家系统的形式，即从观测到数值预测的映射。我们希望将这些档案聚合为一个能够辅助未来医疗决策的专家系统。重要的是，我们不希望将该专家系统过拟合于任何特定的治疗方案，因为该潜在疾病会以不同的方式影响不同的潜在治疗方案。正如我们稍后将讨论的，我们的算法将输入档案聚合为一个具有以下理想特性的单一专家系统，这些特性本质上定义了专家聚合问题：
- 校准性（Calibration）：输出专家始终做出校准的预测，这本质上是在缺乏对下游任务的具体知识时唯一合理的做法，同时也确保了预测的可解释性。后者在某些应用领域（包括医学）中至关重要。
- 最大信息性（Maximal informativeness）：就布莱克韦尔信息量（Blackwell informativeness）而言，输出专家在所有可以基于输入中包含的信息构建的专家中是（近似）不受支配的，或帕累托最优的。换句话说，输出专家最大限度地利用了输入信息。
- 模块化（Modularity）：输出专家可以用于任何下游任务，甚至可以以黑盒方式输入到后续的聚合算法中。输出专家的性能由校准性和最大信息性作为支撑，这两者很大程度上与下游应用无关。此外，下游应用不需要访问专家聚合的任何输入专家。这提供了某种形式的隐私保证，这在医学以及许多其他应用中也具有巨大价值。
- 针对性改进（Targeted refinement）：除上述要求外，我们可以选择性地要求输出专家改进一个指定的目标输入专家，这意味着输出专家的信息量永远不会少于——并且在许多方面通常多于——目标输入专家。这在我们希望保留某个输入专家的完整领域专业知识，同时整合来自其他输入专家的通用知识的应用中特别有用。
总结上述讨论，我们对专家聚合的研究旨在回答两个级联的算法问题，这些问题将上述理想特性重组为更具技术意义的形式。首先：
改进（Refinement）：是否可以将输入专家中包含的可观测信息重组为一个新的专家，使其在布莱克韦尔意义上比一个（可能是平凡的）目标专家更具信息量？
如果这种改进是可能的，我们进一步追问可以将它推进到什么程度：
最优性（Optimality）：聚合器能否构建一个不受支配的专家，并且能否在所有支配目标的可行专家上进行优化？
1.1 我们的贡献
我们针对这些问题提供了算法层面的解答。我们的结果揭示了随机化专家聚合与确定性专家聚合之间尖锐的计算二分法：随机化输出专家允许高效的搜索与优化算法，而确定性输出专家即使在高度受限的实例中也会导致计算上的不可处理性。
聚合为随机化专家时的高效算法。我们首先研究当输出专家被允许报告可能随机化的预测时，聚合器问题的计算复杂度。我们表明，在这种自然的随机化输出模型下，SEARCH-AGGREGATION 和 OPT-AGGREGATION 均存在高效的算法解。
定理 1.1（非正式）。对于任意数量 k k 的输入专家和任意目标专家，存在一个求解 SEARCH-AGGREGATION 的多项式时间算法。此外，对于任意数量 k k 的输入专家和任意目标专家，针对每一个正则恰当损失（regular proper loss），存在一个求解 OPT-AGGREGATION 的加法 FPTAS（全多项式时间近似方案），即该算法输出一个布莱克韦尔占优目标专家的可构建专家，且其期望恰当损失在期望的加法误差范围内接近最优值。
定理的第一部分表明，对于搜索问题，只要存在这样的改进，随机化聚合就能高效地找到目标专家的一个最大信息量的后验一致性改进。第二部分表明，这种可处理性同样延伸到了优化问题：在所有布莱克韦尔占优目标专家的可构建专家中，对于任何给定的恰当损失，人们可以高效地找到一个期望恰当损失近乎最优的专家。从概念上讲，结果的第二部分解决了一个定义更明确的问题，在该问题中我们仍然旨在构建一个校准的专家系统，该系统可以在下游任务中提供持久的帮助，但我们确实知道在这些任务中起作用的损失函数。重要的是，在这两个问题中，算法都不需要访问潜在的贝叶斯概率。它们仅使用先验分布和输入专家，且输出专家保持完全可构建和完全校准。
确定性聚合的困难性。接着我们转向确定性输出专家。确定性专家在那些每个状态、特征档案或患者档案应该接收到一个稳定预测的应用中是很自然的。然而，我们的结果表明，确定性聚合在计算上比随机化聚合难得多。
定理 1.2（非正式）。问题 SEARCH-AGGREGATION 的确定性输出是 NP 难的，即使只有两个输入专家、一个均匀先验分布，且两个输入专家之一是报告基准率并作为目标专家的常数专家。此外，除非 P = NP，问题 OPT-AGGREGATION 的确定性输出不存在乘法 PTAS（多项式时间近似方案），即使对于布里尔损失（Brier loss）也是如此，即使只有两个输入专家、一个均匀先验分布和一个常数目标专家。
这一结果表明，SEARCH-AGGREGATION 的可处理性本质上依赖于允许随机化输出专家。这种困难性并非由大量专家、复杂的先验分布或丰富的目标专家所驱动：它仅凭两个输入专家就已经出现，其中一个是可能的最简单的专家：一个常数基准率专家。因此，即使是判定这样一个常数专家是否能被一个确定性可构建专家严格改进，在计算上也是困难的。优化困难性进一步表明，确定性聚合不仅对搜索问题困难，而且对损失最小化 OPT-AGGREGATION 也困难。即使是对于标准的布里尔损失，除非 P = NP，否则不存在高效的乘法近似方案。
1.2 我们的技术
我们的第一步是利用恰当损失的结构。恰当损失的贝叶斯风险函数是凹的，并且对于正则恰当损失类，它允许一个多项式规模的分段线性上界近似（piecewise-linear upper approximation）。用这个上界近似替换贝叶斯风险函数，将每个预测的非线性损失贡献转化为一个线性表达式。这给出了一个线性目标，该目标给出了真实期望恰当损失的上界，且仅带有加法近似误差。第二步是通过源标记分解（source-labelled decomposition）来编码布莱克韦尔占优。与其直接在任意输出专家上进行优化，不如我们根据目标专家分裂出的预测分量来标记每个输出预测。对于每个目标预测值，源标记的预测必须同时保持其概率质量和后验均值。这两个约束精确地表达了从目标专家的预测分布到输出专家的预测分布的鞅耦合（martingale coupling）。根据布莱克韦尔占优的鞅刻画，这保证了输出专家弱布莱克韦尔占优目标专家。
通过可观测二元向量的困难性。我们接下来解释我们的确定性困难性结果背后的主要思想。关键的观察结果是，确定性输出专家施加了一个在随机化模型中不存在的整数约束（integrality constraint）。一个确定性专家将状态空间划分为预测单元（prediction cells）。如果这样的专家是可构建的，那么该划分的每个单元必须是可观测的：其二元指示向量必须位于由输入专家生成的可观测线性空间中。因此，确定性聚合等价于询问可观测线性空间是否包含有用的非平凡二元向量。
我们的困难性构造将这一二元向量要求归约自子集和问题（SubsetSum problem）。从一个受限的子集和实例出发，我们构建一个仅有两个输入专家的聚合实例：一个专家是常数基准率专家，它也作为目标专家；另一个专家是精心设计的随机化辅助专家。这两个专家共同生成一个具有以下性质的可观测线性空间：每个可观测二元向量必须在两个放大的状态块（amplified blocks）上是常数，并且一旦这两个块上的值被固定，剩余的可行性条件就精确地变成了一个子集和方程。
这一构造建立了一个直接的等价关系。当且仅当可观测线性空间包含一个非平凡二元向量时，子集和解才存在。这样的二元向量定义了一个非常数的确定性可构建专家。由于目标专家是常数基准率专家，任何具有相同均值的非常数校准专家都严格布莱克韦尔占优它。因此，判定常数目标专家是否允许确定性可构建改进已经是 NP 难的，即使只有两个输入专家和一个均匀先验。
对于优化困难性，我们使用相同的构造，但利用放大的块来创建一个常数布里尔损失差距（Brier-loss gap）。在 NO 实例中，可观测线性空间不包含非平凡二元向量，因此每个确定性可构建专家必须是常数，并且具有等于基准率损失的布里尔损失。在 YES 实例中，子集和证书产生了一个双单元确定性专家，其预测与基准率分离，并且放大的块保证了严格更小的布里尔损失。该差距足够大，以至于任何针对确定性OPT-AGGREGATION的乘法 PTAS 都能区分 YES 实例和 NO 实例，这意味着 P = NP。因此，确定性聚合不仅对搜索问题困难，而且对损失最小化也困难，即使是对于布里尔损失，即使是在高度受限的双专家实例中也是如此。
1.3 更多相关工作
预测与信息聚合。预测聚合及其密切相关的公式已在多个学术社区中被研究，包括机器学习、统计学、经济学和理论计算机科学。早期的基础工作包括意见池（opinion pooling）和预测组合（forecast combination）[Sto61, BG69]，以及预测组合的经典综述 [Cle89]。此后，更广泛的文献沿着不同的方法论方向发展。
在机器学习中，聚合通常通过集成方法（ensemble methods）进行研究，即结合多个预测器/分类器以提高预测性能。经典的例子包括堆叠（stacking）、装袋（bagging）、提升（boosting）和随机森林（random forests）[Wol92, Bre96, Sch90, Fre95, FS97, FHT00, Bre01, Die00]。一个相关的在线学习视角研究了带有专家建议的预测（prediction with expert advice），其中乘权重类（multiplicative-weights-type）算法在结合专家预测的同时，相对于最佳固定专家实现低遗憾（low regret）[LW94, CBL06]。
在统计学中，预测聚合已从公理化和概率论两个角度进行研究。公理化文献对聚合规则施加了期望特性，如一致同意保持（unanimity preservation）和独立性的变体，并在相应的假设下刻画了线性或外部贝叶斯池化（externally Bayesian pooling）等规则 [AW80, Gen84, DL16]。概率论和贝叶斯文献则建模预测如何从底层信号生成，然后通过贝叶斯更新或参数估计推导聚合规则；参见，例如，[SBF+14, FCK15, EPSU16, SPU16, RG10]。
这些文献的一个共同特征是，报告的预测被解释为由预测者信息诱导的概率信念（probabilistic beliefs）[Bor82, GBR07, SPU16, ABS18, GHH+25]。在这种解释下，预测相对于预测者的信号是校准的：它代表在预测者可用信息条件下目标的后验均值。在我们的设定中，我们也要求构建的预测是校准的，这也与这种标准的信念更新观点相一致。
另一条相关路线研究基于共识的信息聚合（agreement-based information aggregation）：交换信念或预测并达成共识的代理人是否聚合了各代理人之间持有的信息，以及在什么条件下达成的共识与基于汇集信息的后验信念一致或近似 [Aum76, Aar05, KS23, FNW23]。最近的工作还研究了计算上易于处理的共识和协作预测协议，其中代理人或模型迭代地交换预测或反馈以提高准确性，同时保持其底层信息私密 [CGGR25, CGHG+26]。我们的工作与之互补。我们没有建模代理人之间的交互式信念交换或预测交换过程，而是将校准的专家及其报告规则作为输入，并询问哪些后验一致的输出专家可以仅使用这些输入中包含的可观测信息来构建和优化。
鲁棒预测聚合。我们的工作涉及信息聚合问题。最近的一条文献线在 [ABS18] 中首次引入，采取鲁棒视角，要求在可能信息结构的大类中表现良好的聚合器，特别是当专家信号之间的相关结构未知或错误指定时。最近的工作研究了这种鲁棒信息聚合问题的各种扩展和变体 [DOIL21, LR22, NR22, KWW24, GHH+25, GK25, FMNW25, CPT26]。互补的一条路线利用二阶或更高阶信息（如代理人对他人答案的信念）来改善有限群体中的聚合 [Pre04, PSM17, PS19, WLC21, WMH22, PCK24, APSL+25]。
我们的工作在目标和信息约束上都与这些路线不同。我们不是设计一个将几个报告的预测映射到单个聚合预测的规则，或者在损失或遗憾标准下评估这样的规则，而是研究何时以及如何仅使用输入专家预测中包含的可观测信息来改进预测，而无法访问底层的贝叶斯概率。另一个重要的区别是，鲁棒聚合规则的输出预测本身不必是贝叶斯后验信念。相比之下，我们框架中构建的每个预测都要求是后验一致的：每个报告的预测在每一个与输入预测一致的潜在贝叶斯概率向量下都是有效的贝叶斯信念。这导致了一个独特的可构建性问题：目标是从预测聚合转向信息聚合，并在布莱克韦尔占优关系下刻画和计算最大信息量的可构建输出专家。我们在备注 3.4 中更详细地讨论了这些联系。
信息结构上的优化。我们的工作也与信息设计和贝叶斯劝说（Bayesian persuasion）相关，其中设计者选择信息结构以在贝叶斯合理性约束（Bayes plausibility constraint）下优化目标 [KG11, DX16, BM19]。越来越多的算法文献研究了劝说及相关问题中信息结构优化的计算方面。与这些文献类似，我们将预测视为信息结构，并在可行的后验分布上进行优化。然而，我们问题中的约束本质上是贝叶斯合理性的反向类比：我们不是在所有贝叶斯合理的信息结构上进行优化，而是从观察到的预测出发，询问哪些更具信息量的预测可以仅从它们的可观测线性信息中构建出来。
在概念上，我们的工作也与最近关于信息结构比较和交互的研究相关。[CW16] 研究了信息替代品和互补品，重点关注一个信号的边际价值如何取决于其他信号的可用性，而 [BFK22, BFK24] 研究了信息层次结构或信号比较在决策环境和辅助信息中何时在鲁棒意义上有效。这些工作比较给定的信息源或刻画它们之间的鲁棒排序；相比之下，我们的问题是建设性的：给定几个观察到的预测，我们询问哪些更具信息量的预测可以仅使用它们的可观测含义来生成和认证。最近关于校准优化（calibeating）的工作 [CHJL26] 也研究了如何后处理外部预测以获得校准、信息量和恰当损失保证，但这是在在线学习设定中。
原文链接：https://arxiv.org/pdf/2607.08744https://arxiv.org/pdf/2607.08744
热门跟贴