中等偏差概率区域的参数统计推断|不等式|估计量|似然|关于|参数统计|定理|概率区域|贝叶斯

Parametric Statistical Inference in the Zone of Moderate Deviation Probabilities

中等偏差概率区域的参数统计推断

https://arxiv.org/pdf/2604.24736

摘要

针对中等偏差概率区域，开发了一种参数统计推断理论。这种新的证明方法基于基于Hellinger距离的对数似然比的泰勒级数展开。证明了贝叶斯估计量和极大似然估计量在中等偏差概率区域的大偏差原理。针对中等偏差概率区域，还建立了对数似然比的一致近似以及关于后验贝叶斯测度集中的定理。

1 引言

在统计学中，我们不断遇到小概率。置信估计中的显著性水平和假设检验中的错误概率取值都很小。研究此类问题的标准方法是将其视为大偏差和中等偏差概率问题。这就提出了一个问题：“在什么条件下，关于统计量分布正态近似的结果可以扩展到中等偏差概率区域？”对于极大似然估计量和似然比检验，一系列工作在相当严格的条件下获得了此类结果 [1, 2, 8, 11, 14, 17]，而这些条件相比于证明其渐近正态性时的条件 [10, 12, 13, 18] 更为严格。对于贝叶斯估计量，仅获得了集中不等式 [10]。这些不等式 [10] 的对数渐近性在阶数上是最优的。

此前，为了研究极大似然和似然比估计量的中等偏差概率的渐近性，使用了基于其导数的对数似然比的泰勒级数展开 [1, 2, 8, 11, 14, 17]。在证明似然比的局部渐近正态性（LAN）时，除了这种技术外，还采用了另一种基于Hellinger距离的技术 [9, 10, 13, 18]。我们要使用这后一种技术来研究中等偏差概率区域内的统计推断理论问题。我们要设法将这种方法为正态近似获得的主要结果扩展到该区域。我们证明了中等偏差区域内对数似然比的一致LAN定理，建立了中等偏差区域内极大似然和贝叶斯估计量的大偏差原理，并证明了中等偏差区域内后验贝叶斯测度集中的大偏差原理。我们定理的条件显著弱于之前证明极大似然估计量和极大似然比检验的中等偏差概率定理时的条件 [1, 2, 8, 11, 14, 17]。

第2节介绍了条件和问题设定。上述结果在第3节中给出。证明在随后的章节中提供。

2 问题陈述

3 主要结果

3.1 中等偏差区域内对数似然比的局部渐近正态性

3.2 极大似然估计量

对于估计量的中等偏差概率问题，关系式 (3.9)–(3.11) 和 (3.13)–(3.15) 证明了在对多维参数进行假设检验时，应用似然比检验、Wald 检验和 Rao 检验的等价性。

在定理 3.3 和 3.4 中，假设集合 Θ 是有界的。针对无界集合 Θ 的极大似然估计量 (MLEs) 的中等偏差概率的不等式是在文献 [10] 第一章的定理 5.1 和 5.4 中获得的。这些不等式使得将定理 3.3 和 3.4 的证明扩展到无界集合 Θ 的情形成为可能。因此，如果文献 [10] 第一章定理 5.4 的条件 (1)–(3) 额外成立，那么 (3.6)–(3.15) 对于无界区域 Θ 仍然有效。容易看出，它们可以被以下更简单的充分条件所替代：

3.3 贝叶斯估计量

3.4 关于后验贝叶斯测度集中的中等偏差概率

对于任意可测集 A ⊂ Θ ， A 的后验贝叶斯测度为

4 定理 3.1 和 3.3 的证明

在 4.1 节中，我们证明了对数似然比的有限维逼近的估计式 (3.1)。随后在 4.2 节中，我们获得了一致逼近估计，从而完成了定理 3.1 的证明。4.3 节提供了定理 3.3 的证明。

4.2 一致逼近

4.3 定理 3.3 的证明

若一个估计量是不一致的且 Fisher 信息有限，则它在中等偏差区域内满足 Bahadur 渐近有效性的下界（见文献[5]定理 2.2）。这一下界与定理 3.3 中 MLE 的下界一致。在文献[10]第二章定理 3.2 的条件下，MLE 是渐近正态的，因而是不一致的。由于定理 3.3 的条件蕴含了文献[10]中定理 3.2 的条件，为证明 (3.6)，只需建立上界即可。定义事件：