一个教育水平影响薪资的命题,扔进统计模型转一圈,出来的p值到底能不能信?多数做预测模型的人,连第一类错误和第二类错误都分不清,就在那盯着0.05按头下结论。今天把假设检验最要命的几个概念拆开看,全是血泪踩坑经验。

先定几个名词,别到最后连自己在干什么都不知道。假设检验,就是拿样本数据计算证据,判定某个说法是真是假。比如“学历高低对员工薪资有没有影响”,这就是个典型问题。真正动手的时候,你得算出一个检验统计量,像t检验、Z分数、方差分析这些,用这个量表衡量样本结果和零假设预期间的差距。然后还要跟一个临界值比,它由显著性水平α划出拒绝域和非拒绝域的分界线,超过这根线,才敢说“有事发生”。

打开网易新闻 查看精彩图片

坑最多的地方就是两类错误。第一类错误,也叫假阳性,零假设明明是对的,你却说它错了;第二类错误则是假阴性,零假设其实是错的,你却没检验出来。很多团队根本没想过自己的模型更怕哪一种错——宁可误杀不可漏判,还是宁可漏判不能误杀,这直接决定α取多大、样本量要多高。

筛选方法的时候,先搞清楚数据长什么样。参数检验,专门处理数值型连续数据。它有个硬前提:数据得来自正态分布,均值、中位数、众数凑到一起形成经典钟形曲线,各组方差还得近似相等,数据点之间独立采集。满足这些,用在大型数据集上就很顺手,单因素方差分析和t检验就是典型。另一条路是非参数检验,不瞎猜分布形状,特别适合等级、顺序数据或者小样本场景,比如曼-惠特尼U检验和克鲁斯卡尔-沃利斯检验。如果你拿一堆严重偏态的数据非要用t检验,那p值不管多漂亮,都是骗自己的。

操作步骤一点都不神秘。第一,把业务问题定清楚,你到底想证明什么;第二,设零假设和备择假设,零假设总在说“无事发生、没有差异”,备择假设则宣布“至少有一处存在真实效应”;第三,选定显著性水平,业界的标配是5%也就是0.05,翻译过来就是,你允许模型有5%的概率预测错;接下来算检验统计量,评估p值。p值的含义经常被曲解——它表示在零假设成立的条件下,纯粹由运气撞出当前结果甚至更极端结果的概率。所以,p值小于等于0.05,就拒绝零假设,当成真有效应;p值大于0.05,无法拒绝零假设,意味着证据不足,很可能只是随机波动。

方向性这里,原文只提到单尾检验,它是一种有方向性的检验,只检测某个特定方向的效应。至于双尾怎么玩,原文没给完整信息,就不硬补了。实际项目中,你要是先在数据里偷瞄了两眼再决定单尾双尾,那p值直接作废,别问为什么。