合并方差公式推导-合并方差公式推导

合并方差公式推导：从直觉到严谨的数学证明

在统计学、数据分析以及机器学习领域，我们经常面临这样一个场景：我们拥有两个或多个独立样本的数据集，但我们没有原始数据，只有每个样本的均值（Mean）和方差（Variance）。此时，我们需要计算将这些样本合并后的总体方差。 直接相加方差是常见的误区。本文将深入探讨合并方差（Pooled Variance）与合并数据集方差（Combined Variance）的区别与联系，并逐步推导其核心公式，辅以直观解释和实际案例。

1. 核心概念辨析

在推导之前，必须明确两个容易混淆的概念： 1. 合并方差 (Pooled Variance, )： 适用场景：假设两个总体具有相同的方差（同质性），用于比较两个总体的均值（如 t 检验）。 本质：它是各组方差的加权平均，权重为自由度（）。 公式： 2. 合并数据集方差 (Combined Variance of Merged Data)： 适用场景：真正将两组数据“物理”合并成一个大集合，计算这个大集合的整体波动情况。 本质：考虑了组内变异（Within-group variation）和组间变异（Between-group variation）。 公式（本文推导重点）： 注意：本文主要聚焦于第二种情况，即如何从两组独立的统计量还原出合并后数据集的总方差，因为这在数据隐私保护（联邦学习）或元分析中更为常见。

2. 符号定义

为了推导清晰，我们定义以下符号：

符号	含义
	第一组和第二组样本的数量
	第一组和第二组的样本均值
	第一组和第二组的样本方差（无偏估计，分母为 ）
	合并后的总样本量
	合并后数据集的总体均值
	合并后数据集的总体方差（无偏估计）

3. 公式推导过程

第一步：计算合并后的总均值

合并后的总均值是各组均值的加权平均，权重为样本量：

第二步：理解方差的本质——离差平方和 (Sum of Squares)

样本方差的定义公式为： 因此，离差平方和（SS, Sum of Squares）可以表示为： 对于合并后的数据集，其总离差平方和 等于：

第三步：分解总离差平方和（核心逻辑）

这是推导的关键。总离差平方和可以分解为组内离差平方和与组间离差平方和。

1. 组内离差平方和 (Within-group SS)

这是各组内部数据围绕其自身均值的波动：

2. 组间离差平方和 (Between-group SS)

这是各组均值围绕总均值的波动。由于我们只有汇总数据，我们需要计算每个组的均值对总均值的贡献：

3. 总离差平方和的分解

根据方差分析（ANOVA）的基本原理：

第四步：代入并求解

将上述表达式代入 的定义中： 解出 ： 其中，。

4. 直观解释：为什么需要“组间项”？

很多初学者会疑惑：“为什么不能直接加权平均方差？” 想象以下两种情况： 1. 情况 A：两组数据都是 {1, 2, 3} 和 {1, 2, 3}。均值相同，方差相同。合并后数据波动很小。 2. 情况 B：两组数据是 {1, 2, 3} 和 {101, 102, 103}。均值差异巨大。虽然组内方差很小，但合并后的数据分布极广，方差应该很大。 组间项 正是为了捕捉这种“均值差异”带来的额外波动。 如果两组均值非常接近，该项趋近于 0，合并方差就近似等于加权平均方差；如果均值差异大，合并方差会显著增大。

5. 数值案例演示

假设我们有两组学生的考试成绩：

指标	组 A (理科班)	组 B (文科班)
样本量 ()	5	5
均值 ()	80	90
样本方差 ()	10	10

目标：计算合并后 10 名学生的总体方差。

步骤 1：计算总均值

步骤 2：计算组内离差平方和 ()

步骤 3：计算组间离差平方和 ()

步骤 4：计算合并方差

对比分析： 如果错误地使用加权平均方差：。 实际合并方差为 36.67。 结论：忽略均值差异会导致对方差的严重低估（低估了约 73%）。

6. 常见应用场景

1. 元分析 (Meta-Analysis)： 研究者需要综合多个独立研究的结果。每个研究只报告均值和标准差，研究者需使用合并方差公式来计算整体效应量的置信区间。 2. 数据隐私与联邦学习 (Federated Learning)： 在分布式系统中，不同节点的数据无法直接共享。节点只需上传各自的均值、方差和样本量，中心服务器即可计算全局模型的统计特征，而无需接触原始数据。 3. 质量控制 (QC)： 工厂有多个生产线，每条生产线只记录每日的均值和方差。管理者需要评估整个工厂产品的整体一致性，需使用合并方差公式。

7. 总结

合并方差公式的推导揭示了统计学的核心思想：总变异 = 组内变异 + 组间变异。 公式核心： 关键点：切勿简单地对各组方差进行算术平均。必须考虑各组均值相对于总均值的偏离程度。 实用建议：在使用该公式时，确保使用的是无偏样本方差（分母为 ）。如果原始数据提供的是总体方差（分母为 ），需先转换为样本方差再进行计算。 通过掌握这一推导过程，您可以更准确地处理汇总统计数据，避免在数据分析中犯下低估波动的错误。