迭代期望定律 (Law of Iterated Expectations)

"The Expectation of the Conditional Expectation is the Expectation"

1. 数学表达

$$E[X] = E[E[X|Y]]$$

左侧 $E[X]$: 随机变量 $X$ 的全期望(大局观)。

右侧内层 $E[X|Y]$: 这是一个关于 $Y$ 的随机变量。当 $Y$ 取不同值时,我们观察 $X$ 的平均表现(分层观)。

右侧外层 $E[\cdot]$: 对这些层级平均值进行再次加权平均。

离散形式展开:

$$E[X] = \sum_{y} E[X|Y=y] \cdot P(Y=y)$$

这正是下面可视化展示的核心公式。

2. 直观理解:分层思维

想象你想计算全校学生的平均身高($E[X]$):

  1. 先把学校按年级分类(条件 $Y$)。
  2. 计算每个年级的平均身高(条件期望 $E[X|Y=y]$)。
  3. 再把各年级的平均分,按年级人数比例进行加权平均。
  4. 结果必然等于全校总平均分。

应用领域:

计量经济学 机器学习 决策理论 金融工程

3. 计算步骤分解

步骤1: 计算条件期望

对于每个子群 Y,计算 X 的平均值:
E[X|A] = 40.0 E[X|B] = 70.0 E[X|C] = 55.0

步骤2: 获取权重

每个子群的概率权重:
P(A) = 30% P(B) = 50% P(C) = 20%

步骤3: 加权求和

40.0×0.30 + 70.0×0.50 + 55.0×0.20

步骤4: 得到全期望

E[X] = 59.0

多层群体期望分解演示

气泡大小代表权重 $P(Y)$, 内部高度代表 $E[X|Y]$

最终全期望 $E[X]$

0.00

迭代期望定律成立

子群 A:E[X|Y=A]

0.0

30%
子群 B:E[X|Y=B]

0.0

50%
子群 C:E[X|Y=C]

0.0

20%

验证公式:

E[X] = Σ E[X|Y=y]·P(Y=y)

关键洞察

定律的意义

迭代期望定律表明,我们可以通过先分层计算(条件期望),再整合(加权平均)的方式来计算整体期望,这为复杂问题的分解提供了方法论。

可视化解读

图中每个气泡的大小代表该子群的权重P(Y),柱子的高度代表条件期望E[X|Y]。全期望E[X]的准线显示了加权平均的位置。