迭代期望定律 (Law of Iterated Expectations)
"The Expectation of the Conditional Expectation is the Expectation"
1. 数学表达
$$E[X] = E[E[X|Y]]$$
左侧 $E[X]$: 随机变量 $X$ 的全期望(大局观)。
右侧内层 $E[X|Y]$: 这是一个关于 $Y$ 的随机变量。当 $Y$ 取不同值时,我们观察 $X$ 的平均表现(分层观)。
右侧外层 $E[\cdot]$: 对这些层级平均值进行再次加权平均。
离散形式展开:
$$E[X] = \sum_{y} E[X|Y=y] \cdot P(Y=y)$$
这正是下面可视化展示的核心公式。
2. 直观理解:分层思维
想象你想计算全校学生的平均身高($E[X]$):
- 先把学校按年级分类(条件 $Y$)。
- 计算每个年级的平均身高(条件期望 $E[X|Y=y]$)。
- 再把各年级的平均分,按年级人数比例进行加权平均。
- 结果必然等于全校总平均分。
应用领域:
计量经济学
机器学习
决策理论
金融工程
3. 计算步骤分解
步骤1: 计算条件期望
对于每个子群 Y,计算 X 的平均值:
E[X|A] = 40.0
E[X|B] = 70.0
E[X|C] = 55.0
步骤2: 获取权重
每个子群的概率权重:
P(A) = 30%
P(B) = 50%
P(C) = 20%
步骤3: 加权求和
40.0×0.30 + 70.0×0.50 + 55.0×0.20
步骤4: 得到全期望
E[X] = 59.0
多层群体期望分解演示
气泡大小代表权重 $P(Y)$, 内部高度代表 $E[X|Y]$
最终全期望 $E[X]$
0.00
迭代期望定律成立
子群 A:E[X|Y=A]
30%
0.0
子群 B:E[X|Y=B]
50%
0.0
子群 C:E[X|Y=C]
20%
0.0
验证公式:
E[X] = Σ E[X|Y=y]·P(Y=y)
关键洞察
定律的意义
迭代期望定律表明,我们可以通过先分层计算(条件期望),再整合(加权平均)的方式来计算整体期望,这为复杂问题的分解提供了方法论。
可视化解读
图中每个气泡的大小代表该子群的权重P(Y),柱子的高度代表条件期望E[X|Y]。全期望E[X]的准线显示了加权平均的位置。