香农信息论 · 交互实验室

拖动滑块，实时感受自信息、熵与信道容量的数学之美。

1 自信息

事件概率 P(x) {{ selfInfoP.toFixed(3) }}

稀有 (0.01)0.5常见 (0.99)

自信息量

{{ selfInformation.toFixed(3) }} bits

惊讶度

左: 概率补集 | 右: 信息量 (上限截断)

2 信息熵

x{{ idx+1 }} {{ (prob/100).toFixed(2) }}

熵 H(X)

{{ entropy.toFixed(3) }} bits

最大熵

{{ maxEntropy.toFixed(3) }} bits

不确定性占比: {{ (entropy/maxEntropy*100).toFixed(1) }}%

3 二元熵

P(A) {{ pBinary.toFixed(3) }}

P(A) {{ pBinary.toFixed(2) }}

P(¬A) {{ (1-pBinary).toFixed(2) }}

二元熵 {{ binaryEntropy.toFixed(4) }} bits

4 互信息 I(X;Y)

P(x₁) {{ (jointProbs[0]/100).toFixed(2) }}

P(x₂) {{ (jointProbs[1]/100).toFixed(2) }}

相关性强度 ρ {{ (correlation/100).toFixed(2) }}

H(X) {{ marginalEntropyX.toFixed(2) }}

I(X;Y) {{ mutualInformation.toFixed(3) }}

H(Y) {{ marginalEntropyY.toFixed(2) }}

基于边缘熵与相关性的近似模型

5 香农信道容量

带宽 B {{ bandwidth }} MHz

信噪比 SNR {{ snrDb }} dB

线性SNR {{ snrLinear.toFixed(2) }}

频谱效率 {{ spectralEfficiency.toFixed(2) }} bps/Hz

容量上限

{{ channelCapacity.toFixed(2) }} Mbps

6 文本熵分析

字符数 {{ textInput.length }}

独特字符 {{ uniqueChars }}

最大熵 {{ maxTextEntropy.toFixed(2) }}

实际熵 {{ textEntropy.toFixed(4) }} bits/char · 效率 {{ compressionEfficiency.toFixed(1) }}%