蒙特卡洛方法如何估计分布的期望值？

适用条件

• 需要能够从目标分布中抽取随机样本。
• 随着样本数量的增加，准确性提高。
• $p(x)$ 必须是有效的概率密度函数。

理解与推导

1. 识别要估计的目标量，例如期望值 $E[X]$。
2. 从目标分布中抽取独立的随机样本。
3. 计算收集到的样本的移动平均值。
4. 观察移动平均值收敛到真实的期望值。

例子

视频显示绿色点随机累积在双峰分布的 x 轴上，移动平均值框不断更新，直到稳定在真实值线附近（-0.247）。

容易误解的地方

• 假设单个随机样本可以准确地估计期望值。
• 认为蒙特卡洛方法需要直接求解解析积分 $\int_{-\infty}^{\infty} x \cdot p(x) dx$。

观看对应讲解

继续追问

• 为什么纯随机采样在高维空间中效率低下，MCMC 如何解决这个问题？
• MCMC 中依赖采样的关键见解是什么？
• 什么是马尔可夫链，它的无记忆属性是什么？