马尔可夫链蒙特卡洛（MCMC）——详解

1. 公式
   观察依据

   在公式 $X_{n+1} \sim P$($\cdot$|$X_n$) 中作为条件变量出现。

$X_n$

序列中的当前状态或当前样本。

概率分布的状态空间。

1. 公式
   观察依据

   在公式 $X_{n+1} \sim P$($\cdot$|$X_n$) 中作为因变量出现。

$X_{n+1}$

基于当前状态所抽取的下一个状态或下一个样本。

概率分布的状态空间。

1. 公式
   观察依据

   出现在公式 $X_{n+1} \sim P$($\cdot$|$X_n$) 中。

P

一种概率分布函数。

概率空间。

1. 公式
   观察依据

   作为依赖抽样方程的一部分，显示在屏幕底部。

$X_{n+1}$

依赖抽样过程中第 $n+1$ 步的状态或样本。

离散时间步长 $n = 0$, 1, 2, …

1. 公式
   观察依据

   在依赖抽样方程中表示为 P(·|$X_n$)。

P($\cdot$|$X_n$)

给定当前状态 $X_n$ 时，用于抽取下一状态的条件概率分布。

定义在状态空间上的概率分布。

1. 图示
   观察依据

   五个呈环形排列的圆形节点内部标有 $S_0$、$S_1$、$S_2$、$S_3$、$S_4$。

$S_i$

马尔可夫链网络中的各个状态。

i 属于集合 {0, 1, 2, 3, 4}

1. 公式
   观察依据

   在期望值积分方程左侧写作 E[X]。

E[X]

随机变量 X 的期望值（平均值）。

实数

1. 公式
   观察依据

   在期望值公式中写作 $\int_{-\infty}^{\infty} x \cdot p(x) dx$。

$\int_{-\infty}^{\infty} x \cdot p(x) dx$

用于计算连续型随机变量期望值的解析积分。

要求 $p(x)$ 是一个合法的概率密度函数。

1. 公式
   观察依据

   在积分公式中写作 $p(x)$。

$p(x)$

随机变量 X 的概率密度函数。

x 是实数，$p(x)$ 大于等于 0，且 $p(x)$ 在负无穷到正无穷上的积分等于 1

1. 公式
   观察依据

   在平稳分布公式 $\pi = \pi P$ 中写作 $\pi$。

$\pi$

马尔可夫链的平稳分布向量。

定义在状态空间上的概率向量。

1. 公式
   观察依据

   在平稳分布公式 $\pi = \pi P$ 中写作 P。

P

马尔可夫链的转移概率矩阵。

每行元素之和为 1 的方阵。

1. 公式
   观察依据

   变量x显示在一个蓝色圆圈内，该圆圈代表一个状态。

2. 声音
   观察依据

   讲述者提到“任意两个状态x和y”。

x

马尔可夫链中的一个状态。

马尔可夫链的状态空间。

1. 声音
   观察依据

   旁白说道：“这是马尔可夫链蒙特卡洛方法，而你眼前所见正是该问题。”

2. 字幕依据
   观察依据

   屏幕上显示文字“MCMC”。

蒙特卡洛马尔可夫链（MCMC）是一种通过依次进行随机步进、且每一步仅依赖于当前位置的方法，用于刻画复杂的概率分布。

1. 适用于具有多个峰值和奇异形状的复杂概率分布。

1. 声音
   观察依据

   讲解者阐述了在机器学习与统计学中理解复杂概率分布所面临的挑战。

2. 字幕依据
   观察依据

   文字依次出现：“采样难题”、“多个峰值”、“高度未知”、“形状复杂”、“隐含模态”以及“高维会使这一问题呈指数级加剧！”。

传统采样方法在处理复杂概率分布时表现不佳，因为这类分布具有多个峰值、高度未知、形状复杂、存在隐含模态，且处于高维空间中，导致随机采样效率极低。

1. 适用于真实的机器学习与统计学中的概率分布。

1. 声音
   观察依据

   讲解者介绍接受-拒绝采样法及其低效性。

2. 字幕依据
   观察依据

   文字依次出现：“接受-拒绝采样法”、“被拒绝：$25/30$”以及“效率：16.7%”。

3. 动画
   观察依据

   在分布曲线上方绘制一个包围盒，并在该盒内随机采样点，其中大多数点被拒绝。

接受-拒绝采样法通过在目标分布周围绘制一个包围盒，并在盒内随机采样点来实现：位于曲线下方的点被接受，而位于曲线上方的点则被拒绝。当维度升高或分布变得更复杂时，该方法的效率会呈指数级下降。

1. 需要一个能覆盖分布所有峰值的边界框。

1. 声音
   观察依据

   讲述者介绍了依赖采样的革命性洞见。

2. 字幕依据
   观察依据

   文字“关键洞见”、“独立采样”和“依赖采样”依次出现。

3. 公式
   观察依据

   公式 $X_{n+1} \sim P$($\cdot$|$X_n$) 显示出来。

依赖采样并不将每个样本视为相互独立，而是利用前一个样本的信息来确定下一个样本，从而在样本之间形成一条信息传递的链条。

1. 每个新样本都从一个以先前样本为条件的概率分布中抽取。

1. 声音
   观察依据

   讲述者将其定义为一种序列，其中未来状态仅取决于当前状态，而与过去状态无关。

2. 图示
   观察依据

   由状态 $S_0$ 到 $S_4$ 构成的环形状态网络，各状态之间以箭头连接。

马尔可夫链是一种数学系统，它依据特定的概率规则在不同状态之间进行转移。其核心特征是无记忆性：转移到任一特定状态的概率仅取决于当前状态和已流逝的时间，而与此前发生的事件序列无关。

1. 未来状态仅取决于当前状态。

2. 状态之间定义了转移概率。

1. 声音
   观察依据

   讲述者通过随机抽样来估计那些无法直接计算的量。

2. 公式
   观察依据

   $E[X] = \int_{-\infty}^{\infty} x \cdot p(x) dx$ 作为解析解法被展示出来。

蒙特卡洛方法是一种计算算法，依赖于重复的随机抽样来获得数值结果。它通过抽取随机样本并对其取平均值，来估计诸如分布期望值等量，从而避免复杂的解析积分运算。

1. 要求能够从目标分布中抽取随机样本。

2. 随着样本数量的增加，估计精度提高。

1. 期望值

1. 公式
   观察依据

   屏幕上显示：$E[X] = \int_{-\infty}^{\infty} x \cdot p(x) dx$。

2. 声音
   观察依据

   讲述者提到要寻找该分布的平均高度。

连续型随机变量的期望值，是其所有可能取值的加权平均，计算方式为：在整个定义域上对变量取值与其概率密度函数的乘积进行积分。

1. $p(x)$ 必须是合法的概率密度函数。

2. 该积分必须收敛。

1. 声音
   观察依据

   讲述者将其描述为一种平衡状态：在每个区域所花费的时间比例，恰好等于目标概率。

2. 公式
   观察依据

   屏幕上显示：$\pi = \pi P$。

马尔可夫链的平稳分布是一种概率分布，它在马尔可夫链的转移过程中保持不变；当链达到平衡时，长期停留在各状态的时间比例，恰好等于该平稳分布所指定的概率。

1. 该马尔可夫链必须能达到平衡。

2. $\pi$ 是一个概率向量，P 是转移矩阵。

1. 马尔可夫链

1. 声音
   观察依据

   讲解员介绍将蒙特卡洛方法与马尔可夫链结合，以实现有引导的探索。

2. 图示
   观察依据

   动画展示一个红色圆点提出移动（白色圆点），并在双峰分布上接受或拒绝这些移动。

1. 本片段未说明具体的接受准则（例如，Metropolis-Hastings 比值）。

MCMC 将蒙特卡洛抽样与马尔可夫链相结合，以高效探索高维空间。它不采用纯随机抽样，而是构造一条马尔可夫链，使其平稳分布恰好为目标分布，从而让该链自然地在关键区域集中生成样本。

1. 该马尔可夫链必须以目标分布为其平稳分布。

2. 该链需运行足够长时间，以达到平衡态。

1. 蒙特卡洛方法
2. 马尔可夫链
3. 平稳分布

1. 声音
   观察依据

   讲解者指出，早期的红色样本仍在向高概率区域移动，属于预热期。

2. 图示
   观察依据

   一个标有“预热期”的红色方框，突出了概率密度曲线上最初的红色样本。

预热期是指马尔可夫链蒙特卡洛（MCMC）算法在收敛至其平稳分布之前所生成的初始样本。这些样本受任意起始点的影响，不能准确代表目标分布，因此必须舍弃。

1. 适用于MCMC抽样。

2. 需在将后续样本用于推断前，舍弃初始样本。

1. 声音
   观察依据

   讲解者描述了一幅轨迹图，展示样本值随迭代次数的变化：红色数值逐渐收敛，绿色数值则进入平稳状态。

2. 图示
   观察依据

   一条折线图以‘迭代次数’为横轴、‘数值’为纵轴，显示一条红色波动曲线，在迭代次数15处经由一条垂直的黄色虚线后，过渡为一条绿色波动曲线。

轨迹图用于可视化MCMC链在各次迭代中生成的样本值序列。它有助于识别预热期（此时数值仍在收敛）和平稳期（此时数值围绕目标分布的平衡态上下波动）。

1. 用于诊断MCMC收敛性。

2. 需将样本值对迭代序号作图。

1. 预热期

1. 声音
   观察依据

   讲解者指出，确保马尔可夫链蒙特卡洛（MCMC）方法有效的数学基础称为细致平衡。

2. 公式
   观察依据

   屏幕上显示方程 $P(x)T$(y|x) = $P(y)T$(x|y)。

3. 图示
   观察依据

   两个标有 x 和 y 的圆圈，由表示概率流的双向黄色箭头连接。

细致平衡是马尔可夫链满足的一个条件：从任意状态 x 到任意状态 y 的概率流，恰好等于从 y 返回 x 的概率流。这种双向平衡保证了目标分布对该链而言是平稳分布。

1. 该条件必须对状态空间中所有状态对 x 和 y 成立。

2. 确保目标分布 P 是转移核 T 的一个平稳分布。

1. x
2. y
3. $P(x)$
4. $P(y)$
5. T(y|x)
6. T(x|y)

1. 声音
   观察依据

   讲解员说道：‘未来仅取决于现在，而与过去无关。’

在马尔可夫链中，未来状态的条件概率分布仅依赖于当前状态，而不依赖于此前发生的事件序列。

1. 该系统是一条马尔可夫链。

对所有未来状态及所有历史路径。

1. 声音
   观察依据

   旁白说道：“但这里有个问题：在高维空间中，仅靠纯随机采样几乎无法获得优质样本。”

2. 字幕依据
   观察依据

   屏幕文字：“但在高维空间中……随机采样变得低效！”

在高维空间中，纯随机采样在探索目标分布时会变得极低效。

1. 目标分布定义在高维空间上。

随着维度增加。

1. 声音
   观察依据

   旁白说道：“当马尔可夫链达到平衡态时，其在每个区域所花费的时间比例，恰好等于我们希望从中采样的概率。”

当马尔可夫链达到其平稳分布（即平衡态）时，在状态空间任意给定区域内长期停留的时间比例，恰好等于该区域在目标分布下的概率质量。

1. 该马尔可夫链已达到其平稳分布〔π〕。

2. 目标分布为〔π〕。

对状态空间中所有区域，当时间趋于无穷时。

1. 声音
   观察依据

   讲解者说：‘这种双向平衡……保证了我们的目标分布确实是平稳的。’

若一个马尔可夫链关于某个分布 P 满足细致平衡条件，则 P 是该马尔可夫链的一个平稳分布。

1. 该马尔可夫链的状态为 x 和 y。

2. 转移概率为 T(y|x) 和 T(x|y)。

3. 分布 P 对所有 x、y 满足 $P(x)T$(y|x) = $P(y)T$(x|y)。

对所有状态 x 和 y。

1. 声音
   观察依据

   旁白列举了若干应用领域：贝叶斯推断中后验分布无闭式解的情形；物理模拟中含数百万次相互作用的粒子系统；机器学习中含数千参数的模型；金融领域中高维市场下的衍生品定价。

2. 图示
   观察依据

   四个带标签的图标依次出现：贝叶斯推断、物理模拟、机器学习、金融。

视频指出，MCMC在贝叶斯推断、物理模拟、机器学习和金融领域具有重要价值，因为它能在其他方法彻底失效的场景下依然奏效。

1. 该问题涉及复杂的概率分布或高维结构。

2. 其他方法对该任务而言不充分或不可行。

针对旁白中所提及的上述应用领域。

1. 声音
   观察依据

   旁白：“只要我们能计算相对概率，它们协同起来便能刻画任意复杂的概率地貌。”

1. 该片段未超出日常语言用法，对‘相对概率’的确切数学含义未作具体说明。

2. 未提供形式化的定理陈述或证明。

根据视频解说，只要能够计算相对概率，MCMC 就能刻画任意复杂程度的概率分布地貌。

1. 目标概率分布地貌可通过相对概率的评估而获得。

在本视频的解释范围内，该说法以非正式方式表述为“适用于任意概率分布地貌”。

1. 声音
   观察依据

   讲述者：“尽管我们牺牲了样本之间的独立性，却获得了处理原本完全不可行问题的能力，这使得 MCMC 成为现代计算科学中最重要的算法之一。”

1. 这被呈现为一种概念性的权衡，而非经过形式化证明的定理。

2. 未给出收敛条件或误差界。

视频指出，MCMC 通过牺牲样本间的独立性，来获得处理原本不可解问题的能力。

1. 采样过程采用如马尔可夫链那样的依赖性步骤。

2. 目标问题无法通过要求样本独立或依赖闭式解的方法来解决。

关于该方法权衡关系的一般性说明。

1. 声音
   观察依据

   讲解员说明如何抽取随机样本并计算其平均值。

2. 动画
   观察依据

   绿色圆点在x轴上不断累积，同时‘运行平均值’框持续更新，直至稳定在真实值线附近。

1. 公式

   $$$$
   解释

   确定待估计的目标量，例如某个分布的期望值E[X]。

   步骤依据

   讲解员将其表述为蒙特卡洛方法的目标。

   视频直接表达
2. 公式

   $$$$
   解释

   从目标分布中独立抽取随机样本。

   步骤依据

   通过绿色圆点在曲线下方沿x轴随机出现来可视化呈现。

   视频直接表达
3. 公式

   $$$$
   解释

   计算已采集样本的运行平均值。

   步骤依据

   通过‘运行平均值’框在其数值随更多圆点出现而不断更新来可视化呈现。

   视频直接表达
4. 公式

   $$$$
   解释

   观察运行平均值向真实期望值收敛的过程。

   步骤依据

   通过运行平均值稳定下来并与‘真实值’竖直线重合来可视化呈现。

   视频直接表达

蒙特卡洛方法通过对随机样本取平均来估计期望值，且当样本数量增加时，该平均值收敛于真实值。

1. 声音
   观察依据

   旁白描述从随机点出发构建马尔可夫链，并观察它们逐渐收敛的过程。

2. 动画
   观察依据

   红、蓝、绿三点从双峰曲线上不同位置出发，在曲线上移动，最终稳定在与两个峰高相匹配的比例上。

1. 公式

   $$$$
   解释

   在状态空间中任意选取多个互不相同的初始点，分别初始化多条马尔可夫链。

   步骤依据

   通过在黄色曲线上不同位置放置红、蓝、绿三点来直观呈现。

   视频直接表达
2. 公式

   $$$$
   解释

   运行这些马尔可夫链，使其依据转移概率在不同状态间跃迁。

   步骤依据

   通过各点随时间沿曲线移动的过程来直观呈现。

   视频直接表达
3. 公式

   $$$$
   解释

   观察发现：无论起始点如何，所有链最终都收敛到相同的统计行为。

   步骤依据

   由旁白陈述，并以文字‘所有链均收敛至相同行为！’直观呈现。

   视频直接表达
4. 公式

   $$$$
   解释

   测量每条链在不同区域（例如两个峰）中所花费的时间占比。

   步骤依据

   通过底部的柱状图直观呈现，显示各区域所占时间为35% 和 65%。

   视频直接表达
5. 公式

   $$$$
   解释

   验证各区域的时间占比是否与目标分布的概率一致（即30% 和 70%）。

   步骤依据

   叙述者称其为“完全匹配我们的目标”。

   视频直接表达

一个设计恰当的马尔可夫链，无论初始状态如何，都会收敛到其平稳分布，从而能够完美地对目标分布进行采样。

1. 声音
   观察依据

   讲述者解释MCMC源于马尔可夫链与蒙特卡洛方法的结合，并分别说明二者各自所起的作用。

2. 图示
   观察依据

   下方文字依次出现：“Markov Chain”，然后“+ Simulation”，最后“= Efficient Sampling”。

1. 公式

   $$\text{Markov Chain}$$
   解释

   引入第一个要素：依赖式抽样，即每一步都从前一步中学习。

   步骤依据

   在讲述中直接陈述，并作为下方居中文字的第一项显示。

   视频直接表达
2. 公式

   $$+\ \text{Simulation}$$
   解释

   加入第二个要素：采用蒙特卡洛风格的随机性，用于模拟并求解那些缺乏解析解的问题。

   步骤依据

   在讲述中直接陈述，并于“Markov Chain”下方出现“+ Simulation”时同步显示。

   视频直接表达
3. 公式

   $$=\ \text{Efficient Sampling}$$
   解释

   得出结论：二者的结合可在复杂的概率空间上实现高效抽样。

   步骤依据

   以最终一行文字直观呈现，并由讲述中关于“刻画概率地貌”和“提升可处理性”的表述予以支撑。

   视频直接表达

MCMC被呈现为马尔可夫链依赖性与蒙特卡洛模拟的组合，其核心效果通过视觉方式概括为“高效抽样”。

1. 声音
   观察依据

   讲述者用一位步行者逐步探索一片山脉的类比进行说明。

2. 动画
   观察依据

   一个黄色圆点沿着代表山脉的蓝色曲线移动。

一位完全处于黑暗中的步行者，如何绘制出整片山脉的地形图？

1. 步行者采取一步一步的移动方式。

2. 每一步只依赖于当前位置，而不依赖于起点。

理解简单的局部步骤如何刻画复杂的全局地貌。

1. 解释

   行人在山脉地形上从一个随机点出发。

   步骤依据

   该类比的初始条件。

   视频直接表达
2. 解释

   行人仅根据其当前位置迈出一步。

   步骤依据

   所描述的马尔可夫链过程的核心规则。

   视频直接表达
3. 解释

   通过重复这一过程，行人最终将整个地貌完整地刻画出来。

   步骤依据

   这种依次进行、前后依赖的采样过程的结果。

   视频直接表达

通过一种简单的过程——每一步仅依赖于当前位置——行人便能完美地刻画整个地貌。

由黄色圆点沿蓝色曲线移动的轨迹来可视化呈现。

1. 图示
   观察依据

   展示了一个双峰概率密度函数，并用一条标有“真实值”的竖线表示其期望值。

2. 动画
   观察依据

   绿色点不断累积，运行平均值更新为-0.247。

求一个复杂双峰分布的平均高度（即期望值）。

1. 一个双峰概率密度函数 $p(x)$。

2. 真实期望值由一条竖线标出。

使用蒙特卡洛采样估计 E[X]。

1. 公式

   $$E[X] = \int_{-\infty}^{\infty} x \cdot p(x) dx$$
   解释

   写出期望值的解析表达式。

   步骤依据

   连续型随机变量期望值的标准定义。

   视频直接表达
2. 公式

   $$$$
   解释

   从该分布中生成随机样本，并将它们绘制成绿色点。

   步骤依据

   动画中可视化呈现。

   视频直接表达
3. 公式

   $$\text{Running Average} \approx -0.247$$
   解释

   计算样本的运行平均值，直至其收敛。

   步骤依据

   通过不断更新的文本框及最终数值进行可视化呈现。

   视频直接表达

估计的期望值收敛至约 -0.247。

最终的运行平均值与图中‘True’垂直线的位置一致。

1. 声音
   观察依据

   讲述者给出四个具体应用实例：贝叶斯推断、物理模拟、机器学习和金融。

2. 图示
   观察依据

   四个图标及对应标签水平排列：贝叶斯推断、物理模拟、机器学习、金融。

1. 这些是示意性的应用描述，并非具体的数值计算示例。

2. 未展示任何公式或数据集。

根据视频内容，说明 MCMC 在实践中被用于哪些场景。

1. 贝叶斯推断涉及无法写出闭式表达的后验分布。

2. 物理模拟涉及包含数百万次相互作用的粒子系统。

3. 机器学习涉及拥有数千个参数的模型。

4. 金融涉及在高维市场中为衍生品定价。

展示 MCMC 典型的应用领域。

1. 公式

   $$\text{Bayesian Inference}$$
   解释

   使用 MCMC 对无法写出闭式表达的后验分布进行采样。

   步骤依据

   由叙述者直接陈述，并与‘贝叶斯推断’图标配对出现。

   视频直接表达
2. 公式

   $$\text{Physics Simulation}$$
   解释

   使用马尔可夫链蒙特卡洛方法（MCMC）对具有极多相互作用的粒子系统建模。

   步骤依据

   由叙述者直接陈述，并与物理模拟图标配对出现。

   视频直接表达
3. 公式

   $$\text{Machine Learning}$$
   解释

   使用马尔可夫链蒙特卡洛方法（MCMC）训练具有数千个参数的模型。

   步骤依据

   由叙述者直接陈述，并与机器学习图标配对出现。

   视频直接表达
4. 公式

   $$\text{Finance}$$
   解释

   使用马尔可夫链蒙特卡洛方法（MCMC）为高维市场中的金融衍生品定价。

   步骤依据

   由叙述者直接陈述，并与金融图标配对出现。

   视频直接表达

该片段指出贝叶斯推断、物理模拟、机器学习和金融是MCMC的主要应用领域。

所列出的领域既与口述内容一致，也与屏幕上显示的四个标签一致。

1. 动画
   观察依据

   一条具有多个峰的蓝色曲线绘制在黑色背景上。

1. 蓝色曲线

2. 黄色点

3. 红色点

4. 绿色点

5. 绿色包围框

1. 黄色点沿曲线移动。

2. 红色点随机出现在曲线的上方和下方。

3. 绿色包围框绘制在曲线周围。

4. 绿色点依次出现，并由黄色箭头连接。

1. 蓝色曲线的形状在整个视频中保持不变。

蓝色曲线代表一个具有多个峰值的复杂概率分布。各类点和框展示了不同的采样方法及其效率。

1. 图示
   观察依据

   顶行显示孤立的青色点；底行显示由黄色箭头连接的绿色点。

1. 青色点

2. 绿色点

3. 黄色箭头

4. 公式 $X_{n+1} \sim P$($\cdot$|$X_n$)

1. 无动画，仅为静态对比示意图。

1. 独立样本之间没有关联；相关样本则构成一条有向链。

直观对比了独立采样（无记忆性）与相关采样（马尔可夫性质，即下一状态仅依赖于当前状态）。

1. 动画
   观察依据

   五个节点 $S_0$ 到 $S_4$ 构成一个带箭头的环形结构，一颗黄色粒子在其中移动。

1. 节点 $S_0$、$S_1$、$S_2$、$S_3$、$S_4$

2. 连接箭头

3. 黄色粒子

4. 文字‘无记忆性’

1. 黄色粒子在节点之间移动。

2. 文字‘无记忆性’渐显。

1. 网络拓扑结构始终保持为一个固定环。

2. 转移仅发生在相邻节点之间。

演示一个离散状态的马尔可夫链：粒子的下一步移动仅取决于其当前所在节点，体现了无记忆性。

1. 动画
   观察依据

   在双峰曲线下方的x轴上随机出现绿色圆点，运行平均值框随之更新。

1. 双峰曲线

2. 垂直的‘真实值’线

3. 绿色圆点

4. 运行平均值框

5. 文字：‘但在高维情况下……’

1. 绿色圆点随时间不断累积。

2. 运行平均值先波动，随后稳定在-0.247。

3. 关于高维情况的警告文字出现。

1. 底层的双峰分布曲线保持不变。

2. 真实的期望值直线保持固定。

展示了随机抽样与平均化如何估计复杂分布的期望值，但也凸显了该方法在高维情形下的低效性。

1. 动画
   观察依据

   红、蓝、绿三点从双峰曲线上不同位置出发，并在曲线上移动；下方的条形图显示各区域所花费的时间。

1. 双峰曲线

2. 红、蓝、绿三点

3. 条形图（35%，65%）

4. 公式 $\pi = \pi P$

5. 文字“已达到平衡！”

1. 各点从任意起始位置沿曲线移动。

2. 条形图逐渐填满，以显示各区域所占时间比例。

3. 公式与平衡文字同时出现。

1. 目标分布曲线（30%，70%）保持不变。

2. 所有马尔可夫链最终都表现出相同的统计行为。

说明无论初始状态如何，马尔可夫链都会收敛到一个平稳分布，其中在各个区域所花费的时间比例与目标概率一致。

1. 动画
   观察依据

   一个红点沿双峰曲线移动，偶尔闪现白点以提出转移建议。

1. 该片段在完整介绍MCMC过程（接受/拒绝逻辑）之前就结束了。

1. 双峰曲线

2. 红点

3. 白点（提出的转移）

1. 红点沿曲线移动。

2. 白点短暂出现后消失，代表提出的转移。

1. 底层目标分布曲线保持不变。

演示了 MCMC 采样器在目标分布上提出并评估转移步骤的机制。

1. 动画
   观察依据

   红色圆点沿一条黄色双峰概率密度曲线移动，偶尔在到达更高概率峰值时变为绿色（表示被接受）。

1. 黄色双峰概率密度曲线

2. 红色圆点（被拒绝的/初始样本）

3. 绿色圆点（被接受的样本）

1. 圆点沿该曲线移动。

2. 圆点在靠近峰值处被接受时，由红色变为绿色。

1. 概率密度曲线的形状保持不变。

演示了马尔可夫链蒙特卡洛算法如何通过接受朝向峰值的转移、拒绝朝向谷底的转移，从而自然地探索高概率区域。

1. 图示
   观察依据

   一个标有“预烧期”的红色矩形框出现在密度曲线上方的初始红色圆点周围。

1. 红色矩形框

2. 初始红色点

1. 绘制一个方框，将早期样本圈出。

1. 底层密度曲线和点的位置保持不变。

在视觉上隔离那些被舍弃的初始样本，因为它们尚未代表目标分布。

1. 动画
   观察依据

   折线图绘制一条红色波浪线，在迭代次数15处的垂直黄色虚线之后，过渡为一条绿色波浪线。

1. 数值轴

2. 迭代次数轴

3. 红色波浪线

4. 绿色波浪线

5. 垂直的黄色虚线

1. 该线从左至右依次绘制。

2. 在第15次迭代时，颜色由红色变为绿色。

1. 坐标轴标签与刻度保持不变。

显示样本值在预烧期（红色）内逐渐收敛，并在第15次迭代后进入平稳状态（绿色）。

1. 图示
   观察依据

   两个分别标有 x 和 y 的圆圈，之间有双向黄色箭头，并附有等式 $P(x)T$(y|x) = $P(y)T$(x|y)。

1. 标有 x 的蓝色圆圈

2. 标有 y 的绿色圆圈

3. 黄色箭头

4. 等式文字

1. 箭头示意双向流动。

2. 该方程写在图示下方。

1. 状态 x 和 y 在位置上保持固定。

阐释了两个状态之间概率流平衡的概念，这是马尔可夫链蒙特卡洛（MCMC）方法的数学基础。

1. 图示
   观察依据

   仅可见一个大号白色标题“MCMC”，背景为黑色。

1. 白色文字“MCMC”

2. 黑色背景

1. 暂无额外图形。

1. 标题保持居中显示在顶部。

视频片段首先点明主题，再介绍其应用或定义。

1. 图示
   观察依据

   四个彩色圆形图标以水平排列方式出现，下方标签分别为：贝叶斯推断、物理模拟、机器学习、金融。

1. 青绿色圆圈，内含字母 B。

2. 红色圆圈，内含符号 ψ。

3. 绿色圆圈，内含 NN。

4. 黄色圆圈，内含符号 $。

5. 各图标下方的标签。

1. 四个应用图标及其对应标签在标题下方显现。

1. 标题“MCMC”始终保留在顶部。

2. 图标仍从左到右保持相同顺序排列。

视觉布局引出了马尔可夫链蒙特卡洛（MCMC）的实际应用领域。

1. 声音
   观察依据

   讲解员对比了独立采样与依赖采样。

2. 字幕依据
   观察依据

   文字“独立抽样”出现，伴随彼此分离的蓝色圆点。

将每次抽样视为完全独立，从而丢弃所有先前尝试所获得的信息。

该方法在处理复杂分布时效率低下；而依赖抽样——即每个新样本都从前一个样本中学习——则有效得多。

1. 声音
   观察依据

   旁白说道：“这种无记忆性看似局限，但实际上正是它使数学分析变得可行……”

认为马尔可夫性质（未来状态仅依赖于当前状态）会限制模型的实用性或准确性。

无记忆性恰恰是使数学分析变得可行的关键，它让我们能够分析并控制样本在何处聚集。

1. 声音
   观察依据

   旁白说道：“但问题就在这里：在高维情形下，仅靠纯随机性几乎无法获得优质样本。”

2. 字幕依据
   观察依据

   屏幕文字：“随机采样变得低效！”

假设标准蒙特卡洛随机采样在目标空间维度增加时仍保持高效且有效。

在高维情形下，纯随机采样几乎无法获得优质样本，因此必须将它与马尔可夫链结合（即 MCMC），以实现有引导的探索。

1. 声音
   观察依据

   讲述者提醒道，早期样本‘不能代表我们的目标分布’，且‘仍受到我们任意选定起始点的影响’。

误以为马尔可夫链蒙特卡洛（MCMC）生成的所有样本——包括最开始的那些——均可直接用于统计推断。

初始样本属于预烧期（burn-in period），其分布受起始点偏差影响；必须舍弃这些样本，才能确保剩余样本准确反映目标分布。

1. 声音
   观察依据

   讲述者明确指出：“尽管我们牺牲了样本的独立性”。

人们可能认为MCMC会像普通蒙特卡洛抽样一样产生相互独立的样本。

视频明确指出，MCMC牺牲了样本独立性；其每一步都依赖于上一步，因为每一步都会从上一步中学习。

1. 声音
   观察依据

   讲述者指出，MCMC被用于贝叶斯推断中，以从没有闭式表达的后验分布中抽样。

人们可能认为抽样方法要求目标分布具有闭式表达。

该片段恰恰将MCMC呈现为一种在后验分布没有闭式表达、且其他方法失效时非常有用的工具。

1. 声音
   观察依据

   讲解员说明MCMC采用依赖抽样。

MCMC将依赖抽样的思想应用于高效探索复杂的概率分布。

1. 声音
   观察依据

   讲解员解释接受-拒绝抽样为何效率低下。

复杂分布带来的挑战凸显了接受-拒绝抽样法的低效性。

1. 声音
   观察依据

   旁白说道：“这正是将蒙特卡洛方法与马尔可夫链结合的精妙之处。”

MCMC 通过用马尔可夫链实现的有引导探索取代纯随机采样，从而推广了蒙特卡洛方法，使其适用于高维空间。

1. 声音
   观察依据

   旁白说道：“这正是将蒙特卡洛方法与马尔可夫链结合的精妙之处。”

MCMC 将马尔可夫链理论应用于构建一种采样机制，使其平稳分布恰好为目标分布。

1. 声音
   观察依据

   旁白将平稳分布介绍为使 MCMC 得以奏效的关键技巧，并以此描述马尔可夫链的行为。

平稳分布的概念是马尔可夫链理论中的一项基本性质，用于刻画其长期均衡行为。

1. 声音
   观察依据

   讲述者利用轨迹图清晰地展示预烧期。

轨迹图是一种诊断工具，用于直观识别预烧期的持续时间。

1. 声音
   观察依据

   讲述者指出，细致平衡条件保证目标分布是平稳分布。

细致平衡条件是一项数学性质，它确保马尔可夫链收敛至所期望的平稳分布。

1. 声音
   观察依据

   讲述者说：「从马尔可夫链中，我们采用依赖型抽样……」，同时画面上出现文字「Markov Chain」。

2. 图示
   观察依据

   「Markov Chain」是导向「= Efficient Sampling」的堆叠表达式中的第一个术语。

该片段将马尔可夫链所体现的依赖型抽样思想，视为定义MCMC的要素之一。

1. 声音
   观察依据

   讲述者说：「从蒙特卡洛中，我们采用模拟的强大能力……」，同时画面上出现「+ Simulation」。

2. 图示
   观察依据

   「+ Simulation」是该堆叠表达式中的第二个术语。

蒙特卡洛模拟思想作为第二个要素，与马尔可夫链结合构成MCMC。

1. 图示
   观察依据

   最后一行“= 高效采样”补全了堆叠表达式。

2. 声音
   观察依据

   讲述者指出，这种组合创造出一种能够刻画复杂概率分布地貌的算法。

视频将MCMC的结果概括为高效采样，因此该方法的定义中包含了这一最终定性描述。

1. 声音
   观察依据

   讲述者列举了贝叶斯推断、物理模拟、机器学习和金融这四个MCMC的应用领域。

2. 图示
   观察依据

   四个应用标签出现在标题下方。

这些应用示例说明了本视频所介绍的MCMC方法在实践中被用于哪些场景。

1. 声音
   观察依据

   讲解员定义MCMC。

1. MCMC 的定义

1. 声音
   观察依据

   讲解员解释接受-拒绝抽样的低效性。

1. 接受-拒绝采样法

1. 公式
   观察依据

   公式 $X_{n+1} \sim P$($\cdot$|$X_n$) 已展示。

1. 依赖采样的关键洞见

1. 声音
   观察依据

   旁白定义了马尔可夫链及其无记忆性。

1. 马尔可夫链
2. 马尔可夫链的无记忆性

1. 声音
   观察依据

   旁白通过随机抽样来估计期望值，从而讲解蒙特卡洛方法。

1. 蒙特卡洛方法
2. 期望值
3. 蒙特卡洛期望值估计

1. 声音
   观察依据

   旁白解释纯随机性在高维情形下所面临的问题，并引出 MCMC 方法。

1. 纯随机采样在高维空间中的低效性
2. 马尔可夫链蒙特卡洛（MCMC）
3. 纯随机采样在高维情形下依然表现良好

1. 声音
   观察依据

   旁白讲解平稳分布这一关键技巧，并展示收敛过程的动画演示。

1. 平稳分布
2. 平稳分布下的平衡匹配
3. 马尔可夫链蒙特卡洛（MCMC）中的平稳分布收敛

1. 声音
   观察依据

   讲述者定义预烧期。

1. 预热期

1. 图示
   观察依据

   轨迹图显示了红色和绿色两条线。

1. 轨迹图

1. 公式
   观察依据

   显示公式〔$P(x)T$(y|x) = $P(y)T$(x|y)〕。

1. 细致平衡

1. 声音
   观察依据

   讲述者通过融合马尔可夫链与蒙特卡洛模拟来定义MCMC。

2. 图示
   观察依据

   堆叠文字显示为“马尔可夫链”、“+ 模拟”、“= 高效采样”。

1. MCMC 作为一种混合方法的定义
2. 来自马尔可夫链的依赖性采样
3. 蒙特卡洛方法的贡献：通过随机性进行模拟
4. MCMC被概括为高效抽样

1. 声音
   观察依据

   讲述者指出，MCMC通过牺牲样本的独立性，来应对原本难以处理的问题。

1. 来自马尔可夫链的依赖性采样
2. 以样本独立性换取可解性。
3. 假设MCMC样本相互独立