改进的交叉熵与原始交叉熵方法

1. 公式
   观察依据

   笔记本文本中写明 `gamma = 5`，而题目陈述中使用了 `P(X > gamma)`。

2. 声音
   观察依据

   讲述者指出，该例题估算标准正态变量超过一个较大阈值 gamma 的情形。

$\gamma$

定义稀有事件 $X>\gamma$ 的阈值。

实数；在本例中为 $\gamma=5$。

1. 公式
   观察依据

   笔记本中写明 `X ~ Normal(0, 1)`。

2. 声音
   观察依据

   讲述者所指为标准正态变量。

X

其超出概率正被估算的随机变量。

对应的式子为：$X \sim \mathrm{Normal}(0,1)$。

1. 公式
   观察依据

   笔记本中写为 `$g*(x) = P$($X = x$ | X > gamma)`。

2. 声音
   观察依据

   讲述者称其为零方差密度 $g^*$，并解释为在稀有事件发生条件下 $X$ 的分布。

1. 屏幕上显示的记号对连续型随机变量使用了 `P($X = x$ | X > gamma)`；视频未讨论这一记号问题。

g^*

零方差重要性抽样密度，等于 $X$ 在给定 $X>\gamma$ 条件下的条件分布。

在$x>\gamma$处的密度值。

1. 公式
   观察依据

   代码在关于拟合重要性采样提议分布的注释下计算 `mu = np.mean(Xs)`。

2. 声音
   观察依据

   讲述者称，该提议密度是通过求 mu 和 sigma 的最大似然估计而构造的。

$\mu$

所拟合的正态重要性采样提议分布的均值参数。

由保留下来的$g^*$个样本估计出的实数。

1. 公式
   观察依据

   代码计算 `sigma = np.sqrt(np.mean((Xs-mu)**2))`。

2. 声音
   观察依据

   讲述者称，该提议密度是通过求 mu 和 sigma 的最大似然估计而构造的。

$\sigma$

所拟合的正态重要性采样提议分布的标准差参数。

由保留下来的$g^*$个样本估计出的正实数。

1. 公式
   观察依据

   首个模拟单元格在调用 `rng.normal(size=R)` 前设置 `$R = 5 * 10$**8`。

2. 声音
   观察依据

   讲述者称，他们模拟了五乘以十的八次方个 X 样本。

R

用于拒绝采样以获得$g^*$个样本的原始标准正态随机数个数。

在第一个单元格中，$R=5\times 10^8$。

1. 公式
   观察依据

   最终估计单元格在绘制 `normals = rng.normal(mu, sigma, R)` 之前设置 `$R = 10$**6`。

1. 同一符号名 `R` 在后续单元格中被重复使用，但取值不同。

R

从拟合的重要性抽样建议分布中抽取的样本数量。

在最后一个单元格中，$R=10^6$。

1. 公式
   观察依据

   代码计算 `lrs = stats.norm.pdf(normals, 0, 1) / stats.norm.pdf(normals, mu, sigma)`。

2. 声音
   观察依据

   讲解者表示他们将采用正态重要性抽样估计法继续进行。

lrs

在建议样本处计算的似然比（重要性权重）$f(x)/g(x)$。

每个抽样得到的 `normals` 点对应的正实数值。

1. 公式
   观察依据

   代码计算 `ests = lrs * (normals > gamma)`。

ests

稀有事件的加权指示估计值：当建议样本超过$\gamma$时，该值等于似然比；否则为零。

非负实数数组。

1. 公式
   观察依据

   代码计算 `lHat = ests.mean()` 并打印 `ICE 估计值`。

2. 声音
   观察依据

   讲述者称他们打印出概率估计量 L 帽。

$\hat{L}$

$P(X>\gamma)$ 的重要性抽样估计量，计算为数组 `ests` 的样本均值。

实数；打印出的值约为 $2.8499557494141556\times 10^{-7}$。

1. 公式
   观察依据

   代码计算 `oHat = ests.std()`。

$\hat{o}$

加权估计量数组 `ests` 的样本标准差，用于构造置信区间的半宽。

非负实数。

1. 公式
   观察依据

   代码计算 `widthCI = 1.96 * oHat / np.sqrt(R)`。

2. 声音
   观察依据

   讲述者称该估计量的置信区间宽度数量级为十的负十次方。

1. 代码将该量标记为 `widthCI`，但数值上它是对称区间的半宽，因为它被加到和减去 `lHat`。

widthCI

重要性抽样估计量所报告置信区间的半宽。

正实数；打印出的值约为 $8.28267698086911\times 10^{-10}$。

1. 公式
   观察依据

   笔记本标题为“改进的交叉熵法”，正文写道：“使用改进的交叉熵法估计 P(X > gamma)，其中 X ~ Normal(0, 1)，且 gamma = 5。考虑形式为 Normal(mu, sigma^2) 的重要性抽样分布。”

2. 声音
   观察依据

   讲解者引入一个简单例子，用于估计标准正态变量超过较大阈值 gamma 的概率，并表示将在正态分布族中寻找最优的重要性抽样密度。

该片段将目标量定义为标准正态随机变量的超越概率$P(X>\gamma)$，其中$\gamma=5$，并将重要性抽样建议分布族限定为以$(\mu,\sigma^2)$为参数的正态分布。

1. 原始分布是标准正态分布。

2. 稀有事件是$X>\gamma$。

3. 建议分布族被限定为正态分布。

1. 公式
   观察依据

   笔记本正文写道：“首先，为从 $g*(x) = P$($X = x$ | X > gamma) 中抽样，只需大量抽取 X 并筛选出满足 X > gamma 的样本。”

2. 声音
   观察依据

   讲解者指出第一步是从零方差密度$g^*$中抽样，即在稀有事件发生条件下$X$的分布。

1. 所显示的公式对连续型变量使用了 `P($X = x$ | X > gamma)`；视频未对此记号加以说明。

视频指出，理想的重采样重要性密度$g^*$是当稀有事件发生时$X$的条件分布，即给定$X>\gamma$时的条件分布。该密度可使重要性采样估计量的方差为零。

1. 适用于稀有事件概率$P(X>\gamma)$。

2. $g^*$仅在事件区域$x>\gamma$上有定义。

1. 稀有事件估计的问题设定

1. 公式
   观察依据

   代码单元格执行 `Xs = rng.normal(size=R)`，随后执行 `Xs = Xs[Xs > gamma]`。

2. 声音
   观察依据

   讲述者表示，他们可以生成大量 X 的样本，然后仅保留那些超过阈值的样本，并明确将此过程称为拒绝采样。

由于$g^*$是$X$在给定$X>\gamma$条件下的条件分布，视频通过生成大量原始标准正态随机变量并仅保留其中大于阈值的那些，来近似获得$g^*$个样本。所保留的子集随后被视作来自$g^*$的样本。

1. 要求能直接从原始分布$X\sim\mathrm{Normal}(0,1)$中采样。

2. 接受规则为$X_i>\gamma$。

3. 所保留的样本用于估计提议分布的参数。

1. 零方差密度即为给定稀有事件条件下的条件分布

1. 公式
   观察依据

   代码在注释 `# 将我们的重要性采样提议分布拟合到这些 g* 样本` 下计算 `mu = np.mean(Xs)` 和 `sigma = np.sqrt(np.mean((Xs-mu)**2))`。

2. 声音
   观察依据

   讲述者表示，他们通过针对这些样本求出 mu 和 sigma 的最大似然估计，来构建重要性采样提议密度。

在获得来自 $g^*$ 的样本后，视频通过将提议分布的均值设为样本均值、标准差设为这些保留样本的二阶中心矩的平方根，来拟合一个正态重要性采样提议分布。

1. 所拟合的提议分布族是正态分布。

2. 用于拟合的数据是满足 $X>\gamma$ 的保留样本。

3. 对 $\sigma$ 的估计量采用除以 $n$ 的方式，与代码 `np.mean((Xs-mu)**2)` 一致，而非无偏样本方差。

1. 使用拒绝采样从$g^*$中获取样本
2. 稀有事件估计的问题设定

1. 公式
   观察依据

   代码计算 `lrs = stats.norm.pdf(normals, 0, 1) / stats.norm.pdf(normals, mu, sigma)`，然后计算 `ests = lrs * (normals > gamma)`，最后计算 `lHat = ests.mean()`。

2. 声音
   观察依据

   讲述者表示，改进的交叉熵算法已全部完成，并提供了一个良好的重要性采样提议分布；随后他们执行标准正态重要性采样估计，并输出概率估计值 L hat。

利用所拟合的提议密度，视频通过对从该提议分布中抽取的样本，计算似然比与稀有事件指示函数的乘积并取平均，来估计稀有事件概率。这是标准重要性采样估计量在指示事件 $X>\gamma$ 上的特例。

1. $f$ 是标准正态密度。

2. $q$是拟合的正态建议密度。

3. 样本$Z_j$是从$q$中抽取的，而非从$f$中抽取。

4. 事件指示器为$\mathbf{1}_{\{Z_j>\gamma\}}$。

1. 对 $g^*$ 个样本进行正态提议分布的最大似然拟合
2. 稀有事件估计的问题设定

1. 公式
   观察依据

   代码计算 `oHat = ests.std()` 和 `widthCI = 1.96 * oHat / np.sqrt(R)`，然后将上下界分别打印为 `lHat-widthCI` 和 `lHat+widthCI`。

1. 视频未口头说明使用1.96的理由，也未陈述该区间背后所依赖的正态近似假设。

笔记本报告了一个以估计值为中心的对称区间，其半宽为1.96乘以加权估计量的样本标准差，再除以建议样本数量的平方根。因此，打印出的上下界为$\hat{L}\pm$`widthCI`。

1. 使用`ests`的样本标准差。

2. 在最后一个单元格中，使用的$R$与建议样本数量相同。

3. 该区间仅作为数值摘要呈现；视频未推导其覆盖性质。

1. 针对 $P(X>\gamma)$ 的正态重要性采样估计量

1. 声音
   观察依据

   讲话者指出，原始交叉熵方法旨在规避直接拒绝抽样耗时过长的问题。

2. 公式
   观察依据

   Markdown 标题为 `交叉熵方法`，并说明 `使用交叉熵方法估计 P(X > gamma)，其中 X ~ Normal(0, 1)，且 gamma = 5`。

本视频介绍了原始的交叉熵方法，它是一种用于罕见事件概率估计的自适应蒙特卡洛策略。该方法并不直接从目标建议分布中采样，而是构建一系列建议分布，通过迭代不断改进，直至得到一个足以估计$\mathbb{P}(X>\gamma)$的建议分布。

1. 当直接从一个优良的建议分布中采样不切实际或速度过慢时使用。

2. 此处将其应用于估计正态随机变量的尾部概率。

1. 声音
   观察依据

   主讲人指出，其思想是构建一系列越来越优的建议分布，并在获得一个足够优良的建议分布时停止。

交叉熵方法构建一系列建议分布，而非依赖单一固定建议分布。每次迭代都会调整参数，使建议分布在罕见事件区域中更加有效；当建议分布被认为已足够好时，过程即终止。

1. 需要一个建议分布参数的更新规则。

2. 停止准则基于当前迭代是否达到目标罕见事件水平。

1. 原始交叉熵方法的目的

1. 公式
   观察依据

   Markdown 中写道：`使用交叉熵方法估计 P(X > gamma)，其中 X ~ Normal(0, 1)，且 gamma = 5`。

2. 公式
   观察依据

   代码中设置 `$u = (0, 1)$`，并与 `stats.norm.sf(gamma)` 进行比较。

该例题估算上尾概率$\mathbb{P}(X>5)$在$X\sim\mathrm{Normal}(0,1)$处的取值。原始分布由`$u=(0,1)$`编码，理论基准则通过`stats.norm.sf(gamma)`计算得到。

1. 原始分布是标准正态分布。

2. 目标事件是超过一个固定阈值$\gamma$。

1. 原始交叉熵方法的目的

1. 声音
   观察依据

   主讲人说，一旦交叉熵（CE）优化完成，他们就采用其找到的建议分布，执行一次常规的重要抽样估计。

2. 公式
   观察依据

   第二个代码单元格采样 `normals = rng.normal(v[0], v[1], R)` 并计算 `ests = lrs * (normals > gamma)`。

在交叉熵循环确定建议分布后，视频对该建议分布单独执行一次重要抽样估计：从收敛后的正态建议分布中抽取样本，计算这些样本相对于原始分布的似然比，并用这些权重对稀有事件的示性函数取加权平均。

1. 使用交叉熵循环结束后保存在 `v` 中的最终建议分布参数。

2. 需要计算原始分布与建议分布密度之间的似然比。

1. 建议分布的迭代构造
2. 正态分布尾部概率估计示例

1. 公式
   观察依据

   可见代码计算 `lrs`，然后计算 `ests = lrs * (normals > γ)`，再计算 `fHat = ests.mean()` 和 `widthCI = 1.96 * oHat / np.sqrt(R)`。

2. 公式
   观察依据

   输出显示 `CE 估计值`、`CE 下界`、`CE 上界` 和 `理论值`。

本片段展示了一种蒙特卡洛实现：从正态建议分布中抽取样本，计算两个正态密度之间的似然比，并将这些似然比乘以稀有事件 `normals > γ` 的示性函数。该估计量即为这些加权示性函数的样本均值；而近似置信区间则由样本标准差除以 `sqrt(R)` 后再乘以 1.96 构成。

1. 样本从参数为 `v[0]`、`v[1]` 的正态建议分布中抽取。

2. 似然比使用参数分别为 `u` 和 `v` 的正态密度。

3. 稀有事件由阈值 `γ` 定义。

4. `R` 是样本数量。

1. 声音
   观察依据

   主讲人说：“我们来可视化交叉熵方法所构建的建议分布序列。”

2. 公式
   观察依据

   代码遍历 `vs`，并执行赋值 `ys[:,i] = stats.norm.pdf(xs, v[0], v[1])`。

3. 图示
   观察依据

   后续图表展示了多条彩色钟形曲线，它们整体向右平移且逐渐变窄。

主讲人解释道，交叉熵法将每个参数向量 `v` 存储在一个名为 `vs` 的列表中；通过遍历 `vs`，并在固定网格 `xs` 上逐个计算 `stats.norm.pdf(xs, v[0], v[1])`，即可绘出算法运行过程中生成的全部提议密度函数序列。

1. `vs` 包含已存储的提议分布参数向量。

2. `xs` 是一个固定的 x 值网格。

1. 交叉熵加权估计量及其置信区间

1. 声音
   观察依据

   叙述者说：`改进的交叉熵算法现已完成，它为我们提供了一个良好的重要性抽样建议分布。`

1. 称该建议分布“良好”是一种定性判断，本片段中并未辅以正式判据。

在将$(\hat{\mu},\hat{\sigma})$拟合到保留的$g^*$个样本后，改进的交叉熵过程生成了用于估计的重要性抽样建议分布。

1. 稀有事件模型是$X\sim\mathrm{Normal}(0,1)$，目标是$P(X>\gamma)$。

2. 来自$g^*$的样本已通过拒绝抽样获得。

3. 已通过最大似然法将一个正态建议分布拟合到这些样本上。

针对本笔记本片段中的示例。

1. 公式
   观察依据

   输出块显示 `ICE估计值：2.8499557494141556e-07 (+/- 8.28267698086911e-10)` 和 `理论值：2.866515718791933e-07`。

2. 声音
   观察依据

   讲解者称该稀有事件的概率为二点八乘以十的负七次方，且该估计的置信区间宽度约为十的负十次方量级。

1. 口语中所说的“二点八乘以十的负七次方”是对屏幕上显示值的四舍五入；精确的显示估计值可见于屏幕。

对于本例，稀有事件概率的重要性抽样估计值约为$2.85\times 10^{-7}$，报告的半宽约为$8.28\times 10^{-10}$，理论基准值约为$2.87\times 10^{-7}$。

1. 对应的式子为：$\gamma=5$。

2. 该方案的拟合过程如笔记本中所述。

3. 最终估计使用了$R=10^6$个方案样本。

针对输出单元格中展示的具体模拟。

1. 声音
   观察依据

   主讲人指出，在先前的例子中，他们某种程度上‘取巧’了，因为该稀有事件并不足够稀有，因此能直接用拒绝抽样法从 g* 中抽样；但一般情况下，这种方法耗时过长。

当稀有事件足够稀有时，直接通过拒绝抽样法从理想建议分布中抽样在计算上是不可行的。

1. 目标事件稀有到直接从理想建议分布接受样本已变得低效。

一般性实用主张，仅用口头语言陈述，未给出形式化证明。

1. 声音
   观察依据

   说话者称，本次迭代的阈值设定为X样本的95%分位数；若该值高于整体目标gamma，则停止迭代。

2. 公式
   观察依据

   代码显示`gamma_i = np.quantile(Xs, 1-p)`及`if gamma_i >= gamma: break`，其中`$p = 0.05$`。

在此实现中，当经验精英阈值$\gamma_i$至少达到目标阈值$\gamma$时，迭代停止。

1. 样本`Xs`从当前提议分布中抽取。

2. `$p = 0.05$`，因此`$1-p = 0.95$`。

3. 目标阈值为`gamma = 5`。

对于每次迭代$i$，若$\gamma_i\ge \gamma$成立，则跳出循环。

1. 声音
   观察依据

   说话者称，他们将v参数更新为精英样本的最大似然估计，并且必须按其似然比对样本加权。

2. 公式
   观察依据

   代码使用`weights=eliteLRs`对`mu_i`和`sigma_i`计算加权平均值。

1. 口头说明中称采用最大似然估计，但所展示的方差公式以`eliteXs.mean()`为中心，而非`mu_i`。

下一组提议参数通过精英样本及其似然比权重得到：均值采用加权平均更新，尺度则采用一种加权标准差形式的表达式更新。

1. 精英样本是指取值高于$\gamma_i$的样本。

2. 似然比定义为原始密度除以提议密度。

在每次交叉熵迭代中、更新`v`之前应用。

1. 声音
   观察依据

   说话人说：‘因为在此非常简单的情形下，我们已知其归一化常数 l。’

2. 公式
   观察依据

   代码设定 l = stats.norm.sf(γ)。

对于此处绘制的目标分布，其归一化常数已知，且等于 l = stats.norm.sf(γ)。

1. 本例采用标准正态分布作为基线密度函数。

2. 目标分布被限制在尾部区域 $x > γ$ 上。

在此特定的简单情形下。

1. 公式
   观察依据

   笔记本文字说明：‘要从 $g*(x) = P$($X = x$ | X > gamma) 中抽样，只需大量生成 X 的样本，再从中提取满足 X > gamma 的那些样本。’

2. 声音
   观察依据

   讲解者指出，由于$g^*$是$X$在稀有事件发生条件下的分布，因此可以大量生成$X$的样本，仅保留其中超过阈值的样本。

1. 公式

   $$$$
   解释

   从零方差密度的定义出发，即$X$在稀有事件发生条件下的条件分布。

   步骤依据

   笔记本文字与讲解均明确了$g^*(x)=\mathbb{P}(X=x\mid X>\gamma)$。

   视频直接表达
2. 公式

   $$$$
   解释

   生成一批大量未加条件的标准正态分布样本$X_i\sim\mathrm{Normal}(0,1)$。

   步骤依据

   该操作通过代码 `Xs = rng.normal(size=R)` 实现。

   视频直接表达
3. 公式

   $$$$
   解释

   仅保留满足$X_i>\gamma$的样本。

   步骤依据

   该操作通过代码 `Xs = Xs[Xs > gamma]` 实现，并以口头描述方式表述为‘保留超过阈值的那些样本’。

   视频直接表达
4. 公式

   $$$$
   解释

   将保留下来的样本视为来自$g^*$的样本。

   步骤依据

   根据定义，将随机变量以事件$X>\gamma$为条件进行处理，恰好得到该拒绝规则下被接受样本的分布。

   依据视频推导

从原始标准正态分布出发进行拒绝采样，可生成服从条件密度$g^*$的样本，该密度用于拟合提议分布。

1. 公式
   观察依据

   代码首先计算 `mu = np.mean(Xs)` 和 `sigma = np.sqrt(np.mean((Xs-mu)**2))`，然后从正态分布中采样 `normals = rng.normal(mu, sigma, R)`，再计算 `lrs`、`ests`、`lHat`、`oHat` 和 `widthCI`。

2. 声音
   观察依据

   讲解者指出，提议密度是通过 mu 和 sigma 的最大似然估计构造的；随后，他们采用正态重要性采样法进行估计，并输出估计值与置信区间。

1. 视频未明确写出所要最大化的似然函数；最大似然估计的解释是结合讲解内容及样本均值、样本二阶中心矩公式推断得出的。

1. 公式

   $$$$
   解释

   利用保留下来的$g^*$个样本，通过样本均值和样本二阶中心矩的平方根来估计正态提议分布的参数。

   步骤依据

   代码实现了 `mu = np.mean(Xs)` 和 `sigma = np.sqrt(np.mean((Xs-mu)**2))`；讲解者称这些为最大似然估计。

   视频直接表达
2. 公式

   $$$$
   解释

   绘制 $R=10^6$ 个来自拟合的正态建议分布 $\mathrm{Normal}(\hat{\mu},\hat{\sigma}^2)$。

   步骤依据

   由 `normals = rng.normal(mu, sigma, R)` 实现。

   视频直接表达
3. 公式

   $$$$
   解释

   对每个提议样本，使用标准正态密度作分子、拟合的正态密度作分母，计算似然比$f(Z_j)/q(Z_j)$。

   步骤依据

   通过 `lrs = stats.norm.pdf(normals, 0, 1) / stats.norm.pdf(normals, mu, sigma)` 实现。

   视频直接表达
4. 公式

   $$$$
   解释

   将每个似然比乘以样本超过阈值的示性函数，得到 `ests = lrs * (normals > gamma)`。

   步骤依据

   这是事件概率 $P(X>\gamma)$ 的重要性抽样被积函数。

   视频直接表达
5. 公式

   $$$$
   解释

   对 `ests` 取平均得到 `lHat`，并用其样本标准差与 `1.96 / sqrt(R)` 一起计算所报告置信区间的半宽。

   步骤依据

   通过 `lHat = ests.mean()`、`oHat = ests.std()` 和 `widthCI = 1.96 * oHat / np.sqrt(R)` 实现。

   视频直接表达

拟合出的建议分布随后用于标准的重要性抽样估计量，笔记本同时报告点估计值和对称置信区间。

1. 声音
   观察依据

   主讲人逐步讲解该循环：从当前提议分布采样，计算本次迭代的阈值，若其超过gamma则停止；否则提取精英样本，计算似然比，并更新v。

2. 公式
   观察依据

   代码块展示了从`for i in range(maxIter):`到`vs.append(v)`的完整循环。

1. 公式

   $$X_s \sim \mathrm{Normal}(v[0], v[1]),\quad |X_s|=R$$
   解释

   在第$i$次迭代中，从当前由`v`参数化的提议分布中抽取一批共$R$个样本。

   步骤依据

   代码中体现为`Xs = rng.normal(v[0], v[1], R)`，主讲人口头描述为“从当前提议分布中采样”。

   视频直接表达
2. 公式

   $$\gamma_i = Q_{1-p}(X_s)$$
   解释

   将本次迭代的阈值计算为所采样本批次的经验$(1-p)$-分位数。

   步骤依据

   代码中体现为`gamma_i = np.quantile(Xs, 1-p)`；主讲人指出这是95%阈值，因为`$p = 0.05$`。

   视频直接表达
3. 公式

   $$\text{if } \gamma_i \ge \gamma,\ \text{stop}$$
   解释

   如果精英阈值已达到或超过目标稀有事件水平，则终止自适应循环。

   步骤依据

   在代码中体现为 `if gamma_i >= gamma: break`，并以口头形式表述为停止规则。

   视频直接表达
4. 公式

   $$\text{eliteXs} = \{x\in X_s : x > \gamma_i\}$$
   解释

   否则，选择精英样本，即当前位于迭代阈值之上的那些样本。

   步骤依据

   在代码中体现为 `eliteXs = Xs[Xs > gamma_i]`，并以口头形式描述为提取出高于 gamma i 的精英 Xs。

   视频直接表达
5. 公式

   $$w(x)=\frac{f_u(x)}{f_v(x)}$$
   解释

   对每个精英样本，计算原始分布与当前提议分布之间的似然比。

   步骤依据

   在代码中体现为 `eliteLRs = stats.norm.pdf(eliteXs, u[0], u[1]) / stats.norm.pdf(eliteXs, v[0], v[1])`；讲话者明确称其为似然比。

   视频直接表达
6. 公式

   $$\mu_i = \frac{\sum_{x\in \text{eliteXs}} w(x)x}{\sum_{x\in \text{eliteXs}} w(x)}$$
   解释

   将提议均值更新为精英样本的加权平均值。

   步骤依据

   在代码中体现为 `mu_i = np.average(eliteXs, weights=eliteLRs)`，并以口头形式解释为基于精英样本的最大似然估计。

   视频直接表达
7. 公式

   $$\sigma_i = \sqrt{\frac{\sum_{x\in \text{eliteXs}} w(x)(x-\bar{x}_{\text{elite}})^2}{\sum_{x\in \text{eliteXs}} w(x)}}$$
   解释

   根据精英样本的加权二阶矩更新提议尺度参数。

   步骤依据

   在代码中体现为 `sigma_i = np.sqrt(np.average((eliteXs-eliteXs.mean())**2, weights=eliteLRs))`。

   视频直接表达
8. 公式

   $$v \leftarrow (\mu_i,\sigma_i),\quad vs\leftarrow vs\cup\{v\}$$
   解释

   用更新后的参数对替换当前提议参数，并将新的参数向量记录到历史列表中。

   步骤依据

   在代码中体现为 `v = (mu_i, sigma_i)`，随后执行 `vs.append(v)`。

   视频直接表达

所展示的算法通过阈值筛选样本、按似然比对精英点赋权，并更新提议分布参数，迭代地将正态提议分布调整至稀有事件区域，直至精英阈值达到目标水平。

1. 声音
   观察依据

   讲话者指出，一旦交叉熵（CE）算法完成，他们便采用其找到的提议分布，执行一次常规的重要抽样估计。

2. 公式
   观察依据

   第二个代码单元格计算 `normals`、`lrs`、`ests`、`fHat`、`oHat` 和 `widthCI`，然后将它们连同 `stats.norm.sf(gamma)` 一并打印输出。

1. 公式

   $$Y_j \sim \mathrm{Normal}(v[0], v[1]),\quad j=1,\dots,R$$
   解释

   自适应完成后，从存储在 `v` 中的最终提议分布中重新抽取一批新鲜样本。

   步骤依据

   在代码中体现为 `normals = rng.normal(v[0], v[1], R)`，并以口头方式描述为执行一次常规的重要抽样估计。

   视频直接表达
2. 公式

   $$\ell_j = \frac{f_u(Y_j)}{f_v(Y_j)}$$
   解释

   针对原始分布与最终提议分布的密度函数，为这批新鲜样本计算似然比。

   步骤依据

   在代码中体现为 `lrs = stats.norm.pdf(normals, u[0], u[1]) / stats.norm.pdf(normals, v[0], v[1])`。

   视频直接表达
3. 公式

   $$Z_j = \ell_j\mathbf{1}_{\{Y_j>\gamma\}}$$
   解释

   将每个似然比乘以该样本是否超过目标阈值的示性函数，从而构造加权的稀有事件贡献项。

   步骤依据

   在代码中体现为 `ests = lrs * (normals > gamma)`。

   视频直接表达
4. 公式

   $$\hat{p} = \frac{1}{R}\sum_{j=1}^{R} Z_j$$
   解释

   将加权示性函数的样本均值作为稀有事件概率的估计值。

   步骤依据

   在代码中体现为 `fHat = ests.mean()`。

   视频直接表达
5. 公式

   $$\widehat{\mathrm{SE}} = \frac{s_Z}{\sqrt{R}},\quad \text{widthCI}=1.96\,\widehat{\mathrm{SE}}$$
   解释

   使用加权项的样本标准差，报告一个近似的95%置信半宽。

   步骤依据

   代码中体现为 `oHat = ests.std()` 和 `widthCI = 1.96 * oHat / np.sqrt(R)`。

   视频直接表达
6. 公式

   $$p_{\text{theory}} = \mathbb{P}(X>\gamma)=\texttt{stats.norm.sf(gamma)}$$
   解释

   将蒙特卡洛估计值与标准正态分布的精确生存函数进行比较。

   步骤依据

   代码中体现为 `print(f"理论值：这条公式需要核验，请通过页面反馈入口报告。")`。

   视频直接表达

最终数值估计由收敛后的提议分布进行普通重要性抽样得到，并附有近似置信区间，以及与理论尾部概率的直接对比。

1. 公式
   观察依据

   代码行展示了抽样、似然比计算、按 (normals > γ) 加权、求均值、计算标准差以及置信区间宽度。

2. 公式
   观察依据

   输出行显示了 CE 估计值、上下界以及理论值的数值结果。

1. 公式

   $$normals = rng.normal(v[0], v[1], R)$$
   解释

   从均值为 v[0]、标准差为 v[1] 的提议正态分布中抽取 R 个样本。

   步骤依据

   直接在代码单元格中显示。

   视频直接表达
2. 公式

   $$lrs = stats.norm.pdf(normals, u[0], u[1]) / stats.norm.pdf(normals, v[0], v[1])$$
   解释

   在每个采样点处，计算参数为 `u` 的正态密度与参数为 `v` 的建议密度之间的似然比。

   步骤依据

   直接在代码单元格中显示。

   视频直接表达
3. 公式

   $$ests = lrs * (normals > γ)$$
   解释

   将每个似然比乘以稀有事件 `normals > γ` 的示性函数。

   步骤依据

   直接在代码单元格中显示。

   视频直接表达
4. 公式

   $$fHat = ests.mean(); oHat = ests.std(); widthCI = 1.96 * oHat / np.sqrt(R)$$
   解释

   取样本均值作为概率估计值，样本标准差作为变异性度量，并构造一个近似的95%置信半宽。

   步骤依据

   直接在代码单元格中显示。

   视频直接表达
5. 公式

   $$CE estimate: 2.8433488092847927e-07 (+/- 1.1057152778688466e-08); Theoretical: 2.866515718791933e-07$$
   解释

   打印输出给出数值估计值、区间半宽以及理论对比值。

   步骤依据

   直接在输出块中可见。

   视频直接表达

可见代码实现了一个基于似然比加权的蒙特卡洛估计器，并同时报告了估计值和理论对比值。

1. 声音
   观察依据

   主讲人说：‘如果我们遍历这个列表，就可以在某个 x 值网格上计算每个建议分布的概率密度函数。’

2. 公式
   观察依据

   代码显示 `xs = np.linspace(-2, 6.5, 500)`, `ys = np.empty((len(xs), len(vs)))`, 以及 `ys[:,i] = stats.norm.pdf(xs, v[0], v[1])`。

1. 公式

   $$xs = np.linspace(-2, 6.5, 500)$$
   解释

   创建一个固定的网格，包含500个x值，范围大致从-2到6.5。

   步骤依据

   直接在代码单元格中展示。

   视频直接表达
2. 公式

   $$ys = np.empty((len(xs), len(vs)))$$
   解释

   分配一个矩阵，用于存储每个提议分布对应的一列概率密度函数（PDF）值。

   步骤依据

   直接在代码单元格中展示。

   视频直接表达
3. 公式

   $$for i, v in enumerate(vs): ys[:,i] = stats.norm.pdf(xs, v[0], v[1])$$
   解释

   对每个已存储的参数向量`v`，在同一网格上计算其正态分布PDF，并将结果存入第`i`列。

   步骤依据

   直接在代码单元格中展示，并在音频中加以说明。

   视频直接表达
4. 公式

   $$plt.plot(xs, ys)$$
   解释

   将所有已存储的列对齐公共x网格作图，生成多条重叠的提议曲线。

   步骤依据

   直接在代码单元格中展示。

   视频直接表达

提议分布图是通过对每个已存储的正态密度函数在共享x网格上求值，并将所有曲线一同绘制而得到的。

1. 公式
   观察依据

   代码展示了`xOverGamma = xs[xs > γ]`、`l = stats.norm.sf(γ)`、`gStar = stats.norm.pdf(xOverGamma) / l`以及`plt.plot(xOverGamma, gStar)`。

2. 声音
   观察依据

   主讲人表示将绘制目标分布`g star`，因为其归一化常数`l`是已知的。

1. 公式

   $$xOverGamma = xs[xs > γ]$$
   解释

   将绘图网格限制在尾部区域，即满足 `$x > γ$` 的范围。

   步骤依据

   直接在代码单元格中展示。

   视频直接表达
2. 公式

   $$l = stats.norm.sf(γ)$$
   解释

   将归一化常数计算为标准正态分布的生存函数在 `γ` 处的取值。

   步骤依据

   直接在代码单元格中展示，并在音频中标识为已知的归一化常数。

   视频直接表达
3. 公式

   $$gStar = stats.norm.pdf(xOverGamma) / l$$
   解释

   通过除以 `l`，对尾部区域上的标准正态密度进行归一化。

   步骤依据

   直接在代码单元格中展示。

   视频直接表达
4. 公式

   $$plt.plot(xOverGamma, gStar)$$
   解释

   在尾部区域上绘制所得的归一化目标密度曲线。

   步骤依据

   直接在代码单元格中展示。

   视频直接表达

图中所示的目标曲线，是将标准正态密度限制在 `$x > γ$` 区域后、再以 `l = stats.norm.sf(γ)` 归一化所得。

1. 公式
   观察依据

   笔记本给出了完整的示例：估计 `P(X > gamma)`，其中 `X ~ Normal(0, 1)` 且 `gamma = 5`，所用建议分布形式为 `Normal(mu, sigma^2)`。

2. 声音
   观察依据

   讲解者将此作为非常简单的例子，用以演示改进的交叉熵方法。

估计 $P(X>\gamma)$ 对于 $X\sim\mathrm{Normal}(0,1)$，使用 $\gamma=5$ 通过改进的交叉熵法和正态重要性抽样建议分布。

1. 对应的式子为：$X\sim\mathrm{Normal}(0,1)$。

2. 对应的式子为：$\gamma=5$。

3. 提议分布族为$\mathrm{Normal}(\mu,\sigma^2)$。

4. 首次拒绝采样批次大小为$R=5\times 10^8$。

5. 最终重要性采样批次大小为$R=10^6$。

获得稀有事件概率的数值估计值及其置信区间，并与理论值进行比较。

1. 公式

   $$$$
   解释

   将阈值设为$\gamma=5$。

   步骤依据

   如笔记本单元格 `gamma = 5` 中所示。

   视频直接表达
2. 公式

   $$$$
   解释

   生成$5\times 10^8$个标准正态样本，并仅保留大于$5$的样本。

   步骤依据

   通过 `Xs = rng.normal(size=R)` 和 `Xs = Xs[Xs > gamma]` 实现；讲解者称此为拒绝采样。

   视频直接表达
3. 公式

   $$$$
   解释

   保留的样本数量为152。

   步骤依据

   输出行显示为 `Number of g* samples: 152`。

   视频直接表达
4. 公式

   $$$$
   解释

   利用这152个保留样本的样本均值和样本二阶中心矩的平方根，拟合一个正态提议分布。

   步骤依据

   通过 `mu = np.mean(Xs)` 和 `sigma = np.sqrt(np.mean((Xs-mu)**2))` 实现；讲解中指出这是最大似然估计。

   视频直接表达
5. 公式

   $$$$
   解释

   从拟合的正态提议分布中抽取$10^6$个样本。

   步骤依据

   通过 `$R = 10$**6` 和 `normals = rng.normal(mu, sigma, R)` 实现。

   视频直接表达
6. 公式

   $$$$
   解释

   计算似然比和加权指示变量，然后取平均值得到估计量。

   步骤依据

   通过 `lrs = stats.norm.pdf(normals, 0, 1) / stats.norm.pdf(normals, mu, sigma)`、`ests = lrs * (normals > gamma)` 和 `lHat = ests.mean()` 实现。

   视频直接表达
7. 公式

   $$$$
   解释

   报告估计值、置信区间上下界以及理论基准值。

   步骤依据

   输出行显示 `ICE estimate`、`ICE low bound`、`ICE upp bound` 和 `Theoretical`。

   视频直接表达

笔记本打印 `ICE estimate: 2.8499557494141556e-07 (+/- 8.28267698086911e-10)`、`ICE low bound: 2.841672802433268e-07`、`ICE upp bound: 2.8582381563950423e-07` 和 `Theoretical: 2.866515718791933e-07`。

该估计值将直接与同一输出块中打印的理论标准正态生存概率进行比较。

1. 公式
   观察依据

   Markdown 明确任务：估计 `P(X > gamma)`，其中 `X ~ Normal(0, 1)`，且 `gamma = 5`。

2. 公式
   观察依据

   第一个代码单元格实现了交叉熵循环，参数为 `$R = 10$**5`、`$p = 0.05$`、`maxIter = 50`、`$u = (0, 1)$`，以及 `$v = u$`。

3. 公式
   观察依据

   第二个代码单元格执行最终的重要性抽样，参数为 `$R = 10$**6`，并打印结果。

4. 声音
   观察依据

   主讲人解释了该循环、停止规则、似然比、参数更新，以及最终的重要性抽样估计。

1. 收敛后精确的中间提议分布参数在本片段可见输出中未以数值形式展示。

2. 所显示的方差更新使用了 `eliteXs.mean()` 而非 `mu_i`，导致其与口头描述的最大似然估计存在微小不一致。

使用交叉熵法估计稀有事件概率$\mathbb{P}(X>\gamma)$，其中$X\sim\mathrm{Normal}(0,1)$且$\gamma=5$。

1. 原始分布参数 `$u = (0, 1)$`。

2. 初始建议分布 `$v = u$`。

3. 交叉熵循环的抽样规模 `$R = 10$**5`。

4. 精英比例 `$p = 0.05$`。

5. 最大迭代次数 `maxIter = 50`。

6. 最终重要性抽样的样本规模 `$R = 10$**6`。

7. 目标阈值 `gamma = 5`。

计算$\mathbb{P}(X>5)$的蒙特卡洛估计值，获得近似置信区间，并与理论值进行比较。

1. 公式

   $$v_0 \leftarrow u=(0,1)$$
   解释

   将建议分布初始化为原始的标准正态分布。

   步骤依据

   在代码中体现为 `$u = (0, 1)$` 之后执行 `$v = u$`。

   视频直接表达
2. 公式

   $$\text{repeat for } i=0,\dots,49$$
   解释

   最多运行50次自适应迭代。

   步骤依据

   代码中体现为 `for i in range(maxIter):`，其中 `maxIter = 50`。

   视频直接表达
3. 公式

   $$X_s \sim \mathrm{Normal}(v[0],v[1]),\ |X_s|=10^5$$
   解释

   每次迭代从当前提议分布中抽取 100、000 个样本。

   步骤依据

   代码中体现为 `Xs = rng.normal(v[0], v[1], R)`，其中 `$R = 10$**5`。

   视频直接表达
4. 公式

   $$\gamma_i = Q_{0.95}(X_s)$$
   解释

   将精英截断值设为当前样本批次的经验 95 分位数。

   步骤依据

   代码中体现为 `gamma_i = np.quantile(Xs, 1-p)`，其中 `$p = 0.05$`；主讲人称其为 95% 阈值。

   视频直接表达
5. 公式

   $$\text{if }\gamma_i\ge 5,\ ext{break}$$
   解释

   一旦精英截断值达到目标阈值，即停止自适应过程。

   步骤依据

   代码中体现为 `if gamma_i >= gamma: break`。

   视频直接表达
6. 公式

   $$\text{eliteXs}=\{x\in X_s:x>\gamma_i\}$$
   解释

   仅保留高于本轮截断值的精英样本。

   步骤依据

   代码中体现为 `eliteXs = Xs[Xs > gamma_i]`。

   视频直接表达
7. 公式

   $$w(x)=\frac{\phi(x;0,1)}{\phi(x;v[0],v[1])}$$
   解释

   在精英样本上计算原始标准正态密度与当前提议密度之间的似然比。

   步骤依据

   代码中体现为 `eliteLRs = stats.norm.pdf(eliteXs, u[0], u[1]) / stats.norm.pdf(eliteXs, v[0], v[1])`。

   视频直接表达
8. 公式

   $$v \leftarrow (\mu_i,\sigma_i)$$
   解释

   根据加权的精英样本统计量更新提议参数，并将新参数对存入历史列表中。

   步骤依据

   代码中观察到：`mu_i = np.average(...)`，`sigma_i = np.sqrt(np.average(...))`，`v = (mu_i, sigma_i)`，以及 `vs.append(v)`。

   视频直接表达
9. 公式

   $$Y_j \sim \mathrm{Normal}(v[0],v[1]),\ j=1,\dots,10^6$$
   解释

   收敛后，从最终的建议分布中重新生成一百万个样本。

   步骤依据

   在第二个代码单元格中观察到：`normals = rng.normal(v[0], v[1], R)`，其中 `$R = 10$**6`。

   视频直接表达
10. 公式

    $$\hat{p}=\frac{1}{10^6}\sum_{j=1}^{10^6}\frac{\phi(Y_j;0,1)}{\phi(Y_j;v[0],v[1])}\mathbf{1}_{\{Y_j>5\}}$$
    解释

    通过平均经似然比加权的稀有事件指示器，来估计尾部概率。

    步骤依据

    代码中观察到：`lrs = ...`，`ests = lrs * (normals > gamma)`，以及 `fHat = ests.mean()`。

    视频直接表达
11. 公式

    $$\text{widthCI}=1.96\frac{s}{\sqrt{10^6}}$$
    解释

    根据加权项样本标准差，报告一个近似的95%置信半宽。

    步骤依据

    代码中观察到：`oHat = ests.std()` 和 `widthCI = 1.96 * oHat / np.sqrt(R)`。

    视频直接表达

屏幕上显示的结果为 `CE estimate: 2.8433488092847927e-07 (+/- 1.1057152778688466e-08)`，上下界分别为 `2.732772014979008e-07` 和 `2.9539203370716776e-07`，并与 `Theoretical: 2.866515718791933e-07` 进行对比。

该例题结果与标准正态分布的精确生存概率`stats.norm.sf(5)`进行比对，该精确值以`2.866515718791933e-07`形式输出；讲解者还指出，估计值约为`2.8乘以10的负7次方`，但置信区间宽度却大得多。

1. 公式
   观察依据

   输出块显示 `CE 估计值：2.8433488092847927e-07 (+/- 1.1057152778688466e-08)`、`CE 下界：2.732772014979008e-07`、`CE 上界：2.953920337016776e-07`，以及 `理论值：2.866515718791933e-07`。

2. 公式
   观察依据

   上方代码利用 `normals`、`lrs` 和 `ests` 计算出这些量。

使用显示的交叉熵/重要性采样风格代码估计稀有事件概率，并将其与理论值进行比较。

1. R 等于 10 的 6 次方

2. 从 rng.normal(v[0], v[1], R) 中抽取建议样本

3. 似然比使用 stats.norm.pdf(normals, u[0], u[1]) / stats.norm.pdf(normals, v[0], v[1])

4. 稀有事件指示器为 (normals > γ)

获得交叉熵估计值、置信区间边界及理论值对比结果。

1. 公式

   $$ests = lrs * (normals > γ)$$
   解释

   构造加权稀有事件贡献项。

   步骤依据

   如代码单元格中所示。

   视频直接表达
2. 公式

   $$fHat = ests.mean()$$
   解释

   对加权贡献项取平均，得到估计值。

   步骤依据

   如代码单元格中所示。

   视频直接表达
3. 公式

   $$widthCI = 1.96 * oHat / np.sqrt(R)$$
   解释

   计算近似置信区间的半宽。

   步骤依据

   显示在代码单元格中。

   视频直接表达
4. 公式

   $$CE estimate: 2.8433488092847927e-07 (+/- 1.1057152778688466e-08)$$
   解释

   从输出中读取报告的估计值及其不确定性。

   步骤依据

   在输出块中可见。

   视频直接表达
5. 公式

   $$Theoretical: 2.866515718791933e-07$$
   解释

   从输出中读取理论对比值。

   步骤依据

   在输出块中可见。

   视频直接表达