1. 极大似然估计基础

1. 公式
   观察依据

   黑板上写着：“设$\Theta$为一个参数（未知值）。”

2. 声音
   观察依据

   主讲人说：“我们首先需要考虑参数 theta”，并将其描述为未知量。

$\Theta$

统计模型中的一个未知参数；在口语中称之为 theta。

该模型的参数空间；视频未说明它是标量还是向量值。

1. 公式
   观察依据

   黑板上写着：“设$X_1, ..., X_n$为来自概率质量函数/概率密度函数$f(x|\theta)$的一个随机样本。”

2. 声音
   观察依据

   主讲人说：“我们将通过$x_1$和$x_n$收集数据，共得到$n$个测量值。”

1. 黑板用大写字母$X_i$表示随机变量，而口语解释中一旦数据被视为已观测到的常数，则改用小写字母$x_i$。

$X_i$

样本中第$i$个随机变量（在观测之前）。

下标$i = 1, \dots, n$。

1. 公式
   观察依据

   黑板上写的是$X_1, ..., X_n$。

2. 声音
   观察依据

   主讲人说：“共$n$个测量值”以及“一个容量为$n$的随机样本。”

$n$

样本容量，即所收集的测量值个数。

正整数。

1. 公式
   观察依据

   黑板上显示“pmf/pdf $f(x|\theta)$”。

2. 声音
   观察依据

   说话人称该样本“来自我们的 pmf 或 pdf $f(x|\theta)$。"

1. 该视频除使用“pmf/pdf”一词外，并未明确区分离散情形与连续情形。

$f(x|\theta)$

在给定参数 $\theta$ 的条件下，一次观测结果的概率质量函数或概率密度函数。

$x$ 位于该分布的支撑集内；$\theta$ 位于参数空间内。

1. 公式
   观察依据

   说话人写下“似然函数”，然后写出 $L(\theta | x_1, ..., x_n)$。

2. 声音
   观察依据

   说话人说：“因此我们需要定义一个称为似然函数的概念”，并将其描述为“在我们已观测到的数据条件下，关于参数的函数。”

$L(\theta | x_1, ..., x_n)$

似然函数：在给定已观测数据 $x_1, \dots, x_n$ 后，不同参数取值的合理性。

关于 $\theta$ 的函数，其中 $x_1, \dots, x_n$ 固定不变。

1. 图示
   观察依据

   在所绘制曲线下方画出一条横轴，并标注为 $\theta$。

2. 声音
   观察依据

   说话人说：“假如我们有一个像这里这样的 θ 值”，并指向横轴上的若干位置。

$\theta$ on horizontal axis

未知参数的可能取值，沿似然图的横轴绘制。

与$\Theta$相同的参数空间。

1. 图示
   观察依据

   在曲线旁绘制一条纵轴，并标注为$L(\theta)$。

2. 声音
   观察依据

   主讲人将曲线上一点的似然值描述为“相当高”，而另一点则描述为“相当低”。

1. 草图中纵轴标签简写为$L(\theta)$，而此前写出的完整定义是$L(\theta | x_1, ..., x_n)$。

$L(\theta)$

似然曲线的高度，表示在该参数取值下观测数据出现的可能性大小。

草图隐含非负取值；视频未明确给出取值范围。

1. 公式
   观察依据

   左侧黑板文字为：“设$\Theta$为一个参数（未知值）。”

2. 公式
   观察依据

   右侧黑板将似然函数写作$L(\Theta \mid x_1,\ldots,x_n)$，随后在口述中提到对$\theta$进行最大化。

1. 黑板使用大写字母$\Theta$，而口述解释中常称其为“theta”；本片段未明确统一这两种记号。

$\Theta$ / $\theta$

待估计的未知参数值。

统计模型的参数空间；本片段未明确指定其具体定义域。

1. 公式
   观察依据

   左侧黑板文字为：“设$x_1,\ldots,x_n$为来自概率质量函数/概率密度函数$f(x|\theta)$的一个随机样本。”

2. 公式
   观察依据

   右侧黑板写出$L(\Theta \mid x_1,\ldots,x_n)$，并将其展开为$f(x_1,\ldots,x_n \mid \theta)$。

$x_1,\ldots,x_n$

构成随机样本的观测数据值。

底层分布的样本空间；本片段未说明其具体支撑集。

1. 公式
   观察依据

   样本在整个板书过程中均记作$x_1,\ldots,x_n$。

2. 公式
   观察依据

   乘积形式以索引$i=1$至$n$写出。

$n$

样本中的观测个数。

正整数样本量。

1. 公式
   观察依据

   左侧黑板说明样本来自“概率质量函数/概率密度函数$f(x|\theta)$”。

2. 公式
   观察依据

   右侧黑板在乘积中先使用$f(x_1,\ldots,x_n \mid \theta)$，再使用$f(x_i \mid \theta)$。

1. 该片段对离散与连续情形均统一使用符号$f$，未分别定义离散型与连续型记号。

$f$

模型的概率质量函数或概率密度函数。

以参数为条件的观测值（们）的函数。

1. 公式
   观察依据

   右上方标题为“似然函数”。

2. 公式
   观察依据

   公式写作$L(\Theta \mid x_1,\ldots,x_n)$。

$L(\Theta \mid x_1,\ldots,x_n)$

给定观测数据时，关于参数的似然函数。

定义在参数取值上，而数据保持固定。

1. 公式
   观察依据

   黑板文字：“设$\Theta$为一个参数（未知值）”。

2. 声音
   观察依据

   主讲人：“最大似然法的起点，是我们先思考参数θ。这个参数是未知的，我们要通过它来推断一些信息。”

讲座开篇即指出最大似然估计的关注对象：一个未知参数$\Theta$。该参数无法直接观测；相反，我们的目标是利用数据对其作出推断。

1. 该参数是未知的。

2. 正在介绍最大似然估计。

1. 公式
   观察依据

   板书文字：“设$X_1, ..., X_n$是从概率质量函数/概率密度函数$f(x|\theta)$中抽取的随机样本”，以及“即$X_1, ..., X_n$相互独立且同分布。”

2. 声音
   观察依据

   主讲人：“如果它们相互独立且同分布，那么我们就得到了来自我们的概率质量函数或概率密度函数$f(x|\theta)$的一个随机样本……”

1. 板书上最后一个词缩写为“distrib”，而非完整拼出。

此处将容量为$n$的随机样本定义为一个集合$X_1, \dots, X_n$，其成员相互独立且服从相同的概率质量函数或概率密度函数$f(x|\theta)$。

1. 共有$n$个观测值。

2. 这些观测值相互独立。

3. 这些观测值服从相同的分布$f(x|\theta)$。

1. 最大似然估计中的未知参数

1. 声音
   观察依据

   主讲人：“现在我们已收集好数据，就需要把这批数据视作常量。此时不再存在任何随机性了。我们现在进入了数理统计的世界：数据已经收集完毕，且被视为固定不变的。”

数据收集完成后，课程视角发生转变：已实现的数值$x_1, \dots, x_n$不再被视为随机变量，而是被固定下来；此时我们转而寻找未知参数$\theta$的一个合适取值。

1. 数据已经观测完毕。

2. 讨论处于推断阶段，而非抽样阶段。

1. 随机样本即一组相互独立且同分布的观测值

1. 公式
   观察依据

   说话者写下“似然函数”和$L(\theta | x_1, ..., x_n)$。

2. 声音
   观察依据

   说话者：“在我们已观测到的数据下，θ最可能取什么值？因此我们需要定义一个称为似然函数的概念……它是一个关于参数的函数，其定义基于我们已观测到的数据。”

似然函数被引入为参数$\theta$的函数，此时已观测数据$x_1, \dots, x_n$已被固定。它为每个候选参数值赋予一个度量，表示在该参数下观测数据出现的可能性大小。

1. 数据$x_1, \dots, x_n$被视为固定的已观测常数。

2. 被变动的自变量是参数$\theta$。

1. 最大似然估计中的未知参数
2. 在似然推理中，观测到的数据被当作常量处理

1. 图示
   观察依据

   在横轴标有$\theta$、纵轴标有$L(\theta)$的坐标系中绘制了一条曲线。

2. 声音
   观察依据

   说话者：“或许我们可以将其绘制成图，我们的似然函数可能看起来像这样……与这个给出较低似然值的θ值相比，此处的似然值可能显得相当高。因此，似然值越高……”

1. 该句子在视频片段边界处中断，因此本片段中未呈现完整的结论性陈述。

讲座通过在横轴上绘制参数值、在纵轴上绘制似然值，以图像方式表示似然函数。曲线上位置越高的点，对应使观测数据更合理的参数值；位置越低的点，则对应使观测数据较不合理的参数值。

1. 数据是固定的。

2. 人们正在比较$\theta$的不同候选取值。

1. 似然函数

1. 声音
   观察依据

   教师说：“因此，我们的似然函数就是随机样本的联合概率质量函数（PMF）或概率密度函数（PDF）。”

2. 公式
   观察依据

   她在黑板上写下$= \text{joint pmf of } x_1,\ldots,x_n \ \theta$，然后写下$= f(x_1,\ldots,x_n \mid \theta)$。

1. 她在书写时，围绕16-22秒的手写线条部分被她的身体遮挡。

本片段中，似然函数被引入为观测到的随机样本的联合概率质量函数（PMF）或概率密度函数（PDF），其被视为未知参数的函数，而数据一旦给定即视为固定。

1. 存在一个未知参数$\Theta$或$\theta$。

2. 数据$x_1,\ldots,x_n$被视为已观测且固定。

3. 该样本来自概率质量函数（PMF）/概率密度函数（PDF）模型$f(x\mid\theta)$。

1. 公式
   观察依据

   左侧黑板文字写明：“即，$x_1,\ldots,x_n$相互独立且同分布。”

2. 声音
   观察依据

   在29-35秒处，她说：“但我们知道它们是相互独立的，因此可将此式拆分为单变量函数的乘积。”

黑板明确假设样本由独立同分布的观测值构成，这些观测值均来自同一概率质量函数/概率密度函数$f(x\mid\theta)$。正是这一假设使得联合分布可以分解为多个相同单观测项的乘积。

1. 观测值相互独立。

2. 观测值具有相同的边缘概率质量函数/概率密度函数。

3. 该通用模型由参数$\theta$索引。

1. 声音
   观察依据

   她解释道：由于变量相互独立，联合项可拆分为若干单变量项的乘积。

2. 公式
   观察依据

   黑板先写出$f(x_1,\ldots,x_n \mid \theta)=f(x_1\mid\theta)\cdots f(x_n\mid\theta)$，再给出其紧凑形式$\prod_{i=1}^n f(x_i\mid\theta)$。

为获得独立同分布样本的似然函数，首先写出所有观测值在给定参数条件下的联合概率质量函数/概率密度函数，再利用独立性将其分解为各单个概率质量函数/概率密度函数项的乘积。

1. 样本是独立的。

2. 每个观测值具有相同的功能形式$f(x_i\mid\theta)$。

3. 将数据值代入，而$\theta$保持符号形式。

1. 似然函数的定义
2. 随机样本假设：独立性与同分布性

1. 声音
   观察依据

   她在59-69秒处说道：“在数理统计领域，我们视数据为固定的，而考察参数θ的不同取值。”

2. 声音
   观察依据

   在70-86秒处，她指出概率密度函数（pdf）是“给定θ，代入x的不同取值”，并称其为“以x为变量、θ的取值保持不变的函数”；随后在88-95秒处指出似然函数是“以θ为变量、数据保持不变的函数。”

1. 口述内容短暂地混淆了普通概率密度函数作为$x$的函数与似然函数作为$\theta$的函数这两种视角；尽管从上下文可清晰看出所要对比的概念，但措辞并不十分严谨。

该片段强调一种概念性转变：尽管公式最初是关于数据的联合概率质量函数（pmf）或概率密度函数（pdf），但似然函数的解释方式是将已观测到的数据视为固定，而将参数视作变量。

1. 已观测样本的取值是固定的。

2. 人们通过比较不同候选参数值来进行判断。

1. 似然函数的定义

1. 声音
   观察依据

   在96-108秒处，她说“沿此上升方向寻找最可能的θ值”是合乎逻辑的。

2. 声音
   观察依据

   在108-113秒处，她提问：“使似然函数达到最大的这个θ值是多少？”

3. 声音
   观察依据

   在114-119秒处，她说：“该最大值点所对应的θ值被称为最大似然估计量。”

4. 图示
   观察依据

   她指向所绘制似然曲线的峰值，并标出横轴上使似然函数取得最大值的那个数值。

1. 该片段仅用语言命名了这个最大值点，但并未写出如$\hat\theta_{\mathrm{MLE}}=\arg\max_\theta L(\theta\mid x_1,\ldots,x_n)$这样的形式化符号定义。

在构建似然函数之后，下一步自然是要找出使观测数据最可能出现的参数值。本片段将似然函数的最大化者定义为最大似然估计量。

1. 似然函数已由数据构造而成。

2. 我们在所有可能的参数取值中进行搜索。

3. 所选的参数值即为似然函数的最大化者。

1. 似然函数的定义
2. 似然视角：数据固定，参数变动

1. 公式
   观察依据

   写在黑板上，形式为“使L(Θ | $x_1$, ..., $x_n$)取最大值的Θ的取值”。

2. 声音
   观察依据

   在00:15处口述为“使似然函数取最大值的θ的取值”。

最大似然估计量（MLE）定义为：在给定观测数据的情况下，能使似然函数 L($\Theta$ | $x_1$, $\dots$, $x_n$) 取得最高可能值的那个未知参数 $\Theta$ 的具体取值。

1. 似然函数必须定义良好。

2. 参数空间必须允许最大值存在。

1. 公式
   观察依据

   板书写作 '$\ell$($\Theta$ | $x_1$, ..., $x_n$) = $\log L$($\Theta$ | $x_1$, ..., $x_n$)'。

2. 声音
   观察依据

   在01:25处口述为：‘这只是似然函数的对数’。

对数似然函数就是似然函数的自然对数。之所以使用它，是因为它能简化求最大值所需的数学运算，尤其是在处理概率的乘积时。

1. 为使对数有定义，似然函数 L 必须严格为正。

1. 公式
   观察依据

   黑板文字写有“即，$X_1, ..., X_n$相互独立且同分布”。

2. 声音
   观察依据

   主讲人：“如果它们相互独立且同分布，那么我们就得到一个随机样本。”

若$X_1, \dots, X_n$独立同分布于$f(x|\theta)$，则它们构成一个容量为$n$的随机样本。

1. 这些变量是$X_1, \dots, X_n$。

2. 它们相互独立。

3. 它们同分布。

4. 它们的共同分布是$f(x|\theta)$。

对于一个集合$X_1, \dots, X_n$。

1. 公式
   观察依据

   书面表达式$L(\theta | x_1, ..., x_n)$。

2. 声音
   观察依据

   说话人：“我们让$x_1$到$x_n$保持不变，现在观察代入不同的θ值时，会得到怎样的似然值。”

一旦$x_1, \dots, x_n$被固定，改变$\theta$就会改变似然函数$L(\theta | x_1, ..., x_n)$的取值。

1. 观测数据$x_1, \dots, x_n$是固定的。

2. 正在比较参数$\theta$的不同候选取值。

在观测数据固定、参数取值变化的前提下。

1. 图示
   观察依据

   所绘制的曲线在不同$\theta$位置处，有一个点在视觉上高于另一个点。

2. 声音
   观察依据

   说话人：“也许该点相较于这个给出很低似然值的θ值而言，看起来高得多。因此似然值越高……”

1. 本片段中，说话人的句子在结论完成前被截断。

在参数$\theta$的不同取值中，似然值越大，表明该参数取值在给定观测数据下越合理。

1. 数据是固定的。

2. 似然函数已被定义。

用于比较似然曲线上的参数取值。

1. 声音
   观察依据

   “但我们知道它们相互独立，因此可将此式拆分为单变量概率质量函数（或概率密度函数）的乘积。”

2. 公式
   观察依据

   板书过渡：从$f(x_1,\ldots,x_n\mid\theta)$到$f(x_1\mid\theta)\cdots f(x_n\mid\theta)$，再到$\prod_{i=1}^n f(x_i\mid\theta)$。

若$x_1,\ldots,x_n$相互独立，则其在给定$\theta$条件下的联合概率质量函数（或概率密度函数）可分解为相应单变量概率质量函数（或概率密度函数）项的乘积。

1. $x_1,\ldots,x_n$相互独立。

2. 联合分布写作$f(x_1,\ldots,x_n\mid\theta)$。

对于有限样本$x_1,\ldots,x_n$。

1. 声音
   观察依据

   “因此，我们的似然函数就是该随机样本的联合概率质量函数（或概率密度函数）。”

2. 公式
   观察依据

   $L(\Theta\mid x_1,\ldots,x_n)=f(x_1,\ldots,x_n\mid\theta)$被写在黑板上。

对于本片段中的模型，似然函数是样本的联合概率质量函数/概率密度函数，在观测数据处取值，并被视为参数的函数。

1. 存在一个以$f(x\mid\theta)$为概率质量函数/概率密度函数的统计模型。

2. 样本值$x_1,\ldots,x_n$被观测到且固定不变。

对于给定的样本和参数$\theta$。

1. 声音
   观察依据

   “此处使似然函数达到最大的θ值是多少？”

2. 声音
   观察依据

   “该最大值点被称为最大似然估计量。”

3. 图示
   观察依据

   她指向所画似然曲线的峰值。

1. 未明确陈述唯一性假设；该片段仅从概念上描述最大值点。

最大似然估计量是使似然函数在观测数据下达到最大的参数取值。

1. 已构造出似然函数$L(\Theta\mid x_1,\ldots,x_n)$。

2. 在数据固定的前提下，比较参数的不同取值。

针对本设定中所观测到的样本。

1. 声音
   观察依据

   讲述者从定义$\Theta$，到收集$X_1, \dots, X_n$，再到将数据视为常量，最后写出$L(\theta | x_1, ..., x_n)$。

2. 公式
   观察依据

   板书文字及后续手写公式展示了定义的顺序。

1. 公式

   $$\Theta$$
   解释

   从一个我们希望了解其取值的未知参数出发。

   步骤依据

   这是板书和口头陈述中给出的初始设定。

   视频直接表达
2. 公式

   $$X_1, \dots, X_n$$
   解释

   从现实中收集$n$个测量值。

   步骤依据

   讲述者明确描述了外出收集数据的过程。

   视频直接表达
3. 公式

   $$X_1, \dots, X_n \text{ iid from } f(x|\theta)$$
   解释

   若这些测量值相互独立且同分布，则它们构成来自模型分布的一个随机样本。

   步骤依据

   这是板书上所写的定义，并以口头方式再次重申。

   视频直接表达
4. 公式

   $$x_1, \dots, x_n$$
   解释

   经过观察后，将已实现的数据视为常数，而非随机变量。

   步骤依据

   主讲人称，一旦数据被收集完成，“就不再存在任何变异性了”。

   视频直接表达
5. 公式

   $$L(\theta | x_1, \dots, x_n)$$
   解释

   将似然定义为参数的函数，该函数以固定的观测数据为条件。

   步骤依据

   这是写在黑板上的公式，并用语言加以解释。

   视频直接表达

似然函数是通过固定观测样本、并将模型量视为未知参数$\theta$的函数而得到的。

1. 图示
   观察依据

   一条曲线绘制在标有$\theta$和$L(\theta)$的坐标轴上方。

2. 声音
   观察依据

   主讲人比较了曲线上一个高点与一个低点。

1. 视频片段在主讲人说完关于更高似然意味着什么的最后一句话前就结束了。

1. 公式$\theta$ on horizontal axis
   解释

   将候选参数值置于横轴上。

   步骤依据

   示意图将横轴标记为$\theta$。

   视频直接表达
2. 公式$L(\theta)$ on vertical axis
   解释

   将似然值置于纵轴上。

   步骤依据

   示意图将侧轴标记为$L(\theta)$。

   视频直接表达
3. 公式

   $$L(\theta_1) > L(\theta_2)$$
   解释

   曲线上位置更高的点，对应于比另一参数值处位置更低的点更大的似然性。

   步骤依据

   主讲人将“相当高”的似然性与“相当低”的似然性进行了对比。

   依据视频推导

该图以视觉方式表达了：某些参数值使观测数据出现的可能性高于其他参数值。

1. 声音
   观察依据

   教师在口述中从似然的定义出发，过渡到独立性，再进一步引出乘积形式。

2. 公式
   观察依据

   板书依次展示$L(\Theta\mid x_1,\ldots,x_n)$、$=\text{joint pmf of }x_1,\ldots,x_n\ \theta$、$=f(x_1,\ldots,x_n\mid\theta)$、$=f(x_1\mid\theta)\cdots f(x_n\mid\theta)$、$=\prod_{i=1}^n f(x_i\mid\theta)$。

1. 中间的手写文字在书写过程中部分被教师的身体遮挡。

1. 公式

   $$L(\Theta \mid x_1,\ldots,x_n)$$
   解释

   从板书上写出的似然函数出发。

   步骤依据

   由黑板右侧的标题及初始公式给出。

   视频直接表达
2. 公式

   $$= f(x_1,\ldots,x_n \mid \theta)$$
   解释

   将似然重写为整个样本关于参数的联合概率质量函数/概率密度函数。

   步骤依据

   教师直接口述：似然是随机样本的联合概率质量函数或概率密度函数。

   视频直接表达
3. 公式

   $$= f(x_1 \mid \theta)\cdots f(x_n \mid \theta)$$
   解释

   将联合项展开为各单次观测项的乘积。

   步骤依据

   运用左侧黑板上写出的独立性假设：$x_1,\ldots,x_n$相互独立。

   视频直接表达
4. 公式

   $$= \prod_{i=1}^n f(x_i \mid \theta)$$
   解释

   将展开的乘积式压缩为乘积符号表示。

   步骤依据

   前述有限乘积的标准紧凑记号；黑板上已明确写出。

   视频直接表达

对于来自同一概率质量函数/概率密度函数模型的独立同分布样本，似然函数可计算为$\prod_{i=1}^n f(x_i\mid\theta)$。

1. 声音
   观察依据

   在00:36处口述为：‘我们可以直接运用微积分求导并找出极大值点’。

2. 声音
   观察依据

   在01:48处口述为：‘使用对数要简便得多，因为别忘了，对乘积取对数就等于各因子对数之和’。

1. 公式

   $$$$
   解释

   根据数据所假设的概率分布，确定似然函数 L($\Theta$ | $x_1$, $\dots$, $x_n$)。

   步骤依据

   似然函数的定义。

   视频直接表达
2. 公式

   $$$$
   解释

   对似然函数取自然对数，得到对数似然函数 $\ell$($\Theta$ | $x_1$, $\dots$, $x_n$)。

   步骤依据

   由于对数函数具有单调性，其最大值点保持不变，同时将乘积转化为求和，从而简化表达式。

   视频直接表达
3. 公式

   $$$$
   解释

   计算对数似然函数关于参数 $\Theta$ 的导数。

   步骤依据

   这是求局部极值的标准微积分方法。

   视频直接表达
4. 公式

   $$$$
   解释

   令该导数等于零，并解出 $\Theta$，以找到临界点。

   步骤依据

   费马关于驻点的定理。

   视频直接表达
5. 公式

   $$$$
   解释

   验证该临界点是否对应极大值（例如，使用二阶导数检验法）。

   步骤依据

   确保所找到的点确实是全局或局部最大值点。

   补充解释

通过此过程得到的 $\Theta$ 的值即为最大似然估计量（$\hat{\Theta}_{MLE}$）。

1. 声音
   观察依据

   主讲人说：'因此，对一个求和式求导，远比对这样一个乘积式求导容易得多。'

2. 公式
   观察依据

   黑板显示：'$\log (a \cdot b) = \log a + \log b$'。

1. 公式

   $$L(\Theta) = \prod_{i=1}^n f(x_i | \Theta)$$
   解释

   似然函数是各个概率函数的乘积。

   步骤依据

   独立同分布样本的似然定义。

   视频直接表达
2. 公式

   $$\ell(\Theta) = \log \left( \prod_{i=1}^n f(x_i | \Theta) \right) = \sum_{i=1}^n \log f(x_i | \Theta)$$
   解释

   取对数可将乘积转化为求和。

   步骤依据

   对数性质：$\log(a \cdot b) = \log a + \log b$。

   视频直接表达
3. 公式

   $$\frac{d}{d\Theta} \sum_{i=1}^n \log f(x_i | \Theta) = \sum_{i=1}^n \frac{d}{d\Theta} \log f(x_i | \Theta)$$
   解释

   求和的导数等于各加项导数的和，这在计算上比对多个因子应用乘积法则更简单。

   步骤依据

   微分的线性性。

   依据视频推导

使用对数似然函数可简化求最大值的过程，即将复杂的乘积导数转化为更简单的求和导数。

1. 图示
   观察依据

   黑板左侧已写有有关$\Theta$、$X_1, ..., X_n$和$f(x|\theta)$的设定文字。

2. 声音
   观察依据

   主讲人在引入最大似然法时，指向并讲解了这些行。

1. 文字：“设$\Theta$为一个参数（未知值）”

2. 文字：“设$X_1, ..., X_n$为来自概率质量函数/概率密度函数$f(x|\theta)$的一个随机样本”

3. 文字：“即$X_1, ..., X_n$相互独立且同分布”

4. 主讲人正指向黑板

1. 主讲人先指向参数线，再指向样本线，最后指向分布线。

1. 书面设定在整个这一时间段内持续可见。

黑板确立了统计背景：一个未知参数，以及来自某个模型分布的独立同分布样本。

1. 动画
   观察依据

   主讲人写下“似然函数”，然后在黑板右侧写下$L(\theta | x_1, ..., x_n)$。

2. 声音
   观察依据

   主讲人说：“因此我们需要定义一个称为似然函数的概念”，接着说：“它只是关于我们的参数的一个函数，其前提是给定我们已观测到的数据。”

1. 标题“似然函数”

2. 公式$L(\theta | x_1, ..., x_n)$

3. 主讲人手中拿着记号笔

1. 先出现标题，再在其下方写出公式。

1. 左侧先前写下的设定文字保持不变。

书写的视觉动作标志着从一般性设定转向本课的核心对象：在数据固定的前提下，似然作为关于$\theta$的函数。

1. 动画
   观察依据

   主讲人画出一条横轴、一条纵轴、一条钟形曲线，并将坐标轴分别标注为$\theta$和$L(\theta)$。

2. 声音
   观察依据

   主讲人说：“或许我们可以把它画出来，我们的似然函数可能看起来像这样”，然后比较了高似然值与低似然值。

1. 该曲线的确切形状仅为示意图，并不对应某个特定分布。

1. 横轴标注为$\theta$

2. 纵轴标注为$L(\theta)$

3. 一条光滑的单峰曲线

4. 曲线上对应较高似然值的一个点

5. 曲线上对应较低似然值的一个点

1. 先绘制坐标轴，再绘制曲线，接着标注坐标轴标签，最后在曲线上标出用于比较的点。

1. 数据被隐式地固定，而横轴上$\theta$的取值随之变化。

该图示以几何方式呈现了似然值随参数取值变化而变化的情形。

1. 图示
   观察依据

   左侧黑板包含关于$\Theta$（即样本）及独立同分布假设的设定文字；右侧黑板包含标题“似然函数”、公式$L(\Theta\mid x_1,\ldots,x_n)$，以及一条位于标有$\theta$的横轴上方的简略似然曲线草图。

1. 左侧设定文字

2. 右侧标题“似然函数”

3. 公式$L(\Theta\mid x_1,\ldots,x_n)$

4. 简略绘制的似然曲线

5. 横轴标签$\theta$

1. 左侧的假设在整个片段中持续可见。

2. 右侧标题和初始似然符号在整个片段中始终可见。

黑板将左侧的统计设定与右侧的似然构建及图形直观解释分隔开来。

1. 动画
   观察依据

   教师在$L(\Theta\mid x_1,\ldots,x_n)$下方逐次写出等式，从文字描述“联合概率质量函数……”出发，依次过渡到$f(x_1,\ldots,x_n\mid\theta)$、$f(x_1\mid\theta)\cdots f(x_n\mid\theta)$，最后到达$\prod_{i=1}^n f(x_i\mid\theta)$。

1. 她在书写过程中，部分字符暂时被她的手和躯干遮挡。

1. 在似然标题下的等式链

2. 乘积记号$\prod_{i=1}^n$

1. 该公式从文字描述出发，逐行演变为完全符号化的乘积形式。

2. 最终简洁的乘积形式被添加在展开式下方。

1. 起始对象始终是似然$L(\Theta\mid x_1,\ldots,x_n)$。

2. 参数保留在条件位置，而观测得到的$x_i$值被代入。

这一视觉过程展示了如何借助样本与独立性假设，将抽象的似然转化为可计算的表达式。

1. 图示
   观察依据

   一条预先绘制的小曲线位于右上方，横轴标有$\theta$。

2. 动画
   观察依据

   临近结尾时，讲师指向峰值区域，并沿曲线向上描画，同时讲解如何找出θ最可能的取值。

1. 该图示为示意性图形，而非精确绘制的函数；图中未显示数值坐标轴，也未给出曲线的公式。

1. 示意性似然曲线

2. 横轴标有$\theta$

3. 通过手势标出峰值点

1. 注意力从代数公式转移到所绘制的曲线上。

2. 讲师将曲线的最高点标记为目标值。

1. 该曲线用于表示似然关于参数的函数关系。

2. 图中未展示数据在图上的变化。

该草图提供了最大似然估计（MLE）的几何直观：选取似然曲线顶端所对应的参数值。

1. 动画
   观察依据

   讲师在视频片段中持续于黑板上书写定义与公式。

1. 讲师

2. 黑板

3. 粉笔

1. 书写“最大似然估计量（MLE）”

2. 书写“使 L($\Theta$ | $x_1$, ..., $x_n$) 达到最大的 $\Theta$ 的取值”

3. 书写“$\ell$($\Theta$ | $x_1$, ..., $x_n$) = $\log L$($\Theta$ | $x_1$, ..., $x_n$)”

4. 书写“$\log$(ab) = $\log(a) + \log(b)$”

1. 参数 $\Theta$、随机样本 X 以及似然函数 L 的既有定义仍保留在黑板上可见。

画面演进与授课的逻辑脉络一致，从 MLE 的定义出发，逐步过渡到利用对数似然及其性质来简化估计过程的实际方法。

1. 图示
   观察依据

   整段视频展示一块黑板，上面手写有与最大似然估计相关的数学定义和公式。

1. 黑板

2. 手写文字

3. 公式

1. 数学定义与公式在整个片段中始终静止显示于黑板上。

该画面作为视觉参考，辅助讲解者阐述参数、随机样本、似然函数及对数似然函数的定义。

1. 声音
   观察依据

   主讲人说：“现在我们已收集好数据，需将这些数据视为常量——其中不再存在任何变异性。”

人们可能在$x_1, \dots, x_n$已被观测之后，仍将其视为随机变量。

此处展示的似然步骤中，已观测数据是固定常数；随机性属于抽样阶段，而非似然计算阶段。

1. 公式
   观察依据

   黑板将$L(\theta | x_1, ..., x_n)$定义为在给定已观测数据下关于$\theta$的函数。

2. 声音
   观察依据

   主讲人强调保持数据恒定，并代入$\theta$的不同取值。

1. 该误解在视频片段中并未被明确命名；它是从讲师对比固定数据与变动参数的方式中推断出的一种常见混淆。

由于$L(\theta | x_1, ..., x_n)$使用了条件竖线书写，学习者可能误以为它是给定数据下关于$\theta$的概率分布。

本片段中，似然被呈现为在数据固定后关于参数的函数，而非关于$\theta$的归一化概率分布。

1. 声音
   观察依据

   教师明确对比了将数据视为固定而变化 $\theta$ 与之前将概率密度函数（pdf）视为关于 $x$ 的函数的观点，其中 $\theta$。

人们可能认为同一公式始终应被解释为以数据为变量、参数固定的函数。

本片段强调，在基于似然的推断中，观测数据保持不变，而参数才是需在各候选取值间进行比较的量。

1. 公式
   观察依据

   黑板首先介绍 $\Theta$，然后介绍 $X_1, ..., X_n$ 来自 $f(x|\theta)$。

2. 声音
   观察依据

   主讲人指出，最大似然法始于参数，然后才转向收集数据。

未知参数的概念在样本分布$f(x|\theta)$能被有意义地讨论之前即已被引入。

1. 声音
   观察依据

   主讲人首先定义了随机样本，然后指出数据收集完成后应将其视为常量。

只有在明确了抽样模型之后，课程才转向似然法中所采用的观测后视角。

1. 公式
   观察依据

   所写出的似然$L(\theta | x_1, ..., x_n)$以观测到的数据为条件。

2. 声音
   观察依据

   主讲人指出数据保持不变，随后定义了似然函数。

似然函数的定义方式是：将观测到的样本视为固定，而让参数变动。

1. 动画
   观察依据

   在写出$L(\theta | x_1, ..., x_n)$之后，演示者绘制了一幅坐标轴分别为$\theta$和$L(\theta)$的图像。

2. 声音
   观察依据

   主讲人说：“或许我们可以把它画出来，我们的似然函数可能看起来就像那样。”

所绘制的曲线是似然函数定义的直接可视化体现。

1. 公式
   观察依据

   $L(\Theta\mid x_1,\ldots,x_n)=f(x_1,\ldots,x_n\mid\theta)$被直接写出。

将似然定义为联合概率质量函数（pmf）/概率密度函数（pdf），是推导乘积公式的起点。

1. 声音
   观察依据

   她指出，独立性使得她能将联合表达式拆分为若干单变量项的乘积。

2. 公式
   观察依据

   板书从联合项过渡到$f(x_i\mid\theta)$的乘积。

因式分解这一步骤依赖于板书上所陈述的独立性假设。

1. 声音
   观察依据

   在定义似然之后，她立即提问：哪个$\theta$使其取最大值？并称该最大化者为极大似然估计量（MLE）。

2. 图示
   观察依据

   她指向似然函数示意图的峰值位置。

一旦获得似然函数，该片段接下来讨论的应用便是对其求最大值，从而得到极大似然估计量（MLE）。

1. 声音
   观察依据

   教师对比了对固定的 $x$ 代入不同的 $\theta$ 值，与将该表达式视为关于 $\theta$ 的函数（此时数据固定）的观点。

该片段通过改变哪个量被固定，来区分普通的概率密度函数/概率质量函数视角与似然视角。

1. 声音
   观察依据

   在01：40处口述为：‘如果我们最大化对数似然，那就等价于最大化似然函数’。

对数似然作为一种计算工具被应用，因其与似然函数具有单调关系，从而更易求得 MLE。

1. 声音
   观察依据

   在01：48处口述为：‘用对数只是方便得多，因为别忘了，对一个乘积取对数，就等于各个因子对数的和’。

对数将乘积转化为求和这一代数性质，是数学上对数似然更易处理的根本原因。

1. 公式
   观察依据

   黑板展示了$L$的定义，然后是$\ell = \log L$。