回归中的留一法交叉验证

1. 公式
   观察依据

   文字‘SSE = 3.150’、‘SSE = 0.105’和‘SSE = 1.665’分别出现在三幅对应图像的下方。

SSE

平方误差和

非负实数

1. 公式
   观察依据

   文字‘SE = 4.886’、‘SE = 0.274’和‘SE = 13.870’分别出现在第$1/6$折对应的三幅图像下方。

2. 公式
   观察依据

   文字‘SE = 0.309’、‘SE = 0.066’和‘SE = 0.481’分别出现在第$2/6$折对应的三幅图像下方。

SE

单个测试点的平方误差

非负实数

1. 公式
   观察依据

   每个折的三幅图下方均显示标签“SE =”，后接一个数值。

SE

当前折与模型的平方误差。

非负实数。

1. 公式
   观察依据

   每种模型完成六折后，屏幕底部显示文字“Average SE =”。

Average SE

某特定模型在全部六折上的平均平方误差。

非负实数。

1. 公式
   观察依据

   屏幕顶部显示文字“Fold $k/6$”，其中k的取值范围为2到5。

k

当前被用作测试数据的数据点的索引。

从1到6的整数。

1. 声音
   观察依据

   说话人说道：“如果我们有六个数据点，那么我们将进行六次模型评估。”

n

数据集中的数据点总数。

正整数。

1. 字幕依据
   观察依据

   点3指出：“需进行 n 次模型拟合”。

n

数据集中的数据点个数。

正整数。

1. 字幕依据
   观察依据

   第4点指出：“使用k折交叉验证（k＝5或10）”。

k

k折交叉验证中所用的折数。

整数，通常对较大数据集取5或10。

1. 声音
   观察依据

   讲解者说明：从六个点中选取五个用于训练，一个用于测试；然后对其他数据点重复该过程。

2. 动画
   观察依据

   动画展示：在多轮交叉验证中，不同数据点依次以红色高亮显示为测试数据，其余点保持蓝色作为训练数据。

一种模型评估方法，每次用除一个数据点外的所有数据点训练模型，并用剩余的那个点进行测试；该过程反复执行，使得每个数据点恰好作为一次测试集。

1. 适用于数据集较小的情形。

2. 需要对 n 个数据点分别拟合模型 n 次。

1. 声音
   观察依据

   说话人提到：若不对数据进行评估，而是直接用全部数据拟合模型，则需计算平方误差和。

2. 公式
   观察依据

   每个在完整数据集上拟合的模型均显示其 SSE 值。

观测因变量与回归模型预测值之差的平方和，在整个训练数据集上计算得到。

1. 使用所有可用数据点进行计算。

2. 未考虑模型对新数据的泛化能力。

1. 声音
   观察依据

   说话人指出：将模型拟合结果与测试数据对比，并利用残差计算平方误差。

2. 公式
   观察依据

   每个模型基于单个预留的测试点所对应的 SE 值均被显示。

预留测试点的实际值与用其余数据训练所得模型预测值之差的平方。

1. 针对单个预留的测试点进行计算。

2. 用于评估模型在未见过的数据上的性能。

1. 声音
   观察依据

   主讲人解释了将第三个、第四个和第五个数据点依次作为测试数据，其余数据点则作为训练数据，重复该过程。

2. 动画
   观察依据

   动画显示，在每一次交叉验证中，一个不同的红色单点成为测试点，而其余五个青色点则作为训练数据。

在留一法交叉验证（LOOCV）中，模型在除一个数据点外的所有数据点上进行训练，剩余的单个数据点则用作测试集。该过程重复进行，使得每个数据点恰好作为一次测试集。

1. 数据集必须包含有限个数据点，记为 n。

2. 每次迭代使用 n-1 个点进行训练，使用 1 个点进行测试。

1. 公式
   观察依据

   每幅图下方均显示标签“SE = [value]”。

2. 声音
   观察依据

   主讲人提到，对每一次交叉验证都得到一个“平方误差”。

平方误差用于衡量拟合模型所预测的值与测试数据点的实际观测值之间的差异。

1. 需要一个已拟合的模型以及一个预留的测试数据点。

1. 留一法交叉验证过程

1. 公式
   观察依据

   在展示给定模型全部六次交叉验证后，屏幕上显示文字“Average SE = [value]”。

2. 声音
   观察依据

   主讲人指出：“计算这六个折的平均平方误差。”

在分别计算每一折的平方误差后，对所有折取平均值，从而得到一个用于衡量模型性能的单一指标。

1. 必须完成留一法交叉验证（LOOCV）的全部 n 折。

1. 平方误差度量
2. 留一法交叉验证过程

1. 公式
   观察依据

   总结幻灯片列出了线性模型、二次模型和分段模型的平均平方误差（Average SE）。

2. 声音
   观察依据

   主讲人说：“现在我们根据各自的平均平方误差，对这三个模型逐一进行比较。”

可通过留一法交叉验证（LOOCV）评估各回归模型的平均平方误差来比较不同候选模型；平均误差最低的模型被认为最能泛化到新数据。

1. 必须使用同一数据集和相同的留一法交叉验证（LOOCV）流程来评估多个候选模型。

1. 留一法交叉验证（LOOCV）中的平均平方误差

1. 字幕依据
   观察依据

   屏幕文字显示：“适用于小规模数据集——此时数据十分珍贵”以及“对大规模数据集计算开销大：需拟合 n 个模型”。

2. 声音
   观察依据

   主讲人指出，该方法适用于小规模数据集，但在数据集非常大时计算成本会显著升高。

留一交叉验证（LOOCV）在小数据集上非常有效，因为它在每次折中都最大限度地利用了可用的训练数据。然而，它要求对模型拟合 n 次，因此在大数据集上计算开销很大。

1. 数据集大小 n 通常较小。

2. 计算资源足以支持进行 n 次模型拟合。

1. 留一法交叉验证过程

1. 字幕依据
   观察依据

   第1点指出：“留一法交叉验证（LOOCV）中，每个数据点恰好被用作一次测试数据”。

留一法交叉验证（LOOCV）是一种重采样方法，其中数据集中的每个观测值恰好被用作一次验证（测试）数据，其余所有观测值构成训练集。

1. 适用于任意规模的数据集，但主要推荐用于小规模数据集。

1. 字幕依据
   观察依据

   点3指出：“对大规模数据集计算开销大：需进行 n 次模型拟合”。

2. 声音
   观察依据

   讲解者说明：对于6个数据点和3个模型，共需进行18次不同的模型拟合。

对于包含 n 个数据点的数据集，使用留一法交叉验证评估单个模型需要拟合模型 n 次。若待选模型共有 m 个，则总共需要进行 $n * m$ 次模型拟合。

1. n 表示数据点的数量。

2. m 表示待评估的候选模型数量。

1. 留一法交叉验证（LOOCV）的定义

1. 字幕依据
   观察依据

   要点4指出：“对于较大的数据集，应采用 k 折交叉验证（$k = 5$ 或 10）。”

2. 声音
   观察依据

   主讲人总结道：若数据集较大，最好采用 k 折交叉验证。

k 折交叉验证是一种推荐用于较大数据集的重采样方法，旨在降低计算成本。它将数据划分为 k 个子集（即“折”），通常取 $k = 5$ 或 10，每种候选模型仅需拟合 k 次，而非 n 次。

1. 当数据集大小 n 较大时推荐使用。

2. k 的典型取值为 5 或 10。

1. 留一法交叉验证的计算成本

1. 声音
   观察依据

   主讲人总结道：‘我们可以看到，二次多项式模型在全部六个不同的测试数据点上均给出了最佳拟合。’

2. 公式
   观察依据

   总结幻灯片显示：二次模型平均标准误 = 0.083，低于线性模型（1.724）和分段线性模型（3.577）。

对于给定的包含六个数据点的数据集，基于 LOOCV 所得最低平均平方误差，二次多项式模型提供了最佳拟合。

1. 该数据集由六个特定的数据点组成。

2. 所评估的模型包括线性模型、二次模型和分段线性模型。

3. 评估指标为 LOOCV 得到的平均平方误差。

存在量词作用于这三个模型构成的集合。

1. 声音
   观察依据

   主讲人指出：‘它是一个既能很好拟合数据，又能泛化到新数据的模型。’

通过留一交叉验证（LOOCV）选出的模型，若其平均平方误差较低，则预期该模型对新的、未见过的数据具有良好的泛化能力。

1. 该模型使用留一交叉验证进行了评估。

2. 与其他候选模型相比，其平均平方误差较低。

对满足假设的所有模型，隐含全称量词。

1. 字幕依据
   观察依据

   屏幕文字显示：'对于较大的数据集，请使用 k 折交叉验证（$k=5$ 或 $k=10$）'。

当数据集较大、留一交叉验证在计算上不可行时，应改用 k 折交叉验证，其中 $k=5$ 或 $k=10$。

1. 数据集规模较大。

2. 计算效率成为需要考虑的因素。

条件语句。

1. 声音
   观察依据

   讲述者描述留一法交叉验证（LOOCV）的逐步执行过程。

2. 动画
   观察依据

   画面演示将数据划分为训练集与测试集、拟合模型，以及对多个折数计算平方误差（SE）。

1. 公式

   $$$$
   解释

   选取 $n-1$ 个数据点作为训练集，1 个数据点作为测试集。

   步骤依据

   由讲述者口述，并通过高亮显示 5 个蓝色点和 1 个红色点来呈现。

   视频直接表达
2. 公式

   $$$$
   解释

   将候选模型（线性、二次、分段）拟合到训练数据上。

   步骤依据

   曲线经过蓝色训练点绘制而成。

   视频直接表达
3. 公式

   $$$$
   解释

   用单个测试数据点评估已拟合模型，以计算平方误差（SE）。

   步骤依据

   垂直虚线表示测试点到曲线的残差，同时显示对应的 SE 数值。

   视频直接表达
4. 公式

   $$$$
   解释

   对全部 n 个数据点依次作为测试集重复该过程。

   步骤依据

   讲述者说‘我们对其他数据点也重复这一操作’，动画随之切换至第 $2/6$ 折。

   视频直接表达

留一交叉验证（LOOCV）通过遍历所有可能的单点测试集，系统性地评估模型的泛化能力。

1. 动画
   观察依据

   视频依次演示了第 $2/6$ 折至第 $5/6$ 折的过程，展示每次测试点的变化以及每个模型对应的平方误差（SE）更新。

2. 公式
   观察依据

   每个折次的个体标准误（SE）值分别列出，随后计算每种模型类型的‘平均标准误（Average SE）’。

1. 公式

   $$\text{For } i = 1 \text{ to } n:$$
   解释

   遍历全部 n 个数据点。

   步骤依据

   留一法交叉验证的定义。

   视频直接表达
2. 公式

   $$\text{Train model on all points except } x_i$$
   解释

   使用剩余的 n-1 个数据点作为训练数据，拟合所选回归模型。

   步骤依据

   留一法交叉验证（LOOCV）方法论。

   视频直接表达
3. 公式

   $$SE_i = (y_i - \hat{y}_i)^2$$
   解释

   使用被留出的点 $x_i$ 作为测试数据，计算平方误差。

   步骤依据

   平方误差指标的定义。

   视频直接表达
4. 公式

   $$\text{Average SE} = \frac{1}{n} \sum_{i=1}^{n} SE_i$$
   解释

   计算所有个体平方误差的均值，以获得该模型的最终性能评分。

   步骤依据

   交叉验证中的聚合步骤。

   视频直接表达

平均标准误（Average SE）为模型的样本外误差提供了稳健估计。

1. 声音
   观察依据

   讲解者列举了三种不同的模型：线性模型、二次多项式模型和分段线性函数模型。

2. 动画
   观察依据

   三幅并排的图像分别展示了用红色直线、黄色抛物线和青色分段直线拟合数据点的结果。

对包含六个点的二元数据集拟合三种不同模型，并计算各自的平方误差和（SSE）。

1. 包含6个数据点的二元数据集。

2. 三种模型：线性模型、二次模型、分段线性模型。

计算每种模型在全部数据上的拟合平方误差和（SSE）。

1. 公式

   $$$$
   解释

   对全部6个点拟合一个线性模型。

   步骤依据

   一条红色直线穿过这些点。

   视频直接表达
2. 公式

   $$$$
   解释

   对全部6个点拟合一个二次模型。

   步骤依据

   一条黄色抛物线穿过这些点。

   视频直接表达
3. 公式

   $$$$
   解释

   对全部6个点拟合一个分段线性模型。

   步骤依据

   青色的连接线段依次通过各数据点绘制而成。

   视频直接表达
4. 公式

   $$SSE = 3.150$$
   解释

   计算线性模型的误差平方和（SSE）。

   步骤依据

   显示在线性图像下方的屏幕上。

   视频直接表达
5. 公式

   $$SSE = 0.105$$
   解释

   计算二次模型的误差平方和（SSE）。

   步骤依据

   显示在二次图像下方的屏幕上。

   视频直接表达
6. 公式

   $$SSE = 1.665$$
   解释

   计算分段模型的误差平方和（SSE）。

   步骤依据

   显示在分段图像下方的屏幕上。

   视频直接表达

误差平方和（SSE）值分别为：3.150（线性模型）、0.105（二次模型）和1.665（分段模型）。

通过目视观察曲线经过各数据点的情况，可确认二次模型的SSE很低，该模型几乎完美地拟合了所有数据点。

1. 动画
   观察依据

   整个视频在固定的一组六个青色数据点上可视化展示留一法交叉验证（LOOCV）过程，这些点绘制于一个 2D 笛卡尔坐标系中。

2. 公式
   观察依据

   线性模型、二次模型和分段模型的标准误差（SE）与平均标准误差（Average SE）的具体数值已显示。

1. 六个数据点的精确坐标未在文字或音频中明确说明，仅以可视化方式呈现。

使用留一法交叉验证（LOOCV），在包含六个数据点的数据集上评估并比较三种回归模型（线性模型、二次模型、分段线性模型）。

1. 一个恰好包含六个数据点的数据集。

2. 三个候选模型：线性模型、二次模型和分段线性模型。

确定哪种模型具有最低的平均平方误差（Average Squared Error），从而提供最佳拟合效果。

1. 公式

   $$\text{Perform LOOCV for Linear Model}$$
   解释

   对线性模型进行6次训练，每次留出一个数据点，然后计算每次折叠的平方误差（SE）。

   步骤依据

   留一法交叉验证（LOOCV）方法的应用。

   视频直接表达
2. 公式

   $$\text{Average SE}_{linear} = 1.724$$
   解释

   计算并显示线性模型六次平方误差的平均值。

   步骤依据

   各折叠结果的汇总。

   视频直接表达
3. 公式

   $$\text{Perform LOOCV for Quadratic Model}$$
   解释

   对二次多项式模型重复执行留一法交叉验证（LOOCV）过程。

   步骤依据

   将留一交叉验证（LOOCV）方法应用于第二个模型。

   视频直接表达
4. 公式

   $$\text{Average SE}_{quadratic} = 0.083$$
   解释

   计算二次模型的平均平方误差。

   步骤依据

   汇总各折的结果。

   视频直接表达
5. 公式

   $$\text{Perform LOOCV for Piecewise Model}$$
   解释

   对分段线性函数重复执行留一交叉验证（LOOCV）过程。

   步骤依据

   将留一交叉验证（LOOCV）方法应用于第三个模型。

   视频直接表达
6. 公式

   $$\text{Average SE}_{piecewise} = 3.577$$
   解释

   计算分段模型的平均平方误差。

   步骤依据

   汇总各折的结果。

   视频直接表达
7. 公式

   $$\min(1.724, 0.083, 3.577) = 0.083$$
   解释

   比较三个平均平方误差，找出其中最小值。

   步骤依据

   以误差最低为准则进行模型选择。

   依据视频推导

二次模型拟合效果最佳，其平均平方误差为0.083。

在时间点01:18出现的总结幻灯片明确列出了三个模型各自的平均平方误差，证实二次模型的值最低。

1. 声音
   观察依据

   主讲人提到：“我们有六个数据点……拟合了六种不同的线性模型、六种不同的二次多项式模型，以及六种不同的分段线性函数……总共进行了十八次不同的模型拟合。”

使用留一法交叉验证（LOOCV）在包含6个数据点的数据集上，从三个候选模型中选出最优模型，需进行多少次模型拟合？

1. 数据点数量 $n = 6$。

2. 候选模型数量 $m = 3$（线性模型、二次模型、分段线性模型）。

计算模型拟合的总次数。

1. 解释

   单个模型使用LOOCV所需的拟合次数等于数据点数量（$n = 6$）。

   步骤依据

   LOOCV的定义要求每次留出一个数据点。

   视频直接表达
2. 解释

   将每个模型所需的拟合次数乘以候选模型总数（6次拟合/模型 × 3个模型）。

   步骤依据

   全部3个候选模型均须使用LOOCV完整评估。

   视频直接表达

18种不同的模型拟合。

对应的式子为：$6 \times 3 = 18$。

1. 动画
   观察依据

   六个黄色数据点依次出现在一个2维笛卡尔坐标系中。

1. 2D 笛卡尔坐标轴

2. 六个黄色数据点

1. 数据点逐个出现。

1. 坐标系保持静止。

构建用于本次演示的小型双变量数据集。

1. 动画
   观察依据

   屏幕清空，文字从“Fold $1/6$”变为“Fold $2/6$”，同时一个不同的点被高亮为红色，其余点为蓝色。

1. 文字标签显示为“Fold $1/6$”和“Fold $2/6$”

2. 数据点以红色和蓝色着色

1. 测试点从第一个点切换至第二个点。

2. 训练点相应更新。

3. 模型重新拟合，并计算新的标准误（SE）值。

1. 包含6个数据点的底层数据集保持不变。

2. 三种模型类型保持不变。

展示了留一法交叉验证（LOOCV）的迭代特性。

1. 动画
   观察依据

   屏幕在“第2折/共6折”、“第3折/共6折”、“第4折/共6折”以及“第5折/共6折”之间切换；每次切换时，一个单独的数据点变为红色（测试数据），其余点保持青色（训练数据）。

1. 六个数据点（青色和红色）

2. 三个坐标平面

3. 拟合曲线（红色直线、绿色抛物线、蓝色分段函数）

4. SE 标签

1. 红色测试点的身份随每次折叠而改变。

2. 拟合曲线随之更新，以反映在新的五个点子集上的训练结果。

3. SE 值根据新的测试点重新计算。

1. 数据点的总数保持为六个。

2. 正在评估的三种模型类型保持不变。

3. 坐标系的坐标轴保持固定。

直观地展示了留一法交叉验证（LOOCV）的核心机制：系统性地轮换唯一被留出的测试点，同时在其余数据上重新训练模型。

1. 动画
   观察依据

   黑屏上显示白色文字，总结结果：“留一法交叉验证（LOOCV）结果摘要”，随后列出线性模型、二次模型和分段模型的平均标准误（Average SE）。

1. 各模型的文字标签

2. 平均标准误（Average SE）的数值

1. 无；此为聚合结果的静态展示。

1. 三个具体的平均标准误值（1.724、0.083、3.577）。

在留一法交叉验证（LOOCV）框架下，对三种模型的性能提供清晰、定量的对比，便于立即识别表现最优的模型。

1. 动画
   观察依据

   标题为“关键要点：留一法交叉验证”的幻灯片出现，列出关于该方法的定义、适用场景、局限性及替代方案的四条要点。

1. 标题文字

2. 四条带编号的要点

1. 无；静态文字展示。

1. 关于留一法交叉验证（LOOCV）的四个关键要点。

整合了对留一法交叉验证（LOOCV）的理论理解，强调其程序性定义、理想适用场景（小规模数据集）、计算缺陷（当样本量 n 较大时开销高昂），以及标准替代方案（k 折交叉验证）。

1. 图示
   观察依据

   标题为‘关键要点：留一法交叉验证’的静态演示幻灯片，含四个带编号的要点，分别概括该方法、其理想适用场景、计算开销，以及适用于更大数据集的替代方案。

1. 标题文字

2. 四个带编号的要点

3. 页脚文字，注明课程名称与授课教师

1. 该幻灯片在整个59秒片段中完全静止不动。

该视觉内容以结构化方式总结了留一法交叉验证的关键理论要点与实践要点，用以强化音频讲解。

1. 声音
   观察依据

   主讲人指出，在全部数据上计算残差平方和（SSE）‘并不足够，因为我们实际上无法得知这些模型在新数据上的泛化能力如何。’

训练数据上的残差平方和（SSE）较低，就保证了该模型对新出现的、未见过的数据也表现良好。

全数据集上的SSE仅衡量样本内拟合效果，它既未考虑过拟合问题，也无法反映模型在新数据上的泛化能力，因此需要留一法交叉验证（LOOCV）等技术。

1. 字幕依据
   观察依据

   文字说明：‘对于较大数据集计算开销高昂：需拟合 n 个模型’以及‘对于较大数据集，应采用 k 折交叉验证（$k=5$ 或 10）’。

2. 声音
   观察依据

   主讲人指出，当数据集非常大时，其计算开销会变得高昂。

留一法交叉验证（LOOCV）在任何数据集规模下均普遍适用且高效。

留一法交叉验证（LOOCV）需对模型拟合 n 次，因此在数据集较大时计算上不可行；k 折交叉验证（例如 $k=5$ 或 10）是处理较大数据集时的首选替代方案。

1. 声音
   观察依据

   主讲人将针对测试数据的评估与计算平方误差（SE）联系起来。

LOOCV通过对单个被留出的测试点计算平方误差（SE），来衡量模型的泛化能力。

1. 公式
   观察依据

   SSE展示的是全数据集的结果，而LOOCV中展示的SE则对应单个测试点。

SSE在全部训练集上汇总误差，而LOOCV中的SE则聚焦于单个未见过的测试点上的误差，以此评估泛化能力。

1. 声音
   观察依据

   主讲人将六折完成与平均平方误差的计算关联起来。

平均平方误差的计算严格依赖于先在整个 n 折上完整执行留一法交叉验证（LOOCV）过程。

1. 声音
   观察依据

   主讲人利用所计算出的平均平方误差，在三个模型之间进行比较。

平均平方误差这一指标被直接用作比较并选出最优回归模型的判据。

1. 字幕依据
   观察依据

   文字明确指出留一法交叉验证（LOOCV）‘最适合小规模数据集’。

留一交叉验证（LOOCV）方法的定义及其操作特性本身就隐含了一个条件：由于其训练数据利用策略，该方法最适合小规模数据集。

1. 字幕依据
   观察依据

   要点3指出，留一法交叉验证在数据集较大时计算开销高昂；要点4建议对较大数据集采用k折交叉验证。

k折交叉验证被呈现为一种计算开销更低的替代方案，专用于较大规模的数据集，以取代留一法交叉验证。

1. 声音
   观察依据

   主讲人解释了将小规模数据集划分为训练集/测试集所面临的困难，以及单纯使用SSE的不足之处。

1. 留一法交叉验证（LOOCV）
2. 平方误差和（SSE）
3. 混淆样本内拟合与泛化能力

1. 声音
   观察依据

   讲解者说明选择5个训练点和1个测试点的过程，并重复该过程。

2. 动画
   观察依据

   画面展示折叠过程。

1. 留一法交叉验证（LOOCV）

1. 声音
   观察依据

   主讲人描述了依次将每个数据点用作测试数据的过程。

1. 留一法交叉验证过程

1. 公式
   观察依据

   总结页幻灯片显示，二次模型的平均标准误最低。

1. 通过留一法交叉验证（LOOCV）进行模型比较
2. 二次模型更优

1. 字幕依据
   观察依据

   要点页幻灯片列出了大规模数据集上的计算开销问题。

1. 留一法交叉验证（LOOCV）的适用性与局限性
2. 关于留一法交叉验证（LOOCV）可扩展性的误解

1. 声音
   观察依据

   主讲人提到在全部六折上计算平均平方误差。

1. 留一法交叉验证（LOOCV）中的平均平方误差

1. 声音
   观察依据

   关于留一法交叉验证为何计算开销高昂的讨论。

1. 留一法交叉验证的计算成本

1. 字幕依据
   观察依据

   要点4建议对较大数据集采用k折交叉验证。

1. k 折交叉验证的替代方案