标准化与归一化清晰讲解！

1. 声音
   观察依据

   主讲人说：“假设 x 是原始数据集中的一个连续型特征。”

2. 公式
   观察依据

   屏幕文字显示：“原始特征：x”

x

预处理前的连续型原始特征。

连续型数值。

1. 公式
   观察依据

   屏幕文字显示：“缩放：x' = $x / 2$”

2. 声音
   观察依据

   主讲人说：“现在我将 x 的每个值都除以 2。”

x'

将原始特征除以 2后得到的缩放版本。

连续型数值。

1. 公式
   观察依据

   屏幕文字显示：“缩放与平移：x' = (x - 7) / 2”

2. 声音
   观察依据

   主讲人说：“这里我先减去 7，再除以 2。”

x'

减去 7并除以 2后得到的变换特征。

连续型数值。

1. 公式
   观察依据

   屏幕文字显示：“最小-最大归一化：x' = (x - x_min) / (x_max - x_min)”。

2. 声音
   观察依据

   说话人提到“x 的最小值”。

$x_{\min}$

数据集中特征 x 的最小值。

来自该特征分布的一个标量值。

1. 公式
   观察依据

   屏幕文字显示：“最小-最大归一化：x' = (x - x_min) / (x_max - x_min)”。

2. 声音
   观察依据

   说话人提到“x 的最大……值”。

$x_{\max}$

数据集中特征 x 的最大值。

来自该特征分布的一个标量值。

1. 公式
   观察依据

   屏幕文字显示：“最小-最大归一化：x' = (x - x_min) / (x_max - x_min)”。

x'

原始特征经最小-最大归一化后的版本。

连续型数值。

1. 公式
   观察依据

   出现在文本“原始特征：x”以及最小-最大归一化和标准化的公式中。

2. 声音
   观察依据

   在解释变换过程时被称为“x”。

x

变换前的原始特征值。

实数

1. 公式
   观察依据

   出现在最小-最大归一化和标准化方程的左侧。

x'

应用归一化或标准化后得到的变换后特征值。

实数

1. 公式
   观察依据

   出现在最小-最大归一化公式的分子和分母中。

x_{min}

数据集中原始特征x的最小值。

实数

1. 公式
   观察依据

   出现在最小-最大归一化公式的分母中。

x_{max}

数据集中原始特征x的最大值。

实数

1. 公式
   观察依据

   出现在标准化公式分子中。

2. 声音
   观察依据

   称为“均值”。

$\bar{x}$

数据集中原始特征 x 的均值（平均值）。

实数

1. 公式
   观察依据

   出现在标准化公式分母中。

2. 声音
   观察依据

   称为“标准差”。

$\sigma$

数据集中原始特征 x 的标准差。

正实数

1. 声音
   观察依据

   说话人说：“嗯，这是一个特征缩放的例子，我们实际上将该特征缩小为原来的一半。”

2. 公式
   观察依据

   屏幕文字显示“缩放：x' = $x / 2$”。

3. 动画
   观察依据

   一个紫色直方图出现在青绿色直方图左侧，显示分布被压缩向零点。

特征缩放是指将某个特征的取值乘以或除以一个常数，从而改变其取值范围。在视频中，将 x 的每个取值都除以 2，会使直方图收缩。

1. 适用于连续型数值特征。

1. x

1. 声音
   观察依据

   说话人说：“我们也可以先减去一个数，再除以另一个数。”

2. 公式
   观察依据

   屏幕文字显示“缩放与平移：x' = (x - 7) / 2”。

3. 动画
   观察依据

   一个红色直方图出现在更左侧，显示分布发生了平移和收缩。

缩放与平移是指先从特征取值中减去一个常数，再除以另一个常数。这会同时改变数据分布的位置和离散程度。

1. 适用于连续型数值特征。

1. 特征缩放

1. 声音
   观察依据

   说话人说：“如果我们用 x 的最小值来减去 x，再除以 x 的最大值与最小值之差，就称之为最小-最大归一化。”

2. 公式
   观察依据

   屏幕文字显示：“最小-最大归一化：x' = (x - x_min) / (x_max - x_min)”。

3. 动画
   观察依据

   一个粉红色直方图在x轴上紧密聚集于零附近。

最小-最大归一化是一种特定的缩放与平移方法，其中减去的值是该特征的最小值，除数是该特征的极差（即最大值减最小值）。该方法将数据缩放到一个标准区间，通常为0到1。

1. 适用于连续型数值特征。

2. 需要事先知道该特征的最小值和最大值。

1. 缩放与平移
2. $x_{\min}$
3. $x_{\max}$

1. 公式
   观察依据

   最小-最大归一化：x' = (x - x_{min}) / (x_{max} - x_{min})

2. 声音
   观察依据

   最小-最大归一化将数据映射到零到一的范围内。

最小-最大归一化是一种线性变换，它将原始特征值缩放到一个固定范围，通常是0到1。该方法从每个数据点中减去该特征的最小值，再除以该特征的极差（最大值减最小值）。

1. 该特征必须具有明确定义的最小值和最大值。

2. 最大值与最小值不能相等（以避免除零错误）。

1. 公式
   观察依据

   标准化：x' = ($x - \bar{x}$) / $\sigma$

2. 声音
   观察依据

   此处我们用 x 减去其均值，再除以其标准差。

3. 声音
   观察依据

   标准化是一种线性变换，其作用仅仅是使均值为零、标准差为一。

标准化（又称 Z 分数归一化）是一种线性变换，它将数据以零为中心进行平移，并缩放至标准差为一。该方法从每个数据点中减去该特征的均值，再除以其标准差。

1. 该特征必须具有明确定义的均值和标准差。

2. 标准差不能为零（以避免除零错误）。

1. 公式
   观察依据

   θᵢ 更新为 θᵢ 减去 α 乘以 $J(θ)$ 对 θᵢ 的偏导数

2. 声音
   观察依据

   采用经典的梯度下降算法。

梯度下降是一种优化算法，通过沿代价函数关于各参数的梯度的反方向迭代更新模型参数，从而最小化代价函数。

1. 代价函数 J 必须关于参数 θ 可微。

2. 学习率 α 必须适当选取，以确保收敛。

1. 公式
   观察依据

   $J(θ1, θ2) = 1$ 除以 2m，再乘以求和符号，括号内为 $θ1x1 + θ2x2 - y$ 的 2 次方

2. 声音
   观察依据

   如果我们假设采用最小二乘代价函数……

最小二乘代价函数用于衡量预测值（基于模型参数与特征计算得出）与实际目标值之间的平均平方差，常用于线性回归。

1. 用于回归问题，目标是预测一个连续值。

2. 假设特征与目标变量之间存在线性关系。

1. 公式
   观察依据

   视频展示了参数 theta_1 和 theta_2 的同步更新方程。

这些公式展示了参数 $\theta_1$ 和 $\theta_2$ 如何通过迭代更新来最小化代价函数：每次更新都减去学习率 $\alpha$ 与该参数对应的代价函数平均梯度的乘积。

1. 用于线性回归优化。

1. 公式
   观察依据

   视频展示了均方误差代价函数 J(theta_1, theta_2)。

该公式计算预测值（$\theta_1 x_1 + \theta_2 x_2$）与实际目标值（$y$）在全部 $m$ 个训练样本上的平均平方差。它作为梯度下降旨在最小化的目标函数。

1. 假设采用具有两个特征的线性模型。

1. 声音
   观察依据

   讲解者指出，量级差异极大的特征会导致一个参数的步长过小，而另一个参数的步长过大，从而引发振荡并延缓收敛。

2. 动画
   观察依据

   等高线图呈现出狭长的山谷形状，以及一条朝向最小值点的之字形路径。

当特征具有显著不同的量纲时，其对应参数的梯度也会差异极大。这导致梯度下降的每一步不均衡，形成低效且振荡的收敛路径，并减慢收敛速度。

1. 适用于梯度下降等迭代优化算法。

1. 梯度下降更新规则
2. 均方误差代价函数

1. 声音
   观察依据

   讲解者指出，基于记忆的算法依赖于距离计算，而未经缩放的特征会导致数值范围更大的特征在距离计算中占据主导地位。

2. 动画
   观察依据

   散点图显示数据点在x轴方向上分布很广，在y轴方向上分布很窄；连接两点的线段几乎完全是水平的。

在依赖距离度量的算法（如K近邻或K均值）中，数值范围更大的特征会对总距离产生不成比例的影响。对特征进行归一化可确保每个特征对距离计算的贡献大致相等，从而避免尺度大小决定其重要性。

1. 适用于基于距离的机器学习算法。

1. 字幕依据
   观察依据

   屏幕标题显示：“为什么特征缩放很重要？”，

2. 字幕依据
   观察依据

   屏幕上可见两个要点：“收敛更快”和“恰当计算距离”。

3. 图示
   观察依据

   第二个要点旁配有一张散点图，图中有一条黄色直线，以及若干着色的直角三角形线段。

该片段提出了特征缩放重要的两个原因：它可使算法收敛得更快，也有助于恰当计算距离。所附示意图通过将坐标差表示为水平与垂直两个独立分量，并以一条对角线段连接它们，来强调“距离计算”这一要点。

1. 内容以总结性幻灯片形式呈现，而非推导过程。

2. 本片段中未出现任何公式或算法名称。

1. 声音
   观察依据

   初学者中存在一个巨大误解：认为只要进行标准化，数据分布就会变成正态分布。这显然是错误的。

2. 声音
   观察依据

   事实上，标准化是一种线性变换，它仅将均值变为零、标准差变为一。

3. 动画
   观察依据

   展示了一个高度偏斜的分布；在应用标准化后，其形状依然偏斜，并未变成钟形曲线。

对数据集进行标准化不会改变其分布的整体形状；它仅将均值平移至零，并将标准差缩放为一。

1. 该数据集具有明确定义的均值和标准差。

适用于任意数据集。

1. 声音
   观察依据

   讲解者明确指出，步长差异可能导致不希望出现的振荡，并延缓收敛。

2. 动画
   观察依据

   在等高线图中可视化振荡路径。

如果特征的取值范围差异很大，优化过程中梯度幅值的差异就可能引发不希望出现的振荡，并延缓收敛。

1. 特征具有显著不同的量级。

2. 使用了梯度下降等迭代优化算法。

针对所有此类特征集及优化过程。

1. 声音
   观察依据

   讲解者指出，在计算距离时，由于水平方向的数值尺度更大，其分量会主导垂直方向的分量，但这并不一定意味着它更重要。

2. 动画
   观察依据

   展示了一条近乎水平的线段，表示未缩放散点图中两点之间的距离。

在计算数据点之间的距离时，数值范围更大的特征将主导距离度量，无论其实际预测重要性如何。

1. 特征未经过缩放或归一化处理。

2. 距离使用标准度量（如欧氏距离）进行计算。

针对数据集中任意一对点。

1. 声音
   观察依据

   我们为何要关注特征缩放与归一化？第一个原因是实现更快的收敛。

2. 公式
   观察依据

   展示了梯度下降更新规则和最小二乘损失函数。

1. 视频在完全解释未缩放特征如何影响梯度下降步骤之前就中断了。

1. 公式

   $$$$
   解释

   特征缩放与归一化之所以重要，主要是为了在模型训练过程中实现更快的收敛。

   步骤依据

   音频中直接说明。

   视频直接表达
2. 公式

   $$\theta_i := \theta_i - \alpha \frac{\partial J(\theta)}{\partial \theta_i}$$
   解释

   在梯度下降等算法中，参数根据损失函数的梯度进行更新。

   步骤依据

   公式显示在屏幕上，并在音频中提及。

   视频直接表达
3. 公式

   $$J(\theta_1, \theta_2) = \frac{1}{2m} \sum (\theta_1 x_1 + \theta_2 x_2 - y)^2$$
   解释

   对于包含两个特征的最小二乘损失函数，其梯度依赖于这两个特征的取值。

   步骤依据

   公式显示在屏幕上，并在音频中提及。

   视频直接表达

未缩放的特征可能导致某些参数的梯度很大，而另一些参数的梯度很小，从而造成收敛缓慢且效率低下。（注：视频暗示了这一点，但在明确得出该结论前就中断了。）

1. 声音
   观察依据

   讲解者根据所展示的更新公式，推断小 $x_1$ 和大 $x_2$ 对 theta_1 与 theta_2 步长的影响。

2. 公式
   观察依据

   更新公式显示 $x_1$ 和 $x_2$ 均乘以误差项。

1. 公式

   $$\Delta \theta_1 \propto x_1$$
   解释

   参数 $\theta_1$ 的变化量正比于特征值 $x_1$。

   步骤依据

   从梯度下降更新规则的结构中可以看出。

   视频直接表达
2. 公式

   $$x_1 \in (0, 1) \implies \Delta \theta_1 \text{ is small}$$
   解释

   由于$x_1$的取值范围较小，因此$\theta_1$的步长也会较小。

   步骤依据

   结合数学比例关系的语音讲解。

   视频直接表达
3. 公式

   $$\Delta \theta_2 \propto x_2$$
   解释

   参数$\theta_2$的变化量与特征值$x_2$成正比。

   步骤依据

   从梯度下降更新规则的结构中可以看出。

   视频直接表达
4. 公式

   $$x_2 \in (100, 1000) \implies \Delta \theta_2 \text{ is large}$$
   解释

   由于$x_2$的取值范围较大，因此$\theta_2$的步长也会较大。

   步骤依据

   结合数学比例关系的语音讲解。

   视频直接表达

尺度差异较大的特征会导致梯度下降过程中对应参数的更新幅度不成比例。

1. 声音
   观察依据

   说话人说：“现在我将把x的每个值都除以2。”

2. 公式
   观察依据

   屏幕文字显示：“缩放：x' = $x / 2$”。

3. 动画
   观察依据

   紫色直方图相较于原始的青绿色直方图显得被压缩。

通过将一个连续型特征除以2来演示特征缩放。

1. 一个具有给定直方图分布的连续型特征x。

展示将 x 除以2如何影响其分布。

1. 公式

   $$x' = \frac{x}{2}$$
   解释

   将特征 x 的每个取值都除以2。

   步骤依据

   视频中给出的特征缩放定义。

   视频直接表达

该特征的分布被压缩，如紫色直方图向零点靠近所示。

紫色直方图与原始青色直方图的可视化对比。

1. 声音
   观察依据

   说话人说：“这里我先减去7，再除以2。”

2. 公式
   观察依据

   屏幕文字显示：“缩放与平移：x' = (x - 7) / 2”。

3. 动画
   观察依据

   红色直方图相对于原始青色直方图向左平移并被压缩。

通过减去7并除以2来演示缩放与平移。

1. 一个具有给定直方图分布的连续特征 x。

展示减去7并除以2如何影响其分布。

1. 公式

   $$x' = \frac{x - 7}{2}$$
   解释

   从特征 x 的每个取值中减去7，再将结果除以2。

   步骤依据

   视频中介绍的缩放与平移定义。

   视频直接表达

该特征的分布向左平移并收缩，如红色直方图所示。

红色直方图与原始青绿色直方图的直观对比。

1. 声音
   观察依据

   说话人说：“若用 x 减去 x 的最小值，再除以 x 的最大值与最小值之差，则称之为最小-最大归一化。”

2. 公式
   观察依据

   屏幕文字显示：“最小-最大归一化：x' = (x - x_min) / (x_max - x_min)”。

3. 动画
   观察依据

   粉色直方图显示数据紧密聚集在零附近。

使用该特征的最小值和最大值来演示最小-最大归一化。

1. 一个具有给定直方图分布的连续特征 x。

2. 该特征的最小值 x_min 和最大值 x_max。

展示最小-最大归一化对该分布的影响。

1. 公式

   $$x' = \frac{x - x_{\min}}{x_{\max} - x_{\min}}$$
   解释

   从每个数据点中减去 x 的最小值，再除以极差（x_max - x_min）。

   步骤依据

   视频中给出的最小-最大归一化定义。

   视频直接表达

该分布被缩放到一个起始值接近零的狭窄区间，粉红色直方图直观地展示了这一效果。

粉红色直方图与原始青色直方图的可视化对比。

1. 声音
   观察依据

   我们来看一个极度偏斜的分布。如果对这个分布进行标准化处理，你会发现其形状并不像正态分布，对吗？

2. 动画
   观察依据

   屏幕上显示一个蓝色直方图，代表高度右偏的分布；随后显示一个橙色直方图，代表同一组数据经标准化后的结果，其仍保持右偏的形状。

演示标准化对高度偏斜分布的影响。

1. 一个高度右偏的分布（用蓝色直方图表示）。

检验标准化是否能将该偏斜分布转化为正态分布。

1. 公式

   $$$$
   解释

   从一个高度右偏的分布开始。

   步骤依据

   以蓝色直方图直观呈现。

   视频直接表达
2. 公式

   $$x' = \frac{x - \bar{x}}{\sigma}$$
   解释

   对数据应用标准化公式。

   步骤依据

   该公式在视频前文已给出。

   视频直接表达
3. 公式

   $$$$
   解释

   观察变换后所得的分布。

   步骤依据

   以橙色直方图直观呈现。

   视频直接表达

标准化后的分布仍高度右偏；它并未变成正态分布（即钟形分布）。

原始直方图与标准化直方图的视觉对比显示，二者形状完全相同，仅在x轴方向上发生了平移与缩放。

1. 声音
   观察依据

   主讲人给出$x_1$和$x_2$的具体取值范围以说明该问题。

2. 公式
   观察依据

   取值范围写在代价函数下方：$x_1 \in (0, 1)$；$x_2 \in (100, 1000)$。

分析当两个特征具有不同取值范围时，特征缩放对梯度下降收敛性的影响。

1. 特征$x_1$的取值范围为$(0, 1)$。

2. 特征$x_2$的取值范围为$(100, 1000)$。

3. 定义了代价函数$J(\theta_1, \theta_2)$及梯度下降更新规则。

分析特征尺度差异对优化过程的影响。

1. 公式

   $$\theta_1 := \theta_1 - \alpha \frac{1}{m} \sum (\theta_1 x_1 + \theta_2 x_2 - y) x_1$$
   解释

   应用$\theta_1$的更新规则。

   步骤依据

   梯度下降的定义。

   视频直接表达
2. 公式

   $$\theta_2 := \theta_2 - \alpha \frac{1}{m} \sum (\theta_1 x_1 + \theta_2 x_2 - y) x_2$$
   解释

   应用$\theta_2$的更新规则。

   步骤依据

   梯度下降的定义。

   视频直接表达
3. 公式

   $$x_1 \text{ is small} \implies \text{step size for } \theta_1 \text{ is small}$$
   解释

   由于$x_1$乘以误差项，其数值较小时会导致$\theta_1$的更新量较小。

   步骤依据

   代数观察与语音讲解。

   视频直接表达
4. 公式

   $$x_2 \text{ is huge} \implies \text{step size for } \theta_2 \text{ is large}$$
   解释

   由于$x_2$乘以误差项，其数值较大时会导致$\theta_2$的更新量较大。

   步骤依据

   代数观察与语音讲解。

   视频直接表达

步长差异导致优化路径低效振荡，延缓收敛。

在拉长的蓝色等高线图中，以红色锯齿状路径直观呈现。

1. 声音
   观察依据

   主讲人引入一个示例：沿坐标轴分布的两个特征具有不同取值范围，从而影响距离计算。

2. 动画
   观察依据

   散点图显示数据点分布不均；归一化动画将横轴的分布范围压缩。

演示未缩放特征如何影响基于内存的算法中的距离计算。

1. 两个特征分别绘制在横轴与纵轴上。

2. 横轴特征的取值范围远大于纵轴特征。

展示大尺度特征在距离计算中的主导作用，以及归一化的影响。

1. 公式

   $$\text{Distance} \approx \sqrt{(\Delta x_{horizontal})^2 + (\Delta x_{vertical})^2}$$
   解释

   标准欧氏距离公式（由KNN/K均值聚类的上下文隐含）。

   步骤依据

   背景知识应用于该可视化场景。

   补充解释
2. 公式

   $$\Delta x_{horizontal} \gg \Delta x_{vertical}$$
   解释

   由于尺度更大，横轴方向上的差异在数值上显著更大。

   步骤依据

   散点图的视觉观察与语音讲解。

   视频直接表达
3. 公式

   $$\text{Distance} \approx |\Delta x_{horizontal}|$$
   解释

   在平方根下的求和中，垂直分量变得可以忽略。

   步骤依据

   上一步的数学推论。

   依据视频推导
4. 公式

   $$\text{Apply normalization}$$
   解释

   将两个坐标轴按比例缩放，使它们具有可比的取值范围。

   步骤依据

   语音指令与视觉动画。

   视频直接表达
5. 公式

   $$\Delta x'_{horizontal} \approx \Delta x'_{vertical}$$
   解释

   归一化后，两个坐标轴方向上的差异幅度相近。

   步骤依据

   归一化散点图的视觉观察。

   视频直接表达

若不进行归一化，距离计算将主要由量级更大的特征主导；归一化确保两个特征大致同等贡献。

黄色线段在归一化动画前后的视觉对比。

1. 动画
   观察依据

   青色直方图代表原始特征 x；随着不同变换的引入，新的直方图依次出现：紫色表示缩放，红色表示缩放加平移，粉红色表示最小-最大归一化。

1. 青色直方图（原始特征）

2. 紫色直方图（已缩放）

3. 红色直方图（已缩放并平移）

4. 粉红色直方图（最小-最大归一化）

1. 与青色直方图相比，紫色直方图向零方向压缩。

2. 与青色直方图相比，红色直方图向左平移且发生压缩。

3. 粉色直方图在零附近高度集中。

1. 分布的整体形状保持相似，但其在x轴上的位置和尺度发生变化。

这些可视化图示展示了线性变换（缩放、平移和标准化）如何影响数据分布的取值范围和位置，而不会从根本上改变其底层形状。

1. 动画
   观察依据

   先显示一个粉红色直方图，其下方出现文字：‘原始特征：x’、‘最小-最大归一化：x = …’、‘标准化：x = …’。随后直方图颜色变为橙色，且其在x轴上的位置与尺度发生变化，以此说明标准化的效果。之后，显示一个蓝色偏斜直方图，它继而转变为橙色偏斜直方图。

1. 粉色直方图

2. 橙色直方图

3. 蓝色直方图

4. 带数字刻度的横轴

5. 文本形式的公式

1. 直方图颜色从粉色变为橙色，再从蓝色变为橙色。

2. 直方图的位置与宽度沿横轴发生变化，以反映所施加的变换。

1. 标准化之后，分布的整体形状（例如偏态）保持不变。

动画直观地展示了最小-最大归一化与标准化如何对数据分布进行平移和缩放，同时不改变其基本形状。

1. 动画
   观察依据

   文字‘为什么特征缩放很重要？’出现，随后显示‘- 收敛更快’；接着依次展示梯度下降与最小二乘代价函数的数学公式。

1. 文字标题

2. 数学方程

1. 公式逐个出现在屏幕上。

1. 背景始终保持深色。

视觉呈现介绍了特征缩放必要性的理论依据，并将其与梯度下降等优化算法联系起来。

1. 动画
   观察依据

   出现一幅等高线图，显示拉长的椭圆形等高线，以及一条向中心移动的红色锯齿状路径。

1. 蓝色椭圆形等高线

2. 红色之字形箭头/路径

3. 坐标轴标注为$\theta_1$和$\theta_2$

1. 红色路径在等高线的窄维度方向上来回振荡，同时沿长维度方向缓慢前进。

1. 等高线的形状保持不变。

2. 路径的起点和终点保持固定。

说明因特征未缩放导致梯度幅值差异，从而引发低效收敛。

1. 动画
   观察依据

   散点图中绿色点在水平方向上分布较宽，在垂直方向上分布较窄；一条黄色直线连接两个红色点，该直线几乎呈水平。

1. 绿色数据点

2. 红色高亮显示的点

3. 黄色距离线

4. 横轴与纵轴

1. 黄色线段连接两点，显示出较大的水平分量和极小的垂直分量。

1. 绿色圆点的位置在此阶段保持不变。

演示了取值范围更大的特征如何在欧氏距离计算中占据主导地位。

1. 动画
   观察依据

   散点图发生动画变化，压缩了各点的水平分布范围；黄色线段重新绘制，其水平分量与垂直分量均具有显著贡献。

1. 绿色数据点（已移动）

2. 红色高亮显示的点（已移动）

3. 黄色距离线段（已重绘）

4. 水平轴与垂直轴

1. 各点向 y 轴靠近，水平分布范围减小；黄色线段的角度发生变化，以反映水平与垂直分量的均衡贡献。

1. 点之间的相对顺序可能得以保持，但绝对距离发生改变。

表明归一化使得两个特征对距离度量的贡献大致相等。

1. 图示
   观察依据

   一张深色背景幻灯片上，显示一幅笛卡尔风格的散点图，许多青绿色点聚集在原点附近。

2. 图示
   观察依据

   两个红色点被突出显示：一个位于左上方，另一个位于右下方，一条黄色直线段连接这两点。

3. 图示
   观察依据

   一条蓝色垂直线段从上方红色点垂下，一条紫色水平线段从该垂直线段的下端点延伸至下方红色点，从而与黄色线段共同构成一个直角三角形，其中黄色线段为斜边。

1. 坐标轴标签与数字刻度值无法辨认。

1. 散点

2. 两个高亮的红色点

3. 黄色连接线段

4. 蓝色垂直线段

5. 紫色水平线段

6. 坐标轴

1. 前四秒画面保持静止，同时画外音的结束语继续播放。

1. 黄色线段始终表示两个红色点之间的直接间距。

2. 蓝色线段和紫色线段始终分别表示纵坐标差与横坐标差。

该图示说明：两点间的距离可被分解为各坐标方向上的差值。结合本页幻灯片标题，这支持了如下论断：当不同特征具有不同量纲时，特征缩放会影响此类距离是否能被正确计算。

1. 动画
   观察依据

   约在4秒时，幻灯片切换为结束卡片，显示“观看下一个……”、两个空白视频占位符、频道名称“normalized NERD”、社交平台账号、订阅提示，以及“点赞 | 评论 | 分享”。

2. 声音
   观察依据

   画外音致谢结束后，余下片段仅播放纯音乐。

1. 结束卡片背景

2. 两个视频占位框

3. 频道标志文字

4. 社交媒体图标及账号名称

5. 订阅箭头与圆圈

6. 点赞 | 评论 | 分享 文字

1. 数学幻灯片消失，并被宣传性片尾画面所取代。

2. 语音停止，仅器乐音乐继续播放。

1. 过渡之后不再出现新的数学内容。

该时段不包含额外的数学内容；其作用是作为视频结尾。

1. 声音
   观察依据

   初学者中存在一个巨大误解：认为只要进行标准化，数据分布就会变成正态分布。这显然不正确。

许多初学者认为，对任意数据集应用标准化都会将其分布转化为正态（高斯）分布。

标准化是一种线性变换，它仅将均值调整为零、标准差调整为一；它不会改变分布本身的基本形状。若要改变形状，则需采用对数或平方根等非线性变换。

1. 声音
   观察依据

   主讲人明确指出：“但水平方向的特征并不一定更重要，这只是因为其数值范围更大而已。”

误以为在距离计算中占主导地位的特征，对预测任务本身也必然更重要。

在距离计算中占主导地位，往往只是该特征数值范围较大所导致的人为现象，而非其真实预测能力或相关性的体现。

1. 声音
   观察依据

   主讲人从解释简单缩放过渡到说：“我们也可以先减去一个数，再除以另一个数。”

缩放与平移通过在除法之前增加一个减法步骤，推广了基础特征缩放。

1. 声音
   观察依据

   主讲人说：“但如果为它们选择某些特定值，我们就实现了标准化。”

最小-最大标准化是缩放与平移的一种特例，其中用于减法和除法的常数被特别选为该数据集的最小值和极差。

1. 声音
   观察依据

   我们为何要关注特征缩放与归一化？首要原因是为了实现更快的收敛。

最小-最大归一化与标准化等特征缩放技术被用于提升梯度下降等优化算法的收敛速度。

1. 声音
   观察依据

   标准化是一种线性变换。它所做的仅仅是使均值为零、标准差为一。

将标准化定义为一种线性变换，这与‘它会把分布形状变为正态’这一误解形成鲜明对比。

1. 公式
   观察依据

   更新规则直接引用了代价函数 J。

梯度下降的更新规则是通过对代价函数求偏导数而得到的。

1. 声音
   观察依据

   讨论特征缩放对收敛速度的影响。

特征缩放直接影响梯度下降更新规则所采取的步长大小。

1. 声音
   观察依据

   讨论特征缩放对距离计算的影响。

通过 KNN/K 均值算法示例，说明了距离计算中特征缩放的基本原理。

1. 字幕依据
   观察依据

   项目符号文字明确指出“恰当计算距离”。

2. 图示
   观察依据

   直角三角形图示直观地将坐标差与两点间的距离联系起来。

幻灯片关于‘恰当计算距离’的论断，通过将点与点之间的分离在几何上分解为水平分量和垂直分量来加以说明。

1. 声音
   观察依据

   主讲人定义了特征缩放并展示了一个示例。

1. 特征缩放
2. 特征缩放示例

1. 公式
   观察依据

   屏幕上显示了最小-最大标准化的公式。

1. 最小-最大归一化

1. 公式
   观察依据

   最小-最大归一化：x′ = ($x - x$ₘᵢₙ) ∕ (xₘₐₓ − xₘᵢₙ)

1. 最小-最大归一化

1. 公式
   观察依据

   标准化：x′ = ($x - x$̄) ∕ σ

1. 标准化

1. 声音
   观察依据

   如果我们进行标准化，就会使分布变成正态分布——这种说法完全错误。

1. 标准化
2. 标准化不会改变分布的形状。
3. 误解：标准化会生成正态分布

1. 声音
   观察依据

   我们为何要关注特征缩放与归一化？首要原因是为了实现更快的收敛。

1. 特征缩放的原因：加快收敛速度

1. 公式
   观察依据

   θᵢ 更新为 θᵢ 减去 α 乘以 $J(θ)$ 对 θᵢ 的偏导数

1. 梯度下降更新规则

1. 声音
   观察依据

   因各方向步长差异而导致振荡现象的解释。

1. 特征缩放对收敛性的影响
2. 梯度幅值分析
3. 梯度下降路径可视化

1. 声音
   观察依据

   水平方向分量主导距离的原理说明。

1. 特征缩放对距离计算的影响
2. 数值尺度更大的特征主导距离计算
3. 未缩放特征距离可视化

1. 动画
   观察依据

   散点图在归一化前后的可视化变换。

1. 归一化特征距离可视化
2. 未归一化数据中的距离计算

1. 字幕依据
   观察依据

   标题与要点条目直接陈述了主题及原因。

1. 屏幕上展示的特征缩放原因

1. 图示
   观察依据

   黄色、蓝色和紫色线段在两个高亮显示的点之间构成一个直角三角形。

1. 屏幕上展示的特征缩放原因
2. 两点间距离的直角三角形示意图