5分钟讲清K均值聚类

1. 公式
   观察依据

   公式 $x_i = (x_i, y_i)$ 出现在坐标系旁的屏幕上。

2. 声音
   观察依据

   讲述者指出，这些数据可以表示为一个向量，本例中是一个二维向量。

$x_i$

一个二维数据点向量。

R 的 2 次方

1. 公式
   观察依据

   屏幕上方显示文字 $k = 3$。

2. 声音
   观察依据

   讲述者解释道，我们需要选定一个变量 k，即最终希望形成的簇的数量。

k

要形成的簇的数量。

正整数

1. 公式
   观察依据

   三个彩色圆圈旁分别标有 mu_1、mu_2 和 mu_3。

2. 声音
   观察依据

   讲述者指出，这些点将定义各自周围点所构成簇的新均值。

mu_i

初始簇中心或均值。

R 的 2 次方

1. 公式
   观察依据

   屏幕上显示表达式 ||x - mu_i||。

2. 声音
   观察依据

   讲解员指出，每个数据点到各个均值都有确定的距离。

||x - mu_i||

数据点 x 与聚类中心 mu_i 之间的欧几里得距离。

非负实数

1. 公式
   观察依据

   屏幕上显示公式 arg min_S sum_{$i=1$}^k sum_{x in $S_i$} ||x - mu_i||^2。

2. 声音
   观察依据

   讲解员解释，目标是将每个数据点分配给最近的均值，通常通过最小化所有集合上的平方误差来实现。

arg min_S sum_{$i=1$}^k sum_{x in $S_i$} ||x - mu_i||^2

通过将数据点最优划分为 k 个聚类，从而最小化的目标函数。

实数

1. 公式
   观察依据

   屏幕上显示集合定义 $S_i^(t)$ = {$x_p$ : ||$x_p - m_i^(t)$||^2 <= ||$x_p - m_j^(t)$||^2 对所有 j，1 <= j <= k}。

2. 声音
   观察依据

   讲解员将结果描述为 k 个不同的集合，其中每个元素到其所属均值的距离，都比到其他任意均值的距离更近。

$S_i^(t)$

在第 t 次迭代中被分配给第 i 个聚类的数据点集合。

数据集的一个子集

1. 公式
   观察依据

   符号 $m_i^(t)$ 同时出现在分配步骤和更新步骤的公式中。

2. 声音
   观察依据

   讲述者提到更新每个集合的均值。

$m_i^(t)$

第 i 个簇在第 t 次迭代时的质心或均值。

R 的 2 次方

1. 公式
   观察依据

   屏幕上显示公式：$m_i^(t+1) = 1$ / |$S_i^(t)$| sum_{$x_j$ in $S_i^(t)$} $x_j$。

2. 声音
   观察依据

   讲述者通过识别新分配成员中的平均位置，来解释均值的更新过程。

$m_i^(t+1)$

第 i 个簇在第 $t+1$ 次迭代时更新后的质心。

R 的 2 次方

1. 公式
   观察依据

   项 |$S_i^(t)$| 出现在更新步骤公式的分母中。

|$S_i^(t)$|

集合 $S_i^(t)$ 的基数，即其中元素的个数。

正整数

1. 声音
   观察依据

   讲解者指出，k 的取值范围可从1到 n。

2. 图示
   观察依据

   屏幕文字显示“k 的合适选取”，随后出现不等式：1 ≤ 最优选择 ≤ n。

k

聚类模型中所使用的簇的数量。

取整数值的簇数量；视频中指出其一般取值范围是从1到 n。

1. 声音
   观察依据

   讲解者对比了 $k = 1$ 与 $k = n$ 的情形，其中 $k = n$ 表示每个数据点各自构成一个簇。

2. 图示
   观察依据

   当每个点被赋予不同颜色时，散点图标注为 $k = n$。

n

数据集中数据点的总数。

等于数据集大小的正整数。

1. 公式
   观察依据

   屏幕上显示的公式为 $a(i) = 1$/(|$C_i$| - 1) $\sum _{j\in C_i, j\ne i} d(i,j)$。

2. 声音
   观察依据

   讲解者描述了计算某点到同一集合中其余任意数据点的平均距离的过程。

$a(i)$

点 i 的簇内平均距离：即点 i 到其所在簇中其他各点的距离的平均值。

该定义适用于属于簇 $C_i$ 且满足 |$C_i$| > 1 的点 i。

1. 公式
   观察依据

   公式 $x_i = (x_i, y_i)$ 与笛卡尔坐标系一同显示。

2. 声音
   观察依据

   讲述者指出，这些数据可以表示为一个向量，本例中是一个二维向量。

在k均值算法的背景下，单个数据点被表示为多维空间中的向量。对于所展示的可视化示例，它们是二维向量，记作 $x_i = (x_i, y_i)$，其中 $x_i$ 和 $y_i$ 是该点的坐标。

1. 数据必须是数值型的，或可转换为数值型特征。

1. 公式
   观察依据

   屏幕上显示数学表达式 arg min_S sum_{$i=1$}^k sum_{x in $S_i$} ||x - mu_i||^2。

2. 声音
   观察依据

   讲述者解释道，目标是将每个数据点分配给距离最近的均值，通常通过最小化所有集合上的平方误差来实现，从而对离群点施加较强惩罚。

k均值算法的核心数学目标是：将数据点划分为k个子集，构成一个划分S，使得每个点到其所属簇中心的欧氏距离平方和最小。这通常被称为最小化簇内平方和。

1. k是固定的。

2. 距离度量通常采用欧氏距离。

1. 数据点的向量表示

1. 公式
   观察依据

   集合定义 $S_i^(t)$ = {$x_p$ : ||$x_p - m_i^(t)$||^2 <= ||$x_p - m_j^(t)$||^2 对所有 j，1 <= j <= k} 被显示出来。

2. 动画
   观察依据

   彩色区域从初始质心向外扩展，依据距离将方形数据点分配给最近的质心。

在第 t 次迭代的分配步骤中，每个数据点 $x_p$ 被分配给当前质心 $m_i^(t)$ 与其距离最近的簇 $S_i^(t)$。数学上，当点到 $m_i^(t)$ 的平方距离小于或等于其到任意其他质心 $m_j^(t)$ 的平方距离时，该点即被分配至第 i 个簇。

1. 当前质心 $m_i^(t)$ 必须对从 1 到 k 的所有 i 均有定义。

1. 数据点的向量表示
2. k均值目标函数

1. 公式
   观察依据

   公式 $m_i^(t+1) = 1$ / |$S_i^(t)$| sum_{$x_j$ in $S_i^(t)$} $x_j$ 被显示出来。

2. 动画
   观察依据

   圆形质心移动至各自所对应彩色区域内当前已分配的方形数据点的几何中心（即平均位置）。

在所有数据点均被分配至各簇后，更新步骤将重新计算每个质心的位置。簇 i 的新质心 $m_i^(t+1)$ 由上一步中被分配至该簇的所有数据点 $x_j$ 的算术平均值（即平均值）计算得出。

1. 簇 $S_i^(t)$ 不得为空。

2. 质心基于第 t 步的分配结果同时更新。

1. 分配步骤

1. 声音
   观察依据

   讲解者指出，k 的取值范围可从 1 到 n，其中 1 为一端极值，n 为另一端极值。

2. 图示
   观察依据

   屏幕上显示“k 的恰当选择”及不等式 1 ≤ 最优选择 ≤ n。

该片段将聚类数量 k 的搜索空间定义为从 1 个簇到 n 个簇，其中 n 为数据点总数；端点 $k=1$ 表示所有数据点被归入同一个簇，而 $k=n$ 表示每个数据点各自构成一个单点簇。

1. 共有 n 个数据点。

2. k 是所选定的聚类数量。

1. 声音
   观察依据

   讲解者介绍了肘部法，这是一种在计算出多个聚类结果后，用于比较不同k值的常用方法。

2. 图示
   观察依据

   一张标题为“肘部法”的图表，横轴为k值，纵轴为解释变异量，并标出了曲线上的弯曲点。

肘部法通过绘制解释变异量随聚类数量k变化的曲线，寻找收益递减的拐点，即曲线中视觉上明显的弯曲或“肘部”，从而比较不同k值的候选方案。

1. 针对多个候选k值，聚类结果已经计算完毕。

2. 对每个k值，都可获得一个标量质量度量（例如解释变异量）。

1. 聚类中可能的 k 值取值范围。

1. 声音
   观察依据

   讲解者指出，轮廓法用于寻找一个能在压缩性与准确性之间取得平衡的k值；该方法衡量的是：每个数据点与其当前所属聚类的匹配程度，相对于其与其他任意聚类的匹配程度。

2. 图示
   观察依据

   标题卡片显示“轮廓法”，随后出现一个三聚类的散点图。

轮廓法通过衡量每个数据点与其自身所属聚类的匹配程度，相对于其与最近的其他聚类的匹配程度，来评估聚类质量。本片段将其呈现为在选择k值时，比肘部法更合乎逻辑的替代方法。

1. 点到聚类的分配结果已预先给出。

2. 目标是将点在所属聚类内的拟合程度，与该点对其他聚类的拟合程度进行比较。

1. 聚类中可能的 k 值取值范围。

1. 公式
   观察依据

   所显示的公式为 $a(i) = 1$/(|$C_i$| - 1) $\sum _{j\in C_i, j\ne i} d(i,j)$。

2. 声音
   观察依据

   讲述者描述了计算该点到同一数据集中其余任意数据点的平均距离。

对于簇 $C_i$ 中的点 i，$a(i)$ 表示点 i 到该簇中所有其他点的平均距离。它刻画了该点所在簇内部的凝聚程度。

1. 点 i 属于簇 $C_i$。

2. 求和排除了 $j = i$ 的情形。

3. 该公式分母为 |$C_i$| - 1，因此所显示的定义默认点 i 所在簇不是单点簇。

1. 轮廓法的目的

1. 公式
   观察依据

   所显示的公式为 $b(i)$ = min_{$J\ne I$} 1/|$C_J$| $\sum _{j\in C_J} d(i,j)$。

2. 声音
   观察依据

   讲述者描述了确定该点到下一个最近数据集各点的平均距离。

1. 符号 I 在 $J\ne I$ 中被使用，但本片段中未在画面上明确定义。

对于点 i，$b(i)$ 是点 i 到任一其他簇的平均距离中的最小值。它通过平均距离（而非单个最近点）来识别最近的竞争簇。

1. 除包含 i 的簇之外，至少还存在一个其他簇。

2. 最小值取自所有其他簇 J（其中 $J \ne I$）。

1. 轮廓法的目的

1. 公式
   观察依据

   屏幕上显示的公式为 $s(i) = (b(i) - a(i))$ / max{$a(i)$, $b(i)$}。

2. 声音
   观察依据

   讲解者指出，该比值给出介于负一与正一之间的数值，较大的值表示该点与其所属簇的匹配程度高，而与邻近簇的匹配程度差。

样本点 i 的轮廓系数通过比较其到最近其他簇的分离度与到其自身簇的凝聚度来衡量。该值越大，说明该点与其被分配的簇的匹配程度优于其与邻近簇的匹配程度。

1. 已为样本点 i 计算出 $a(i)$ 和 $b(i)$。

2. 视频中指出，所得分数介于 -1 与 +1 之间。

1. 簇内距离 $a(i)$
2. 最近其他簇距离 $b(i)$

1. 公式
   观察依据

   屏幕上显示的表达式为 $1/N \sum _{i=1}^n s(i)$。

2. 声音
   观察依据

   讲解者指出，对某一簇内所有样本点的 $s(i)$ 取均值可衡量该簇的紧密程度；而对整个数据集所有样本点的 $s(i)$ 取均值，则可衡量数据聚类的恰当程度。

3. 图示
   观察依据

   条形图按颜色分组列出 x6 至 x15，随后是一张标题为“轮廓系数”的图表，横轴为 k，纵轴为分数。

1. 该片段未调和屏幕上出现的 N 与求和上限 n 之间的不一致。

2. 口述说明提到了簇级别平均和全数据集平均，但屏幕上显示的公式仅呈现了一个全局平均值。

该片段将各个样本的轮廓系数汇总为一个平均值，用于判断单个簇内部的紧密程度，以及在整个数据集上聚类结果的合理性；随后将该平均值随 k 作图，以比较不同候选簇数量的优劣。

1. 各个样本的轮廓系数 $s(i)$ 均可获得。

2. 该平均值用于比较不同 k 值的选择。

1. 单个样本的轮廓系数 $s(i)$

1. 声音
   观察依据

   主讲人指出，该算法用于“检测可能构成潜在欺诈威胁的异常值。”

2. 图示
   观察依据

   画面显示一只手拿着一张信用卡。

视频解释称，通过检测异常值可识别潜在的欺诈威胁，并以信用卡作为视觉示例。

1. 适用于金融交易监控

1. 声音
   观察依据

   讲解者指出，两种极端情况均无甚助益，因此最优解很可能介于二者之间。

2. 图示
   观察依据

   屏幕显示 1 ≤ 最优选择 ≤ n，在展示 $k=1$ 和 $k=n$ 的示例之后。

$k=1$ 和 $k=n$ 均未被呈现为有效的聚类方案，因此在典型应用中，最优 k 值预期严格介于这两个极端之间。

1. 该数据集包含不止一个数据点。

2. 目标是获得有意义的聚类，而非退化的划分。

关于典型聚类质量的一般性陈述；视频片段中未给出形式化证明。

1. 声音
   观察依据

   讲解者指出，该比值给出的结果介于负一与正一之间。

2. 公式
   观察依据

   屏幕上显示的公式为 $s(i) = (b(i) - a(i))$ / max{$a(i)$, $b(i)$}。

对每个点，由屏幕上显示的公式所计算出的轮廓系数介于 -1 与 +1 之间。

1. $a(i)$ 和 $b(i)$ 的计算方式如图所示。

2. 分母 max{$a(i)$, $b(i)$} 非零。

针对聚类中的每个数据点 i。

1. 声音
   观察依据

   讲解者指出，较高的值表明该对象与其所属簇匹配良好，而与邻近簇匹配较差。

某点的轮廓系数值较高，意味着该点与其被分配到的簇拟合良好，而与邻近簇拟合较差。

1. 该点具有确定的轮廓系数 $s(i)$。

针对单个数据点 i。

1. 声音
   观察依据

   讲述者指出，整个数据集所有数据的均值是衡量数据聚类是否恰当的一个指标，也是评估某个k值选择优劣的合理方法。

2. 图示
   观察依据

   一张标题为“轮廓系数”的图表，以k为横坐标、平均得分为纵坐标，并标出了峰值。

整个数据集的平均轮廓系数可作为给定聚类结果的质量度量，并可用于比较不同k值的选择。

1. 每个数据点均有对应的个体轮廓分数。

2. 在求平均之前，聚类分配已固定。

针对给定的聚类配置与候选k值。

1. 声音
   观察依据

   讲解者依次说明：选取 k 值、随机选择初始均值、将各点分配至最近的均值、更新均值，并重复该过程直至达到期望的质量标准。

2. 动画
   观察依据

   可视化序列展示了 3 个质心的初始化、Voronoi 区域的形成与点的分配、质心向其已分配点的均值位置移动，以及后续区域边界的相应调整。

1. 公式

   $$$$
   解释

   选择聚类数量 k，并从数据集中随机初始化 k 个质心。

   步骤依据

   讲解者指出，我们必须选定一个变量 k，并可随机选取这些点来定义新的均值。

   视频直接表达
2. 公式

   $$S_i^{(t)} = \{x_p : \|x_p - m_i^{(t)}\|^2 \le \|x_p - m_j^{(t)}\|^2 \forall j, 1 \le j \le k\}$$
   解释

   将每个数据点分配给距离其最近的质心所对应的簇，从而形成 k 个互不相交的集合。

   步骤依据

   讲解者说明，目标是将每个数据点分配给距离其最近的均值，由此得到若干集合，其中各成员与其被分配的均值更为接近。

   视频直接表达
3. 公式

   $$m_i^{(t+1)} = \frac{1}{|S_i^{(t)}|} \sum_{x_j \in S_i^{(t)}} x_j$$
   解释

   通过计算当前分配至该簇的所有数据点的均值，重新确定每个质心的位置。

   步骤依据

   讲解者描述，通过找出新分配成员所在位置的均值，来更新每个集合的均值。

   视频直接表达
4. 公式

   $$$$
   解释

   反复迭代执行分配与更新步骤。

   步骤依据

   讲解者总结道，该过程将持续重复，直至达到预期的分类质量为止。

   视频直接表达

k-均值算法通过交替执行“将点分配至最近质心”和“将质心更新为所属点的均值”这两个步骤，迭代地最小化簇内平方和。

1. 声音
   观察依据

   讲述者逐步解释轮廓分数的构造过程：先计算同簇内平均距离，再计算到次近邻簇的平均距离，最后取二者之比。

2. 公式
   观察依据

   公式〔$a(i)$〕、〔$b(i)$〕和〔$s(i)$〕依次出现在屏幕上。

1. 公式

   $$a(i)=\frac{1}{|C_i|-1}\sum_{j\in C_i,\,j\neq i} d(i,j)$$
   解释

   首先计算点i到其所在簇中其他各点的平均距离。

   步骤依据

   这是本视频所定义的、用于衡量该点与其当前所属簇拟合程度的概念。

   视频直接表达
2. 公式

   $$b(i)=\min_{J\neq I}\frac{1}{|C_J|}\sum_{j\in C_J} d(i,j)$$
   解释

   然后计算点 i 到其余每个簇的平均距离，并保留其中最小的平均值。

   步骤依据

   这与讲解中提到的‘下一个最近的簇’相对应。

   视频直接表达
3. 公式

   $$s(i)=\frac{b(i)-a(i)}{\max\{a(i),b(i)\}}$$
   解释

   最后，构造分离度与凝聚度之间的归一化差值。

   步骤依据

   视频将该比值呈现为该点的轮廓值。

   视频直接表达

轮廓分数通过将簇内凝聚度 $a(i)$ 与最近其他簇的分离度 $b(i)$ 进行归一化比值比较而构建。

1. 声音
   观察依据

   讲解者首先介绍肘部法，接着指出该方法存在诸多问题，然后说明将改用轮廓法以做出更合理的聚类数量选择。

2. 图示
   观察依据

   在标题卡片“轮廓”出现之前，肘部图已叠加了若干问题标签。

1. 公式

   $$$$
   解释

   使用肘部法观察当 k 增大时，解释变异量的收益递减现象。

   步骤依据

   这是讲解与图表中明确引入的方法。

   视频直接表达
2. 公式

   $$$$
   解释

   注意视频列举了肘部法存在的多个问题。

   步骤依据

   屏幕上的标签逐条列出了诸如主观性强、缺乏统计学依据等局限性。

   视频直接表达
3. 公式

   $$$$
   解释

   切换到轮廓系数法，通过权衡压缩性与准确性来选择聚类数 k。

   步骤依据

   讲解者明确指出，轮廓系数法是更为合理的后续步骤。

   视频直接表达

该片段以肘部法则在实践中的不足为出发点，引出轮廓系数法。

1. 动画
   观察依据

   展示一个由15个白色方块组成的 U 形排列。三个彩色圆圈（红色、绿色、蓝色）置于这些方块之间。方块与圆圈之间连上线段，随后形成彩色区域。最后，各圆圈移动至其对应颜色方块组的中心位置。

使用 k-均值算法，将一组呈 U 形排列的15个二维数据点划分为 $k=3$个簇。

1. 15个呈U形排列的数据点。

2. 聚类数量 $k = 3$。

3. 初始质心随机选取（一个红色、一个绿色、一个蓝色）。

演示k均值算法的迭代分配与更新步骤，以划分这些数据点。

1. 公式

   $$k = 3$$
   解释

   通过随机选取3个数据点作为初始质心来初始化算法。

   步骤依据

   视频中，三个彩色圆圈出现在白色方块之间，旁白提到选定k并随机选择点。

   视频直接表达
2. 公式

   $$S_i^{(t)} = \{x_p : \|x_p - m_i^{(t)}\|^2 \le \|x_p - m_j^{(t)}\|^2 \forall j\}$$
   解释

   将15个数据点中的每一个分配给3个初始质心中距离最近的一个。

   步骤依据

   动画从各数据点向质心画出连线，随后用彩色区域（沃罗诺伊单元）填充整个空间，表明各点归属于哪个质心。

   视频直接表达
3. 公式

   $$m_i^{(t+1)} = \frac{1}{|S_i^{(t)}|} \sum_{x_j \in S_i^{(t)}} x_j$$
   解释

   将每个质心移至其所属数据点的几何中心（即均值）处。

   步骤依据

   动画显示彩色圆圈滑动至各自对应方块簇的中央，旁白明确描述了对均值位置的更新。

   视频直接表达

数据点被成功划分为三个互不重叠的簇，且质心已移动至各自所分配点的质心位置，完整呈现了算法的一次迭代过程。

质心向各自所属彩色区域中心的视觉移动，验证了算术平均值的计算。

1. 图示
   观察依据

   一组呈 U 形散点分布的18个绿色方块被标记为 $k=1$；随后，同一组点在 $k=n$ 时被重新赋予唯一颜色。

2. 声音
   观察依据

   讲解者说明：当 $k=1$ 时，所有点被归入同一个簇；而当 $k=n$ 时，每个点各自构成一个簇。

1. 散点图中 n 的确切值可视作18，但讲解中仅泛指为 n。

在同一数据集上展示聚类数的两个端点取值。

1. 一组固定的数据点，呈 U 形排列。

2. 其中一个候选取值是 $k=1$。

3. 另一个候选取值是 $k=n$。

阐释可能的最小与最大聚类数量分别代表什么含义。

1. 公式

   $$k=1$$
   解释

   所有点均以单一颜色显示，代表整个数据集被归为一个簇。

   步骤依据

   这直接可视化了讲述者所描述的第一种极端情况。

   视频直接表达
2. 公式

   $$k=n$$
   解释

   每个点各自拥有独立的颜色，代表单点簇。

   步骤依据

   这直接可视化了讲述者所描述的相反极端情况。

   视频直接表达

这两个端点分别对应“全部归为一簇”和“每点各自成簇”的聚类方式。

随后屏幕上出现的不等式1 ≤ 最优选择 ≤ n，确认了这两种情形正是k的上下界情形。

1. 图示
   观察依据

   一幅题为“肘部法”的折线图，以k为横轴、解释变异量为纵轴，并标出了弯曲点及对应的虚线垂线。

2. 声音
   观察依据

   讲述者指出，该方法通过绘制解释变异量随簇数量变化的曲线，来寻找收益递减的拐点。

1. 图中未显示数值刻度，因此无法精确读出被标注的k值。

识别肘部法如何从一条绘制出的质量曲线上选取候选k值。

1. 一幅横轴为k、纵轴为解释变异量的图像。

2. 一条先上升、随后弯曲的曲线。

定位收益递减点。

1. 公式

   $$$$
   解释

   对若干个 k 值计算聚类结果，并记录各自对应的解释变异量。

   步骤依据

   旁白指出，比较操作发生在聚类完成之后。

   视频直接表达
2. 公式

   $$$$
   解释

   将解释变异量对 k 作图，并寻找曲线中的弯曲点。

   步骤依据

   这是旁白所描述、并由高亮标记点所展示的视觉判定法则。

   视频直接表达

所选的 k 值对应于可见的肘部点，此处再增加聚类数所带来的增益变小。

该图用一个彩色圆点及一条垂直虚线标出此点，虚线延伸至 k 轴。

1. 图示
   观察依据

   一幅三聚类散点图显示红色、绿色和蓝色三组；其中一个绿色点标记为 i，并画出指向同簇其他点及指向红色簇的连线。

2. 公式
   观察依据

   散点图上方展示了 $a(i)$、$b(i)$ 和 $s(i)$ 的公式。

3. 声音
   观察依据

   旁白解释了同簇平均距离、次近簇平均距离，以及由此得出的比值。

1. 该片段未提供具体数值距离，因此屏幕上未计算出 $s(i)$ 的任何数值。

解释一个数据点对其所在簇的拟合程度，是如何与另一个簇进行比较的。

1. 绿色簇中的一个点〔i〕。

2. 同一簇中其他绿色的点。

3. 其他簇中的红色和蓝色点。

4. 距离函数〔$d(i,j)$〕。

计算点〔i〕的轮廓系数〔$s(i)$〕。

1. 公式

   $$a(i)=\frac{1}{|C_i|-1}\sum_{j\in C_i,\,j\neq i} d(i,j)$$
   解释

   计算点〔i〕到其所在绿色簇中其他绿色点的距离的平均值。

   步骤依据

   这就是本视频对簇内拟合度的定义。

   视频直接表达
2. 公式

   $$b(i)=\min_{J\neq I}\frac{1}{|C_J|}\sum_{j\in C_J} d(i,j)$$
   解释

   计算点〔i〕到每个其他簇的距离的平均值，并取其中最小的平均值；动画特别强调了指向红色簇的连线。

   步骤依据

   这实现了讲述者所提出的‘最近邻簇集’思想。

   视频直接表达
3. 公式

   $$s(i)=\frac{b(i)-a(i)}{\max\{a(i),b(i)\}}$$
   解释

   对最近其他簇距离与自身簇距离之差进行归一化。

   步骤依据

   这是显示的轮廓公式。

   视频直接表达

该点获得一个轮廓分数 $s(i)$，取值范围为从 -1 到 +1，数值越高表示其与自身所属簇的匹配程度越好。

旁白明确将高分解释为：与该对象自身所属簇高度匹配，而与邻近簇匹配程度较差。

1. 图示
   观察依据

   一幅水平条形图依次以绿色标出 x6-x9、以蓝色标出 x10-x15、以红色标出 x2-x4，随后是一幅标题为“轮廓系数”的图表，并在图中高亮标出峰值。

2. 声音
   观察依据

   讲解员指出，整个数据集所有数据点的轮廓分数均值，用于衡量数据聚类的恰当程度，并有助于判断 k 值的选择是否合理。

1. 该条形图不显示具体的轮廓数值，仅通过条形长度体现相对大小顺序。

2. 峰值处对应的精确 k 值未以数字形式标注。

展示如何将聚合后的轮廓分数转化为选择 k 的判定准则。

1. 标记点 x2 至 x15 的个体轮廓分数。

2. 轮廓系数随 k 变化的折线图。

选择平均轮廓分数较高的 k 值。

1. 公式

   $$\frac{1}{N}\sum_{i=1}^{n} s(i)$$
   解释

   将各个数据点的轮廓值汇总为平均轮廓值。

   步骤依据

   这是屏幕上显示的全局公式，与讲解中描述的对整个数据集取平均的操作一致。

   视频直接表达
2. 公式

   $$$$
   解释

   通过绘制轮廓系数随 k 变化的曲线，比较不同 k 值对应的平均值。

   步骤依据

   该图像直观地完成这一比较，并标出外观最优的点。

   视频直接表达

轮廓系数曲线峰值处对应的 k 值即为优选的 k。

图中标出的最大值对应讲解者的论断：该平均值是评判 k 值选择是否合适的一种恰当方式。

1. 动画
   观察依据

   15个白色方块以U形排列在黑色背景上，旁边标有$x_1$至$x_15$的标签。

1. 15个白色方块

2. 标签$x_1$至$x_15$

1. 方块依次出现。

2. 标签渐显。

1. 方块的空间排布保持不变。

这确立了待聚类的数据集，表示二维空间中的n个数据点。

1. 动画
   观察依据

   三个彩色圆圈（红色、绿色、蓝色）出现在方块群中的特定位置，旁边分别标有mu_1、mu_2、mu_3的标签。

1. 红色圆圈（mu_1）

2. 绿色圆圈（mu_2）

3. 蓝色圆圈（μ3）

1. 圆圈在随机位置突然出现。

2. 标签渐显。

1. 底层数据点保持不变。

这可视化了k个初始聚类中心的随机选取过程。

1. 动画
   观察依据

   用对应颜色的细线，将每个白色方块连接至全部三个彩色圆圈。

1. 连接线

1. 所有点与质心之间均出现连线。

1. 各点及质心的位置保持静止。

这演示了每个数据点与每个质心之间距离度量（||$x - μ_i$||）的计算过程。

1. 动画
   观察依据

   背景填充为三个彩色区域（红色、绿色、蓝色），区域之间由黑色直线分隔；白色方块根据其所处区域改变颜色，与区域颜色一致。

1. 彩色背景区域

2. 黑色边界线

3. 重新着色的方块

1. 背景区域从质心向外扩展。

2. 方块根据所属区域改变颜色。

1. 此步骤中质心位置保持静止。

这直观地展示了沃罗诺伊图的构建过程：每个区域包含所有到其生成质心的距离小于到其他任意质心的距离的点，从而体现分配步骤。

1. 动画
   观察依据

   三个彩色圆圈平滑滑动至新位置，并最终停驻于与其颜色相同的方块的几何中心。

1. 移动的彩色圆圈

1. 圆圈改变位置。

1. 方格位置与颜色在此步骤中保持不变。

这展示了质心的重新计算过程：质心是其所属数据点的平均值。

1. 动画
   观察依据

   两个公式框分别标有“分配步骤”和“更新步骤”，并由弯曲箭头连接，构成一个连续循环。

1. 公式框

2. 循环箭头

1. 框与箭头依次出现。

这总结了k均值算法的迭代特性：在两个定义好的数学步骤之间交替执行，直至收敛。

1. 图示
   观察依据

   黑色背景上居中显示白色文字：“k 的正确选择”。

1. 黑色背景

2. 白色标题文字：“k 的正确选择”

1. 标题渐入并始终保持居中。

1. 此时尚未出现除符号 k 以外的任何数学对象。

该片段将讨论框定为一个模型选择问题，即如何选择聚类数量。

1. 图示
   观察依据

   一个呈U形散点分布的18个绿色方块出现在右上角，标签为$k=1$。

1. 18个绿色方块数据点

2. 标签$k=1$

1. 数据集显示为一个颜色均匀的单一组。

1. 各点位置保持固定。

2. 所有点共享同一种颜色，表示只有一个聚类。

这可视化了退化情形：整个数据集被当作一个聚类来处理。

1. 图示
   观察依据

   相同的U形散点分布再次出现，每个方块颜色各不相同，标签为$k=n$。

1. 相同的18个数据点

2. 多种不同的颜色

3. 标注 $k = n$

1. 颜色从统一的绿色变为每个点各自一种颜色。

1. 各点位置保持不动。

2. 点的数量保持不变。

此图展示了相反的退化情形：每个点自成一类。

1. 图示
   观察依据

   居中文字显示 1 ≤ 最优选择 ≤ n。

1. 文字形式的不等式：1 ≤ 最优选择 ≤ n

1. 画面从散点图切换为纯文本形式的界。

1. 界 1 和 n 保持固定。

该不等式表明：有意义的解应在两个极端之间寻求。

1. 图示
   观察依据

   一幅标题为“肘部法”的图表，纵轴标注为“已解释变异量”，横轴标注为 k，曲线上升且分段连续，并在拐点处用虚线竖线加以高亮标记。

1. 坐标轴刻度值未显示。

1. 标题“肘部法”

2. 纵轴标签：已解释变异量

3. 横轴标签：k

4. 分段递增曲线

5. 高亮标记的点

6. 虚线竖向参考线

1. 曲线上某一点被高亮标记，以标示肘部位置。

2. 随后，红色问题标签叠加显示在该图表上。

1. 坐标轴及整体曲线形状保持不变。

该图像体现了收益递减规律：高亮的拐点处，新增聚类中心所带来的解释变异量提升变小。

1. 图示
   观察依据

   六只红色方框依次出现在肘部图上方，分别标注为“主观性”、“缺乏统计依据”、“对尺度敏感”、“对初始值不稳健”、“假设簇大小均匀”以及“在复杂数据上难以应用”。

1. 肘部图

2. 六个红色文字框

1. 问题标签依次出现，直至全部六个均可见。

1. 底层图像保持不变。

视觉叠加内容列出了推动我们转向其他选择方法的若干批评意见。

1. 声音
   观察依据

   讲解员说道：“通常我们在此处对所有集合最小化平方误差，以强烈惩罚离群点，并防止不恰当的分配。”

人们可能认为使用平方误差仅仅出于数学上的便利性，或为确保可微性。

视频明确指出：对距离进行平方运算，是为了强烈惩罚离群点，从而严格限制远离质心的数据点被分配至该质心，避免不恰当的聚类分配。

1. 图示
   观察依据

   肘部图上方的红色标签包括“主观性”和“缺乏统计依据”。

2. 声音
   观察依据

   叙述者指出该方法存在诸多问题。

人们可能认为肘部点提供了统计上合理、客观的 k 值选择。

视频明确将肘部法标注为具有主观性且缺乏统计依据。

1. 图示
   观察依据

   叠加的方框文字为“对尺度敏感”和“对初始化不稳健”。

人们可能认为肘部曲线无论特征缩放与否或算法初始化如何，都是稳定的。

视频片段明确指出，该方法对尺度敏感，且对初始化不具有鲁棒性。

1. 图示
   观察依据

   一个叠加的方框中写着“假设簇大小均匀”。

人们可能期望肘部法对任意形状和大小的簇都同样有效。

视频指出，该方法假设簇大小均匀，且在处理复杂数据时存在困难。

1. 公式
   观察依据

   所展示的 $a(i)$ 公式除以 |$C_i$|−1。

1. 这一局限性由所展示的公式推断得出；视频并未口头讨论单点自簇的情形。

人们可能尝试在点 i 单独构成其所在簇时，使用所展示的 $a(i)$ 公式。

如所展示，$a(i)=1$/(|$C_i$|−1)$\sum _{j\in C_i,j\ne i}d(i,j)$，当 |$C_i$|=1 时分母为零，因此该视频片段中写出的公式并未直接涵盖单点自簇的情形。

1. 公式
   观察依据

   目标函数 arg min_S sum ||x - mu_i||^2 被展示出来，随后给出基于比较平方距离的具体集合定义 $S_i^(t)$。

分配步骤是实现全局目标函数的实际机制；通过将每个点贪心地分配给最近的质心，该算法在当前质心配置下局部最小化误差平方和。

1. 声音
   观察依据

   讲述者说：‘现在我们首先得到了第一轮分类结果，接下来就可以更新每个集合的均值……’

2. 动画
   观察依据

   质心仅在彩色区域完全形成并完成点的分配后，才移动到新位置。

更新步骤在数学上依赖于分配步骤的输出；它需要新形成的集合 $S_i^(t)$ 来计算新的质心 $m_i^(t+1)$。

1. 声音
   观察依据

   在指出最优解位于 1 与 n 之间后，讲解者将肘部法引入为一种比较不同 k 值的方法。

2. 图示
   观察依据

   不等式1 ≤ 最优选择 ≤ n 之后，显示横轴为 k 的“手肘图”。

手肘法应用于由范围$1 \le k \le n$ 确定的 k 值搜索空间。

1. 声音
   观察依据

   讲述者指出手肘法存在诸多问题，随后表示将改用轮廓法继续分析。

2. 图示
   观察依据

   手肘图上方的问题标签之后，出现标题卡片“轮廓”。

轮廓法被呈现为一种与手肘法相对比的、用于选择 k 的替代方法。

1. 声音
   观察依据

   轮廓系数的一般解释之后，立即给出 $a(i)$ 的计算公式。

轮廓法包含簇内距离分量 $a(i)$，这是其基本构成要素之一。

1. 声音
   观察依据

   讲解从比较某一点与其他簇的关系，过渡到定义最近的其他簇集合，随后展示 $b(i)$。

轮廓法包含最近其他簇距离分量 $b(i)$，这是其另一基本构成要素。

1. 公式
   观察依据

   公式依次呈现：先是 $a(i)$，再是 $b(i)$，最后是 $s(i)=(b(i)-a(i))$/max{$a(i)$,$b(i)$}。

$s(i)$ 的定义直接依赖于先前已定义的量 $a(i)$。

1. 公式
   观察依据

   所展示的 $s(i)$ 公式在分子和分母中均使用了 $b(i)$。

$s(i)$ 的定义也直接依赖于先前定义的量 $b(i)$。

1. 声音
   观察依据

   讲述者从解释单个 $s(i)$ 值，过渡到在簇内对它们取平均，再进一步在整个数据集上取平均。

2. 公式
   观察依据

   在个体公式 $s(i)$ 之后，给出聚合表达式 $1/N \sum _{i=1}^n s(i)$。

平均轮廓系数将逐点得分 $s(i)$ 推广为一种衡量整个数据集质量的指标。

1. 图示
   观察依据

   标题为“轮廓系数”的图表，绘制了平均得分随 k 变化的曲线，并标出了其最大值。

2. 声音
   观察依据

   讲述者指出，该平均值是一种合理的方法，用于判断某个 k 值的选择效果如何。

平均轮廓准则被重新应用于原始问题——在允许范围内选择最优的 k。

1. 声音
   观察依据

   讲述者提问应选择哪个变量，并回答：‘我们最终希望得到的簇的数量’。

1. 数据点的向量表示

1. 声音
   观察依据

   讲述者解释了为何最小化平方误差。

1. k均值目标函数

1. 公式
   观察依据

   更新步骤的公式被展示出来。

1. 更新步骤

1. 公式
   观察依据

   集合 $S_i^(t)$ 的定义被展示出来。

1. 分配步骤

1. 声音
   观察依据

   讲述者提问：质量如何度量？并指出 k 的取值范围是从 1 到 n。

2. 图示
   观察依据

   屏幕上显示“k 的恰当选择”以及 1 ≤ 最优选择 ≤ n。

1. 聚类中可能的 k 值取值范围。

1. 图示
   观察依据

   $k=1$ 和 $k=n$ 的散点图被并排展示。

2. 声音
   观察依据

   讲述者表示，这两种极端情况都不太有用。

1. 聚类中可能的 k 值取值范围。

1. 声音
   观察依据

   讲述者将肘部法定义为：绘制已解释变异量随所用聚类数量变化的曲线。

2. 图示
   观察依据

   肘部图凸显出一个拐点。

1. 选择k值的肘部法

1. 图示
   观察依据

   肘部图上出现了六个红色限制说明框。

1. 选择k值的肘部法

1. 声音
   观察依据

   讲述者指出，轮廓法用于作出更合理的选取，并在压缩性与准确性之间取得平衡。

1. 轮廓法的目的

1. 公式
   观察依据

   显示的公式为 $a(i)=1$/(|$C_i$|-1)$\sum _{j\in C_i,j\ne i} d(i,j)$。

1. 簇内距离 $a(i)$

1. 公式
   观察依据

   显示的公式为 $b(i)$=min_{$J\ne I$} 1/|$C_J$| $\sum _{j\in C_J} d(i,j)$。

1. 最近其他簇距离 $b(i)$

1. 声音
   观察依据

   讲述者指出，该比值给出的数值介于负一与正一之间。

2. 公式
   观察依据

   $s(i)$ 的公式显示在屏幕上。

1. 单个样本的轮廓系数 $s(i)$