第14讲：层次聚类 | 凝聚式与分裂式对比及示例

1. 声音
   观察依据

   说道：取一小段数据，按顺序数出1、5、8、10、19、20。

2. 图示
   观察依据

   在白板底部一行写下六个数：1、5、8、10、19、20。

\{1,5,8,10,19,20\}

例如，取一个一维数据集；其中每个数代表一个独立的数据点。

初始状态下，每个元素自身构成一个簇。

1. 声音
   观察依据

   说道：先构建 proximity matrix（邻近度矩阵），再从中找出两两之间的差异。

2. 图示
   观察依据

   右上方为1、5、8所对应的子矩阵：第一行是0、4、7；第二行是4、0、3；第三行是7、3、6。

1. 未展示完整的$6\times 6$矩阵；仅显示含1、5、8的部分。

P

proximity matrix 即记录各数据点之间成对距离的表格。

本视频中，距离被解释为数字之间的绝对差值。

1. 声音
   观察依据

   说道：将距离最小的一对直接归入同一簇，因此19和20组成了一个簇。

2. 图示
   观察依据

   在19和20上方画出方括号，并写为（19,20）。

(19,20)

由19和20合并形成的第一簇。

合并后，这是由两个原始点组成的一个簇。

1. 声音
   观察依据

   表示已将8和10合并为另一个簇。

2. 图示
   观察依据

   在8和10上方加括号，记作(8,10)。

(8,10)

由8和10构成的第二个合并簇。

合并后，这是由两个原始点组成的一个簇。

1. 声音
   观察依据

   表示最初共有六个项，现在剩下四个。

2. 图示
   观察依据

   聚类后，板上剩余的单元为1、5、(8,10)、(19,20)。

$6 \to 4$

经过两次合并操作后，独立单元的数量从6减少至4。

该计数展示了凝聚式过程中的簇数量递减。

1. 图示
   观察依据

   白板上持续可见标题“层次聚类”和项目符号“自底向上合并 & 自顶向下分裂”。

$\text{Hierarchical clustering}$

本片段讲解的主题名称：层次聚类。

白板标题，贯穿整个片段始终使用

1. 图示
   观察依据

   标题下方写有“自底向上合并 & 自顶向下分裂”。

2. 声音
   观察依据

   讲师在00:00:59之后明确把左侧过程称为自底向上合并，把右侧过程称为自顶向下分裂。

$\text{Agglomerative \& Divisive}$

层次聚类的两种相反构造方式：自底向上合并，或自顶向下分裂。

白板副标题

1. 图示
   观察依据

   左下树形图底部可见数据点1, 5, 8, 10, 19, 20。

2. 图示
   观察依据

   右上还有一组手写数字矩阵样内容，但本片段内未被用于后续推导。

1. 右上角矩阵在本片段中没有被口头解释，其用途待核验。

1,5,8,10,19,20

示例数据集的六个观测点，用于演示层次聚类树。

示例数据点集合

1. 图示
   观察依据

   左侧已有括号标注（8,10），表示8与10已先合并成一个簇。

2. 声音
   观察依据

   讲师说“जिसमें 8 और 10 तो already था ही पहले”，确认该簇先前已存在。

(8,10)

由点8和10组成的初始子簇。

凝聚过程中的中间簇

1. 图示
   观察依据

   左侧另一分支标注（19,20）。

2. 声音
   观察依据

   讲师在最后合并时说“दूसरा cluster क्या आ गया 19 且 20 वाला”。

(19,20)

由点19和20组成的另一个子簇。

凝聚过程中的中间簇

1. 图示
   观察依据

   讲师在（8,10）上方写出（5,（8,10））。

2. 声音
   观察依据

   讲师说“5 और 8 को इस तरीके से combine कर दिया”，随后把它描述为更大的簇。

1. 口头表述提到5和8，但板书实际合并对象是5与簇（8,10）。

(5,(8,10))

把点5并入已有簇（8,10）后形成的新簇。

凝聚过程中的中间簇

1. 图示
   观察依据

   讲师继续向上写出 (1,(5,(8,10)))。

2. 声音
   观察依据

   讲师说 “1 和所有这些点”，并把它称为新簇。

(1,(5,(8,10)))

将点 1 并入簇 (5,(8,10)) 后形成的更大簇。

凝聚过程中的中间簇

1. 声音
   观察依据

   讲师说本节要解释层次聚类（hierarchical clustering），并先回顾普通聚类：把相似、彼此接近的数据点放进同一个簇，把不接近的点分到不同簇。

2. 声音
   观察依据

   讲师接着解释“层次”（hierarchy）的含义：像序列一样，一层层连接，并用继承关系作类比，例如祖父母 → 父母 → 子女。

3. 图示
   观察依据

   幻灯片标题写着“层次聚类（Hierarchical clustering）”，下方项目符号写着“凝聚型（Agglomerative）与分裂型（Divisive）”。

视频先把普通聚类定义为：相似且彼此接近的数据点归入同一簇，不相似的点归入不同簇。随后把“层次”解释为一种序列化的、逐层连接的关系结构，而不是只给出一次性的平面分组。讲师用家族继承链作类比，强调簇之间还可以继续形成上下级关系。

1. 讨论对象是数据点之间的相似性与分组关系

2. 这里的“层次”指簇之间可以继续按层级组织

1. 声音
   观察依据

   讲师从商业视角（business point of view）出发，举例电商网站拥有大量消费者（consumers/customers），他们分别更常购买服装、电子产品、杂货。

2. 声音
   观察依据

   讲师批评“सबको 50% off”这种统一优惠缺乏目标受众，效果有限。

3. 声音
   观察依据

   讲师提出更好的做法是先按消费偏好建立簇，再构建层次结构，对不同群体给予不同比例的折扣。

视频用电商场景说明为什么需要层次聚类：如果只对全体客户统一打折，缺少针对性；若先按消费行为把客户分成不同簇，再在这些簇内部继续细分，就能针对不同群体设计不同优惠。这里强调的核心不是单一聚类结果，而是簇之间的关系组织方式。

1. 示例场景为电商客户分群

2. 目标是形成更有针对性的目标受众分组

1. 层次聚类的直观定义

1. 声音
   观察依据

   讲师说“那么这里您可以用两种方式来创建：一种是凝聚型（agglomerative），另一种是分裂型（divisive）。”

2. 图示
   观察依据

   幻灯片项目符号明确写着“凝聚型与分裂型”。

3. 声音
   观察依据

   讲师进一步解释“凝聚型（agglomerative）的意思就是聚合（aggregation）”，并指出所有数据点最初彼此分离，随后开始说明依据什么进行聚合，但该句子在片段结束前未说完。

1. 讲师对凝聚型的完整定义在120秒处被截断，后续具体算法步骤未出现在本片段内。

视频在本片段末尾正式给出层次聚类的两种创建方式：凝聚型与分裂型。讲师口头将凝聚型与聚合联系起来，暗示其思路是把原本分散的数据点逐步聚合起来；分裂型一词虽被点名，但其定义在本片段内尚未展开。

1. 属于层次聚类的两种构建路径

2. 本片段只完成命名与初步提示，未给出完整算法流程

1. 层次聚类的直观定义

1. 字幕依据
   观察依据

   标题为“层次聚类”。

2. 字幕依据
   观察依据

   项目符号中写着“凝聚式与分裂式”。

3. 声音
   观察依据

   讲解者将这两种类型分别称为自底向上和自顶向下。

本节将层次聚类分为两类：凝聚型（也称为聚合型/自底向上法）和分裂型（也称为划分型/自顶向下法）。在凝聚型中，所有彼此分离的数据点依据其邻近程度逐一合并；在分裂型中，所有数据点最初属于同一簇，随后被逐步划分。

1. 视频中仅提供了概念性介绍。

2. 本节未介绍任何正式算法或连接准则。

1. 声音
   观察依据

   讲解者指出，首先构建邻近度矩阵。

2. 声音
   观察依据

   讲解者指出，通过该矩阵可识别各数据点之间的差异。

3. 图示
   观察依据

   为1、5、8写出部分距离表。

1. 完整的$6\times 6$矩阵未在黑板上列出。

邻近度矩阵是一张记录数据点两两之间差异或距离的表格。示例中写出了1与1之间为0，1与5之间为4，1与8之间为7，5与5之间为0，以及5与8之间为3。讲解者指出，也可使用欧几里得距离公式，且存在多种方法。

1. 此处示例基于一维数值型数据。

2. 视频中列举了多种距离度量选项，但未给出形式化推导。

1. 层次聚类的两种类型

1. 声音
   观察依据

   表示将距离最小的点归为一个簇。

2. 图示
   观察依据

   首先形成(19,20)簇，然后形成(8,10)簇。

3. 声音
   观察依据

   表示最初共有六个物品，现在剩下四个。

1. 本节未说明新的簇间距离如何更新。

本节将凝聚型聚类解释为：初始时所有点各自独立，随后将距离最小的一对点合并为一个簇。示例中，19与20之间的距离为1，因此它们首先合并；之后，8与10之间的距离为2，因此它们合并。每次合并都会减少独立单元的数量。

1. 初始时，每个数据点自成一个簇。

2. 合并的选择基于距离最小的一对点。

3. 本节未详细说明连接规则。

1. 邻近度矩阵

1. 图示
   观察依据

   白板标题为“层次聚类”。

2. 声音
   观察依据

   讲师在00:00:59之后总结说可以用这种方式创建“层次聚类”。

本片段把层次聚类理解为一种把数据点逐步组织成嵌套簇的方法：既可以从单个点不断合并，也可以从整体不断拆分，最终形成树状层级结构。

1. 需要一个可用于比较距离或相似性的数据集

2. 视频通过六个一维示例点进行演示

1. 声音
   观察依据

   讲师反复使用“合并”一词来描述将两个对象组合成一个簇的过程

2. 图示
   观察依据

   左侧的树状图从底部的点1、5、8、10、19、20开始，逐层向上合并至根节点

3. 声音
   观察依据

   讲师在00:01:04左右明确说道：“就像我在凝聚式方法中所做的那样，因为我从底部出发，向上进行”

凝聚式方法从各个单独样本出发，依据当前最近的距离关系逐步合并簇，直至所有样本被归入同一个根簇。视频中用(8,10) → (5,(8,10)) → (1,(5,(8,10))) → ((1,(5,(8,10))),(19,20)) 展示这一过程

1. 自底向上构建

2. 每一步都将两个现有对象或簇合并为一个更大的簇

1. 层次聚类

1. 图示
   观察依据

   右侧从(1,5,8,10,19,20)开始，向下拆分为(1,5,8,10)与(19,20)，并继续拆分

2. 声音
   观察依据

   讲师说：“如果你采用分裂式方法……首先……整体是分开的……然后在此之后……再进一步拆分”

3. 声音
   观察依据

   讲师在00:01:34左右总结道：“某种意义上，这里是从上到下，而那边是从下到上”

分裂式方法从包含全部样本的一个大簇开始，逐步把簇拆成更小的子簇，直到回到单个样本。视频右侧演示了 (1,5,8,10,19,20) 先分成 (1,5,8,10) 和 (19,20)，再把前者继续拆成 1、(5,8,10)，继而拆成 5、(8,10)，最后拆成 8 和 10。

1. 自顶向下构造

2. 每一步将一个现有簇分裂为若干更小的簇

1. 层次聚类

1. 图示
   观察依据

   讲师在左侧树旁写下“Dendrogram”。

2. 声音
   观察依据

   讲师说：“我们称它为 dendrogram……就像折线图、图表……直方图一样，这种结构我们称为 dendrogram。”

视频将层次聚类所得的树状结构称为 dendrogram。它用分支和节点表示簇的嵌套关系，使合并或分裂过程可视化。

1. 用于表示层次聚类的树状结构

1. 层次聚类
2. 凝聚式层次聚类（Agglomerative）
3. 分裂式层次聚类

1. 声音
   观察依据

   讲师说：“Python 中有一个 scipy 库，您可用它来创建该图。”

1. 视频未给出具体函数名或代码示例。

讲师补充说明，Python 中的 scipy 库可以用来创建这种层次聚类结构。此处只是工具提示，没有展开实现细节。

1. 在 Python 环境中使用

2. 视频未给出具体 API 调用

1. 树状图

1. 声音
   观察依据

   表示凝聚型聚类将自底向上进行，因为底部所有点彼此分离。

2. 声音
   观察依据

   表示分裂型聚类意为基于划分，且采用自顶向下的方法。

凝聚型聚类是自底向上的：根据点之间的接近程度，逐步将彼此分离的点合并。分裂型聚类是自顶向下的：所有点最初属于同一个簇，然后被逐步划分。

1. 视频中对这两种方法进行了对比性介绍。

讲解员所列举的所有示例情形。

1. 声音
   观察依据

   讲解员指出，将距离最小的两点放入同一个簇中。

2. 图示
   观察依据

   19和20首先被归入同一个簇。

1. 该规则在此小节中通过示例说明，并未以形式化定理的方式加以证明。

在此示例中，凝聚型聚类的下一步选择依据是距离最小的点对；因此，19和20最先被合并。

1. 附近列出了所有成对距离。

2. 合并的依据是最小距离。

针对示例中当前步骤的所有候选点对。

1. 声音
   观察依据

   讲师说 “例如在 agglomerative 中我这样做了，因为我是从底部向上进行的”。

2. 图示
   观察依据

   左侧树确实从底部单点向上合并到根。

凝聚式层次聚类从单个样本开始，逐步向上合并，形成更大的簇。

1. 使用视频所示的 agglomerative 构造方式

∀ 本例中的每次合并步骤

1. 声音
   观察依据

   讲师说 divisive 时先从全体开始，再不断 “将其拆分”。

2. 声音
   观察依据

   讲师总结 “某种意义上，这里是从上到下，而那里是从下到上”。

3. 图示
   观察依据

   右侧树从顶部全集向下拆分。

分裂式层次聚类从包含全部样本的簇开始，逐步向下拆分成更小的簇。

1. 使用视频所示的分裂式构造方式

对本例中的每一个分割步骤

1. 图示
   观察依据

   左侧聚合式树和右侧分裂式树包含相同的叶子点和相同的嵌套分组。

2. 声音
   观察依据

   讲师把两种方法并列讲解，并用同一组数据 1,5,8,10,19,20 演示。

1. 这是根据两棵树内容对照得出的总结，视频没有用正式定理语言陈述。

对本例中的同一组数据，聚合式与分裂式可以给出方向相反但层级内容一致的树状结构。

1. 使用同一组数据点

2. 采用视频中展示的相同嵌套分组

存在本例中相同的训练数据集

1. 声音
   观察依据

   讲解员计算了以下各点之间的距离：4、3、2、9、1。

2. 图示
   观察依据

   形成簇 (19,20) 和 (8,10)。

3. 声音
   观察依据

   讲解者指出，最初有六个条目，现在剩下四个。

1. 合并之后，未完整展示更新后的邻近度矩阵。

1. 公式

   $$\{1,5,8,10,19,20\}$$
   解释

   初始数据集由六个互不相同的点构成。

   步骤依据

   讲解者在黑板上写下这些数字，并说明它们代表互不相同的数据点。

   视频直接表达
2. 公式

   $$d(19,20)=1$$
   解释

   19 与 20 之间的距离为 1。

   步骤依据

   该数值差异由此得出，且讲解者称其为最小距离。

   视频直接表达
3. 公式

   $$(19,20)$$
   解释

   将距离最小的一对进行合并，从而形成第一个簇。

   步骤依据

   讲解者指出，将距离最小的那些点归入同一个簇。

   视频直接表达
4. 公式

   $$d(8,10)=2$$
   解释

   8 与 10 之间的距离为 2。

   步骤依据

   讲解者指出下一个较小的距离为 2，并据此对对应的一对进行了合并。

   视频直接表达
5. 公式

   $$(8,10)$$
   解释

   将8和10合并，形成第二个簇。

   步骤依据

   这遵循凝聚式合并步骤。

   视频直接表达
6. 公式

   $$\{1,5,(8,10),(19,20)\}$$
   解释

   经过两次合并后，剩余的独立单元变为四个。

   步骤依据

   讲解者明确指出：最初共有六个物品，现在剩下四个。

   视频直接表达

在此示例中，凝聚式聚类通过合并距离最小的点对来逐步推进，每次合并都会使簇／单元的数量减少。

1. 声音
   观察依据

   讲师依次说明把5并入(8,10)，再把1并入，再把两大簇合并。

2. 图示
   观察依据

   板书逐步写出(5,(8,10))、(1,(5,(8,10)))、((1,(5,(8,10))),(19,20))。

1. 公式

   $$(8,10)$$
   解释

   起点是已经存在的子簇，点8和10先被放在一起。

   步骤依据

   视频开头板书已显示该簇，讲师也说明它先前已经存在。

   视频直接表达
2. 公式

   $$(5,(8,10))$$
   解释

   把点5与簇(8,10)合并，形成更大的簇。

   步骤依据

   讲师说“5和8以这种方式合并”，并在板书上写出嵌套形式。

   视频直接表达
3. 公式

   $$(1,(5,(8,10)))$$
   解释

   再把点1并入上一轮得到的簇。

   步骤依据

   讲师说“1与所有这些点构成一个簇”。

   视频直接表达
4. 公式

   $$((1,(5,(8,10))),(19,20))$$
   解释

   最后把左侧大簇与右侧簇(19,20)合并成根簇。

   步骤依据

   讲师说此时只剩两个簇，于是把它们合并成一个单一项目。

   视频直接表达

通过连续合并，六个点被组织成一棵自底向上的层次聚类树。

1. 图示
   观察依据

   右侧从（1，5，8，10，19，20）开始向下拆分。

2. 声音
   观察依据

   讲师逐步说明：先分出（19，20），再分出1，再分出5，最后分出8和10。

1. 公式

   $$(1,5,8,10,19,20)$$
   解释

   从包含全部样本的单一大簇开始。

   步骤依据

   右侧板书顶部写出全集，讲师说 divisive 首先面对“所有这些整体”。

   视频直接表达
2. 公式

   $$(1,5,8,10) \quad (19,20)$$
   解释

   第一次分裂将全集分成两个子簇。

   步骤依据

   讲师说“19、20自成一类，1、5、8、10自成另一类”。

   视频直接表达
3. 公式

   $$1 \quad (5,8,10)$$
   解释

   再将（1，5，8，10）拆分为单点1和剩余簇。

   步骤依据

   讲师说“接着我们把1单独分出，5、8、10合为另一类”。

   视频直接表达
4. 公式

   $$5 \quad (8,10)$$
   解释

   继续将（5，8，10）拆分为5和（8，10）。

   步骤依据

   讲师说“接着我们把5单独分出，8和10合为另一类”。

   视频直接表达
5. 公式

   $$8 \quad 10$$
   解释

   最后将（8，10）拆分为两个单点。

   步骤依据

   讲师说“然后你已将8和10分开了”。

   视频直接表达

通过连续分裂，初始全集被逐步分解为单个样本，形成一棵自顶向下的层次聚类树。

1. 声音
   观察依据

   讲师举出电商平台网站的例子，提到客户分别更常购买服装、电子产品和杂货。

2. 声音
   观察依据

   讲师对比两种策略：一是“对所有人提供50%折扣”，二是先按消费偏好聚类，再对不同簇给予不同折扣。

假设经营一个电商网站，有大量消费者，他们的购买偏好分别集中在衣服、电子产品和日用品上。怎样比“所有人统一打五折”更有效地做促销？

1. 存在大量客户／消费者

2. 不同客户对衣服、电子产品、日用品的消费倾向不同

3. 目标是根据行为差异设计更有针对性的优惠

说明如何通过层次化分组得到更有针对性的目标受众。

1. 公式

   $$$$
   解释

   先按客户的消费偏好把整体人群分成不同群组，例如更偏衣服、更偏电子、更偏日用品的人群。

   步骤依据

   这是视频中对普通聚类的直接应用：相似行为的人放在一起。

   视频直接表达
2. 公式

   $$$$
   解释

   在这些群组之上继续建立层次结构，使不同群体可以对应不同折扣比例。

   步骤依据

   视频强调层次结构的作用是在群组之间进一步建立关系，而不只是单次分组。

   视频直接表达
3. 公式

   $$$$
   解释

   对衣服偏好更强的群体重点给衣服折扣，对电子产品偏好群体给另一套优惠。

   步骤依据

   讲师明确说这样才符合不同人群的模式和趋势。

   视频直接表达

视频的结论是：先聚类、再做层次化细分，比统一给所有人 50% 的折扣更能形成有针对性的目标受众。

该示例不涉及数值计算，其验证方式是检查它是否体现了视频中反复强调的两点：相似对象归入同一簇，且簇之间还能进一步形成层级关系。

1. 声音
   观察依据

   讲解者说：我用一个简单例子来说明。

2. 图示
   观察依据

   在黑板上写下1、5、8、10、19、20，然后构建簇。

1. 完整的邻近矩阵及其后续所有合并步骤在此片段中并未展示。

给定数据点1、5、8、10、19、20；需基于距离，以凝聚式方式开始对它们进行聚类。

1. 数据集为\{1,5,8,10,19,20\}。

2. 初始时，每个点自身构成一个簇。

3. 在距离示例中，使用了数字之间的差值。

4. 讲解者指出，构建邻近矩阵是第一步。

将距离较小的点对合并，展示最初的若干次凝聚式合并步骤。

1. 公式

   $$P \text{ बनाएँ}$$
   解释

   首先构建数据点之间的成对差值/邻近矩阵。

   步骤依据

   讲解者指出，首先要创建邻近矩阵。

   视频直接表达
2. 公式

   $$d(19,20)=1$$
   解释

   在所有显示的距离中，19与20之间的差值最小。

   步骤依据

   讲解者指出，距离1是最小的。

   视频直接表达
3. 公式

   $$(19,20)$$
   解释

   将19和20合并为一个簇。

   步骤依据

   此处应用最小距离点对合并规则。

   视频直接表达
4. 公式

   $$d(8,10)=2$$
   解释

   下一个较小的距离是8与10之间的2。

   步骤依据

   讲解者选择距离2，说明了下一次合并。

   视频直接表达
5. 公式

   $$(8,10)$$
   解释

   将8和10合并为第二个簇。

   步骤依据

   这是同一凝聚式（agglomerative）流程的下一步。

   视频直接表达
6. 公式

   $$\{1,5,(8,10),(19,20)\}$$
   解释

   经过这两次合并后，剩余四个单元。

   步骤依据

   讲解者一边计数一边说明：从六个项目中剩下了四个。

   视频直接表达

展示的步骤之后，簇的状态为\{1,5,(8,10),(19,20)\}。

示例中，合并的选择依据距离顺序进行：先为19-20选择1，再为8-10选择2；同时，单元数量显示为从6减少至4。

1. 图示
   观察依据

   左右两棵树均基于同一组底层数据点1、5、8、10、19、20。

2. 声音
   观察依据

   讲师围绕这六个点完整演示了凝聚式（agglomerative）与分裂式（divisive）两种层次聚类过程。

给定数据点1、5、8、10、19、20，演示如何通过层次聚类构建树状结构，并对比凝聚式与分裂式两种方向。

1. 数据点为1、5、8、10、19、20

2. 左侧已预先给出子簇（8，10）与（19，20）

3. 视频中用树状连线表示合并或分裂关系

构建完整的层次聚类树，并说明两种方法的区别。

1. 公式

   $$(8,10),\ (19,20)$$
   解释

   首先确认两个已有的子簇。

   步骤依据

   视频开头左侧板书已画出这两组。

   视频直接表达
2. 公式

   $$(5,(8,10))$$
   解释

   在凝聚型（agglomerative）一侧，将5并入(8,10)。

   步骤依据

   讲师口头讲解并板书演示。

   视频直接表达
3. 公式

   $$(1,(5,(8,10)))$$
   解释

   再次将1并入。

   步骤依据

   讲师继续向上构建新的簇。

   视频直接表达
4. 公式

   $$((1,(5,(8,10))),(19,20))$$
   解释

   最后将两大分支合并为根节点。

   步骤依据

   讲师说明：当仅剩两个簇时，执行最终的合并操作。

   视频直接表达
5. 公式

   $$(1,5,8,10,19,20) \to (1,5,8,10),(19,20) \to 1,(5,8,10) \to 5,(8,10) \to 8,10$$
   解释

   右侧采用相同直观层级进行分裂型（divisive）反向拆分。

   步骤依据

   讲师在写出00:01:08之后，逐步书写并口述分裂顺序。

   视频直接表达

左侧得到自底向上的凝聚型树，右侧得到自顶向下的分裂型树；两者均表达了同一组嵌套簇关系。

可通过比对左右两棵树的叶子集合及中间簇是否一致来验证；视频中两棵树采用了相同的分组层级。

1. 图示
   观察依据

   整个片段的背景是一张浅蓝与白渐变的幻灯片，左上角标题为“Hierarchical clustering”，其下方有一行项目符号：“Agglomerative & Divisive”。

2. 图示
   观察依据

   底部可见白板软件的工具栏，右侧页码显示为“$3/4$”。

1. 标题“Hierarchical clustering”

2. 项目符号“Agglomerative & Divisive”

3. 讲师

4. 底部工具栏

5. 页码 $3/4$

1. 讲师在镜头前持续用手势进行讲解

2. 幻灯片上的文字本身保持不变

1. 页面主题始终是层次聚类

2. 屏幕上始终可见凝聚型与分裂型两个术语

这页幻灯片承担的是课程主题提示作用：先给出总标题，再提前暴露两种层次聚类路线的名称，为后面的口头解释提供锚点。

1. 字幕依据
   观察依据

   标题‘层次聚类’与要点‘凝聚式与分裂式’持续呈现。

2. 动画
   观察依据

   讲解者用手势模拟上下移动，以及分离与合并的动作。

1. 标题‘层次聚类’

2. 要点‘凝聚式与分裂式’

3. 讲解者的表情与神态

1. 讲解者先口头将两种类型关联起来，再加以区分。

2. 手势示意自下而上和自上而下的方向。

1. 标题和项目符号文本保持不变。

本画面通过肢体信号阐释凝聚式与分裂式这两种相反的流程。

1. 图示
   观察依据

   讲解者在底行写下1、5、8、10、19、20。

1. 数字为1、5、8、10、19、20。

1. 六个互不相同的数据点按顺序写出。

1. 这些点最初均为彼此独立的点。

这展示了凝聚式过程的初始状态，其中每个点各自构成一个簇。

1. 图示
   观察依据

   右上方为1、5、8所写的局部矩阵：0、4、$7 / 4$、0、$3 / 7$、3、6。

1. 并未构建完整的$6\times 6$矩阵；仅显示其局部部分。

1. 行/列标签1、5、8

2. 元素0、4、7、3、6

1. 两两差值以表格形式填入。

1. 讲解者的目标是计算距离，而非立即合并。

此步骤代表凝聚层次聚类中的距离计算。

1. 图示
   观察依据

   在19和20上方添加括号，写作(19,20)。

1. 对应的式子为：19

2. 对应的式子为：20

3. 对应的式子为：(19,20)

1. 两个不同的点合并形成一个簇。

1. 其余点目前尚未被处理。

这是对距离最小的点对进行合并的直观步骤。

1. 图示
   观察依据

   在8和10上方加括号，写作(8,10)。

1. 对应的式子为：8

2. 对应的式子为：10

3. 对应的式子为：(8,10)

1. 另一对点合并后形成第二个簇。

1. 1和5仍保持为独立的点。

这表明凝聚过程逐步减少簇的数量。

1. 声音
   观察依据

   讲解者指出，最初共有六个项目，现在剩下四个。

2. 图示
   观察依据

   黑板上显示着1、5、(8,10)、(19,20)的位置。

1. 对应的式子为：1

2. 对应的式子为：5

3. 对应的式子为：(8,10)

4. 对应的式子为：(19,20)

1. 经过两次合并后，独立单元的数量减少。

1. 总的基本数据点数量不变；仅分组方式发生了变化。

这体现了凝聚式聚类的逐级缩减特性。

1. 图示
   观察依据

   讲师在左侧已有的(8,10)和(19,20)基础上，继续向上绘制连接线并补充簇标签。

2. 动画
   观察依据

   书写顺序表现为从较低层级的簇逐步扩展至更高层级的根节点。

1. 底部数据点 1、5、8、10、19、20

2. 子簇（8，10）、（19，20）

3. 新增簇（5，（8，10））、（1，（5，（8，10）））、根簇（（1，（5，（8，10））），（19，20））

1. 先将 5 加入（8，10）

2. 再将 1 加入新簇

3. 最后将左右两大分支连接至共同根节点

1. 叶子点集合始终为 1、5、8、10、19、20

2. 已有子簇（8，10）和（19，20）的内部成员保持不变

画面采用向上生长的树来表示“合并”方向：每一层所含样本数均多于其下一层。

1. 图示
   观察依据

   右侧从顶部（1，5，8，10，19，20）开始向下分叉。

2. 动画
   观察依据

   讲师依次写出子簇并向下延伸分支。

1. 顶部全集 (1,5,8,10,19,20)

2. 子簇 (1,5,8,10)、(19,20)

3. 后续子簇 1、(5,8,10)、5、(8,10)、8、10

1. 首先将全集分成两个分支

2. 再逐层将较大的簇进一步拆分为更小的簇

3. 最终到达单个样本

1. 所有分支合起来仍覆盖原始六个点

2. 拆分过程不引入新的数据点

画面用向下分叉表示“分裂”方向：每一层都比上一层更精细。

1. 图示
   观察依据

   讲师在左侧树旁写下“树状图”。

1. 左侧层次聚类树

2. 手写标签：树状图（Dendrogram）

1. 从单纯绘图转向为图形命名

1. 树的结构本身保持不变

这一步将此前绘制的层次树正式定义为树状图（dendrogram）

1. 图示
   观察依据

   白板上可见标题“分层聚类”和子标题“• 凝聚式与分裂式”。左侧有一个树状图，底部叶节点为数字1、5、8、10、19、20；右侧有另一组树状结构，顶部附近可见集合(1,5,8,10,19,20)，下方分支包括(1,5,8,10)、(19,20)、(5,8,10)、(8,10)等。

2. 动画
   观察依据

   片段内白板内容基本保持静态，讲师站在板前并做手势；未观察到新的书写、擦除或图形变化。

1. 左侧树状图中部分节点标注较模糊，除底部数字和若干括号集合外，无法可靠逐项转写。

2. 右侧树状结构的完整层级关系在6秒内未被口头解释，只能记录可见节点，不能推断其构造规则。

1. 标题 分层聚类

2. 子标题 凝聚式与分裂式

3. 左侧树状图

4. 右侧树状聚类结构

5. 叶节点数字1、5、8、10、19、20

6. 括号集合如(19,20)、(8,10)、(5,8,10)、(1,5,8,10)、(1,5,8,10,19,20)

1. 讲师在板前移动并做手势。

2. 白板上的图形和文字没有发生可见变化。

1. 标题“分层聚类”始终可见。

2. 子标题“凝聚式与分裂式”始终可见。

3. 左右两组树状图在片段内保持静态。

画面呈现的是分层聚类的两类方法：凝聚式与分裂式，并用树状图表示样本从单个点逐步合并为簇、或从整体簇向下分裂为子簇的层级结构。由于本片段只有结尾提示语，未包含对这些图的逐步讲解。

1. 声音
   观察依据

   讲师通过“सबको 50% off”的反例说明，只做一次性、无差别的分组不够精细。

2. 声音
   观察依据

   讲师随后强调应先建簇，再建层级结构，对不同群体分别处理。

以为聚类只要把相似对象分成几组就够了，不需要考虑组与组之间的进一步层级关系。

视频明确指出，层次聚类的关键在于簇之间还能继续形成关系，从而支持更细的目标受众划分。

1. 字幕依据
   观察依据

   幻灯片上仅写着‘凝聚式与分裂式’。

2. 声音
   观察依据

   讲解者将这两者称为层次聚类的类型。

1. 视频中并未说明这些是全部可能的子类，还是仅指最主要的两类。

认为层次聚类的全部内容就局限在这两个词之内，无需任何其他说明。

本节仅介绍凝聚型（agglomerative）和分裂型（divisive）聚类；详细的算法、连接准则（linkage criteria）以及后续步骤未在此展示。

1. 图示
   观察依据

   仅显示含1、5、8的局部矩阵项。

2. 声音
   观察依据

   讲解者提及构建邻近度矩阵（proximity matrix）。

1. 由于未显示完整矩阵，可能造成误解：误以为当前所见部分已足够。

误以为板书上所展示的小块区域即为完整的邻近度矩阵。

视频中仅展示了局部示例；本节未呈现完整的$6\times 6$矩阵。

1. 声音
   观察依据

   讲解者仅说明合并距离最小的一对。

2. 图示
   观察依据

   未写出 single-linkage、complete-linkage、average-linkage 等术语。

误以为此处展示的简单最小距离规则即为层次聚类的全部连接方法。

本节未给出连接（linkage）的正式名称或详细规则；仅展示了示例性的合并过程。

1. 声音
   观察依据

   讲师专门对比了“从底部向上进行”与“从顶部向下进行”两种方向

人们容易误以为这两种层次聚类方法仅名称不同，其过程方向并无本质区别

视频强调：凝聚型聚类是从底部单个点出发向上合并，分裂型聚类则是从顶部整个数据集出发向下拆分，二者方向相反

1. 声音
   观察依据

   讲师说：“将5与8以这种方式合并”

2. 图示
   观察依据

   板书实际写作(5,(8,10))，表示5与整个簇(8,10)合并

1. 这是口头表述简略性与板书表达严格性之间的差异，并非明确的纠错声明

听到“把5和8合并”时，可能误以为每次只合并两个原始点。

按板书看，实际是把5并入已经形成的簇（8，10），层次聚类允许将“点”和“簇”继续合并。

1. 声音
   观察依据

   讲师先解释层次聚类的概念，随后说“दो तरीके से आप लोग create कर सकते हो एक agglomerative और एक divisive”。

2. 图示
   观察依据

   幻灯片把“凝聚型与分裂型”直接列在“层次聚类”标题之下。

视频把凝聚型与分裂型作为层次聚类的两种创建方式来呈现，因此它们是总概念下的两个分支。

1. 声音
   观察依据

   讲师先给出聚类与层级结构的直观定义，再转入从商业视角出发的电商例子。

电商客户分群示例应用了前文提出的‘相似点同簇、簇间再分层’这一基本思想。

1. 声音
   观察依据

   讲师在讲完业务动机后，顺势引出‘दो तरीके’，即凝聚型（agglomerative）和分裂型（divisive）。

视频的逻辑是：由于业务上需要更精细地分层目标受众，因此接下来将介绍实现层次聚类的两条方法路径。

1. 字幕依据
   观察依据

   ‘层次聚类’下方写着‘凝聚式与分裂式’。

凝聚式聚类是层次聚类的一种，在本节中被归为自底向上方法。

1. 声音
   观察依据

   首先需要构建邻近度矩阵，然后合并距离最小的一对。

为选择合并对象，需计算两两之间的距离，因此邻近度矩阵是凝聚式合并步骤的先决条件。

1. 声音
   观察依据

   讲解者通过一个简单示例进行说明，并在该示例上逐步演示合并过程。

数值示例展示了凝聚式合并规则在实际中的应用。

1. 声音
   观察依据

   讲解者将分裂式聚类描述为基于划分的、自顶向下的方法。

本节将分裂式聚类作为与凝聚式相反的自顶向下方法来介绍。

1. 图示
   观察依据

   白板副标题将Agglomerative列为Hierarchical clustering的一种。

凝聚式方法是层次聚类的一种具体构造方式。

1. 图示
   观察依据

   白板副标题同样将Divisive列为Hierarchical clustering的一种。

分裂式方法也是层次聚类的一种具体构造方式。

1. 声音
   观察依据

   讲师明确对比了bottom-up与top-down。

两者都是层次聚类，但一个通过合并自底向上，另一个通过分裂自顶向下。

1. 声音
   观察依据

   讲师说“इसको बोलते हैं dendrogram”。

2. 图示
   观察依据

   标签直接写在刚完成的层次树旁边。

dendrogram是用来表示层次聚类结果的图形形式。

1. 声音
   观察依据

   讲师说可以使用 Python 的 scipy 库创建这种结构。

scipy 被提及为实现或绘制树状图（dendrogram）的工具。

1. 声音
   观察依据

   片段开头直接提出并解释层次聚类（hierarchical clustering）的基本含义。

1. 层次聚类的直观定义

1. 声音
   观察依据

   讲师通过电商促销的例子，解释为何需要层次结构（hierarchy）。

1. 层次聚类的业务动机
2. 电商客户分层优惠示例

1. 声音
   观察依据

   讲师在片段末尾明确指出两种方法：凝聚型（agglomerative）和分裂型（divisive）。

2. 图示
   观察依据

   幻灯片中的项目符号同样写着‘Agglomerative & Divisive’。

1. 本片段仅给出两种方法的名称及凝聚型（agglomerative）的初步提示，尚未完整解释二者差异。

1. 层次聚类的两类方法名称

1. 字幕依据
   观察依据

   标题和项目符号均展示了这两种类型。

1. 层次聚类的两种类型

1. 声音
   观察依据

   首先需要构建邻近度矩阵。

1. 邻近度矩阵
2. 凝聚型聚类的合并规则

1. 声音
   观察依据

   总是合并距离最小的一对。

1. 一维数值上的凝聚式聚类示例。
2. 距离最小的点对最先被合并。

1. 声音
   观察依据

   讲解者提到从六个项目中减少到四个项目。

1. 一维数值上的凝聚式聚类示例。
2. 凝聚型聚类的合并规则

1. 声音
   观察依据

   已对自底向上法与自顶向下法进行了比较。

1. 层次聚类的两种类型
2. 凝聚型为自底向上，分裂型为自顶向下

1. 图示
   观察依据

   标题“层次聚类”贯穿全片段。

1. 层次聚类

1. 图示
   观察依据

   左侧逐步合并，形成一棵树。

1. 凝聚式层次聚类（Agglomerative）
2. 凝聚式树的逐步构造
3. 六个点的层次聚类示例

1. 图示
   观察依据

   右侧从全集开始向下拆分。

1. 分裂式层次聚类
2. 分裂式树的逐步构造
3. 六个点的层次聚类示例

1. 声音
   观察依据

   讲师明确对比了这两种方向。

1. 凝聚式层次聚类（Agglomerative）
2. 分裂式层次聚类
3. Agglomerative 是自底向上的
4. 分裂式是自顶向下的
5. 切勿混淆凝聚型（agglomerative）与分裂型（divisive）聚类的方向