主成分分析（PCA）

1. 公式
   观察依据

   投影图中标有一个标为$x$的粉色点。

2. 声音
   观察依据

   讲解者说：“当你将一个点 x 投影到单位向量 u 上时……”

x

被投影的点或数据向量。

由3D 坐标轴所表示的嵌入空间中的一个向量；视频未明确说明该符号的具体维数。

1. 公式
   观察依据

   一条从原点出发的黄色箭头，标为$u$。

2. 声音
   观察依据

   讲解者称其为“单位向量 u”。

u

定义投影直线方向的单位方向向量。

单位向量；之后视频明确施加条件$u^T u = 1$。

1. 公式
   观察依据

   在过$u$的直线上所得的投影点标为$x'$。

2. 声音
   观察依据

   讲解者称该投影得到“一个新点 x 撇”。

x'

$x$在由$u$张成的直线上的正交投影。

位于由$u$所确定的直线上的一个向量。

1. 公式
   观察依据

   黑板上显示$(x^T u)^2$，并标注“（信息被保留）”。

2. 声音
   观察依据

   讲述者说：“我们可以将该内积的平方理解为向量x在投影到u之后所保留的信息量。”

($x^T u$)^2

$x$与单位向量$u$之间的内积的平方，在视频中被解释为投影后所保留的信息。

与单个点$x$及方向$u$相关联的标量量。

1. 公式
   观察依据

   优化板显示 $\max \sum_i (x_i^T u)^2$ 满足约束条件 $u^T u = 1$。

2. 声音
   观察依据

   讲述者描述主成分分析（PCA）为“最大化所有国家对应的内积平方之和”。

$\sum_i (x_i^T u)^2$

将所有数据点投影到方向$u$时，所保留的总信息量。

对数据集中的索引数据点$x_i$求和。

1. 公式
   观察依据

   黑板在最大化问题下方显示$u^T u = 1$。

2. 声音
   观察依据

   讲述者将第一个分量描述为“一个单位向量”。

$u^T u = 1$

归一化约束，强制所选方向为单位向量。

对向量$u$施加的约束。

1. 公式
   观察依据

   黑板上定义了$C = \frac{1}{n} \sum_i x_i x_i^T$，并将其标记为“（协方差矩阵）”。

2. 声音
   观察依据

   讲述者说：“其中 C 被称为数据的协方差矩阵。”

C

用于重写 PCA 目标函数的协方差矩阵。

由数据向量$x_i$构建的矩阵；视频未讨论中心化处理，也未深入讲解样本协方差与总体协方差的归一化差异，仅展示了其中的$1/n$因子。

1. 公式
   观察依据

   拉格朗日函数及最终的特征值方程中使用了$\lambda$。

2. 声音
   观察依据

   讲述者提到“拉格朗日乘子法”，随后得出了方程$Cu = \lambda u$。

$\lambda$

与单位长度约束相对应的拉格朗日乘子；在最终方程中，它作为标量乘在$u$之前。

通过带约束优化推导引入的标量。

1. 公式
   观察依据

   黑板上显示$C u = \lambda u$，并将$C$标注为“（协方差矩阵）”。

2. 声音
   观察依据

   旁白提到“数据的协方差矩阵”，随后又提到“像C这样的每一个对称矩阵”。

C

数据的协方差矩阵；在本例中，它是一个对称矩阵，其特征向量即为主成分分析（PCA）的主成分。

一个作用于由GDP、社会指标和寿命所张成的特征空间中向量的方阵。

1. 公式
   观察依据

   屏幕上显示方程$C u = \lambda u$。

2. 声音
   观察依据

   说话人称这“正是矩阵C的特征向量与特征值所满足的方程”。

u

$C$的特征向量；在PCA中，它给出数据投影所沿的主成分方向。

与数据点处于同一特征空间中的向量。

1. 公式
   观察依据

   方程$C u = \lambda u$被展示出来，其中$\lambda$为未知标量。

2. 声音
   观察依据

   叙述者将$\lambda$称为“某个未知标量”，并指出它即为对应于该特征向量的特征值。

$\lambda$

与$u$这一$C$的特征向量相关联的特征值；此处解释为：将数据投影到该特征向量上后所保留的信息量。

标量。

1. 公式
   观察依据

   协方差公式表示为$C = \frac{1}{n}\sum_i x_i x_i^T$。

1. 视频未明确说明：在使用该公式前，数据是否已完成中心化处理。

$x_i$

用于所展示协方差矩阵公式的第$i$个观测的数据向量。

特征空间中的列向量。

1. 声音
   观察依据

   讲述者指出，PCA 将所有原始因子以一种巧妙的方式加以组合，生成一组新的因子——这些新因子彼此不相关，并按重要性从高到低排序。

2. 动画
   观察依据

   原始坐标轴 GDP、Social、Life 被变换为编号坐标轴1、2、3，直观地表示新的主成分。

视频将 PCA 呈现为一种在尽可能保留信息的前提下降低多维数据集维度的方法。它通过对原始变量进行线性组合，构造出一组被称为“主成分”的新因子。这些成分彼此互不相关，并按重要性排序，因此前几个主成分即可对原始数据提供忠实的近似表示。

1. 应用于具有多个测量因子或维度的数据集。

2. 目标是在保留信息的同时实现降维。

3. 视频将输出表述为新的因子，而非原始的变量。

1. 公式
   观察依据

   黑板上显示$x' = (x^T u) u$。

2. 声音
   观察依据

   讲解者说明：将点$x$正交投影到单位向量$u$上，得到新点$x'$，其模长由$x$与$u$的内积给出。

3. 动画
   观察依据

   粉色点$x$沿垂直方向投影到黄色方向$u$上，得到直线上的点$x'$。

对于点向量$x$和单位方向向量$u$，其在由$u$张成的直线上的投影为$x' = (x^T u)u$。标量系数$(x^T u)$衡量了$x$沿$u$方向的分量大小。视频进一步将$(x^T u)^2$解释为投影后关于$x$所保留的信息量。

1. $u$必须是单位向量，即$u^T u = 1$。

2. 该公式用于计算向量在由$u$张成的一维子空间上的正交投影。

3. 将$(x^T u)^2$解释为所保留的信息，是本视频的表述方式。

1. x
2. u
3. x'

1. 公式
   观察依据

   黑板上显示$\max \sum_i (x_i^T u)^2$，且满足约束条件$u^T u = 1$。

2. 声音
   观察依据

   讲述者指出，第一个成分是一个单位向量，其目标是尽可能多地保留信息，因此它使所有国家的内积平方之和达到最大。

第一主成分被定义为单位方向$u$，该方向使所有数据点在该方向上的投影平方和达到最大。在视频所用记号中，这对应于约束优化问题$\max \sum_i (x_i^T u)^2$，约束条件为$u^T u = 1$。这一形式化表述体现了选择一条直线以从原始点云中保留最多信息的思想。

1. 数据被表示为点$x_i$。

2. 方向$u$被约束为单位长度。

3. 目标函数对数据集中的所有数据点求和。

1. 点在单位向量上的投影
2. $\sum_i (x_i^T u)^2$
3. $u^T u = 1$

1. 公式
   观察依据

   黑板上定义了$C = \frac{1}{n} \sum_i x_i x_i^T$，并将其标注为“（协方差矩阵）”。

2. 声音
   观察依据

   讲述者说：“其中C被称为数据的协方差矩阵。”

1. 视频并未明确讨论在构造$C$之前数据是否已被中心化，尽管它将所展示的矩阵称为协方差矩阵。

视频引入了矩阵$C = \frac{1}{n} \sum_i x_i x_i^T$，并称其为数据的协方差矩阵。该矩阵用于将PCA的目标函数重写为紧凑的二次型。讲解中将$C$视为核心对象，用以总结数据集的二阶结构，从而为选取主方向服务。

1. 由数据向量$x_i$构建而成。

2. 所展示的归一化使用了$1/n$。

3. 视频中未说明中心化等额外假设。

1. C

1. 公式
   观察依据

   黑板将目标函数重写为$\max u^T C u$，约束条件为$u^T u = 1$。

2. 声音
   观察依据

   讲述者指出，经过若干代数变换，该表达式可重写为$u$乘以矩阵$C$再乘以$u$。

1. 视频跳过了中间的代数推导步骤。

投影平方和被重写为矩阵形式$u^T C u$，其中$C$是此前刚引入的协方差矩阵。这将原始基于求和的目标函数转化为紧凑的二次型，使后续带约束的优化问题更易处理。

1. 使用了先前定义的矩阵$C$。

2. 在视频的推导下，该式等价于之前的目标函数$\sum_i (x_i^T u)^2$。

3. 详细的代数变换过程未在屏幕上展示。

1. 第一主成分作为优化问题
2. PCA中使用的协方差矩阵

1. 公式
   观察依据

   黑板上显示了$u^T C u - \lambda(u^T u - 1)$。

2. 声音
   观察依据

   讲述者说：“接着我们构造拉格朗日函数，对 u 求梯度，并令其等于零。”

3. 动画
   观察依据

   “拉格朗日乘子法”这一文字出现在推导过程之前。

为求解在约束条件下对 $u^T C u$ 的最大化问题，$u^T u = 1$视频构造了拉格朗日函数 $u^T C u - \lambda(u^T u - 1)$。乘子 $\lambda$ 用于强制执行单位长度约束，该方法将带约束的问题转化为无约束的驻点条件。

1. 适用于第一主成分的约束优化问题。

2. 约束条件是$u^T u = 1$。

3. 视频使用拉格朗日乘子法，但未证明其一般有效性。

1. 将主成分分析（PCA）的目标函数重写为二次型
2. $\lambda$

1. 公式
   观察依据

   黑板上先显示$2Cu - 2\lambda u = 0$，然后显示$Cu = \lambda u$。

2. 声音
   观察依据

   叙述者得出结论：保留最多信息的方向满足$Cu = \lambda u$。

1. 视频并未明确指出使目标最大化的方向对应于最大特征值，仅说明驻点条件为$Cu = \lambda u$。

对拉格朗日函数关于$u$求导并令结果为零，得到$2Cu - 2\lambda u = 0$，该式可简化为$Cu = \lambda u$。因此，最优投影方向被刻画为协方差矩阵$C$的一个特征向量。视频将此作为推导的关键结论。

1. $C$是此前定义的协方差矩阵。

2. $u$是正在被优化的方向向量。

3. 该方程由拉格朗日函数的平稳性条件导出。

1. 约束主成分分析问题的拉格朗日函数
2. PCA中使用的协方差矩阵

1. 公式
   观察依据

   黑板上展示了$C u = \lambda u$，以及标注为“（协方差矩阵）”的$C = \frac{1}{n}\sum_i x_i x_i^T$。

2. 声音
   观察依据

   讲解者称，这正是矩阵$C$的特征向量与特征值所满足的方程。

视频将PCA方向识别为协方差矩阵$C$的特征向量。若向量$u$是特征向量，则将$C$左乘$u$仅会将其按标量$\lambda$缩放，得到$C u = \lambda u$。在此语境下，$u$表示主成分方向，而$\lambda$则衡量将数据投影到该方向时所保留的信息量。

1. $C$是数据的协方差矩阵。

2. $u$是$C$的一个特征向量。

3. $\lambda$是对应的特征值。

1. 公式
   观察依据

   黑板上将$C u = \lambda u$变换为$u^T C u = \lambda u^T u$，再进一步变换为$u^T C u = \lambda$。

2. 声音
   观察依据

   讲解者指出，投影到某一特征向量后所保留的信息量，由其对应的特征值给出。

1. 视频在展示简化步骤时并未明确说明归一化假设$u^T u=1$，尽管后续对$u_2$施加了单位长度条件。

对于特征向量方向$u$，二次型$u^T C u$给出沿该方向所捕获的方差。当$u$被归一化使得$u^T u=1$成立时，恒等式$C u = \lambda u$意味着$u^T C u = \lambda$。因此，该特征值即为将数据投影到该特征向量上所保留的信息量。

1. $u$是$C$的一个特征向量。

2. $\lambda$是其对应的特征值。

3. 简化为$u^T C u = \lambda$的过程使用了单位范数$u^T u=1$。

1. 主成分分析（PCA）主成分的特征方程。

1. 声音
   观察依据

   主讲人指出，应选取具有最大特征值的特征向量作为最优方向。

2. 公式
   观察依据

   黑板上写下“$u_1 =$是$C$的主特征向量”，随后显示$u_1 = \begin{bmatrix}0.59\\0.56\\0.58\end{bmatrix}$。

第一主成分被选为$C$中对应最大特征值的特征向量，因为该方向在投影下保留的信息量最多。在本例中，该主特征向量在数值上接近GDP、社会指标与寿命指标的等比例混合，因此视频将该成分命名为“实力”。

1. 在$C$的特征向量中进行选择。

2. 选取其中特征值最大的那个。

1. 主成分分析（PCA）主成分的特征方程。
2. 投影所得信息量等于该特征值。

1. 公式
   观察依据

   黑板上显示了$u_2^T u_2 = 1$、$u_2 \perp u_1$和$\max u_2^T C u_2$。

2. 声音
   观察依据

   讲述者指出，第二个成分应是一个单位向量，它不包含第一个成分中已有的信息，几何上位于与$u_1$正交的子空间中，同时最大化与之前相同的量。

第二分量定义为单位向量$u_2$ 与第一主成分正交 $u_1$ 使该二次型取最大值 $u_2^T C u_2$。这使得它成为在剔除已被 $u_1$ 所捕获的变异之后，剩余变异最大的方向。

1. $u_2$必须具有单位长度。

2. $u_2$必须与$u_1$正交。

3. 目标是最大化$u_2^T C u_2$。

1. 第一主成分即为主特征向量。
2. 投影所得信息量等于该特征值。

1. 公式
   观察依据

   黑板上写下“$u_2 =$是$C$的第二个特征向量”，随后显示$u_2 = \begin{bmatrix}0.22\\-0.8\\0.55\end{bmatrix}$。

2. 声音
   观察依据

   讲话者指出，第二个成分由数据协方差矩阵的第二个特征向量给出。

对$u_2$求解带约束的最大化问题，得到$C$的第二个特征向量。在该示例中，其坐标暗示了个体因素与社会因素之间的对比，因此视频将这一成分命名为“平衡”。

1. $u_2$是在选定$u_1$为主特征向量之后得到的。

2. $u_2$对应于在正交性约束下下一个最大的特征值方向。

1. 第二主成分的定义

1. 声音
   观察依据

   讲解者说：“特别地，当x与u平行时，该量取最大值；当x与u正交时，该量取最小值。”

2. 动画
   观察依据

   图中显示：$x$与$u$对齐，得到较长的投影；而$x$垂直于$u$，投影坍缩至原点。

对于固定的单位向量$u$，量$(x^T u)^2$在$x$与$u$平行时达到最大，在$x$与$u$正交时达到最小。

1. $u$是一个单位向量。

2. $x$是与$u$处于同一空间中的向量。

3. 当前讨论的量是$(x^T u)^2$。

对每个固定的单位向量$u$，以及变化的$x$。

1. 声音
   观察依据

   讲解者指出，主成分分析（PCA）生成的新因子具有两个特性：（1）彼此不相关，（2）按重要性从高到低排序。

2. 动画
   观察依据

   原始坐标轴被编号坐标轴1、2、3所取代。

1. 视频口头陈述了这些性质，但本片段中并未给出证明。

主成分分析（PCA）生成的新因子彼此不相关，并按重要性从高到低排序。

1. 对数据集应用主成分分析（PCA）。

2. 输出结果是由主成分分析（PCA）构造出的主成分。

针对主成分分析（PCA）生成的这一组主成分。

1. 声音
   观察依据

   讲解者指出，第一个主成分是使内积平方和最大的单位向量，并随后得出其满足$Cu = \lambda u$。

2. 公式
   观察依据

   黑板上依次写出$\max \sum_i (x_i^T u)^2$，约束条件为$u^T u = 1$；然后是$u^T C u$；再然后是$Cu = \lambda u$。

1. 该片段未明确将$\lambda$与最大特征值联系起来，尽管这是标准解释。

第一主成分是一个单位向量 $u$，它使 $\sum_i (x_i^T u)^2$ 在约束条件 $u^T u = 1$ 下取得最大值，且该约束问题的任意驻点解均满足 $Cu = \lambda u$。

1. 数据由向量$x_i$表示。

2. $C = \frac{1}{n}\sum_i x_i x_i^T$是在推导过程中使用的矩阵。

3. 该优化问题受到$u^T u = 1$的约束。

存在一个使目标最大化的单位方向$u$；所推导出的条件适用于该约束问题的驻点。

1. 声音
   观察依据

   讲述者说道：“因此，显然最佳的选择方向是具有最大特征值的特征向量。”

在协方差矩阵$C$的特征向量中，投影下最能保留信息的方向是对应最大特征值的那个特征向量。

1. $C$是协方差矩阵。

2. 投影方向为$C$的一个特征向量方向。

3. 所保留的信息量由对应的特征值来度量。

对于$C$的全体特征向量，选择其特征值最大的那个。

1. 声音
   观察依据

   讲话者说道：“更一般地，主成分分析（PCA）所选取的方向，恰好就是协方差矩阵的特征向量。”

2. 公式
   观察依据

   标题卡片显示：“PCA的分量 = C的特征向量”

PCA所选取的方向，恰好就是协方差矩阵$C$的特征向量。

1. $C$是数据的协方差矩阵。

2. 主成分分析（PCA）的各主成分由依次取得最大方差的正交方向定义。

在此设定下，所有PCA主成分均满足该性质。

1. 声音
   观察依据

   讲述者说：“您看，像C这样的每一个对称矩阵都有n个彼此正交的特征向量与特征值配对。”

2. 公式
   观察依据

   图示同时展示了$u_1 \perp u_2 \perp \cdots \perp u_n$与$\lambda_1,\lambda_2,\ldots,\lambda_n$。

1. 该命题在视频片段中未经证明即被提出。

2. 视频未讨论重特征值，也未提及需在特征子空间内选取正交基。

每个像$C$这样的对称矩阵都有$n$对特征向量-特征值，且其特征向量彼此正交。

1. 该矩阵是对称的。

2. 环境维度为$n$。

对于每一个对称矩阵 $C$，在 $n$ 维空间中。

1. 声音
   观察依据

   讲述者说道：“若将所有特征值除以它们的总和，可见成分‘功率’解释了约85%的数据，而‘平衡’解释了约10%。”

2. 公式
   观察依据

   表格列出了特征值2.58、0.29和0.13，且第一项标注为85%。

1. 精确的算术过程并未在屏幕上逐步展示。

2. “解释了约85%的数据”这一表述是对“所解释方差比例”的非正式描述。

将每个特征值除以所有特征值之和，即得该对应成分所解释的数据比例；本例中，‘功率’解释了约85%，‘平衡’解释了约10%。

1. 所列出的特征值属于$C$的各成分。

2. 所有特征值均被包含在求和之中。

针对示例中展示的三个成分。

1. 公式
   观察依据

   黑板上先显示$x' = (x^T u)u$，然后显示$(x^T u)^2$，并标注为“（信息被保留）”。

2. 声音
   观察依据

   讲述者解释了投影，并将内积的平方解释为被保留的信息。

3. 动画
   观察依据

   将点$x$投影到由$u$张成的直线上，此时$x$相对于$u$的对齐方式／朝向发生变化。

1. 公式

   $$x' = (x^T u) u$$
   解释

   将点$x$投影到由单位向量$u$所确定的直线上。

   步骤依据

   该结论由讲述者直接陈述，并在黑板上展示。

   视频直接表达
2. 公式

   $$(x^T u)^2$$
   解释

   取投影中该标量系数的平方。

   步骤依据

   视频将这一量标记为投影后所保留的信息量。

   视频直接表达

平方内积 $(x^T u)^2$ 衡量了 $x$ 在向方向 $u$ 上投影时保留了多少。

1. 公式
   观察依据

   黑板依次显示$\max \sum_i (x_i^T u)^2$、$u^T u = 1$、$u^T C u$、$C = \frac{1}{n}\sum_i x_i x_i^T$、$u^T C u - \lambda(u^T u - 1)$、$2Cu - 2\lambda u = 0$和$Cu = \lambda u$。

2. 声音
   观察依据

   讲解者描述了如何最大化保留的信息，如何用协方差矩阵重写目标函数，以及如何使用拉格朗日乘子法。

1. 从$\sum_i (x_i^T u)^2$到$u^T C u$的代数推导被断言成立，但未逐步展示。

2. 求导步骤仅作概括性说明，而未完全展开。

1. 公式

   $$\max \sum_i (x_i^T u)^2 \quad \text{subject to} \quad u^T u = 1$$
   解释

   选择单位方向$u$，使得所有数据点在该方向上的投影平方和最大。

   步骤依据

   这是讲解者为第一主成分所陈述的优化问题。

   视频直接表达
2. 公式

   $$u^T C u$$
   解释

   将目标函数改写为以矩阵$C$表示的二次型。

   步骤依据

   讲解者称，经过代数运算后，该表达式可重写为$u$乘以$C$乘以$u$。

   视频直接表达
3. 公式

   $$C = \frac{1}{n} \sum_i x_i x_i^T$$
   解释

   定义出现在二次型中的矩阵$C$。

   步骤依据

   黑板上展示了该矩阵，并由讲解者命名为协方差矩阵。

   视频直接表达
4. 公式

   $$u^T C u - \lambda(u^T u - 1)$$
   解释

   为带约束的最大化问题构造拉格朗日函数。

   步骤依据

   讲解者明确指出要构造拉格朗日函数。

   视频直接表达
5. 公式

   $$2Cu - 2\lambda u = 0$$
   解释

   对$u$求梯度，并令其等于零。

   步骤依据

   由讲解者口头陈述，并显示在黑板上。

   视频直接表达
6. 公式

   $$Cu = \lambda u$$
   解释

   化简平稳性条件，得到特征值方程。

   步骤依据

   对上一行进行代数化简，显示在黑板上。

   视频直接表达

第一主成分的最优方向满足$Cu = \lambda u$，因此它是协方差矩阵$C$的一个特征向量。

1. 公式
   观察依据

   黑板依次显示$C u = \lambda u$、然后$u^T C u = \lambda u^T u$、再然后$u^T C u = \lambda$。

2. 声音
   观察依据

   旁白在这些公式出现的同时，将投影信息与对应的特征值关联起来。

1. 从$\lambda u^T u$到$\lambda$的推导步骤隐含假设了$u^T u=1$，但视频在此刻并未口头明确说明该假设。

1. 公式

   $$C u = \lambda u$$
   解释

   从协方差矩阵的特征向量 $u$ 所满足的特征方程出发 $C$。

   步骤依据

   给出特征向量与特征值的定义。

   视频直接表达
2. 公式

   $$u^T C u = \lambda u^T u$$
   解释

   等式两边同时左乘$u^T$，得到左侧为一个标量二次型，右侧为$u^T u$的一个标量倍数。

   步骤依据

   对特征方程左侧代数地左乘$u^T$。

   视频直接表达
3. 公式

   $$u^T C u = \lambda$$
   解释

   若$u$被归一化为单位长度，则$u^T u=1$，因此右侧简化为$\lambda$。

   步骤依据

   利用单位模长条件$u^T u=1$。

   依据视频推导

对于单位特征向量$u$，沿该方向所投影的信息量或方差，恰好等于特征值$\lambda$。

1. 公式
   观察依据

   黑板上显示$u_2^T u_2 = 1$、$u_2 \perp u_1$、$\max u_2^T C u_2$，然后指出$u_2$是$C$的第二个特征向量。

2. 声音
   观察依据

   讲解者说明：第二个分量应避开第一个分量中已包含的信息，并最大化与之前相同的量。

1. 视频未详细展示拉格朗日乘子法推导或谱定理论证，而是直接陈述结果。

1. 公式

   $$u_2^T u_2 = 1$$
   解释

   要求第二个方向为单位向量，使得被最大化的量衡量的是方向而非尺度。

   步骤依据

   屏幕上显示的归一化约束条件。

   视频直接表达
2. 公式

   $$u_2 \perp u_1$$
   解释

   要求该方向与第一主成分正交，从而确保$u_2$不会重复使用$u_1$已捕获的信息。

   步骤依据

   讲解者给出的几何解释：第二主成分位于与$u_1$正交的子空间中。

   视频直接表达
3. 公式

   $$\max u_2^T C u_2$$
   解释

   在所有满足条件的方向中，选择使二次型$u_2^T C u_2$最大化的那个方向，即剩余保留的信息量。

   步骤依据

   与第一主成分所用的目标函数相同，但现限制在正交子空间内。

   视频直接表达
4. 公式

   $$u_2 = \text{second eigenvector of } C$$
   解释

   该约束最大化问题的解，是矩阵$C$在最大特征向量之后的下一个特征向量。

   步骤依据

   视频中陈述的结果；这是主成分分析/特征分解的标准事实。

   视频直接表达

第二主成分是协方差矩阵的第二个特征向量，通过在单位长度和与第一主成分正交的约束下最大化所捕获的方差而得到。

1. 公式
   观察依据

   表格列出了特征值2.58、0.29和0.13，并在‘Power’栏下显示了85%。

2. 声音
   观察依据

   讲解者指出，应将所有特征值除以其总和，以得到各主成分所解释的数据比例。

1. 该片段未在屏幕上逐行显示中间算术过程。

2. 口述句子在介绍Balance的百分比后被截断，但屏幕上可见数字10%。

1. 公式

   $$\lambda_1=2.58,\ \lambda_2=0.29,\ \lambda_3=0.13$$
   解释

   从汇总表格中读取三个特征值。

   步骤依据

   直接在屏幕上观察得到。

   视频直接表达
2. 公式

   $$\lambda_1+\lambda_2+\lambda_3 = 2.58+0.29+0.13 = 3.00$$
   解释

   将特征值相加，得到全部成分所代表的总方差。

   步骤依据

   对屏幕上显示的数值进行算术求和。

   依据视频推导
3. 公式

   $$\frac{\lambda_1}{\lambda_1+\lambda_2+\lambda_3}=\frac{2.58}{3.00}=0.86$$
   解释

   将第一个特征值除以总和，从而估算Power所解释的数据比例。

   步骤依据

   叙述者说明的步骤：将所有特征值除以其总和。

   依据视频推导
4. 公式

   $$\frac{\lambda_2}{\lambda_1+\lambda_2+\lambda_3}=\frac{0.29}{3.00}\approx 0.097$$
   解释

   类似地将第二个特征值归一化，从而估算Balance所解释的数据比例。

   步骤依据

   对第二个成分应用相同的归一化步骤。

   依据视频推导

归一化后的特征值表明，Power大约解释了85–86%的数据，Balance大约解释了10%，与视频中的汇总结果一致。

1. 声音
   观察依据

   讲解者介绍了一份2021国报告，该报告从六个维度对各国打分，并指出可选取其中两到三个维度（如GDP、社会支持、预期寿命）来可视化数据。

2. 图示
   观察依据

   一张表格列出了国家代码FR、DE、IN、MA、TR、US，对应列标题为GDP、SOCIAL、LIFE、FREEDOM、GENEROSITY、CORRUPTION。

3. 动画
   观察依据

   各国国旗作为点出现在一个3维图中，坐标轴分别为GDP、Social、Life。

1. 表格中的精确数值可见，但数学解释并不需要全部数值。

2. 视频未定义这六个维度的单位或缩放方式。

给定包含六个指标的国家层面数据，如何开始分析和可视化该数据集？

1. 一个包含六项指标的国家数据集：GDP、SOCIAL、LIFE、FREEDOM、GENEROSITY、CORRUPTION。

2. 示例国家包括法国（FR）、德国（DE）、印度（IN）、摩洛哥（MA）、土耳其（TR）和美国（US）。

3. 视频选取其中三个指标进行可视化：GDP、Social 和 Life。

在低维图中直观呈现数据，同时承认部分指标未被纳入。

1. 公式

   $$$$
   解释

   从国家各项得分构成的完整六指标表格出发。

   步骤依据

   直接显示在开场的数据展示中。

   视频直接表达
2. 公式

   $$$$
   解释

   仅选取三个指标，例如 GDP、社会支持与预期寿命，并将每个国家表示为3D 中的一个点。

   步骤依据

   讲解者指出：我们无法同时可视化六个维度，但可从中选取两个或三个指标。

   视频直接表达
3. 公式

   $$$$
   解释

   需认识到这种3D视图会丢失其余指标（如自由度与慷慨度）所包含的信息。

   步骤依据

   讲解者在展示3D散点图后明确指出这一点。

   视频直接表达

使用 GDP、Social 和 Life 构建的3D散点图，仅能部分展现国家数据，却舍弃了其他指标所承载的信息。

视频通过指出自由和慷慨等因素中的重要信息在3D表示中丢失，来验证这一局限性。

1. 图示
   观察依据

   一个3D散点图使用GDP、Social和Life作为坐标轴标签，并以国家旗帜球体作为数据点。

2. 公式
   观察依据

   图板上显示了$u_1 = \begin{bmatrix}0.59\\0.56\\0.58\end{bmatrix}$、$u_1 = 0.59\,\text{GDP} + 0.56\,\text{Social} + 0.58\,\text{Life}$、$u_2 = \begin{bmatrix}0.22\\-0.8\\0.55\end{bmatrix}$和$u_2 = 0.22\,\text{GDP} - 0.8\,\text{Social} + 0.55\,\text{Life}$。

3. 声音
   观察依据

   讲述者将第一个成分解释为“实力”，第二个解释为“均衡”，随后讨论了挪威、尼日尔、新加坡、贝宁和土库曼斯坦。

1. 底层数据集未完全明确说明，仅知其为一个与幸福感相关的示例，包含GDP、社会（Social）和寿命（Life）三类特征。

2. 各国家的具体数值投影结果并未展示。

使用主成分分析（PCA）将一个含3个特征的国家数据集（GDP、社会、寿命）降维为可解释的成分，并考察前两个成分如何刻画挪威、尼日尔、新加坡、贝宁和土库曼斯坦等国家。

1. 数据点代表各国，在一个3维空间中绘制，坐标轴分别为GDP、社会（Social）和寿命（Life）。

2. 协方差矩阵为$C$。

3. 主特征向量为$u_1 = [0.59,0.56,0.58]^T$。

4. 第二特征向量为$u_2 = [0.22,-0.8,0.55]^T$。

识别前两个主成分分析（PCA）成分，解释其含义，并将各国投影到由这两个成分张成的平面上。

1. 公式

   $$u_1 = 0.59\,\text{GDP} + 0.56\,\text{Social} + 0.58\,\text{Life}$$
   解释

   将主特征向量在原始特征基底下展开，以解释第一个成分。

   步骤依据

   在显示坐标向量后直接呈现在屏幕上。

   视频直接表达
2. 公式

   $$\text{Power}$$
   解释

   将第一个分量命名为“力量”，因为三个原始因子对其贡献几乎相等。

   步骤依据

   解说员对系数近乎相等的解读。

   视频直接表达
3. 公式

   $$u_2 = 0.22\,\text{GDP} - 0.8\,\text{Social} + 0.55\,\text{Life}$$
   解释

   将第二个特征向量在原始特征基底下展开，以解释第二个分量。

   步骤依据

   在显示坐标向量后直接呈现在屏幕上。

   视频直接表达
4. 公式

   $$u_2 = (0.22\,\text{GDP} + 0.55\,\text{Life}) - 0.8\,\text{Social}$$
   解释

   重新组合各项，以凸显第二个分量体现的是个体因子与社会因子之间的对比。

   步骤依据

   在黑板上以视觉方式展示的代数重排。

   视频直接表达
5. 公式

   $$\text{Balance}$$
   解释

   基于该对比解读，将第二个分量命名为“平衡”。

   步骤依据

   解说员明确命名。

   视频直接表达
6. 公式

   $$\text{Project countries onto the plane spanned by } u_1 \text{ 且 } u_2$$
   解释

   使用前两个分量，将3维数据降维为2维表示。

   步骤依据

   由解说员描述，并通过旋转至标有“力量”与“平衡”的2维平面进行可视化。

   视频直接表达

第一个分量是“力量”，大致为GDP、社会与寿命三者的等权混合；第二个分量是“平衡”，体现个体因子与社会因子之间的对比。在2维投影中，“力量”值较高的国家包括挪威，“力量”值较低的国家包括尼日尔；新加坡在“力量”上排名靠前，但因失衡导致整体幸福感偏低；贝宁与土库曼斯坦则分别位于“平衡”轴的两端。

验证是定性且直观的：标注国家的投影位置与叙述者在“力量平衡平面”上的解读相吻合。

1. 图示
   观察依据

   首先出现一张国家列表及六列因素的表格。

2. 动画
   观察依据

   画面切换为三条分别标注为GDP、Social和Life的彩色坐标轴。

1. 国家表格的行依次为FR、DE、IN、MA、TR、US

2. 各列为GDP、SOCIAL、LIFE、FREEDOM、GENEROSITY、CORRUPTION

3. 三条坐标轴分别标注为GDP、Social、Life

1. 演示从完整的六列表格过渡到三维空间散点图。

2. 可视化仅保留了六个因素中的三个。

1. 其核心思想不变：每个国家均由各因素的数值评分来表示。

这一视觉转换体现了在绘制高维数据前，实际需要先降低维度。

1. 动画
   观察依据

   在3D图中出现了覆盖国旗的球体，例如挪威、美国、中国和俄罗斯等国家。

2. 声音
   观察依据

   讲述者在点状图填充空间的同时，口头列举示例国家。

1. 图中各个点的坐标未以数字形式标注。

1. 标有各国国旗的彩色球体。

2. 坐标轴分别代表国内生产总值（GDP）、社会支持度（Social）和预期寿命（Life）。

1. 原本空白的坐标系逐渐演变为众多国家的散点图。

2. 当各示例国家依次出现时，讲述者口头指出其具体名称。

1. 每个球体代表一个国家，其位置由所选的三个因素共同决定。

该可视化将数据集呈现为降维后的3D特征空间中的一团点云。

1. 动画
   观察依据

   原始坐标轴（GDP、Social、Life）与一组新坐标轴（标记为1、2、3）并列显示。

2. 声音
   观察依据

   讲述者解释主成分分析（PCA）会生成一类名为‘主成分’的新因素。

1. 本片段未展示该旋转所遵循的确切几何规则。

1. 原始坐标轴三元组标记为GDP、社会、寿命

2. 新坐标轴三元组标记为1、2、3

1. 坐标系从以原始变量命名转变为以编号的成分为基准。

2. 新坐标轴被呈现为旧坐标轴的一种更优组合。

1. 两种坐标系均表示同一底层数据云的坐标系统。

该动画传达了主成分分析（PCA）将数据以重要性排序的新基底重新表达。

1. 动画
   观察依据

   图中显示一个粉色点$x$、一个黄色向量$u$以及一个投影点$x'$，并用虚线垂线段连接。

2. 公式
   观察依据

   黑板上显示$x' = (x^T u)u$和$(x^T u)^2$。

1. 点$x$

2. 单位向量$u$

3. 投影点$x'$

4. 从$x$向过$u$的直线所作的虚线垂线

1. $x$相对于$u$的位置变化，以展示不同的投影长度。

2. 当$x$与$u$重合时，投影最长；当$x$与该直线垂直时，投影坍缩至原点。

1. 投影始终落在由$u$张成的直线上。

2. 公式$x' = (x^T u)u$始终是支配该关系的表达式。

动画将内积可视化为投影的有向长度系数，而其平方则代表被保留的信息。

1. 公式
   观察依据

   黑板依次展示约束最大化问题、协方差矩阵定义、拉格朗日函数、梯度条件以及特征值方程。

2. 动画
   观察依据

   推导过程中出现“拉格朗日乘子”和“优化”等文字标签。

1. 部分中间代数步骤在屏幕上被压缩显示。

1. 目标函数$\max \sum_i (x_i^T u)^2$

2. 约束条件$u^T u = 1$

3. 矩阵定义$C = \frac{1}{n}\sum_i x_i x_i^T$

4. 拉格朗日函数$u^T C u - \lambda(u^T u - 1)$

5. 最终方程$Cu = \lambda u$

1. 该表达式从投影平方和出发，演变为二次型，再转化为拉格朗日函数，最终成为特征值方程。

1. 所有步骤均围绕同一受约束优化问题展开，即选取最优投影方向。

这一可视化序列将数学推导组织成一条紧凑的链条，从数据投影出发，最终导向协方差矩阵的特征向量。

1. 图示
   观察依据

   一个标注为GDP、社会、生活的3D坐标系中包含各国国旗球体；一块黑板上显示$C u = \lambda u$和$C = \frac{1}{n}\sum_i x_i x_i^T$，并标有“（协方差矩阵）”。

2. 动画
   观察依据

   黑板上的方程依次从$C u = \lambda u$变为$u^T C u = \lambda u^T u$，再变为$u^T C u = \lambda$。

1. 标注为GDP、社会、生活的3D坐标轴。

2. 各国国旗球体。

3. 写有公式的黑板。

1. 所展示的方程依次从$C u = \lambda u$进展到$u^T C u = \lambda u^T u$，再进展到$u^T C u = \lambda$。