归一化的定义
归一化是一种数据变换技术,用于对数据集中各特征进行缩放与标准化,使不同属性的取值统一到相同的尺度或范围内。
Gate Smashers · YouTube · 9:07
本视频片段介绍了数据变换中的归一化概念。主讲人解释道,归一化用于对数据集的特征进行缩放与标准化,通常将其映射到0与1之间的范围。提到了常见的归一化技术,如最小-最大归一化和Z分数归一化。随后用计算机二进制编码这一简单类比来说明标准化,并通过一个房屋数据表格示例(各特征量纲差异显著)来凸显归一化的必要性。 本片段介绍了机器学习数据预处理中的 Min-Max 归一化技术。讲师首先通过一个房屋价格预测的数据集,指出了不同特征(如面积和卧室数)量级差异过大的问题,从而引出将所有特征缩放到统一尺度(如0到1之间)的必要性。随后,讲师在黑板上写出了 Min-Max 归一化的标准公式,并详细解释了公式中每个变量的含义。最后,讲师以数据集中的房屋面积为例,开始了具体的归一化计算演示。 本片段主要讲解机器学习中的数据预处理技术——Min-Max 归一化。讲师通过一个房屋数据集(包含面积、卧室数等特征),演示如何使用公式 X' = (X - min) / (max - min) 将原始数据线性映射到0, 1区间。视频详细展示了针对特定数值(如1200、1500、3)的代入计算过程,得出归一化结果0.25、0.625、0.33等。讲师还强调了归一化的重要性:可防止因特征数值过大或差异过大,导致机器学习算法计算复杂度增加或性能下降。片段最后简要引入了另一种标准化方法——Z-score 技术,并切换至包含学生身高数据的新幻灯片,但具体讲解尚未开始。 本视频片段介绍了Z分数标准化技术,说明其适用于正态分布的数据。讲师展示了Z分数公式,定义了其中涉及的变量,并演示了如何为一组学生身高的样本数据集计算均值和标准差。该片段最后分步推导标准差,为后续Z分数变换做好准备。 本片段讲解了机器学习中的数据归一化技术——Z-score 标准化。通过一个学生身高的例子,演示了如何计算数据集的均值和标准差,并利用 Z-score 公式将原始数据转换为标准分数。最后强调了消除特征量纲差异对于机器学习算法正常运作的重要性。
在学习检查器中查看要点和时刻,或切换阅读标签查看完整笔记。
依据视频画面与讲解整理,并非逐字语音转写。
视频开篇即引入数据变换中的归一化主题。主讲人指出,尽管归一化有时被宽泛地关联到数据降维,但其主要功能是对数据集中各特征进行缩放与标准化。
数据集常包含多个属性,其取值差异显著。归一化正是将这些差异显著的取值统一映射至某一特定、一致的量纲或范围的过程。
为说明标准化,主讲人举了一个类比:人类语言拥有大量字母表(例如英语有26),而计算机仅能处理二进制数字(0和1)。将所有语言输入转换为这种二进制格式,是标准化的一个基本范例,与数据归一化类似。
归一化的核心目标被明确指出:将数据集的所有特征映射至相近的量纲,通常范围在0与1之间。具体量纲取决于所采用的技术。
提到了多种归一化技术,其中最小-最大归一化与Z分数归一化被强调为最常用的方法;鲁棒缩放与对数变换等其他方法也有所提及。
该片段转入一个实际示例,使用一份房屋数据集。表格列出了房屋编号、面积(平方英尺)、卧室数量以及价格(单位:拉克)
通过观察数据可以明显看出,各特征的数值范围差异极大——例如,房屋面积以千为单位,而卧室数量仅为个位数。这种差异凸显了在应用数据挖掘或机器学习算法前进行归一化的必要性,以确保没有任何一个特征因其数值范围更大而主导整个分析过程。
视频展示了一个关于房屋数据的表格,包含房屋编号、面积(平方英尺)、卧室数量和价格(十万卢比)。讲师指出,目标是利用机器学习算法,根据房屋的面积和卧室数量来预测其价格。
讲师观察到,表格中“面积”这一列的数值都在上千的量级,而“卧室数量”的数值通常只有个位数。这种特征之间量级的巨大差异会导致机器学习模型在训练时偏向于数值较大的特征。因此,为了公平地对待所有特征,需要将它们转换到同一个尺度上,例如 [0, 1] 区间。这个过程被称为归一化(Normalization)。
为了实现归一化,讲师介绍了一种常用的方法:Min-Max 归一化技术。这种方法依赖于数据集的最小值和最大值。讲师在白板上写下了计算公式:。其中, 代表归一化后的新值, 是原始数据值, 是该特征在数据集中的最小值, 是最大值。
接着,讲师以表格中的“面积”列为例进行演示。他首先找出该列的最小值(1000)和最大值(1800)。然后,他开始计算第一栋房屋面积(1200)的归一化值,将数值代入公式得到:。视频在此处结束,未展示最终的计算结果。
在这段视频中,讲师正在讲解 Min-Max 归一化技术。屏幕上显示了一个包含四栋房屋数据的表格,列出了面积(平方英尺)、卧室数和价格。讲师在白板下方写下了 Min-Max 公式:。
讲师以第一栋房屋的面积 1200 为例进行计算。他指出该列的最小值是 1000,最大值是 1800。代入公式得到 ,最终计算结果为 0.25。讲师强调,这个 0.25 就是归一化后的值,它落在了 0 到 1 的区间内。
接着,讲师计算第二栋房屋的面积 1500。同样使用最小值 1000 和最大值 1800,计算过程为 ,结果为 0.625。他还口头说明了第三栋房屋(面积 1000,即最小值)归一化后为 0,第四栋房屋(面积 1800,即最大值)归一化后为 1。
讲师解释了进行这种归一化的原因:原始数据可能非常大(如成千上万),直接用于机器学习算法会导致巨大的时间复杂度。通过将数据限制在 0 和 1 之间,算法可以更高效地处理,避免了因数值过大而产生的计算困难。
随后,讲师将同样的方法应用到“卧室数”这一列。他选取第一栋房屋的卧室数 3,该列最小值为 2,最大值为 5。计算过程写在白板右侧:,结果约为 0.33。这展示了 Min-Max 方法适用于任何具有明确最小值和最大值的数值型特征。
最后,讲师总结道,只要数据中有合适的最小值和最大值,就可以使用 Min-Max 方法。紧接着,幻灯片切换到了一个新的主题“Z-score 技术”,并显示了一个包含学生身高的新表格。讲师刚开始介绍 Z-score 技术,视频便结束了。
本片段介绍Z分数技术。主讲人指出,当数据呈正态分布(normally distributed)时,即形成对称的钟形曲线(bell-shaped curve),该方法最为适用。
随后给出Z分数公式:X' = (X - μ) / σ。其中X为原始数据值,μ为均值(mean),σ为标准差(standard deviation)。该公式的目的是对数据进行标准化(normalize)。
为应用该公式,首先计算所给学生身高数据集(64, 70, 72, 68, 76)的均值。所有数值之和为350,除以总个数5,得到均值70。
最后,以分步方式展示标准差的计算:先将每个数值减去均值(70),再对所得差值取平方;接着计算这些平方值的平均数(即方差或variance)16;最后对该平均数开平方根,得到标准差4。
视频开始时,白板上已经写出了 Z-score 的核心公式:。讲师指着左侧的数据表格(包含 5 名学生的身高),说明在进行标准化之前,必须先求出两个关键的统计量:平均值()和标准差()。
讲师回顾了之前的计算过程:将所有身高相加除以5得到平均值;接着计算每个数据与平均值之差的平方和,除以5得到方差16,再开根号得到标准差。这两个基础数值已经写在白板的右上方。
现在,讲师开始演示如何应用公式。他选取表格中的第一个数据64,将其代入Z-score公式中:。分子计算得到-6,除以4后得出结果为-1.5。他在表格旁边写下了这个新的标准化值。
为了进一步说明,讲师又选取了第三个数据72进行计算:。他解释说,Z-score的正负和大小直接反映了原始数据偏离平均值的程度和方向。
完成几个数据的转换后,讲师总结了这种技术的意义。他指出,这就是所谓的“缩放”或“标准化”。在机器学习中,如果不同特征的量级差异巨大(例如一个是3,另一个是300,000),算法会产生偏差。通过Z-score归一化,可以消除这种不一致性,确保模型能够公平、有效地处理所有特征。
归一化是一种数据变换技术,用于对数据集中各特征进行缩放与标准化,使不同属性的取值统一到相同的尺度或范围内。
主要目标是将数据集中的所有特征调整至相近的尺度,通常介于0与1之间,从而便于更有效的比较和提升算法性能。
常用方法包括最小-最大归一化(Min-Max normalization)和Z分数归一化(Z-Score normalization)。此外,鲁棒缩放(robust scaling)和对数变换(log transformation)等方法也存在。
正如计算机将人类纷繁多样的语言统一转化为二进制(0和1),归一化也将数据中形态各异的特征统一映射到一个公共尺度上。
在房屋数据集中,房屋面积(1000–1800)与卧室数量(2–5)等特征具有截然不同的数值尺度。归一化是必要的,可防止数值尺度更大的特征在分析中占据主导地位。
在机器学习中,不同特征的量级可能相差悬殊(如房屋面积与卧室数量)。这会导致模型过度关注大数值特征。归一化旨在将所有特征缩放到统一的尺度(如 0 到 1 之间),消除量纲影响,使模型能更公平、有效地进行学习。
Min-Max 归一化是一种线性变换,它利用特征的最小值和最大值将原始数据映射到指定区间(通常为 [0, 1])。公式为 ,其中 是原始值, 和 分别是该特征的最小和最大值, 是归一化后的值。
假设某特征(如房屋面积)的数据集为 {1200, 1500, 1000, 1800},其最小值为 1000,最大值为 1800。要归一化第一个数据点 1200,应用 Min-Max 公式:。这表明 1200 在该特征分布中处于相对较低的位置。
Min-Max 归一化是一种线性变换,用于将原始特征值映射到 [0, 1] 区间。其核心公式为 ,其中 是原始值, 和 分别是该特征在整个数据集中的最小值和最大值。这种方法特别适用于数据分布未知或需要严格限定在特定范围内的场景。
在机器学习中,不同特征的量纲和数值范围可能差异巨大(例如,房屋面积是几千,而卧室数是几)。这种差异会导致许多算法(如梯度下降、KNN、SVM)收敛缓慢或偏向数值大的特征。Min-Max 归一化通过将所有特征压缩到相同的尺度(通常是 0 到 1),消除了量纲影响,提高了算法的稳定性和效率。
以房屋面积为例:假设数据列为 [1200, 1500, 1000, 1800]。 1. 找出最小值 和最大值 。 2. 对于值 1200:。 3. 对于值 1500:。 4. 最小值 1000 必然映射为 0,最大值 1800 必然映射为 1。
除了最小-最大缩放,另一种常用的数据预处理方法是Z分数标准化(也称为标准分数)。虽然本片段未展开讲解,但它通常涉及计算数据的均值()和标准差(),并将数据转换为均值为0、标准差为1的分布。这与最小-最大缩放固定范围的特点形成对比,更适合处理存在异常值的数据。
Z分数标准化技术在数据呈正态分布时效果最佳。正态分布意味着数据形成一个对称的钟形曲线。
Z分数公式对数据进行标准化:用原始值(X)减去均值(μ),再将结果除以标准差(σ)。
为求数据集的均值,需将所有数值相加,再除以数值的总个数。例如,()/5 = 70。
计算标准差时,先将每个数值减去均值并平方;再求这些平方值的平均数(即方差);最后取方差的平方根。
Z-score(也称标准分数)是一种常用的数据标准化方法。它的计算公式是将原始数据减去数据集的平均值,然后再除以数据集的标准差。经过这样处理后的数据,其平均值变为0,标准差变为1。
在进行Z-score转换前,必须先求出数据集的两个基础统计量。平均值是所有数据之和除以数据个数;标准差则是方差的算术平方根,而方差是每个数据与平均值之差的平方的平均数。
机器学习算法通常对特征的尺度很敏感。如果输入数据的量级差异很大(例如年龄是几十,收入是几十万),数值大的特征会在模型训练中占据主导地位,导致模型偏差。归一化(如Z-score)可以将所有特征缩放到同一尺度,消除量纲影响,提高模型的稳定性和准确性。
按知识点查看条件、步骤和证据。补充解释与视频直接内容分别标明。
幻灯片标题:数据变换中的标准化
主讲人介绍本节主题为“数据变换中的标准化”。
Normalization
一种用于缩放和标准化数据集各特征的技术。
数据变换
幻灯片列出“1)最小-最大标准化技术”
主讲人提到“最小-最大技术”。
Min-Max normalization
一种特定的标准化技术,用于将各特征缩放到相近的量级,通常介于0与1之间。
数据变换
幻灯片列出“2)Z分数标准化技术”
主讲人提到“Z分数标准化技术”。
Z-Score normalization
一种特定的标准化技术,用于将各特征缩放到相近的量级。
数据变换
表格列标题:“房屋”
House
示例数据集中每条房屋记录的标识符。
整数
表格列标题:“面积(平方英尺)”
Square Foot
房屋的面积,单位为平方英尺。
数值型
表格列标题:“卧室数量”
Bedrooms
房屋中的卧室数量。
整数
表格列标题:“价格(十万卢比)”
Price(in Lakh)
房屋的价格,单位为十万卢比。
数值型
讲师在白板上写下 X′
X'
归一化后的新值
实数
讲师在白板上写下 X
X
原始数据值
实数
讲师在白板上写下 min
min
数据集的最小值
实数
讲师在白板上写下 max
max
数据集的最大值
实数
白板上写有 X' = (X - min) / (max - min)
X'
归一化后的特征值
对应的式子为:[0, 1]
幻灯片文字:“用于对数据集的特征进行缩放和标准化。”
主讲人解释,归一化用于对数据集的特征进行缩放和标准化。
归一化是一种数据变换技术,用于对数据集的特征进行缩放和标准化。当各属性取值范围差异较大时,需将其调整至特定尺度或范围内,此时便需要归一化。
当数据集的特征取值范围不同时使用。
目标是使各特征处于相近的尺度上。
幻灯片文字:“主要目标是将所有特征缩放到相近的尺度,通常介于0与1之间。”
主讲人指出,归一化的主要目标是将所有特征缩放到相近的尺度,通常介于0与1之间。
归一化的主要目标是将数据集的所有特征缩放到相近的尺度,通常介于0与1之间。这有助于在统一基准下比较不同特征。
通常将特征缩放到0与1之间。
幻灯片列出:“1)最小-最大归一化技术”和“2)Z分数归一化技术”
主讲人提到了最小-最大归一化、Z分数标准化、鲁棒缩放和对数变换等技术。
主讲人提到了鲁棒缩放和对数变换等其他技术,但本片段未对其展开详细说明。
归一化有多种方法,其中最常用的是最小-最大归一化和Z分数归一化。其他提到的技术还包括鲁棒缩放和对数变换。
讲师在白板上写出公式 X' = (X - min) / (max - min)
讲师解释了公式中各个部分的含义:X' 是新值,X 是旧值,min 是最小值,max 是最大值
Min-Max 归一化是一种将数据缩放到特定范围(通常是 0 到 1)的技术。其核心思想是利用数据集的最小值和最大值来重新映射原始数据。
数据集中的最大值和最小值不相等
讲师指出房屋面积(Square Foot)的数值在几千量级,而卧室数量(Bedrooms)的数值在个位数量级;为了将它们置于同一尺度下,需要进行归一化
白板上的表格显示了不同特征的量级差异
在机器学习中,不同的特征可能具有完全不同的量级(例如房屋面积和卧室数量)。如果不进行处理,量级大的特征可能会主导模型的训练过程。归一化的目的是将所有特征缩放到相同的尺度(如 0 到 1 之间),以便公平地比较和处理它们。
白板上写有 X' = (X - min) / (max - min)
讲师解释了如何将大数值映射到0和1之间
Min-Max 归一化是一种将原始数据线性变换到 [0, 1] 区间的方法。公式为 X' = (X - min) / (max - min),其中 X 是原始值,min 和 max 分别是该特征列的最小值和最大值。
数据集中存在明确的最小值和最大值
最大值不等于最小值
幻灯片标题变为“Z-score 技术”,并显示学生身高数据表
讲师提到“第二种是 Z-score 技术,它将数据……”
讲师的话被切断,未完整解释 Z-score 的具体公式和目的
Z-score 技术是另一种数据归一化/标准化方法,通常在 Min-Max 之后介绍。它旨在将数据转换为均值为0、标准差为1的分布。
白板显示 X' = (X - 均值) / 标准差。
主讲人解释该公式为:用原始数值减去均值,再除以标准差。
Z 分数法通过对每个数值减去均值、再将结果除以标准差,来实现数据标准化。
数据应服从正态分布。
白板显示 。
主讲人说:“把所有数值加起来,再除以数值的总个数。”
均值通过将所有数据值相加,再除以数值的总个数得到。
白板展示方差与标准差的分步计算过程。
讲解者说明:先求各数据与均值的差的平方,再求这些平方数的平均值,最后对平均值开平方根。
标准差的计算方法是:先求各数据与均值之差的平方,再将这些平方数取平均值得到方差,最后对这个方差开平方根。
白板上写着 X' = (X - 平均值 μ) / 标准差 σ
Z 分数(标准化分数)的计算公式为:将原始数据减去平均值,再除以标准差。
需要已知数据集的平均值和标准差
讲师解释标准化是为了让机器学习算法正常工作,避免不同量级的数据造成不一致性。
在机器学习中,归一化(如 Z 分数标准化)用于将不同特征缩放到相同的尺度,防止数值较大的特征主导模型训练,从而避免不一致性。
适用于特征量纲或数量级差异较大的数据集
讲解者指出:若数据呈正态分布,能形成标准的曲线或镜像对称图形,则Z分数法最为适用。
讲解者在白板上画出一个钟形曲线。
Z分数法最适用于数据呈正态分布、能形成标准钟形曲线的情形。
数据呈正态分布。
适用于所有数据集
白板上逐步写出计算过程:(1200 - 1000) / (1800 - 1000) = = .25
讲师口述了计算步骤和结果
代入 House 1 的 Square Foot 值(1200),以及该列的最小值(1000)和最大值(1800)。
Min-Max 归一化公式
计算分子和分母。
算术运算
得出最终归一化值。
算术运算
House 1 的 Square Foot 归一化值为 0.25。
白板上写出计算过程:(1500 - 1000) / = .625
讲师口述了计算步骤和结果
代入 House 2 的 Square Foot 值(1500)。
Min-Max 归一化公式
计算分子和分母。
算术运算
得出最终归一化值。
算术运算
House 2 的 Square Foot 归一化值为 0.625。
白板上写出计算过程:(3 - 2) / (5 - 2) = = .33
讲师口述了计算步骤和结果
代入 House 1 的 Bedrooms 值(3),以及该列的最小值(2)和最大值(5)。
Min-Max 归一化公式
计算分子和分母。
算术运算
得出近似归一化值。
算术运算
House 1 的 Bedrooms 归一化值约为 0.33。
白板显示。
将表格中所有身高数值相加。
算术平均数分子的定义。
用总和除以学生人数(5)。
算术平均数的定义。
该数据集的平均值为70。
白板展示了标准差的完整计算过程。
计算每个数值与平均值(70)之差的平方。
方差分子的定义。
将各平方差相加。
算术加法。
用平方差之和除以数值个数(5),得到方差。
总体方差的定义。
对方差取平方根,得到标准差。
标准差的定义。
该数据集的标准差为4。
白板上显示计算过程:
将所有学生的身高相加得到总和 350,除以学生人数 5,得到平均身高 70。
算术平均数定义
数据集的平均值
白板上显示方差计算过程:((64-70)^2 + ... + (76-70)^2) / ,然后开根号得到 4
计算每个数据点与平均值之差的平方和,再除以数据个数,得到方差。
总体方差定义
代入数值计算得出方差为 16。
算术运算
对方差开平方根,得到标准差。
标准差是方差的算术平方根
数据集的标准差
白板上显示计算过程:(64 - 70) /
将原始数据64、平均值70和标准差4代入Z-score公式。
Z-score公式
计算分子得到-6,除以分母4得到-1.5。
算术运算
身高为64的学生其Z-score为-1.5
白板上显示计算过程:(72 - 70) /
将原始数据72、平均值70和标准差4代入Z-score公式。
Z-score公式
计算分子得到2,除以分母4得到0.5。
算术运算
身高为72的学生其Z-score为0.5
主讲人以人类语言拥有大量字母、而计算机仅能理解0和1为例,类比说明标准化/归一化的概念。
用一个简单类比来解释归一化。
人类语言拥有大量字母(例如英语有26)。
计算机仅能理解两种字母:0和1。
阐释将多样化的输入统一转换为有限尺度的概念。
全球范围内,人类语言拥有成千上万种字母。
观察
计算机仅能理解二进制数字:0和1。
观察
将所有人语言输入转换为0和1以供计算机处理,是标准化或归一化的典型示例。
类比
计算机将所有人类语言统一转化为二进制(0和1),这是归一化的一个简单例子。
与说话者的类比相吻合。
表格展示“房屋”“面积(平方英尺)”“卧室数”“价格(单位:十万)”,各项数值范围各不相同。
本片段未展示最小-最大归一化的具体计算过程。
提供一个可能需要归一化的数据集示例。
一张表格,列名分别为:房屋(1–4)、面积(平方英尺)(1000–1800)、卧室数(2–5)、价格(单位:十万)(40–80)。
展示一个各特征量纲不同的数据集。
展示一个包含房屋数据的表格,包括面积(平方英尺)、卧室数量和价格。
视觉辅助工具
观察到面积(平方英尺)范围为1000至1800,卧室数量范围为2至5,价格范围为40至80。
阅读表格
注意这些特征的量纲差异极大,若不进行归一化处理,则难以直接比较或应用算法。
逻辑推理
该房屋数据集展示了具有不同量纲的特征(例如面积与卧室数量),凸显了归一化的必要性。
表格数值证实了量纲差异。
白板上的表格列出了4栋房屋的房屋面积(Square Foot)、卧室数量(Bedrooms)和房价(Price)
讲师开始计算第一栋房屋房屋面积(Square Foot)的归一化值:(1200 - 1000) / (1800 - 1000)
计算未完成
给定一个包含房屋面积(平方英尺)、卧室数量和价格的数据集,如何使用 Min-Max 归一化将房屋面积缩放到0到1之间?
数据集包含4栋房屋的面积:1200, 1500, 1000, 1800
计算第一栋房屋面积(1200)的归一化值
从数据集中找出面积的最小值和最大值
观察表格数据
将第一栋房屋的面积、最小值和最大值代入 Min-Max 归一化公式
应用 Min-Max 归一化公式
计算过程已列出,但未给出最终结果
源材料中未展示验证步骤。
幻灯片上显示了一个包含 House、Square Foot、Bedrooms、Price(in Lakh) 的数据表
讲师基于此表格进行讲解和计算
对给定的房屋数据集(包含面积、卧室数、价格)应用 Min-Max 归一化,将特征值缩放到 [0, 1] 区间。
Square Foot 列数据:1200、1500、1000、1800
Bedrooms 列数据:3、4、2、5
计算每个特征的归一化值。
确定 Square Foot 列的最小值=1000,最大值=1800。
观察数据表
应用公式计算 House 1 的 Square Foot:()/() = 0.25。
Min-Max 公式
应用公式计算 House 2 的 Square Foot:()/() = 0.625。
Min-Max 公式
指出 House 3(1000)归一化后为 0,House 4(1800)归一化后为 1。
极值性质
确定 Bedrooms 列的最小值=2,最大值=5。
观察数据表
应用公式计算 House 1 的 Bedrooms:()/() = ≈ 0.33。
Min-Max 公式
平方英尺归一化值为:0.25、0.625、0、1。卧室数归一化值示例:0.33。
所有计算结果均在0到1的范围内,且最小值对应0,最大值对应1。
白板上的表格列出了学号1至5以及对应身高64、70、72、68、76英寸。
计算给定学生身高的均值和标准差,为Z分数标准化做准备。
身高:64、70、72、68、76英寸
学生人数:5
求均值()和标准差()。
将身高求和后除以5,得到均值。
均值公式。
利用已计算出的均值建立方差公式。
方差公式。
计算各数据与均值之差的平方,并求其平均值。
算术运算。
对方差取平方根。
标准差的定义。
均值 = 70,标准差 = 4
结果与视频中白板上的计算一致。
白板左侧有一个表格,列出了 5 名学生的身高数据:64, 70, 72, 68, 76。
讲师在表格旁逐步计算这些数据的 Z-score。
给定 5 名学生的身高数据(英寸),使用 Z-score 技术对其进行标准化。
学生 1: 64
学生 2: 70
学生 3: 72
学生 4: 68
学生 5: 76
计算每个学生身高的 Z-score。
首先计算数据集的平均值和标准差。
Z-score 计算的前提
计算学生1的Z分数。
Z分数公式
计算学生2的Z分数。
Z分数公式
计算学生3的Z分数。
Z分数公式
学生1的Z分数为-1.5,学生2为0,学生3为0.5。(学生4和5的计算未在视频中完全展示,但方法相同)。
可通过观察Z分数的正负来判断该数据点是高于还是低于平均值。
标题为‘数据变换中的归一化’的演示幻灯片,包含若干要点,说明其用途、目标,并列举最小-最大归一化和Z分数两种技术。
幻灯片标题
要点列表
编号列表
文字内容在讲解过程中保持静止不变。
先提供标准化的理论框架与目标,再进入实例讲解。
出现一张表格,表头为“房屋”“面积(平方英尺)”“卧室数”“价格(单位:十万卢比)”,并包含四行数据。
表格表头
数据行
该表格替换了前一张幻灯片的内容。
数据值一旦显示即保持恒定。
作为一份各特征量纲不同的实际数据集示例,引出对标准化技术的需求。
白板上始终显示一个包含房屋编号、平方英尺、卧室数量、价格(单位:十万卢比)四列的表格
表格
表格结构和数据保持不变
提供了一个具体的数据集,用于演示归一化的必要性及计算过程。
讲师的手在白板下方逐步写出 Min-Max 归一化公式
手写公式
公式从无到有逐步呈现
直观展示了 Min-Max 归一化的数学表达式。
屏幕上持续显示房屋数据表,讲师在其下方手写公式与计算过程。
数据表
手写公式
讲师逐步在表格下方写出最小-最大归一化公式。
讲师针对特定行(例如房屋1、房屋2)写出具体数值代入及计算结果。
讲师在表格右侧写出卧室数的计算过程。
数据表本身的数值保持不变。
视觉化展示了从原始数据到归一化数据的转换过程,重点呈现了公式的应用及具体数值的计算。
屏幕内容从最小-最大归一化表格切换为Z分数表格。
新幻灯片,标题为“Z分数技术”
带有学生身高的新数据表
旧的数据表和公式消失
新的标题和数据表出现
标志着课程主题从Min-Max归一化切换到Z分数标准化。
讲解正态分布时,主讲人一边讲解一边在白板上绘制钟形曲线。
钟形曲线
曲线从左向右绘制,中间达到峰值。
曲线的对称性代表正态分布。
视觉辅助工具,用于说明Z分数适用于正态分布的数据。
整个视频背景是一块白板,上面写满了数学公式、计算过程和一个数据表格。
数据表格
Z分数公式
均值计算
标准差计算
具体数据的 Z-score 计算
讲师一边讲解,一边在白板上逐步写出计算过程和结果。
白板作为主要的视觉呈现媒介贯穿整个讲解过程。
白板清晰地展示了从原始数据出发,到计算统计量,再到应用公式进行标准化的完整逻辑链条。
讲解者说:“这实际上是一种用于数据降维的技术。”
讲解者最初的表述可能将标准化与降维混淆,但他很快澄清:此处指的是对特征进行缩放。
有人认为归一化会减少数据量(行数或列数)。
归一化是对现有特征的取值进行缩放;它并不会减少数据点数量或变量数量。它是一种数据变换技术,而非严格意义上通过删除特征或样本实现的数据降维。
讲师强调,如果不进行特征缩放,巨大的数值差异会导致机器学习算法难以处理,并增加时间复杂度
认为可以直接使用原始的大数值特征训练机器学习模型,无需担心数值尺度的影响。
许多机器学习算法(例如基于距离或梯度的算法)对特征尺度敏感。未归一化的大数据集可能导致算法收敛缓慢、精度降低,甚至无法正常工作。Min-Max归一化通过将数据限制在0、1区间,解决了这一问题。
讲师提到如果不做标准化,一个值是 3,另一个值是 3 lakh(三十万),会造成不一致性。
认为可以直接将不同数量级的原始数据输入机器学习模型
不同量级的数据会导致模型偏向数值较大的特征,因此必须进行归一化或标准化处理以消除量纲影响
幻灯片在‘归一化’这一主标题下列出了最小-最大归一化和Z-Score归一化。
归一化的广义概念包含若干具体技术,例如最小-最大归一化和Z-Score归一化。
讲师在解释完需要统一尺度后,引出了 Min-Max 技术
Min-Max 归一化公式是实现将数据统一到特定尺度这一目的的具体方法。
讲师讲完Min-Max后,紧接着说“दूसरा आता है ज़ेड स्कोर टेक्निक”(接下来是Z分数技术)
幻灯片从Min-Max切换到Z分数
视频将 Min-Max 和 Z-score 视为两种不同的数据归一化/标准化技术,依次介绍,暗示它们是解决类似问题的不同方法。
主讲人使用计算出的均值70来计算标准差。
计算标准差需要先知道均值。
Z分数公式中,分母为标准差。
标准差是Z分数公式的必要组成部分。
讲师在演示完 Z-score 计算后总结道:这是一种用于归一化的缩放(scaling)与标准化(standardize)方法
Z-score 公式是实现数据归一化(标准化)的具体数学工具
主讲人对归一化作出定义。
幻灯片指出其主要目标。
幻灯片列出了最小-最大归一化和Z-Score归一化。
白板上写出了 Min-Max 公式
讲师解释了不同特征量级差异所带来的问题
展示了完整的 Min-Max 计算公式及代入过程
讲师解释了缩放对算法复杂度的影响
主讲人讨论何时使用Z分数技术。
在白板上逐步计算标准差。
视频中详细展示了 Z-score 的计算步骤。
讲师解释了归一化在机器学习中的作用。
已覆盖 · 介绍归一化、其目标以及常用技术。
已覆盖 · 展示具有不同量纲特征的示例数据集。
已覆盖 · 介绍背景数据与预测目标
已覆盖 · 解释不同特征量级差异以及归一化的目的
已覆盖 · 给出并解释 Min-Max 归一化公式
已覆盖 · 使用具体数据演示归一化计算过程
已覆盖 · 详细讲解了 Min-Max 归一化公式及其在房屋数据集上的应用,包括具体计算步骤以及归一化的原因。
已覆盖 · 引入了 Z-score 技术的概念,并展示了相关数据表,但讲解被中断。
已覆盖 · 介绍Z分数技术及其在正态分布数据中的适用性。
已覆盖 · 展示并解释Z分数公式。
已覆盖 · 给定数据集的均值计算。
已覆盖 · 标准差的分步计算。
已覆盖 · 展示 Z-score 公式并计算数据集的均值和标准差。
已覆盖 · 利用求得的均值和标准差,计算具体数据点的 Z-score。
已覆盖 · 解释归一化的目的及其在机器学习中的重要性。
已审核的主题路径
归一化的主要目标是将数据集的所有特征带到相似的尺度上,通常在 0 到 1 之间。这有助于在统一的基础上比较不同的特征,并防止具有较大数值的特征在模型训练过程中占主导地位。
适用条件:当数据集特征具有不同的值时使用。;目标是将特征带到相似的尺度上。
Min-Max 归一化是一种将原始数据线性转换到 [0, 1] 区间的方法。公式为 ,其中 是原始值, 和 分别是该特征列的最小值和最大值。
适用条件:数据集有明确的最小值和最大值。;max 不等于 min
在机器学习中,归一化用于将不同的特征缩放到相同的尺度,防止具有较大数值的特征主导模型训练,从而避免不一致。如果特征在量级上差异很大,算法可能会产生偏差。
适用条件:适用于特征在单位或量级上差异很大的数据集
要使用 Z-score 公式对数据集进行标准化,首先计算数据集的均值()和标准差()。然后,对于每个原始数据值 ,应用公式 将其转换为标准化分数。
适用条件:需要知道数据集的均值和标准差