逻辑回归 - 详解

1. 公式
   观察依据

   屏幕上显示线性假设公式 $h_θ(x) = θ_0 + θ_1 x$。

2. 声音
   观察依据

   讲述者提到用一条直线拟合数据，并称其为线性回归。

$h_\theta(x)$

线性回归的假设函数，即对输入 x 的预测输出。

x 表示学习时长；$h_θ(x)$ 是一个无界实数值预测。

1. 公式
   观察依据

   符号 $θ_0$ 出现在公式 $h_θ(x) = θ_0 + θ_1 x$ 中。

1. 视频未明确将 $θ_0$ 称为截距。

$\theta_0$

显示的线性预测器中的参数，起常数项作用。

1. 公式
   观察依据

   符号 $θ_1$ 在公式 $h_θ(x) = θ_0 + θ_1 x$ 中乘以 x。

1. 视频未明确将 $θ_1$ 称为斜率。

$\theta_1$

显示的线性预测器中乘以特征 x 的参数。

1. 公式
   观察依据

   屏幕上显示 $σ(z) = 1/(1+e^{-z})$。

2. 声音
   观察依据

   讲述者将 sigmoid 函数介绍为一条 S 形曲线，可将任意输入压缩到介于 0 和 1 之间的范围内。

$\sigma(z)$

对标量输入 z 应用 Sigmoid 函数。

1. 公式
   观察依据

   底数 e 出现在 Sigmoid 公式中的 $e^{-z}$ 里。

2. 声音
   观察依据

   讲述者指出该公式涉及欧拉数 e。

e

欧拉数，即 Sigmoid 函数中所用自然指数函数的底数。

1. 公式
   观察依据

   Sigmoid 公式以 z 作为其自变量。

2. 声音
   观察依据

   讲述者描述：取任意输入，无论其值多大或多小，都将它压缩到区间（0,1）内。

z

Sigmoid 函数的标量输入；后续被认定为线性预测器 $θ^T x$。

1. 公式
   观察依据

   屏幕上显示 $h_θ(x) = σ(θ^T x)$。

2. 声音
   观察依据

   讲述者称逻辑回归将线性预测器代入 Sigmoid 函数中。

$h_\theta(x)$

逻辑回归假设函数给出输入 x 下 $y=1$ 的概率。

1. 公式
   观察依据

   视频中先显示 $z = θ^T x$，再显示 $h_θ(x) = σ(θ^T x)$。

1. 该视频未明确说明 θ 和 x 的维度。

$\theta$

逻辑回归模型中的参数向量。

1. 公式
   观察依据

   屏幕上显示 $z = θ^T x$，然后 $h_θ(x) = σ(θ^T x)$。

1. 视频未明确说明 x 是否包含偏置项。

x

输入逻辑回归模型的特征向量。

1. 公式
   观察依据

   屏幕上显示 P($y=1$|x) = $1/(1+e^{-(θ_0+θ_1 x)})$。

2. 声音
   观察依据

   讲解员指出，该输出可解释为学生通过考试的概率。

$P(y=1\mid x)$

在给定输入 x 的条件下，结果标签 y 等于1的条件概率。

1. 公式
   观察依据

   公式 $h_θ(x) = σ(θ^T x)$ 显示在屏幕上。

$h_θ(x)$

逻辑回归模型的假设函数，表示预测概率。

x 属于 〔ℝ^n〕，θ 属于 〔ℝ^n〕

1. 公式
   观察依据

   符号 σ 出现在公式 $h_θ(x) = σ(θ^T x)$ 中。

σ

Sigmoid 函数，将实数映射到区间（0，1）。

对应的式子为：ℝ → （0，1）

1. 声音
   观察依据

   讲解员将任务定义为：根据学生备考的小时数，预测其是否能通过考试。

2. 图示
   观察依据

   一张表格列出了学生 A–F、小时数1.0、2.5、4.0、6.0、7.5、9.0，以及结果：不及格（0）或通过（1）。

3. 动画
   观察依据

   该表格被转化为散点图，其中结果为0的点用红色表示，结果为1的点用绿色表示。

视频呈现了一个二分类任务：从一个连续型特征预测离散结果。示例中将“通过”标记为1，“不及格”标记为0，所绘制的数据在 $y=0$ 和 $y=1$ 处分为两个水平组。

1. 结果分为两类。

2. 通过标记为1。

3. 未通过标记为0。

4. 输入特征是学习时长。

1. 公式
   观察依据

   屏幕上显示 $h_θ(x) = θ_0 + θ_1 x$。

2. 声音
   观察依据

   讲解者提问为何不直接用一条直线拟合数据，并指出这正是线性回归所做的事情。

线性回归被展示为一种形如 $h_θ(x)=θ_0+θ_1x$ 的直线预测器。在视觉示例中，该直线延伸超出了观测到的二元结果范围。

1. x 是输入特征。

2. $θ_0$ 和 $θ_1$ 是所显示直线的参数。

1. 二分类问题

1. 公式
   观察依据

   屏幕上显示 $σ(z)=1/(1+e^{-z})$。

2. 声音
   观察依据

   讲解者称，Sigmoid 函数将任意输入压缩至0与1之间的范围内。

3. 动画
   观察依据

   该图像显示了趋近于0和1的渐近行为，并标出$σ(0)=0.5$。

Sigmoid函数将任意实数输入z映射为严格介于0与1之间的输出。视频重点强调其S形、极限值，以及在$z=0$处的精确中点值。

1. z是一个实数值输入。

2. 输出位于区间(0,1)内。

3. 对应的式子为：$σ(0)=0.5$。

1. 公式
   观察依据

   屏幕上显示$z=θ^T x$，$h_θ(x)=σ(θ^T x)$，以及P($y=1$|x)=$1/(1+e^{-(θ_0+θ_1 x)})$。

2. 声音
   观察依据

   讲解者指出，逻辑回归将线性预测器作为输入送入Sigmoid函数，从而生成一条从0到1的平滑曲线，该曲线可解释为概率。

逻辑回归将线性预测器与Sigmoid函数复合。所得假设值被限定在0与1之间，并被解释为正类的概率。

1. 使用线性预测器作为Sigmoid函数的输入。

2. 输出被解释为P($y=1$|x)。

3. 对于单特征示例，$θ^T x$ 写作 $θ_0 + θ_1 x$。

1. 线性回归假设函数
2. Sigmoid函数

1. 公式
   观察依据

   屏幕上显示公式：$h_θ(x) = σ(θ^T x)$ 与 P($y=1$|x) = $1 / (1 + e^{-(θ_0 + θ_1 x)})$。

2. 声音
   观察依据

   讲解员说明：逻辑回归模型具有可调节的参数；改变偏置项会使曲线左右平移，改变权重则会改变曲线的陡峭程度。

逻辑回归模型使用 S 型函数，将输入特征与参数的线性组合映射为介于0与1之间的概率。其公式为 $h_θ(x) = σ(θ^T x)$，展开后为 P($y=1$|x) = $1 / (1 + e^{-(θ_0 + θ_1 x)})$。

1. x 是输入特征向量

2. θ 是参数向量

3. σ 是 S 型函数

1. 声音
   观察依据

   讲解员说道：“我们转而采用一种称为最大似然的方法。目标很简单：找到一条曲线，使得实际通过的学生被赋予较高的概率，而未通过的学生被赋予较低的概率。”

2. 字幕依据
   观察依据

   屏幕上出现文字：“最大化似然”

最大似然估计用于拟合逻辑回归模型。其目标是找到一组参数，使得观测到给定数据的概率最大化，即对正例赋予较高的概率，对负例赋予较低的概率。

1. 用于拟合逻辑回归模型

2. 与线性回归中的最小二乘法形成对比

1. 逻辑回归模型公式

1. 声音
   观察依据

   讲解者解释道：‘有趣的是，如果我们沿概率恰好为50%的位置作切分，得到的是一条直线，这被称为决策边界。’

2. 公式
   观察依据

   屏幕上显示方程：‘边界：$θ_0 + θ_1 x_1 + θ_2 x_2 = 0$’

在多维逻辑回归中，决策边界是所有预测概率恰好为0.5的点构成的集合。由于Sigmoid函数是单调的，该边界恒为一个线性超平面，由方程 $θ_0 + θ_1 x_1 + θ_2 x_2 = 0$ 定义。

1. 适用于具有多个特征的逻辑回归

2. 边界上的概率恰好为0.5

1. 逻辑回归模型公式

1. 字幕依据
   观察依据

   幻灯片要点：逻辑回归预测概率。

总结页指出，逻辑回归用于预测概率，而非直接预测原始类别标签。

1. 该陈述是对逻辑回归的高层次概括。

1. 字幕依据
   观察依据

   幻灯片要点：使用Sigmoid函数将输出映射到（0, 1）。

幻灯片指出，逻辑回归使用Sigmoid函数将输出转换为位于0到1之间的开区间内的值。

1. 输出范围被表示为开区间（0, 1）。

1. 字幕依据
   观察依据

   幻灯片要点：学习一个线性决策边界。

总结幻灯片指出，逻辑回归学习到一个线性决策边界。

1. 视频总结中将此表述为该模型的一个性质。

1. 字幕依据
   观察依据

   幻灯片要点：通过最大化数据的似然函数进行优化。

幻灯片指出，逻辑回归通过最大化数据的似然函数进行优化。

1. 该方法仅在较高层次上予以描述，并未展示似然函数公式或推导过程。

1. 声音
   观察依据

   讲解员指出，直线在两个方向上无限延伸，可能对大量学习时间预测出2或3，也可能对零小时学习时间预测出负值。

2. 动画
   观察依据

   黄色直线延伸至1之上和0之下，并标有 >1 和 <0。

直线型预测器是无界的，因此其输出值可能大于1或小于0，而这些值作为概率是无效的。

1. 该预测器是一条形如 $h_θ(x) = θ_0 + θ_1x$ 的直线。

2. 期望输出是一个位于 [0, 1] 区间内的概率。

对于足够大或足够小的输入，图中所示的线性预测器可能落在 [0, 1] 区间之外。

1. 声音
   观察依据

   讲解员指出，Sigmoid 函数可接受任意大小的输入，并将其压缩到0与1之间的范围内。

2. 公式
   观察依据

   图中显示的公式为 $σ(z) = 1 / (1 + e^{-z})$。

3. 动画
   观察依据

   该图像显示箭头 →0 和 →1 以及点 0.5 在 $z=0$。

对于每个实数输入 z，Sigmoid 函数返回一个严格介于0和1之间的值，且满足 $σ(0)=0.5$，在两端的极限输出分别为0和1。

1. $σ(z)$ 等于 1 除以括号 1 加上 e 的负 z 次方 括号。

2. z 是实数值。

对所有实数 z，均有$0<σ(z)<1$；当 $z\to \infty$ 时，$σ(z)\to 1$；当 $z\to -\infty$ 时，$σ(z)\to 0$。

1. 声音
   观察依据

   讲解者指出，将线性预测器套入 Sigmoid 函数，可得到一条从0平滑过渡到1的曲线，并使输出可被解释为学生通过考试的概率。

2. 公式
   观察依据

   屏幕上显示 $h_θ(x)=σ(θ^T x)$，以及 P($y=1$|x)=$1/(1+e^{-(θ_0+θ_1 x)})$。

在逻辑回归中，假设函数 $h_θ(x)=σ(θ^T x)$ 被解释为 P($y=1$|x)，即正类别的概率。

1. 使用线性预测器 $θ^T x$。

2. 对该预测器应用 Sigmoid 函数。

对于所建模的输入 x，输出被赋予 $y=1$ 的条件概率这一含义。

1. 声音
   观察依据

   讲解者说：‘改变偏置项会使整条曲线向左或向右平移，从而实质上改变了判定通过所需的阈值。’

2. 动画
   观察依据

   图中显示，当$θ_0$的值变化时，黄色曲线发生水平移动。

改变偏置参数（$θ_0$）会使逻辑曲线沿水平方向平移，从而改变正向预测所需的阈值。

1. 该模型是一个逻辑回归模型

2. 权重参数（$θ_1$）保持不变

对于所有$θ_0$的取值

1. 声音
   观察依据

   讲述者说：“改变权重会调整曲线的陡峭程度，决定从失败到成功的转变是渐进的不确定性，还是急剧的突然跃变。”

2. 动画
   观察依据

   图中显示，随着$θ_1$取值的变化，黄色曲线变得更为陡峭或更为平缓。

改变权重参数（$θ_1$）会改变逻辑曲线的陡峭程度，决定概率从接近0到接近1的过渡有多剧烈。

1. 该模型是一个逻辑回归模型

2. 偏置参数（$θ_0$）保持不变

对于所有$θ_1$的取值

1. 声音
   观察依据

   讲解员说道：“尽管概率函数呈曲线形状，但划分通过区域与未通过区域的分界线却是线性的。”

2. 动画
   观察依据

   一条笔直的黄色直线将2D平面划分为红色区域和绿色区域。

逻辑回归模型的决策边界始终是一个线性超平面，这与S型概率函数的非线性形状无关。

1. 该模型在S型函数内部使用特征的线性组合。

对于所有逻辑回归模型

1. 声音
   观察依据

   讲解者指出，逻辑回归将线性预测器嵌入 Sigmoid 函数之中。

2. 公式
   观察依据

   公式依次出现：$z=θ^T x$，然后 $h_θ(x)=σ(θ^T x)$，再然后 P($y=1$|x)=1/($1+e^{-(θ_0+θ_1 x)}$）。

1. 该视频并未从第一性原理推导概率解释，而是在组合之后直接给出该解释。

1. 公式

   $$z=\theta^T x$$
   解释

   首先利用参数与特征构造线性预测器。

   步骤依据

   该表达式直接显示在屏幕上，作为逻辑回归模型的起始表达式。

   视频直接表达
2. 公式

   $$h_\theta(x)=\sigma(\theta^T x)$$
   解释

   然后将线性预测器代入Sigmoid函数。

   步骤依据

   讲解者明确指出，线性预测器被包裹在Sigmoid函数内部。

   视频直接表达
3. 公式

   $$P(y=1\mid x)=\frac{1}{1+e^{-(\theta_0+\theta_1 x)}}$$
   解释

   对于单特征示例，将线性形式代入Sigmoid函数后，即得到屏幕上展示的条件概率公式。

   步骤依据

   这一步是通过将 $σ(z)=1/(1+e^{-z})$ 与 $z=θ_0+θ_1x$ 结合得出的。

   依据视频推导

逻辑回归模型通过对线性预测器与Sigmoid函数进行复合而获得，从而输出有界概率。

1. 声音
   观察依据

   讲解员解释道：在概率恰好为50% 的点处进行切割，会得到一条直线。

2. 公式
   观察依据

   屏幕上显示方程：边界：$θ_0 + θ_1 x_1 + θ_2 x_2 = 0$。

1. 公式

   $$P(y=1|x) = 0.5$$
   解释

   令预测概率等于0.5，即可求得决策边界。

   步骤依据

   将决策边界定义为两个类别具有相等概率的点集。

   视频直接表达
2. 公式

   $$\frac{1}{1 + e^{-(θ_0 + θ_1 x_1 + θ_2 x_2)}} = 0.5$$
   解释

   将逻辑回归模型公式代入该方程。

   步骤依据

   逻辑斯蒂模型的定义。

   依据视频推导
3. 公式

   $$1 + e^{-(θ_0 + θ_1 x_1 + θ_2 x_2)} = 2$$
   解释

   求解分母。

   步骤依据

   代数运算。

   依据视频推导
4. 公式

   $$e^{-(θ_0 + θ_1 x_1 + θ_2 x_2)} = 1$$
   解释

   分离指数项。

   步骤依据

   代数运算。

   依据视频推导
5. 公式

   $$-(θ_0 + θ_1 x_1 + θ_2 x_2) = 0$$
   解释

   对等式两边取自然对数。

   步骤依据

   因为 $\ln (1) = 0$。

   依据视频推导
6. 公式

   $$θ_0 + θ_1 x_1 + θ_2 x_2 = 0$$
   解释

   两边同乘 -1，得到最终的线性方程。

   步骤依据

   代数运算。

   视频直接表达

决策边界由线性方程 $θ_0 + θ_1 x_1 + θ_2 x_2 = 0$ 定义。

1. 图示
   观察依据

   一张表格列出了六名学生，其学习时长分别为1.0、2.5、4.0、6.0、7.5、9.0，对应结果为不及格（0）、不及格（0）、不及格（0）、及格（1）、及格（1）、及格（1）。

2. 动画
   观察依据

   这些数据点以红色标出在结果0处，以绿色标出在结果1处，随后叠加一条黄色直线。

已知学生的学习时长及二元的通过/未通过结果，判断线性回归直线是否适合用于预测通过概率。

1. 学生A：1.0小时，未通过（0）。

2. 学生B：2.5小时，未通过（0）。

3. 学生C：4.0小时，未通过（0）。

4. 学生D：6.0小时，通过（1）。

5. 学生E：7.5小时，通过（1）。

6. 学生F：9.0小时，通过（1）。

将学习时长与通过/未通过结果之间的关系建模为一种概率。

1. 公式

   $$$$
   解释

   将数据表示为散点图，横轴为学习时长，纵轴为结果。

   步骤依据

   视频将表格转换为在 $y=0$ 和 $y=1$ 处绘制的点。

   视频直接表达
2. 公式

   $$h_\theta(x)=\theta_0+\theta_1x$$
   解释

   尝试用一条直线拟合这两组点。

   步骤依据

   讲解者提问为何不使用线性回归，并展示了直线的公式。

   视频直接表达
3. 公式

   $$$$
   解释

   观察到该直线延伸至1之上和0之下。

   步骤依据

   动画将直线的部分区域标注为 >1 和 <0。

   视频直接表达
4. 公式

   $$$$
   解释

   得出结论：此处需要一个有界概率模型，而非无界的直线。

   步骤依据

   讲解者指出，概率值必须介于0与1之间。

   视频直接表达

线性回归不适用于这一二元概率任务，因为其预测结果未被限制在[0,1]范围内。

视觉矛盾在于直线超出了区间[0,1]，同时屏幕文字显示‘概率必须位于[0,1]内’。

1. 声音
   观察依据

   讲解者提到：要为通过考试的学生赋予高概率，为未通过的学生赋予低概率。

2. 动画
   观察依据

   绿色圆点（通过）和红色菱形（未通过）绘制在一张2D 图上，并用一条黄色曲线拟合这些点。

找到最优的逻辑回归曲线，以根据学生的学习时长和出勤课堂数预测其是否通过考试。

1. 代表通过学生（绿色圆点）和未通过学生（红色菱形）的数据点

2. 一个2维特征空间（学习时长、出勤课堂数）

通过调整逻辑回归曲线的位置和陡峭程度，使观测数据的似然最大化。

1. 公式

   $$$$
   解释

   用任意参数初始化一条逻辑回归曲线。

   步骤依据

   优化算法的起始点。

   依据视频推导
2. 公式

   $$$$
   解释

   迭代调整偏置参数（$θ_0$）和权重参数（$θ_1$）。

   步骤依据

   以平移曲线并改变其陡峭程度，从而更好地拟合数据。

   视频直接表达
3. 公式

   $$$$
   解释

   评估当前曲线下观测数据的似然。

   步骤依据

   用于衡量当前参数对观测结果的解释程度。

   依据视频推导
4. 公式

   $$$$
   解释

   持续调整参数，直至似然达到最大值。

   步骤依据

   最大似然估计的目标。

   视频直接表达

该算法锁定最能解释数据的曲线，为绿色圆点分配高概率，为红色菱形分配低概率。

视觉验证表明：最终的黄色曲线紧密逼近绿色圆点，同时远离红色菱形。

1. 动画
   观察依据

   出现一个三列表格，随后转变为坐标图，其中下方点为红色、上方点为绿色。

2. 图示
   观察依据

   坐标轴分别标注为‘学习时长（小时）’和‘结果’，纵轴上标出1.0。

1. 学生表格

2. 结果为0的红色点

3. 绿色点位于结果1处

4. 坐标轴分别标注为“学习时长（小时）”和“结果”

1. 表格中的行按顺序逐行出现。

2. 表格消失，点被绘制出来。

3. 两条组之间出现一条虚线垂直分隔线。

1. 失败案例仍位于结果0处。

2. 通过案例仍位于结果1处。

3. 学习时长从左到右递增。

数据在垂直方向上是二元的，但在水平方向上按一个连续特征排序，因此更适合使用分类器而非简单的回归目标。

1. 动画
   观察依据

   一条黄色直线穿过散点图，并延伸至已绘制点范围之外。

2. 图示
   观察依据

   标签“>1”和“<0”出现在该直线位于有效概率区间之外的部分附近。

1. 黄色直线

2. 散点

3. 标签 >1 和 <0

4. 文本概率必须位于 [0,1] 区间内

1. 该直线被叠加在数据之上。

2. 其右端上升至 1 以上。

3. 其左端下降至 0 以下。

1. 底层数据点始终位于 0 和 1 处。

2. 该直线保持为直线。

直线模型不能作为概率模型，因为它在两个方向上均无界。

1. 动画
   观察依据

   该图像从 $e^{-z}$ 出发，经由 $1+e^{-z}$，最终构建出 S 形曲线。

2. 图示
   观察依据

   最终曲线在中心处标有 →0、→1 和 0.5。

1. 蓝色指数曲线

2. 绿色平移后的曲线

3. 黄色 S 形曲线

4. 坐标轴标签

5. 标注 →0, →1, 0.5

1. 首先展示指数项。

2. 接着展示分母 $1+e^{-z}$。

3. 最终呈现 S 形曲线。

4. 添加极限标注及中点值。

1. 水平位置对应输入 z。

2. 垂直位置对应输出 $σ(z)$。

动画直观地解释了代数公式如何将实数输入映射为一个有界的S形曲线，输出范围为（0,1）。

1. 公式
   观察依据

   依次出现三个公式：$z=θ^T x$、$h_θ(x)=σ(θ^T x)$，以及P($y=1$|x)=$1/(1+e^{-(θ_0+θ_1 x)})$。

1. 线性预测子公式

2. 复合假设公式

3. 概率公式

1. 引入线性预测子。

2. 将其代入sigmoid函数。

3. 展示单特征的概率表达式。

1. 该模型仍由一个线性项与sigmoid函数复合而成。

该序列展示了逻辑回归如何从前述线性预测子和sigmoid函数构建而来。

1. 动画
   观察依据

   黑色背景上的一条黄色S形曲线，随着其上方显示的$θ_0$和$θ_1$数值更新，左右平移并改变陡峭程度。

1. 黄色sigmoid曲线

2. 白色坐标轴

3. $θ_0$和$θ_1$的文字标签

1. 当$θ_0$变化时，曲线沿水平方向平移。

2. 当$θ_1$变化时，曲线在中心处的斜率发生变化。

1. 曲线始终保持S形，且在y轴方向介于0与1之间。

展示了偏置参数与权重参数对逻辑斯蒂函数图像所产生的几何影响。

1. 动画
   观察依据

   红色菱形和绿色圆点出现在一个2D图中。一条黄色曲线移动并变形，以靠近绿色圆点、远离红色菱形。虚线将各点连接至该曲线。

1. 红色菱形数据点

2. 绿色圆点数据点

3. 黄色逻辑斯蒂曲线

4. 虚线垂直线

1. 黄色曲线迭代调整其位置和陡峭程度。

2. 虚线表示每个数据点到曲线的距离／概率分配。

1. 数据点在其位置上保持固定。

可视化最大似然估计过程：模型参数被优化，以最优地分离两类数据。

1. 动画
   观察依据

   一个含红色与绿色点的2D网格被展示。一条笔直的黄色直线出现，将平面划分为红色阴影区域（‘预测失败’）和绿色阴影区域（‘预测通过’）。

1. 2维网格

2. 红色和绿色的数据点

3. 一条笔直的黄色直线

4. 红色和绿色的阴影区域

1. 黄色直线横贯整个网格绘制而成。

2. 背景颜色根据各点位于该直线的哪一侧而确定。

1. 数据点与直线本身一旦绘出，便保持静止不变。

说明：尽管概率函数是非线性的，但在2维特征空间中，分隔两个预测类别的边界仍是一条直线。

1. 图示
   观察依据

   一张静止的黑色幻灯片，标题为“Summary”，整段视频中始终显示四条白色要点，内容均关于逻辑回归。

1. 标题文字：Summary

2. 四条关于逻辑回归的要点式陈述

1. 该幻灯片在整个视频片段中视觉上保持不变。

2. 未展示任何公式、图表或动画。

视觉内容的作用是简明回顾逻辑回归概念，而非逐步推导。

1. 声音
   观察依据

   讲述者预判听众可能产生的疑问‘为何不直接拟合一条直线’，随后解释这种做法为何失败。

2. 动画
   观察依据

   该直线标注了 >1 和 <0，随后的文字为：概率必须位于 [0,1] 区间内。

人们可能认为，一条直线拟合可直接预测二元结果的类别概率。

直线是无界的，其输出值可能超出 [0,1] 区间，因此自身无法表示有效的概率。

1. 动画
   观察依据

   该图像用 →0 和 →1 标注尾部，而非等号。

2. 声音
   观察依据

   讲解者指出：当输入极大时，输出趋近于 1；当输入极负时，输出趋近于 0。

1. 视频并未明确警示不可将极限值视作实际达到的值；这一澄清是从图中所显示的箭头及措辞中推断得出的。

Sigmoid 函数的尾部可能被误认为实际达到了 0 或 1。

图中所展示的记号与讲解均表明：输出趋近于 0 和 1 是作为极限；而该公式对任意有限实数输入，所得值严格位于 (0,1) 区间内。

1. 声音
   观察依据

   讲解者明确指出：‘尽管概率函数呈弯曲状，但划分通过区域与未通过区域的直线却是线性的。’

由于逻辑函数输出的是弯曲的S形曲线，因此分隔两类的决策边界也必然是弯曲的。

决策边界出现在概率恰好为0.5的位置。将Sigmoid函数内部的线性组合设为零，可导出一个线性方程，从而使边界成为一条直线（或超平面），而这与Sigmoid函数本身的弯曲形状无关。

1. 声音
   观察依据

   讲解者指出，逻辑回归将此前的线性预测器代入 Sigmoid 函数中。

2. 公式
   观察依据

   公式从 $h_θ(x)=θ_0+θ_1x$ 演变为 $h_θ(x)=σ(θ^T x)$。

线性预测器被用作逻辑回归模型中Sigmoid函数的内部输入。

1. 公式
   观察依据

   $h_θ(x)=σ(θ^T x)$ 直接将Sigmoid函数作用于线性预测器。

2. 声音
   观察依据

   讲解者在定义逻辑回归模型之前立即引入了Sigmoid函数。

Sigmoid函数提供了有界变换，将线性预测器转化为概率。

1. 声音
   观察依据

   在定义二分类任务后，讲解者提问为何不直接拟合一条直线，随后解释其中存在的问题。

二分类场景暴露了使用无界线性回归器进行概率预测的局限性。

1. 公式
   观察依据

   最终显示的公式为 P($y=1$|x)=$1/(1+e^{-(θ_0+θ_1 x)})$。

2. 声音
   观察依据

   讲解者指出，该输出可被解释为学生通过考试的概率。

逻辑回归模型用于生成正类的条件概率。

1. 声音
   观察依据

   讲述者从讨论逻辑回归模型的参数，过渡到解释算法如何利用最大似然法学习最优曲线。

最大似然估计是将逻辑回归模型参数拟合到观测数据所采用的具体方法。

1. 声音
   观察依据

   讲述者将该概念拓展至多维情形，说明逻辑回归模型的概率输出如何导出一个线性决策边界。

逻辑回归模型的定义本身即蕴含如下性质：其0.5概率等高线构成一个线性决策边界。

1. 字幕依据
   观察依据

   幻灯片将‘逻辑回归预测概率’与‘使用Sigmoid函数将输出映射到（0, 1）’并列呈现。

在总结中，Sigmoid函数被表述为一种机制：通过将输出映射到（0, 1），从而支持概率预测。

1. 声音
   观察依据

   讲解者明确提问为何不直接拟合一条直线，并以概率取值范围受限这一问题作为回答。

1. 二分类问题
2. 线性回归假设函数
3. 直接使用线性回归预测分类概率

1. 公式
   观察依据

   Sigmoid函数的公式显示在屏幕上。

2. 声音
   观察依据

   讲解者将S形函数定义为将任意输入压缩到（0，1）区间内。

1. Sigmoid函数
2. Sigmoid 函数将实数输入映射到 (0, 1) 区间内。

1. 公式
   观察依据

   屏幕上显示 $h_θ(x)=σ(θ^T x)$ 以及 P($y=1$|x)=$1/(1+e^{-(θ_0+θ_1 x)})$。

1. 逻辑回归模型
2. 从线性预测器到逻辑回归概率

1. 声音
   观察依据

   讲解者指出，当输入为零时，输出恰好为0.5。

2. 动画
   观察依据

   图像在中心位置标出0.5。

1. Sigmoid函数

1. 声音
   观察依据

   讲解者称，该输出被解释为学生通过考试的概率。

2. 公式
   观察依据

   最终公式写作 P($y=1$|x)。

1. 逻辑回归模型
2. 逻辑回归的输出是一个类别概率。

1. 声音
   观察依据

   讲述者提问：‘那么，算法究竟是如何实际学习最优曲线的呢？我们并不使用线性回归中的最小二乘法；相反，我们采用一种称为最大似然的方法。’

1. 最大似然估计

1. 声音
   观察依据

   讲述者解释道：‘改变偏置项会使整条曲线向左或向右平移……’

2. 动画
   观察依据

   当$θ_0$变化时，曲线沿水平方向平移。

1. 逻辑回归模型公式
2. 偏置对逻辑曲线的影响

1. 声音
   观察依据

   讲述者指出：‘……划分通过区域与未通过区域的那条线是线性的。’

2. 公式
   观察依据

   屏幕上显示方程：边界：$θ_0 + θ_1 x_1 + θ_2 x_2 = 0$。

1. 线性决策边界
2. 决策边界的线性性质

1. 字幕依据
   观察依据

   幻灯片要点：逻辑回归预测概率。

1. 逻辑回归预测概率

1. 字幕依据
   观察依据

   幻灯片要点：使用Sigmoid函数将输出映射到（0, 1）。

1. Sigmoid函数将输出映射到（0, 1）

1. 字幕依据
   观察依据

   幻灯片要点：通过最大化数据的似然进行优化。

1. 通过最大化数据的似然函数进行优化