最小二乘｜jbstatistics

最小二乘目标函数对所有观测值的残差平方和进行求和。残差定义为观测的 y 值减去直线的预测值。

适用条件：模型为简单线性回归。；残差定义为观测 y 减去预测 y。

通过将最小二乘目标函数对截距的偏导数设为零，我们得到以下关系：截距 = mean(y) − 斜率 · mean(x)。这意味着带有截距的拟合直线总是经过样本均值点。

适用条件：模型包含截距项。；对截距参数求导。

最小二乘斜率计算为中心化 x 值和 y 值乘积之和，除以中心化 x 值的平方和。数学上表示为 $\Sigma[(x_i - \bar{x})(y_i - \bar{y})] / \Sigma(x_i - \bar{x})^2$。

适用条件：分母 $\Sigma(x_i - \bar{x})^2$ 为正。；模型为包含截距的简单线性回归。

如果所有 x 值都相同，则唯一的斜率公式不可用。在这种情况下，斜率公式的分母（即 x 对其均值的偏差平方和）变为零。

适用条件：所有观测到的 x 值都相同。；模型试图拟合具有唯一斜率的直线。