为什么残差向量 y 减去投影垂直于由 v 张成的直线？

该证明依赖于这样一个性质：一个向量在另一个向量上的投影长度不可能超过原向量的模长。通过将 b 在 a 上的投影定义为 proj_a b = ($a\cdot b$ / |a|^2)a，其模长计算为 |proj_a b| = |$a\cdot b$|/|a|。

适用条件：向量 a 和 b 位于欧几里得空间中；|a| ≠ 0

首先，通过从 $y=(7,6)$ 中减去投影 $(8,4)$ 来找到残差，结果为 $(-1,2)$。然后，计算投影 $(8,4)$ 与残差 $(-1,2)$ 的点积。

适用条件：$y = (7,6)$；投影是 $(8,4)$；残差是 $(-1,2)$

首先，计算点积 $y \cdot u = 20$ 和 $u \cdot u = 5$。标量系数为 $20/5 = 4$。

适用条件：$y = (7,6)$；$u = (2,1)$

当两个向量平行时取等号。从几何上看，这意味着一个向量在另一个向量上的投影大小与原向量本身的大小相同。

适用条件：向量 a 和 b 平行（同向或反向）；或者其中一个向量为零向量

向量 $y$ 在由非零向量 $v$ 张成的直线上的正交投影公式为 $\frac{y \cdot v}{v \cdot v} v$。该公式通过将 $y$ 与 $v$ 的点积除以 $v$ 与自身的点积得到的比值来缩放向量 $v$。

适用条件：向量 $v$ 必须是非零的。；投影是 onto 由 $v$ 张成的直线。