太阳照下的影子，为什么是“最近点”？#

暂时把阳光简化成垂直照向地面。一个点悬在地面上方，它的影子就在正下方。你若把影子沿地面挪开，点到影子的距离一定更长：原来的高度没变，还多了一段水平距离。

在坐标里，$x=(3,4)$ 到水平轴上 $(a,0)$ 的距离平方是 $(3-a)^2+16$。显然 $a=3$ 时最小，最近点是 $(3,0)$，误差是 $(0,4)$，恰好垂直于水平轴。

最小二乘也是找影子，只不过“地面”变成一组允许的预测，“垂直”由内积定义。先理解这个直角三角形，后面的投影矩阵就有了画面。

一条斜地面上的影子怎么算#

地面不一定水平。设允许位置在方向 $v=(1,2)$ 上，最近点应形如 $av$。要让误差 $x-av$ 与地面垂直，就要求 $v^T(x-av)=0$。于是

对 $x=(3,4)$，$v^Tx=11$、$v^Tv=5$，所以影子是 $(11/5,22/5)$。误差为 $(4/5,-2/5)$，与 $(1,2)$ 的点积确实为零。这给出一套能手算、能核验的投影方法。

点积的数字怎样连上几何#

若 $u$ 是单位方向，$u^Tx$ 读取的就是 $x$ 沿这个方向的有符号长度。再乘 $u$，就把这个数放回方向上，得到投影向量。

一般 $v$ 不是单位长度，$v^Tx$ 会多带一个 $\|v\|$，所以投影公式必须除以 $v^Tv$。许多“差了一个长度平方”的错误，都来自把坐标读数与实际投影向量混淆。

多个方向为什么要先变成正交#

若两根坐标轴互相斜着，只减去第一根上的影子，再减第二根上的影子，第二次操作可能又改变第一方向的分量。它们会互相干扰。

Gram–Schmidt 先把第二根里沿第一根的部分去掉，造出一个真正垂直的新方向。例：$v_1=(1,1)$、$v_2=(1,0)$，第二根在第一根的投影为 $(1/2,1/2)$，剩下 $(1/2,-1/2)$；归一化后得到 $(1,-1)/\sqrt2$。

这两根正交单位方向让读数彼此独立。对某方向已经去掉的成分，不会在处理另一方向时重新冒出来。

从箭头到曲线，哪些部分原样保留#

把点积改成 $\int fg$ 后，正交的意思变为“乘积的正负部分总和抵消”，不要求两个函数在每个时刻都互相排斥。例如 $1$ 与 $t-1/2$ 的积分内积为零，后者一半时间负、一半时间正。

所以函数空间中的“垂直”不需要你把两条曲线画成 90 度。它是在整体相似程度的测量下得到零。先接受这个计算意义，再把熟悉的投影几何带过去。

带你做：别凭视觉判断两个方向是否正交#

取 $u=(1,2,-1)$、$v=(2,-1,0)$，点积为 $2-2+0=0$，所以它们正交。三维图画得不好也不影响这个结论。

要把 $x=(1,1,1)$ 投影到它们张成的平面，因两方向已正交，可分别读数：$u^Tx=2,u^Tu=6$，$v^Tx=1,v^Tv=5$。投影为

接下来不要只相信公式，算误差 $r=x-p=(4/15,8/15,4/3)$，确认 $r\cdot u=0,r\cdot v=0$。这两项校验保证误差确实垂直于整个平面。

如果原方向不正交，直接把两个单独投影相加通常是错的；需要先正交化，或解对应正规方程。公式里的适用条件不只是为了出题，它决定计算是否有效。

回头整理：定义、工具与练习#