最小二乘拟合在目标函数上与线性规划有何不同？

对于二元函数，定义 $D=f_{xx}f_{yy}-f_{xy}^2$。如果 $D>0$，则 $f_{xx}$ 的符号区分类型：$f_{xx}>0$ 表示局部极小值，$f_{xx}<0$ 表示局部极大值。

适用条件：函数有两个变量。；该点是驻点（梯度为零）。；函数二阶连续可微。

半定海森矩阵无法得出结论，因为二阶项并不能严格确定所有方向上变化的符号。必须检查高阶项或直接检查函数的行为，以确定该点是极小值、极大值还是鞍点。

适用条件：函数二阶连续可微。；该点的梯度为零。；海森矩阵是半定的（正半定或负半定）。

通过建立方程 $\nabla f = \lambda \nabla g$ 以及约束 $g(x,y)=0$ 来求解系统。对于这些特定的函数，这产生了 $2x = \lambda(2x)$，$2y = \lambda(y)$，以及 $x^2 + y^2/2 - 1 = 0$。

适用条件：目标函数是 $f(x,y) = x^2 + y^2$。；约束函数是 $g(x,y) = x^2 + y^2/2 - 1 = 0$。；应用了拉格朗日乘数条件 $\nabla f = \lambda \nabla g$。

线性规划的特征是具有仿射目标函数和线性约束条件。这种特定结构使其区别于其他最优化模型，如最小二乘拟合。

适用条件：最优化问题是线性规划。；目标函数是仿射的。；约束条件是线性的。

蓝色箭头代表目标函数的梯度 $\nabla f$，从等高线的中心向外指出。黄色箭头代表约束函数的梯度 $\nabla g$，它垂直于约束曲线。

适用条件：动画可视化了 $f(x,y) = x^2 + y^2$ 和 $g(x,y) = x^2 + y^2/2 - 1 = 0$ 的梯度。；蓝色箭头对应 $\nabla f$。；黄色箭头对应 $\nabla g$。