3.2 什么是最小二乘法

如前所述，在一般情况下，我们不能要求近似曲线严格地通过所有数据点，亦即不能要求拟合函数在处的偏差(亦称残差)

都严格地等于零。但是，为了使近似曲线能尽量反映所给数据点的变化趋势，要求||都较小还是需要的。达到这一目标的途径很多，常见的有：

(1)选取，使偏差绝对值之和最小，即

                          (3.2.1)

(2)选取,是偏差最大绝对值最小，即

                         (3.2.2)

(3)选取，使偏差平方和最小，即

                          (3.2.3)

为了便于计算、分析与应用，我们较多地根据“使偏差平方和最小”的原则(称为最小二乘原则)来选取拟合曲线。

按最小二乘原则选择拟合曲线的方法，称为最小二乘法。

作为本章要着重讨论的线性最小二乘问题，其基本提法是：对于给定数据表

要求在某个函数类中寻求一个

                   (3.2.4)

使满足条件

                    (3.2.5)

式中，是函数类中任一个函数。

满足关系式(3.2.5)的函数，称为上述最小二乘法问题的最小二乘解。

由上可知，用最小二乘法解决实际问题包含两个基本环节：先根据所给数据点的变化趋势与问题的实际背景确定函数类，即确定所具有的形式；然后按最小二乘原则(式(3.2.3))求得最小二乘解，即确定其系数。