我们知道最小二乘法可以用来处理一组数据, 可以从一组测定的数据中寻求变量之间的依赖关系, 这种函数关系称为经验公式. 本课题将介绍最小二乘法的精确定义及如何寻求
与
之间近似成线性关系时的经验公式. 假定实验测得变量之间的
个数据
, 
, …, 
, 则在
平面上, 可以得到
个点
, 这种图形称为“散点图”, 从图中可以粗略看出这些点大致散落在某直线近旁, 我们认为
与
之间近似为一线性函数, 下面介绍求解步骤.
考虑函数
, 其中
和
是待定常数. 如果
在一直线上, 可以认为变量之间的关系为
. 但一般说来, 这些点不可能在同一直线上. 记
, 它反映了用直线
来描述
, 
时, 计算值
与实际值
产生的偏差. 当然要求偏差越小越好, 但由于
可正可负, 因此不能认为总偏差
时, 函数
就很好地反映了变量之间的关系, 因为此时每个偏差的绝对值可能很大. 为了改进这一缺陷, 就考虑用
来代替
. 但是由于绝对值不易作解析运算, 因此, 进一步用
来度量总偏差. 因偏差的平方和最小可以保证每个偏差都不会很大. 于是问题归结为确定
中的常数
和
, 使
为最小. 用这种方法确定系数
,
的方法称为最小二乘法.
由极值原理得 
, 即
解此联立方程得
(*)
