详细介绍：最小二乘法，为什么叫二乘法?小无相功一样的威力吗？

最小二乘法，为什么叫二乘法?

小无相功一样的威力吗？

“最小二乘法”名称的由来，与它的核心思想直接相关：

- “二乘”：指的是对误差进行平方运算（“乘”在这里代表平方，“二”对应平方的次数）。

在回归问题中，我们需要衡量预测值与真实值的差异（即误差），而最小二乘法选择用误差的平方来表示这种差异，而非简单的绝对值或其他形式。

​

- “最小”：指的是通过调整模型参数，使所有误差的平方和达到最小值。这一过程的目标是找到能让整体误差平方和最小的参数组合，从而使模型尽可能贴合数据。

简便来说，“最小二乘法”就是经过最小化误差的平方和来求解最优模型参数的技巧，名称直观反映了它的核心优化目标。