什么叫最小二乘法(最小二乘法的解释和例子)

最小二乘法的解释和例子

最小二乘是一种找到逼近一组数据的最佳直线的方法。

特别地,最小二乘寻求使每个数据点与预测值之间的差的平方最小化。这是一种线性回归,在工程和统计上应用广泛。

什么叫最小二乘法(最小二乘法的解释和例子)(1)

什么是最小二乘法?

最小二乘法寻求找到一条最接近一组数据的直线。 在这种情况下,“最佳”是指预测值和实际值之间的差的平方和最小的一条线。

为什么要用平方呢? 为什么不直接找到这些问题中预测值和实际值的差值之和呢?

在某些情况下,预测值会大于实际值,在某些情况下,预测值会小于实际值。 然而,在这两种情况下,预测值都是不准确的。

不过,只要找出差异,就会得到正负两种值的混合结果。 因此,仅仅把这些加起来并不能很好地反映两个值之间的实际位移。

什么叫最小二乘法(最小二乘法的解释和例子)(2)

然而,平方数总是正的。 因此,把这些加在一起可以更好地了解最佳拟合线的精度。

最小二乘法使用一个特定的公式来求直线y=mx b,使这个和最小。 实际上就是要找到一对m,b 的值,使得各点(x1, y1), (x2, y2), . . . , (xn, yn) 的纵坐标的平方和最小:

什么叫最小二乘法(最小二乘法的解释和例子)(3)

求解上述最小值时的m, b就得出直线y=mx b。

最小二乘法的定义

.

最小二乘法是一种寻找一条线来近似一组数据的方法,它使预测值和实际值之间的差的平方和最小。

这条直线的形式是y=b mx,其中m和b是使用给定数据集的x和y值计算的。

最小二乘法的公式

最小二乘方法的目标是找到一条方程y=mx b的直线,最接近数据。 这有时被称为最适合直线。

在这里,“最佳”意味着实际数据点和它们的预测值在直线上的差的平方和是最小的。 因此,有了“最小二乘”这个名字。

对于点为(x1,y1),…,(xn,yn)的一组数据,这条最小二乘线是y=mx b,其中m和b如下所示:

因为:y=mx b, 对于拟合的x 和 y有:

什么叫最小二乘法(最小二乘法的解释和例子)(4)

什么叫最小二乘法(最小二乘法的解释和例子)(5)

根据这两个方程解出m, b:

什么叫最小二乘法(最小二乘法的解释和例子)(6)

这等效于:

什么叫最小二乘法(最小二乘法的解释和例子)(7)

并且:

什么叫最小二乘法(最小二乘法的解释和例子)(8)

证明上述公式就是满足最小差平方和,需要用微积分的知识,在此省略。

例子

这一节涵盖了涉及最小二乘的常见问题的例子以及它们的逐步解决方案。.

问题:考虑以下10组数据,用最小二乘法来拟合一条直线。

什么叫最小二乘法(最小二乘法的解释和例子)(9)

根据给定的数据计算:

什么叫最小二乘法(最小二乘法的解释和例子)(10)

带入公式得出:

m=0.677,

b=3.0026

即直线方程为: y=3.0026 0.677x

什么叫最小二乘法(最小二乘法的解释和例子)(11)

,

免责声明:本文仅代表文章作者的个人观点,与本站无关。其原创性、真实性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容文字的真实性、完整性和原创性本站不作任何保证或承诺,请读者仅作参考,并自行核实相关内容。文章投诉邮箱:anhduc.ph@yahoo.com

    分享
    投诉
    首页