单项式和多项式的区别的定义(多项式回归)

1.什么是多项式回归,线性回归适合数据呈线性关系的问题,如果样本呈现出来的是非线性分布,那线性回归就不再适用,而需要适用多项式回归。

单项式和多项式的区别的定义(多项式回归)(1)

2.多项式模型的定义,与线性模型相比,多项式引入了高次项,自变量的指数大于1,例如一元二次方程,或者医院多次方程。多项式回归可以看做是线性回归的拓展,在线性回归模型中添加了新的特征值。对于一元n次多项式,同样可以利用梯度下降对损失值最小化的方法,寻找最优的模型参数。

单项式和多项式的区别的定义(多项式回归)(2)

3.多项式回归模型的实现

单项式和多项式的区别的定义(多项式回归)(3)

4.过拟合和欠拟合

多项特征扩展器进行多项式扩展时,指定了最高次数为3,该参数为多项式扩展的重要参数,若果选取不当可能会导致不同的拟合效果,下图显示了该参数分别设为1、20时模型的拟合图像:

单项式和多项式的区别的定义(多项式回归)(4)

这两种的模型都不够好,第一种是拟合的不够,预测准确性低,称为欠拟合,第二种拟合的样本更多,虽然准确度更高,但是泛化能力不强,这种现象就称之为过拟合。

欠拟合模型一般表现为训练集、测试集下准确度都比较低,过拟合是在训练集下准确度高,但是测试集下准确度低,一个好的模型无论在训练还是测试都有接近的预测精度。

如何处理欠拟合和过拟合,欠拟合,提供模型的复杂度,如增加特征,增加模型的最高次幂等,过拟合,则需要降低模型的复杂度,如减少特征,降低模型的最高次幂等。

,

免责声明:本文仅代表文章作者的个人观点,与本站无关。其原创性、真实性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容文字的真实性、完整性和原创性本站不作任何保证或承诺,请读者仅作参考,并自行核实相关内容。文章投诉邮箱:anhduc.ph@yahoo.com

    分享
    投诉
    首页