简单线性回归模型如何设定(线性回归模型的建模步骤)

线性回归模型的建模步骤

  • 对于每个自变量和因变量之间做出散点图,观察变量间的趋势。
  • 观察散点图的三个信息层次。
    • 观察是否有线索趋势。
    • 观察相关性是线性的还是曲线的。
    • 观察是否有偏离趋势的强影响点。

简单线性回归模型如何设定(线性回归模型的建模步骤)(1)

图一,明显可以看出是一个线性回归的例子。

图二,是一个曲线,可能是抛物线,可能是对数曲线,去拟合相应的曲线模型。肯定不能使用线性回归。

图三,具有明显的相关性,但是有一个强影响点存在,拟合后肯定会使得模型的斜率增大。一般处理方式,确认数据是否正确;对于问题是否有代表性,可以考虑删除;对于这个点的影响,使用对照的方法,建立一个有异常点和没有异常点的模型,看看影响的强弱。如果实在无法删除,可以使用变量变换,是数据的影响减弱,也可以考虑其他的回归模型。

图四、末端最高点也是一个强影响点,处理流程与图三类似。

如果数据不处理,使用线性回归拟合后的模型是一样的,因此在做回归前一定是需要看散点图的。

  • 考察数据的分布,进行预处理
    • 观察自变量取值是否过于极端。
    • 初步观察变量的正态性
    • 出观察可能的方差不齐等问题。
  • 进行自变量的筛选,初步建立直线回归模型,尽量使用手工筛选。
  • 残差分析
    • 残差间是否独立
    • 残差分布是否为正态

简单线性回归模型如何设定(线性回归模型的建模步骤)(2)

图一是残差随着y的增大在0附近波动,是一种比较理想的状态,正态性和方差齐性都还好。

图二,残差随着y的增大,波动开始增加,方差不齐的问题。

图三表示,在残差中存在一个自变量的平方项;找出高次项拟合正确的方程。

  • 残差分析
  • 强影响点的诊断
  • 多重共线性问题的诊断
,

免责声明:本文仅代表文章作者的个人观点,与本站无关。其原创性、真实性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容文字的真实性、完整性和原创性本站不作任何保证或承诺,请读者仅作参考,并自行核实相关内容。文章投诉邮箱:anhduc.ph@yahoo.com

    分享
    投诉
    首页