多元回归分析中筛选自变量的必要性及常用方法
点击次数：3568 发布日期：2017/08/06 来源：华斯泰
由专业人员选定的自变量往往很多，若将这些自变量全部引入多元回归方程，不仅使方程过于复杂，更重要的是方程中可能包含很多无统计学意义的变量，由于他们的存在，反而使模型对资料的拟合效果很差，因此，有必要对自变量进行筛选，使那些对因变量贡献较大的自变量尽可能都能被选入回归模型，而那些贡献小的、特别是那些与其他自变量有密切线性关系且起“负作用”的自变量尽可能地被排斥在回归模型之外。
筛选自变量的方法有8种，其中最常用的方法有以下三种，即“前进法、后退法和逐步法”。其含义分别为：
前进法：事先确定选变量进入回归方程的显著性水平（记为sle），回归方程中自变量的数目从无到有，逐一检验每个自变量对因变量的贡献，若其P值小于sle，就将该自变量引入回归方程，就这样一个一个地将回归方程之外的自变量引入回归方程，直至回归方程外无具有统计学意义的自变量可被引入时为止，这是只进不出的筛选自变量的方法。
后退法：事先确定从回归方程中剔除变量(或将变量保留在回归方程中)的显著性水平（记为sls），先将全部自变量（条件是样本含量大于自变量的个数）放入回归方程，然后逐一检验每个自变量对因变量的贡献，若其P值大于sls且P的取值最大的自变量最先被剔除到回归方程之外去，就这样一个一个地将回归方程之内的自变量剔除回归方程，直至回归方程内无自变量可被剔除时为止，这是只出不进的筛选自变量的方法。
逐步法：由于检验自变量对因变量贡献大小时不是孤立的，而是与此时此刻回归方程中已存在的自变量的数目以及他们共同对因变量的影响情况有关，因此，无论是“前进法”还是“后退法”都存在一些弊病，于是，人们又想出在每一步计算时，既要考虑将回归方程之外对因变量可能有较大贡献的自变量引入回归方程，也要考虑将已引入回归方程的“退化变质”的变量剔除回归方程，称这种有进有出的筛选变量的方法为“逐步回归分析法”，简称“逐步法”。
当然，逐步法也不是十全十美的，因为每次检验都取决于当时回归方程中包含哪些自变量，每个自变量不可能有机会与其他自变量的各种组合进行搭配到。只有“最优回归子集法”才能找到全部可能的各种自变量的组合，但计算量很大，仅在自变量的数目较少的场合下才是可行的。
