多重共线性

检验多重共线

 

如果发现存在多重共线性，可以采取以下处理方法。

(1)如果不关心具体的回归系数，而只关心整个方程预测被解释变量的能力，则通常可以不必理会多重共线性（假设你的整个方程是显著的）。这是因为，多重共线性的主要后果是使得对单个变量的贡献估计不准，但所有变量的整体效应仍可以较准确地估计。

(2)如果关心具体的回归系数，但多重共线性并不影响所关心变量的显著性，那么也可以不必理会。即使在有方差膨胀的情况下，这些系数依然显著;如果没有多重共线性，则只会更加显著。

(3) 如果多重共线性影响到所关心变量的显著性，则需要增大样本容量，剔除导致严重共线性的变量（不要轻易删除哦，因为可能会有内生性的影响），或对模型设定进行修改。

解决多重共线性

向前逐步回归Forward selection：将自变量逐个引入模型，每引入一个自变量后都要进行检验，显著时才加入回归模型。 (缺点：随着以后其他自变量的引入，原来显著的自变量也可能又变为不显著了， 但是，并没有将其及时从回归方程中剔除掉。)

向前逐步回归Forward selection： stepwise regress y x1 x2 … xk, pe(#1) pe(#1) specifies the significance level for addition to the model; terms with p<#1 are  eligible for addition（显著才加入模型中）.

⭐一般使用此方法⭐：向后逐步回归Backward elimination：与向前逐步回归相反，先将所有变量均放入模型，之后尝试将其中一个自变量从模型中剔除，看整个模型解释因变量的变异是否有显著变化，之后将最没有解释力的那个自变量剔除；此过程不断迭代， 直到没有自变量符合剔除的条件。（缺点：一开始把全部变量都引入回归方程， 这样计算量比较大。若对一些不重要的变量，一开始就不引入，这样就可以减少 一些计算。当然这个缺点随着现在计算机的能力的提升，已经变得不算问题了）

向后逐步回归Backward elimination： stepwise regress y x1 x2 … xk, pr(#2) pr(#2)  specifies the significance level for removal from the model; terms with p>= #2  are eligible for removal（不显著就剔除出模型）.

如果你觉得筛选后的变量仍很多，你可以减小#1或者#2

如果你觉得筛选后的变量太少了，你可以增加#1或者#2

重点：1、在进行逐步回归之前一点要去除有完全多重共线性的变量

 

 

2、可以在后面再加参数b和r，即标准化回归系数或稳健标准