Stepwise 原理

逐步回归、p-value、AICc 和 BIC 是用于变量选择的统计方法。每种方法都有其独特的步骤和准则。以下是这些方法的具体步骤：

1. 逐步回归（Stepwise Regression）

逐步回归是一种迭代方法，用于选择线性回归模型中的变量。它包括两种主要策略：前向选择和后向消除，有时也结合使用（逐步法）。

前向选择（Forward Selection）：

1. 开始：从无变量的空模型开始。
2. 步骤：
   • 在每一步中，计算引入每个尚未包含在模型中的变量的模型的p-value。
   • 选择p-value最低的变量加入模型（前提是p-value低于某个阈值，如0.05）。
3. 停止：当没有任何变量可以加入模型时停止。

后向消除（Backward Elimination）：

1. 开始：从包含所有候选变量的完整模型开始。
2. 步骤：
   • 在每一步中，计算每个变量的p-value。
   • 移除p-value最高的变量（前提是p-value高于某个阈值，如0.05）。
3. 停止：当所有剩余变量的p-value都低于阈值时停止。

逐步法（Stepwise Selection）：

1. 结合前向选择和后向消除。
2. 在每次添加新变量后，检查是否有任何现有变量的p-value变得不显著，从而将其移除。

2. p-value

p-value方法是基于统计显著性来选择变量。步骤如下：

1. 开始：从完整模型或空模型开始。
2. 计算p-value：计算每个变量的p-value。
3. 选择/移除变量：
   • 如果从空模型开始，选择p-value最小的变量加入模型。
   • 如果从完整模型开始，移除p-value最大的变量。
4. 停止：当所有变量的p-value都低于某个显著性水平（如0.05）或者不再有变量可以加入时停止。

3. AICc（Akaike Information Criterion corrected）

AICc是AIC（Akaike信息准则）的修正版本，更适合小样本。用于变量选择的步骤如下：

1. 开始：从空模型或完整模型开始。
2. 计算AICc：计算当前模型的AICc值。
3. 选择/移除变量：
   • 通过增加或移除变量，寻找AICc值最低的模型。
4. 停止：当AICc值不再降低时停止。

4. BIC（Bayesian Information Criterion）

BIC是基于贝叶斯信息准则的变量选择方法。步骤如下：

1. 开始：从空模型或完整模型开始。
2. 计算BIC：计算当前模型的BIC值。
3. 选择/移除变量：
   • 通过增加或移除变量，寻找BIC值最低的模型。
4. 停止：当BIC值不再降低时停止。

总结

这些方法各有优缺点，逐步回归适合自动化选择过程，p-value方法适合强调统计显著性，AICc和BIC则更关注模型的拟合优度与复杂度之间的平衡。选择哪种方法取决于具体的分析目标和数据特性。