R语言-主成分分析
1.PCA
使用场景:主成分分析是一种数据降维,可以将大量的相关变量转换成一组很少的不相关的变量,这些无关变量称为主成分
步骤:
- 数据预处理(保证数据中没有缺失值)
- 选择因子模型(判断是PCA还是EFA)
- 判断要选择的主成分/因子数目
- 选择主成分
- 旋转主成分
- 解释结果
- 计算主成分或因子的得分
案例:从USJudgeRatings数据集中有11个变量,如何去减化数据(单个主成分分析)
1.使用碎石图确定需要提取的主成分个数
1 library(psych) 2 # 1.做出碎石图确定主成分的个数 3 fa.parallel(USJudgeRatings[,-1],fa='pc',n.iter = 100,show.legend = F,main = 'Scree plot with parallel analysis')
结论:在特征值大于1的的点附近,都表明保留1个主成分即可
2.提取主成分
1 # 1.第一个参数是关系矩阵 2 # 2.nfactors指定主成分的个数 3 # 3.rotate指定旋转方法,默认varimax 4 # 4.scores表示是否需要计算主成分得分,默认不需要 5 pc <- principal(USJudgeRatings[,-1],nfactors = 1) 6 pc
结论:第一主成分与每一个变量高度相关
3.获取主成分得分
1 pc <- principal(USJudgeRatings[,-1],nfactors = 1,scores = T) 2 head(pc$scores) 3 cor(USJudgeRatings$CONT,pc$scores)
4.获取相关系数
1 cor(USJudgeRatings$CONT,pc$scores)
结论:律师和法官的私交和律师的评级没有关系
案例2:减少女孩身体指标的主成分分析(多个主成分分析)
1.判断个数
1 fa.parallel(Harman23.cor$cov,n.obs = 203,fa='pc',n.iter = 100,show.legend = F, 2 main = 'Scree plot with parallel analysis')
结论:有2个点在水平线1上,所以需要2个主成分
2.主成分分析
pc2 <- principal(Harman23.cor$cov,nfactors = 2,rotate = 'none') pc2
结论:需要对数据旋转作进一步分析
3.主成分旋转(尽可能对成分去噪)
1 rc <- principal(Harman23.cor$cov,nfactors = 2,rotate = 'varimax') 2 rc
4.获取主成分的得分系数
1 round(unclass(rc$weights),2)
结论:可以通过系数*数值来计算出主成分得分
2.EFA
使用场景:探索因子分析发掘数据下一组较少的,无法观测的变量来解释一组可观测变量的相关性
案例:使用EFA对6个心理学测试来检测参与者的得分
1.判断需要提取的因子数
1 covariances <- ability.cov$cov 2 correlations <- cov2cor(covariances) 3 fa.parallel(correlations,n.obs = 112,fa='both',n.iter=100,main = 'Scree plots with parallel analysis')
结论:需要提取2个因子,因为图形在拐点之上有2个分布
2.提取公共因子
1 fa <- fa(correlations,nfactors = 2,rotate = 'none',fm='pa') 2 fa
结论:2个因子解释了6个心理学测试的60%方差,需要进一步旋转
1 fa.varimax <- fa(correlations,nfactors=2,rotate='varimax',fm='pa') 2 fa.varimax
结论:阅读和词汇在第一个因子占比较大,画图,积木在第二个因子上成分较大,如果想进一步判断这个各因子是否相关,需要使用斜交旋转提取因子
1 fa.promax <- fa(correlations,nfactors=2,rotate='Promax',fm='pa') 2 fa.promax
结论:相关性为0.57,相关性很大,如果相关性不大,使用正交旋转即可
3.计算得分
1 fsm <- function(oblique) { 2 if (class(oblique)[2]=="fa" & is.null(oblique$Phi)) { 3 warning("Object doesn't look like oblique EFA") 4 } else { 5 P <- unclass(oblique$loading) 6 F <- P %*% oblique$Phi 7 colnames(F) <- c("PA1", "PA2") 8 return(F) 9 } 10 } 11 12 fsm(fa.promax)
5.正交旋转所得因子得分图
结论:词汇和阅读在第一因子上载荷较大,图片,迷宫,积木在第二个因子上载荷较大,普通智力检测在二者的分布较为平均
6.斜交旋转所生成的因子图
1 fa.diagram(fa.promax,simple = F)
结论:显示了因子之间的关系,该图比上一张图更为准确
