因子分析

1. 基本思想
2. 公式推导
3. 基于R的实验
4. 结论

基本思想

在这一讲当中呢，我们谈一谈，因子分析（factor analysis），在上一节当中，我们说了主成分分析，我们说这两种方法有点相似，初学者往往有些搞不清楚。首先从原理上说，主成分分析是试图寻找原有自变量的一个线性组合。这个组合方差要大，那么携带的信息也就多，也就是相当于把原始数据的主要成分给拿了出来。而因子分析呢，是从假设出发，它是假设所有的自变量$x$出现的原因是因为背后存在一个潜变量$f$,也就是我们所说的因子，在这个因子的作用下，$x$可以被观察到。什么意思呢，举个例子，比如一个学生考试，数学，化学 ，物理都考了满分，那么我们认为这个学生理性思维较强，理性思维就是一个因子。在这个因子的作用下，偏理科的成绩才会那么高。这就是因子分析，通过这点，大家就可以感受到，因子分析和主成分分析是明显不一样的。并且因子分析最早就由心理学家提出的。那么因子分析呢，又存在两个方向，一个是探索性因子分析（exploratory factor
analysis）。另一个是验证性因子分析（confirmatory factor
analysis）。探索性因子分析是不确定一堆自变量背后有几个因子，我们通过这种方法试图寻找到这几个因子。而验证性因子分析是已经假设自变量背后有几个因子，试图通过这种方法去验证一下这种假设是否正确。验证性因子分析又和结构方程模型有很大关系。后面我们会专门的介绍，今天先介绍探索性因子分析。

数学推导

因子分析假设自变量$x$背后存在影响它的因子$z$,既然是$z$影响$x$，那么$x$就可以写成$z$的函数了。当然，直接写不行，它有个假设，假设这个$x$是已经中心化的。那么就可以写出下式：