因子分析 FA | Factor Analysis

目录

前言

一、因子分析是什么？

二、因子分析的优点和缺点

三、因子分析的应用场景

四、构建因子分析模型的注意事项

五、因子分析模型的实现类库

六、因子分析模型的评价指标

七、类库factor_analyzer实现因子分析的例子

八、因子分析的模型参数

总结

---

前言

因子分析是机器学习中无监督学习的一种降维算法。

一、因子分析是什么？

因子分析是无监督机器学习中降维的一种，是一种数据简化技术。旨在用少量的潜在变量或因子描述可观测的变量，也称公因子分析。
通过观测变量的线性组合，来解释观测变量的共有变异，对观测变量做出有意义的解释，减少变量数。基本思想是根据相关性大小把变量分组，使得同组内的变量之间相关性较高，但不同组的变量不相关或相关性较低，每组变量代表一个基本结构即公共因子。

因子分析分为探索性因子分析和确认行因子分析。
探索性因子分析：事前不对因子之间的关系做出任何假设，任何变量都可以与任何因子有关联，这有助于识别变量之间的复杂关系，并根据共同因素对他们进行分组。
确认性因子分析：事前假设变量与特定因子相关，并使用预先建立的理论来确认其对模型的预期。

二、因子分析的优点和缺点

优点：

• 可以降低数据维度：因子分析算法可以将高维数据降低到低维空间中，从而减少数据的维度，提高计算效率和模型的泛化能力。
• 可以去除冗余信息：因子分析算法可以去除数据中的冗余信息，提取出最重要的特征，从而提高模型的准确率和泛化能力。
• 可以处理多变量问题：因子分析算法可以处理多变量问题，从而提高模型的复杂度和准确率。
• 可以进行数据压缩：因子分析算法可以将数据压缩到较小的空间中，从而减少存储和传输数据的成本。
• 可以处理缺失数据：因子分析算法可以处理缺失数据，从而提高模型的鲁棒性。
• 可解释性强：有助于发现高维变量下的潜在影响因子；

缺点：

• 需要选择因子个数：因子分析算法需要人为选择因子个数，选择不当可能会导致模型的准确率下降。
• 对数据正态性要求较高：因子分析算法要求数据服从正态分布，如果数据不满足这个条件，则可能导致模型的准确率下降。
• 需要注意的是，在实际应用中，因子分析算法的性能还受到许多其他因素的影响，例如因子旋转、因子载荷等，需要根据具体情况进行调整和优化。

三、因子分析的应用场景

因子分析是一种常见的数据降维和变量分析技术，其应用场景包括但不限于以下几个方面：

• 心理学：因子分析可以用于心理学中，将多个相关的心理测量指标降维成少数几个无关的因子，从而更好地进行心理测量和分析。
• 市场调查：因子分析可