8、无监督异常排序与模型聚类中的特征子集选择

无监督异常排序与模型聚类中的特征子集选择

在数据处理和分析领域，无监督异常排序和模型聚类中的特征子集选择是两个重要的研究方向。下面将为大家详细介绍相关的算法和方法。

1. 无监督异常排序算法 - UNSUPERVISED TREERANK

无监督异常排序旨在对未标记的数据进行处理，找出其中的异常点。传统的有监督技术在处理模拟的“负”实例数量时，通常会出现过拟合的问题，并且在交叉验证方案的每次重复中，MV曲线下的面积可能为零。

而UNSUPERVISED TREERANK算法则是一种新颖的无监督异常排序算法。它将问题转化为最小化质量 - 体积（Mass - Volume，MV）曲线准则，通过定向二叉树来描述评分规则，这种树被称为异常排序树。

该算法的主要优势在于不涉及任何采样阶段。由于递归分区方法输出的单元格可以表示为超立方体的并集，因此可以直接精确计算其体积，避免了使用任何蒙特卡罗采样方案。这使得该算法非常适合处理大规模和高维的未标记数据，实验结果也证实了这一点。

2. 模型聚类中的特征子集选择

在基于模型的聚类方法中，每个聚类由一个参数分布表示，然后使用有限混合模型对观测数据进行建模。参数通过优化数据与模型之间的拟合度（通常由似然函数表示，可能会进行惩罚）来估计。

然而，聚类结构可能只存在于可用变量的一个子集中。选择相关的聚类变量子集可以实现未知参数的简约性，从而得到更有效的估计、更清晰的参数解释以及更好的聚类划分。

2.1 模型聚类基础

• 有限混合建模 ：假设观测数据由G个成分的混合生成，每个成分代表