27、模型可解释性：多种工具助力理解与因果分析

模型可解释性：多种工具助力理解与因果分析

1. 使用 ELI5 理解分类器模型

在机器学习中，理解模型如何做出决策至关重要。ELI5 库中的 PermutationImportance 方法能帮助我们解释分类器模型。其核心思想是随机排列单个特征的值，然后衡量这种排列对模型性能的影响。影响越大，该特征就越重要。以下是具体操作步骤：
1. 评估特征重要性 ：使用 ROC 曲线下面积作为评估指标，代码如下：

perm_test = PermutationImportance(classifier,
                                  scoring=make_scorer(roc_auc_score),
                                  n_iter=50, random_state=123, cv="prefit")

2. 计算特征重要性 ：利用训练数据集进行计算：

perm_test.fit(X_train, y_train)

3. 获取特征重要性 ：使用 explain_weights_df 函数获取每个特征的排列重要性：