31、可解释人工智能：多种模型解析与应用

可解释人工智能：多种模型解析与应用

1. ELI5模型解析与应用

ELI5 是一种用于解释机器学习模型特征重要性的工具。它通过排列重要性方法来评估每个特征对模型决策的影响。以下是使用 ELI5 的步骤：

perm = PermutationImportance(model, scoring = 'accuracy', random_state = 101)
perm.fit(X_train, y_train)
show_weights(perm, feature_names = X_test.columns.tolist())

ELI5 还可以通过 explain_prediction 方法对单个数据点的预测结果进行解释，展示驱动模型决策的前 n 个特征。

from eli5 import explain_prediction
explain_prediction(model, np.array(X_test[21]), feature_names = X.columns.tolist(), top = 7, top_targets = 3)

ELI5 的结论是，它能清晰地展示哪些输入对决策有贡献以及它们的权重。不过，相关数据不应作为输入，因为这些相关数据对结果没有影响，去掉相关特征仍可在不牺牲准确性的情况下得到结果。

</

特征	权重