Orange3实战教程：解释---解释模型

解释模型（Explain Model）

用于解释分类或回归模型。展示哪些特征对预测结果的贡献最大，以及这些特征如何影响特定类别的预测。

输入

• 数据（Data）：用于计算解释的数据集
• 模型（Model）：需要解释的模型

输出

• 选定数据（Selected data）：图中选定点对应的数据实例
• 分数（Scores）：每个属性的贡献分数。对最终预测影响越大的特征，分数越高。

解释模型小部件使用SHAP库解释分类和回归模型。该部件接收一个训练好的模型和参考数据作为输入，并利用这些数据计算每个特征对选定类别预测的贡献程度。

1. 选择目标类别——图表将展示对该类别的解释。
2. 选择图表中显示的特征数量。
3. 显示/隐藏图例。
4. 图表展示对模型最重要的选定数量特征。对于每个特征，图中的点表示每个数据实例（行）的SHAP值（水平轴）。SHAP值是衡量每个特征对模型输出影响程度的指标。SHAP值越高（偏离图表中心越远），表示该特征值对选定类别预测的影响越大。正值（中心右侧的点）表示该特征值对预测选定类别有正向影响，负值（中心左侧的点）表示有负向影响。对于回归模型，SHAP值表示特征值