10、机器学习模型的解释性与性能权衡及新型可解释模型探索

机器学习模型的解释性与性能权衡及新型可解释模型探索

在机器学习领域，模型的解释性和性能是两个至关重要的方面。本文将深入探讨模型解释性与性能之间的权衡关系，并介绍两种新型的可解释模型。

1. 朴素贝叶斯模型的调试与解释

在处理朴素贝叶斯模型时，我们可以通过输出的两个数组来调试和解释结果。第一个数组对应负类，第二个对应正类，数组中包含给定类别的 21 个特征的方差（sigmas）：

array([[2.50123026e+05, 2.61324730e+05, ..., 1.13475535e-02],
       [2.60629652e+05, 2.96009867e+05, ..., 1.38936741e-02]])

同时，我们还可以从模型中提取均值（thetas）：

print(class_models['naive_bayes']['fitted'].theta_)

输出结果同样是两个数组，分别对应每个类别：

array([[1.30740577e+03, 1.31006271e+03, ..., 9.71131781e-01],
       [1.41305545e+03, 1.48087887e+03, ..., 9.83974416e-01]])

利用这两个数组，我们可以计算给定正类时特征的条件概率，进而在全局层面上对特征的重要