25、机器学习模型公平性评估与解释

机器学习模型公平性评估与解释

1. 公平性概念

在机器学习领域，模型公平性至关重要。常见的公平性概念包括人口统计学均等和机会与赔率均等，此外还有其他公平性概念。

1.1 人口统计学均等

人口统计学均等旨在确保所有受保护群体在模型处理中享有平等地位，无论其在总体中的占比如何。通过绘制性别和种族的人口统计学均等比率柱状图，可直观评估模型公平性。以下是绘制该柱状图的代码：

f, ax = plt.subplots() 
plot_bar([dem_par_gender_ratio, dem_par_race_ratio],   
         ['Gender', 'Race'],  
         ax=ax, color='r') 
ax.set_ylabel('Demographic Parity Ratio') 
ax.set_ylim([0, 1.5]) 
ax.plot([-0.5, 1.5],   
        [threshold_1, threshold_1], "k--", 
        linewidth=3.0)
ax.plot([-0.5, 1.5],  
        [threshold_2, threshold_2], "k--",  
        label='Threshold',  
        linewidth=3.0)                      
ax.legend(); 

从绘制的图中可知，性别和种族的人口统计学均等比率分别为 0.38 和 0.45，均不在阈值范围内，这表明随