xgboost自定义评价函数：多分类F1 macro 2020-09-24

最新推荐文章于 2025-04-16 22:19:07 发布

authorized_keys

最新推荐文章于 2025-04-16 22:19:07 发布

阅读量2.2k

点赞数 1

分类专栏：算法文章标签： xgboost 多分类评价指标

本文链接：https://blog.youkuaiyun.com/authorized_keys/article/details/108766953

版权

算法专栏收录该内容

9 篇文章

订阅专栏

该博客介绍了如何在XGBoost训练过程中自定义评估指标，特别是针对f1_macro的需求。通过提供一个自定义的f1_macro函数，将它应用于XGBoost的eval_metric，实现了在模型训练时计算类别平衡的F1分数。示例代码展示了如何从预测概率转换为类别标签，并使用sklearn的f1_score函数进行计算。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

在训练xgboost时，评价指标需要使用f1 macro，但是官方eval_metric中没有，所有需要自定义。

def f1_macro(preds, dtrain):
    """
    自定义f1_macro用于XGBoost的eval_metric.
    输入是xgboost模型预测的类别概率（margin aka probability)

    :param preds: 'numpy.ndarray'
        Estimated targets as returned by a classifier. Its Shape is (num_sample, num_class)
    :param dtrain: Dmatrix
        Data with the train labels
    :return:
    """
    #
    y_train = dtrain.get_label() # 'numpy.ndarray'
    y_pred = [np.argmax(d) for d in preds]
    return 'f1_macro', metrics.f1_score(y_train, y_pred, average='macro')

Python custom objective demo：

https://github.com/dmlc/xgboost/blob/master/demo/guide-python/custom_objective.py

# user defined evaluation function, return a pair metric_name, result

# NOTE: when you do customized loss function, the default prediction value is
# margin, which means the prediction is score before logistic transformation.
def evalerror(preds, dtrain):
    labels = dtrain.get_label()
    preds = 1.0 / (1.0 + np.exp(-preds))  # transform raw leaf weight
    # return a pair metric_name, result. The metric name must not contain a
    # colon (:) or a space
    return 'my-error', float(sum(labels != (preds > 0.5))) / len(labels)