xgboost,lightgbm权值图

本文介绍如何在使用Matplotlib绘制图表时,正确显示中文标签和标题,避免乱码问题。通过设置字体参数,实现lgb和xgb模型特征重要性图表的中文显示。

如果列名包含汉字,需要设置字体

import lightgbm as lgb
import xgboost as xgb
from matplotlib import pyplot as plt


####lgb,xgb训练完成后............

#设置字体
plt.rcParams['font.sans-serif']=['SimHei']
plt.rcParams['axes.unicode_minus'] = False

# 使显示图标自适应
plt.rcParams['figure.autolayout'] = True
plt.figure(figsize=(16,10))

#lgb权值图
lgb.plot_importance(model_lgb, max_num_features=30)
plt.title("Featurertances")
plt.show()

#xgb权值图
from xgboost import plot_importance
plot_importance(model_xgb)

 

作者介绍 Toby,持牌照金融公司担任模型验证专家,国内最大医药数据中心数据挖掘部门负责人!和重庆儿科医院,中科院教授,赛柏蓝保持慢病数据挖掘项目合作!管理过欧美日中印巴西等国外药典数据库,马丁代尔数据库,FDA溶解度数据库,临床试验数据库,WHO药物预警等数据库。课程概述 此课程讲述如何运用python的sklearn快速建立机器学习模型。课程结合美国威斯康辛乳腺癌细胞临床数据,实操演练,建立癌细胞预测分类器。课程讲述十大经典机器学习算法:逻辑回归,支持向量,KNN,神经网络,随机森林,xgboost,lightGBM,catboost。这些算法模型可以应用于各个领域数据。本视频系列通俗易懂,课程针对学生和科研机构,python爱好者。本视频教程系列有完整python代码,观众看后可以下载实际操作。了解癌症肿瘤基本常识,建立健康生活方式,预防癌症,减轻癌症治疗成本。课程背景 警钟长鸣!癌症离我们远吗?《我不是药神》催人泪下,笔者在此揭露真相,癌症不是小概率疾病,癌症就在身边。癌症早期发现和控制可极大延长寿命和减少治疗费用。笔者下载美国威斯康辛临床数据,运用python sklearn建立乳腺癌分类器模型,可预测正常细胞和癌细胞。我国医院重视治疗,但忽略疾病预防教育。通过我多年机器学习数据挖掘,我发现疾病可防可控,通过自身努力,我们可以提前发现疾病早期症状或扼杀疾病于摇篮。希望此课程让广大医疗科研工作者认识疾病预防教育重要性。  
### LightGBM回归模型工作原理 LightGBM 是一种高效的梯度提升框架,其核心设计目标是提高训练速度和降低资源消耗。对于回归任务,LightGBM 的工作机制主要包括以下几个方面: #### 1. 数据处理与直方优化 LightGBM 使用了一种称为 **直方优化** 的技术来加速训练过程[^3]。具体来说,在每一轮迭代中,LightGBM 将连续特征离散化为固定数量的分箱(bins),从而形成一个直方。这种做法减少了内存占用,并允许快速计算分裂增益。 相比 XGBoost 需要在每次分割时重新构建全局直方LightGBM 对每个特征单独维护一个直方,因此只需一次性完成初始化即可重复利用这些直方结构。 #### 2. 特征重要性评估 通过 `lgb.importance` 函数,可以提取 LightGBM 模型中的特征重要性指标[^2]。该方法提供了两种衡量方式: - **增益 (Gain)**:表示某一特征被选作分裂节点时所带来的平均预测改进程度。 - **频率 (Frequency)**:统计某特征作为最佳分裂点出现的次数比例。 以下是获取特征重要性的 R 代码示例: ```r mat <- lgb.importance(model = lgb.fit, percentage = TRUE) lgb.plot.importance(tree_imp = mat, top_n = 10L) ``` 上述代码会生成一张条形,显示前十个最重要的特征及其相对贡献率。 #### 3. 局部解释能力——LIME 和 SHAP 方法应用 除了整体层面的特征重要性外,还可以借助 LIME 或 SHAP 技术深入剖析单个样本的具体行为模式[^1]。这两种工具能够揭示不同输入变量如何共同决定最终输出的变化趋势。 例如,SHAP 分解了每一个实例对应的预测结果,将其归因于各个独立因素的影响大小;而 LIME 则尝试拟合局部区域内的线性代理模型以简化复杂的非线性关系描述逻辑。 #### 4. 并行计算支持 为了进一步加快运算效率,LightGBM 支持多核 CPU 上的数据并行操作以及 GPU 加速功能[^4]。这意味着即使面对超大规模数据集也能保持良好的响应性能表现水平。 --- ### 回归模型工作机制表说明 下面是一张概括 LightGBM 回归流程的概念框: ![LightGBM Regression Workflow](https://via.placeholder.com/800x400?text=LightGBM+Regression+Workflow) 此展示了从原始数据预处理到最终预测输出的关键环节,包括但不限于以下步骤: 1. 输入特征矩阵经过直方转换后送入 GBDT 构建阶段; 2. 结合损失函数调整叶子结点参数直至收敛条件达成; 3. 输出测试集中各观测对象的目标变量估计量。 另外,关于特征重要性和个体效应解析部分,则可通过如下形式呈现效果直观明了的结果形: #### (a)Top-N Feature Importance Plot ![](https://via.placeholder.com/600x300?text=Feature+Importance+Barplot) #### (b)Single Instance Contribution Analysis via SHAP Values ![](https://via.placeholder.com/600x300?text=SHAP+Values+Waterfall+Chart) 以上两类视觉辅助材料有助于更全面地认识模型内部运作规律及潜在局限所在。 ---
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值