DataWhale17期-task4

最新推荐文章于 2024-08-24 21:29:15 发布
最新推荐文章于 2024-08-24 21:29:15 发布
阅读量378 收藏
点赞数
分类专栏： datawhale 文章标签： 深度学习 机器学习 人工智能 python
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/qq_35268841/article/details/108785442
版权
这篇博客主要介绍了在金融风控中应用机器学习，特别是深度学习和LightGBM进行建模的过程。学习目标包括理解memory_usage的使用，以及如何进行数据预处理和训练数据的准备。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

原始链接

学习目标

  1. 学习在金融分控领域常用的机器学习模型
  2. 学习机器学习模型的建模过程与调参流程
import pandas as pd
import numpy as np
import warnings 
import os
import seaborn as sns
import matplotlib.pyplot as plt

#申明使用seaborn样式
sns.set()

#设置seaborn绘图风格，分别是darkgrid（默认）、whitegrid、dark、white、ticks。

sns.set_style("whitegrid")
#四个预置环境，从小到达分别是paper、notebook（默认）、dtalk、poster
sns.set_context("talk")

#设置中文字体
plt.rcParams['font.sans-serif'] = ['SimHei']
#解决保存图像是负号“-”显示为方块的问题
plt.rcParams['axes.unicode_minus'] = False
#解决Seaborn中文显示问题，并调整字体大小
sns.set(font = "SimHei")
memory_usage使用方法
#数据读取，调整数据类型，减少数据在内存中占用的空间
def reduce_mem_usage(df):
    start_mem = df.memory_usage().sum()
    print("Memory usage of dataframe is {:.2f} MB".format(start_mem))
    
    for col in df.columns:
        col_type = df[col].dtype
        
        if col_type != object:
            c_min = df[col].min()
            c_max = df[col].max()
            if str(col_type)[:3] == "int":
                if c_min  > np.iinfo(np.int8).min and c_max < np.iinfo(np.int8).max:
                    df[col] = df[col].astype(np.int8)
                elif c_min > np.iinfo(np.int16).min and c_max < np.iinfo(np.int16).max:
                    df[col] = df[col].astype(np.int16)
                elif c_min > np.iinfo(np.int32).min and c_max < np.iinfo(np.int32).max:
                    df[col] = df[col].astype(np.int32)
                elif c_min > np.iinfo(np.int64).min and c_max < np.iinfo(np.int64).max:
                    df[col] = df[col].astype(np.int64)  
            else:
                if c_min > np.finfo(np.float16).min and c_max < np.finfo(np.float16).max:
                    df[col] = df[col].astype(np.float16)
                elif c_min > np.finfo(np.float32).min and c_max < np.finfo(np.float32).max:
                    df[col] = df[col].astype(np.float32)
                else:
                    df[col] = df[col].astype(np.float64)
        else:
            df[col] = df[col].astype('category')
            
    end_mem = df.memory_usage().sum() 
    print('Memory usage after optimization is: {:.2f} MB'.format(end_mem))
    print('Decreased by {:.1f}%'.format(100 * (start_mem - end_mem) / start_mem))
    
    return df

#数据读取
data = pd.read_csv("./dataset/train.csv")
data = reduce_mem_usage(data)

Memory usage of dataframe is 300800080.00 MB
Memory usage after optimization is: 72834896.00 MB
Decreased by 75.8%

#数据读取
test_A = pd.read_csv("./dataset/testA.csv")
test_A = reduce_mem_usage(test_A)

Memory usage of dataframe is 76800080.00 MB
Memory usage after optimization is: 18834472.00 MB
Decreased by 75.5%

train = data

train.head()
idloanAmntterminterestRateinstallmentgradesubGradeemploymentTitleemploymentLengthhomeOwnership...n5n6n7n8n9n10n11n12n13n14
0035008.0519.515625918.0000EE2320.02 years2...9.08.04.012.02.07.00.00.00.02.0
1118000.0518.484375462.0000DD2219843.05 years0...NaNNaNNaNNaNNaN13.0NaNNaNNaNNaN
2212000.0516.984375298.2500DD331698.08 years0...0.021.04.05.03.011.00.00.00.04.0
3311000.037.261719341.0000AA446854.010+ years1...16.04.07.021.06.09.00.00.00.01.0
443000.0312.992188101.0625CC254.0NaN1...4.09.010.015.07.012.00.00.00.04.0

5 rows × 47 columns

数据预处理

data = pd.concat([train, test_A], axis=0, ignore_index=True)

D:\Users\Administrator\Anaconda3\lib\site-packages\ipykernel_launcher.py:1: FutureWarning: Sorting because non-concatenation axis is not aligned. A future version
of pandas will change to not sort by default.

To accept the future behavior, pass 'sort=False'.

To retain the current behavior and silence the warning, pass 'sort=True'.

  """Entry point for launching an IPython kernel.

print(sorted(data['grade'].unique()))
print(sorted(data['subGrade'].unique()))

['A', 'B', 'C', 'D', 'E', 'F', 'G']
['A1', 'A2', 'A3', 'A4', 'A5', 'B1', 'B2', 'B3', 'B4', 'B5', 'C1', 'C2', 'C3', 'C4', 'C5', 'D1', 'D2', 'D3', 'D4', 'D5', 'E1', 'E2', 'E3', 'E4', 'E5', 'F1', 'F2', 'F3', 'F4', 'F5', 'G1', 'G2', 'G3', 'G4', 'G5']

data['employmentLength'].value_counts(dropna=False).sort_index()

NaN           58541
1 year        65671
10+ years    328525
2 years       90565
3 years       80163
4 years       59818
5 years       62645
6 years       46582
7 years       44230
8 years       45168
9 years       37866
< 1 year      80226
Name: employmentLength, dtype: int64

#首先对employmentLength进行转换到数值
data['employmentLength'].replace(to_replace='10+ years', value='10 years', inplace=True)
data['employmentLength'].replace('< 1 year', '0 years', inplace=True)

def employmentLength_to_int(s):
    if pd.isnull(s):
        return s
    else:
        return np.int8(s.split()[0])
    
data['employmentLength'] = data['employmentLength'].apply(employmentLength_to_int)

data['employmentLength'].value_counts(dropna=False).sort_index()

 0.0      80226
 1.0      65671
 2.0      90565
 3.0      80163
 4.0      59818
 5.0      62645
 6.0      46582
 7.0      44230
 8.0      45168
 9.0      37866
 10.0    328525
NaN       58541
Name: employmentLength, dtype: int64

#对earliesCreditLine进行预处理
data['earliesCreditLine'].sample(5)

930740    Dec-2005
314803    Jul-1994
155303    May-2008
480893    Aug-2000
712505    Dec-2000
Name: earliesCreditLine, dtype: object

data['earliesCreditLine'] = data['earliesCreditLine'].apply(lambda s: int(s[-4:]))
data['earliesCreditLine'].describe()

count    1000000.000000
mean        1998.688632
std            7.606231
min         1944.000000
25%         1995.000000
50%         2000.000000
75%         2004.000000
max         2015.000000
Name: earliesCreditLine, dtype: float64

data.head()
annualIncomeapplicationTypedelinquency_2yearsdtiearliesCreditLineemploymentLengthemploymentTitleficoRangeHighficoRangeLowgrade...pubRecBankruptciespurposeregionCoderevolBalrevolUtilsubGradetermtitletotalAccverificationStatus
0110000.000.017.04687520012.0320.0734.0730.0E...0.013224178.048.90625E251.027.02
146000.000.027.82812520025.0219843.0704.0700.0D...0.001815096.038.90625D251723.018.02
274000.000.022.76562520068.031698.0679.0675.0D...0.00144606.051.81250D350.027.02
3118000.000.017.203125199910.046854.0689.0685.0A...0.04119948.052.59375A434.028.01
429000.000.032.1562501977NaN54.0694.0690.0C...0.010212942.032.00000C2311.027.02

5 rows × 49 columns

#类别特征处理
# 部分类别特征
cate_features = ['grade', 'subGrade', 'employmentTitle', 'homeOwnership', 'verificationStatus', 'purpose', 'postCode', 'regionCode', \
                 'applicationType', 'initialListStatus', 'title', 'policyCode']
for f in cate_features:
    print(f, '类型数：', data[f].nunique())

grade 类型数： 7
subGrade 类型数： 35
employmentTitle 类型数： 298101
homeOwnership 类型数： 6
verificationStatus 类型数： 3
purpose 类型数： 14
postCode 类型数： 935
regionCode 类型数： 51
applicationType 类型数： 2
initialListStatus 类型数： 2
title 类型数： 6712
policyCode 类型数： 1

# 类型数在2之上，又不是高维稀疏的
data = pd.get_dummies(data, columns=['grade', 'subGrade', 'homeOwnership', 'verificationStatus', 'purpose', 'regionCode'], drop_first=True)

# 高维类别特征需要进行转换
for f in ['employmentTitle', 'postCode', 'title']:
    data[f+'_cnts'] = data.groupby([f])['id'].transform('count')
    data[f+'_rank'] = data.groupby([f])['id'].rank(ascending=False).astype(int)
    del data[f]

训练数据/测试数据准备

features = [f for f in data.columns if f not in ['id','issueDate','isDefault']]

train = data[data.isDefault.notnull()].reset_index(drop=True)
test = data[data.isDefault.isnull()].reset_index(drop=True)

x_train = train[features]
x_test = test[features]

y_train = train['isDefault']

# 5折交叉验证
from sklearn.model_selection import KFold
folds = 5
seed = 2020
kf = KFold(n_splits=folds, shuffle=True, random_state=seed)

使用Lightgbm进行建模

"""对训练集数据进行划分，分成训练集和验证集，并进行相应的操作"""
from sklearn.model_selection import train_test_split
import lightgbm as lgb
# 数据集划分
X_train_split, X_val, y_train_split, y_val = train_test_split(x_train, y_train, test_size=0.2)
train_matrix = lgb.Dataset(X_train_split, label=y_train_split)
valid_matrix = lgb.Dataset(X_val, label=y_val)

params = {
            'boosting_type': 'gbdt',
            'objective': 'binary',
            'learning_rate': 0.1,
            'metric': 'auc',
            'min_child_weight': 1e-3,
            'num_leaves': 31,
            'max_depth': -1,
            'reg_lambda': 0,
            'reg_alpha': 0,
            'feature_fraction': 1,
            'bagging_fraction': 1,
            'bagging_freq': 0,
            'seed': 2020,
            'nthread': 8,
            'silent': True,
            'verbose': -1,
}
"""使用训练集数据进行模型训练"""
model = lgb.train(params, train_set=train_matrix, valid_sets=valid_matrix, num_boost_round=20000, verbose_eval=1000, early_stopping_rounds=200)

D:\Users\Administrator\Anaconda3\lib\site-packages\lightgbm\basic.py:1077: UserWarning: silent keyword has been found in `params` and will be ignored.
Please use silent argument of the Dataset constructor to pass this parameter.
  .format(key))


[LightGBM] [Warning] Unknown parameter: silent


D:\Users\Administrator\Anaconda3\lib\site-packages\lightgbm\basic.py:1077: UserWarning: silent keyword has been found in `params` and will be ignored.
Please use silent argument of the Dataset constructor to pass this parameter.
  .format(key))


Training until validation scores don't improve for 200 rounds
Early stopping, best iteration is:
[702]	valid_0's auc: 0.728411

from sklearn import metrics
from sklearn.metrics import roc_auc_score

"""预测并计算roc的相关指标"""
val_pre_lgb = model.predict(X_val, num_iteration=model.best_iteration)
fpr, tpr, threshold = metrics.roc_curve(y_val, val_pre_lgb)
roc_auc = metrics.auc(fpr, tpr)
print('未调参前lightgbm单模型在验证集上的AUC：{}'.format(roc_auc))
"""画出roc曲线图"""
plt.figure(figsize=(8, 8))
plt.title('Validation ROC')
plt.plot(fpr, tpr, 'b', label = 'Val AUC = %0.4f' % roc_auc)
plt.ylim(0,1)
plt.xlim(0,1)
plt.legend(loc='best')
plt.title('ROC')
plt.ylabel('True Positive Rate')
plt.xlabel('False Positive Rate')
# 画出对角线
plt.plot([0,1],[0,1],'r--')
plt.show()

未调参前lightgbm单模型在验证集上的AUC：0.7284105986326812

在这里插入图片描述

#更进一步的，使用5折交叉验证进行模型性能评估
import lightgbm as lgb
"""使用lightgbm 5折交叉验证进行建模预测"""
cv_scores = []
test = np.zeros(x_test.shape[0])
for i, (train_index, valid_index) in enumerate(kf.split(x_train, y_train)):
    print('************************************ {} ************************************'.format(str(i+1)))
    X_train_split, y_train_split, X_val, y_val = x_train.iloc[train_index], y_train[train_index], x_train.iloc[valid_index], y_train[valid_index]

    train_matrix = lgb.Dataset(X_train_split, label=y_train_split)
    valid_matrix = lgb.Dataset(X_val, label=y_val)

    params = {
                'boosting_type': 'gbdt',
                'objective': 'binary',
                'learning_rate': 0.1,
                'metric': 'auc',

                'min_child_weight': 1e-3,
                'num_leaves': 31,
                'max_depth': -1,
                'reg_lambda': 0,
                'reg_alpha': 0,
                'feature_fraction': 1,
                'bagging_fraction': 1,
                'bagging_freq': 0,
                'seed': 2020,
                'nthread': 8,
                'silent': True,
                'verbose': -1,
    }

    model = lgb.train(params, train_set=train_matrix, num_boost_round=20000, valid_sets=valid_matrix, verbose_eval=1000, early_stopping_rounds=200)
    val_pred = model.predict(X_val, num_iteration=model.best_iteration)
    test_pred = model.predict(x_test, num_iteration=model.best_iteration)
    test = test_pred / kf.n_splits

    cv_scores.append(roc_auc_score(y_val, val_pred))
    print(cv_scores)

print("lgb_scotrainre_list:{}".format(cv_scores))
print("lgb_score_mean:{}".format(np.mean(cv_scores)))
print("lgb_score_std:{}".format(np.std(cv_scores)))

************************************ 1 ************************************


D:\Users\Administrator\Anaconda3\lib\site-packages\lightgbm\basic.py:1077: UserWarning: silent keyword has been found in `params` and will be ignored.
Please use silent argument of the Dataset constructor to pass this parameter.
  .format(key))


[LightGBM] [Warning] Unknown parameter: silent


D:\Users\Administrator\Anaconda3\lib\site-packages\lightgbm\basic.py:1077: UserWarning: silent keyword has been found in `params` and will be ignored.
Please use silent argument of the Dataset constructor to pass this parameter.
  .format(key))


Training until validation scores don't improve for 200 rounds
Early stopping, best iteration is:
[567]	valid_0's auc: 0.729987
[0.7299873542198716]
************************************ 2 ************************************


D:\Users\Administrator\Anaconda3\lib\site-packages\lightgbm\basic.py:1077: UserWarning: silent keyword has been found in `params` and will be ignored.
Please use silent argument of the Dataset constructor to pass this parameter.
  .format(key))


[LightGBM] [Warning] Unknown parameter: silent


D:\Users\Administrator\Anaconda3\lib\site-packages\lightgbm\basic.py:1077: UserWarning: silent keyword has been found in `params` and will be ignored.
Please use silent argument of the Dataset constructor to pass this parameter.
  .format(key))


Training until validation scores don't improve for 200 rounds
Early stopping, best iteration is:
[650]	valid_0's auc: 0.726013
[0.7299873542198716, 0.726012918953538]
************************************ 3 ************************************


D:\Users\Administrator\Anaconda3\lib\site-packages\lightgbm\basic.py:1077: UserWarning: silent keyword has been found in `params` and will be ignored.
Please use silent argument of the Dataset constructor to pass this parameter.
  .format(key))


[LightGBM] [Warning] Unknown parameter: silent


D:\Users\Administrator\Anaconda3\lib\site-packages\lightgbm\basic.py:1077: UserWarning: silent keyword has been found in `params` and will be ignored.
Please use silent argument of the Dataset constructor to pass this parameter.
  .format(key))


Training until validation scores don't improve for 200 rounds
Early stopping, best iteration is:
[468]	valid_0's auc: 0.731096
[0.7299873542198716, 0.726012918953538, 0.7310964920946825]
************************************ 4 ************************************


D:\Users\Administrator\Anaconda3\lib\site-packages\lightgbm\basic.py:1077: UserWarning: silent keyword has been found in `params` and will be ignored.
Please use silent argument of the Dataset constructor to pass this parameter.
  .format(key))


[LightGBM] [Warning] Unknown parameter: silent


D:\Users\Administrator\Anaconda3\lib\site-packages\lightgbm\basic.py:1077: UserWarning: silent keyword has been found in `params` and will be ignored.
Please use silent argument of the Dataset constructor to pass this parameter.
  .format(key))


Training until validation scores don't improve for 200 rounds
Early stopping, best iteration is:
[692]	valid_0's auc: 0.729743
[0.7299873542198716, 0.726012918953538, 0.7310964920946825, 0.7297434016732525]
************************************ 5 ************************************


D:\Users\Administrator\Anaconda3\lib\site-packages\lightgbm\basic.py:1077: UserWarning: silent keyword has been found in `params` and will be ignored.
Please use silent argument of the Dataset constructor to pass this parameter.
  .format(key))


[LightGBM] [Warning] Unknown parameter: silent


D:\Users\Administrator\Anaconda3\lib\site-packages\lightgbm\basic.py:1077: UserWarning: silent keyword has been found in `params` and will be ignored.
Please use silent argument of the Dataset constructor to pass this parameter.
  .format(key))


Training until validation scores don't improve for 200 rounds
Early stopping, best iteration is:
[743]	valid_0's auc: 0.728744
[0.7299873542198716, 0.726012918953538, 0.7310964920946825, 0.7297434016732525, 0.7287440305086693]
lgb_scotrainre_list:[0.7299873542198716, 0.726012918953538, 0.7310964920946825, 0.7297434016732525, 0.7287440305086693]
lgb_score_mean:0.7291168394900027
lgb_score_std:0.0017229457178253177

test_A['isDefault'] = test_pred

test_A[['id','isDefault']].to_csv('./dataset/test_sub.csv', index=False)
房租赛-模型测试
starmoth的博客
08-01 983
params = { 'num_leaves': 31, 'min_data_in_leaf': 20, 'min_child_samples':20, 'objective': 'regression', 'learning_rate': 0.01, "boosting": "gbdt", "feature_fraction": 0.8, ...
LGBM函数及参数详解
weixin_38267719的博客
04-02 2万+
LGBM Python API Dataset class lightgbm.Dataset(data, label=None, max_bin=None, reference=None, weight=None, group=None, init_score=None, silent=False, feature_name='auto', categorical_feature='auto'...
16、集成学习——LightGBM优化算法
m0_56642803的博客
11-27 1638
本文对LightGBM进行了详细介绍。
LightGBM C++使用问题
wd1603926823的专栏
04-12 5799
lightGBM C++在ubuntu以及windows下的编译、调试、测试官例、运行以及优化，消除警告。并和python下的结果对比正确。自己的工程中使用LGBM C++动态库对每张图片的推理/预测。
房租赛-数据处理
starmoth的博客
07-26 1138
import pandas as pd import numpy as np import lightgbm as lgb import matplotlib.pyplot as plt import seaborn as sns from sklearn.model_selection import KFold from sklearn.metrics import r2_score def p...
记一次：Datawhale AI夏令营-第四期-魔搭-AIGC-Task03 可图lora资源
08-15
记一次：Datawhale AI夏令营-第四期-魔搭-AIGC-Task03 可图测试资源
记一次：Datawhale AI夏令营-第四期-魔搭-AIGC-Task03 可图测试资源
08-15
记一次：Datawhale AI夏令营-第四期-魔搭-AIGC-Task03 可图测试资源
leetcode有效期-Datawhale-Coding:Datawhale-编码
07-07
leetcode有效期 Datawhale-Coding All Tasks Task 1：数组和链表（2天） 时间：2019-08-03 21:00 - 2019-08-05 21:00 讨论&CR时间: 2019-08-05 21:00 - 2019-08-05 22:30 【数组】 实现一个支持动态扩容的数组 实现...
Datawhale AI 夏令营---第四期（从零入门大模型微调）
m0_62706061的博客
08-10 472
datawhale ai夏令营 第四期（从0入门LLM微调），小白文，task1和2
Datawhale AI夏令营-深度学习入门 #AI夏令营Datawhale#夏令营第五期 Task1
最新发布
2302_80421491的博客
08-24 602
例如，在下图的语言辨别中，机器需要找到一个函数，这个函数通过输入声音信号，输出是这段声音信号的内容。在图像辨别案例中，机器就需要找到一个图像识别的函数，该函数输入图像，输出图像中的内容。AlphaGo 也可以看作是一个函数，机器下围棋需要的就是这个函数，该函数的输入是棋盘上黑子跟白子的位置，输出是机器下一步应该落子的位置。​​​​​​​损失也是一个函数。这个函数的输入是模型里面的参数，模型是 y = b + w ∗ x1，而 b 跟 w 是未知的，损失是函数 L(b, w)，其输入是模型参数 b 跟w。
机器学习实战 | LightGBM建模应用详解
ShowMeAI研究中心
03-21 2万+
本篇详细讲解LightGBM的工程应用方法。LightGBM是微软开发的boosting集成模型，和XGBoost一样是对GBDT的优化和高效实现，但它很多方面比XGBoost有着更为优秀的表现。
模型神器组合，yyds！
Python数据之道
12-30 799
来源：Python数据科学最近在kaggle上有一个调参神器非常热门，在top方案中频频出现，它就是OPTUNA。知道很多小伙伴苦恼于漫长的调参时间里，这次结合一些自己的经验，给大家带来一...
心电图学习任务四——建模与调参
LKIDTI数据的博客
03-25 612
一、建模与调参 在本节心电图预测中，是关于时间序列的学习，我们在之前了解数据模型之后，了解到这是一个关于回归问题的学习，我们要拟合出回归的效果 回归模型我们一直是机器学习中很重到的一部分，所以我们要大概的了解回归模型： 可以学习这一篇 本篇学习地址 在学习地址中能看到回归模型简单学习，而且对集成学习，调参都是有很好的说明的。在这里就不在讲述了，我只添加了一些代码注释。 代码部分： #导入相关的库 import pandas as pd import numpy as np from sklearn.metr
【机器学习】集成学习代码练习（随机森林、GBDT、XGBoost、LightGBM等）
fengdu78的博客
12-19 411
本文是中国大学慕课《机器学习》的“集成学习”章节的课后代码。课程地址：https://www.icourse163.org/course/WZU-1464096179课程完整代码：https://github.com/fengdu78/WZU-machine-learning-course代码修改并注释：黄海广，haiguang2000@wzu.edu.cnimportwarnings warn...
【机器学习】数据挖掘神器LightGBM详解
fengdu78的博客
12-26 1276
LightGBM 是微软开发的 boosting 集成模型，和 XGBoost 一样是对 GBDT 的优化和高效实现，原理有一些相似之处，但它很多方面比 XGBoost 有着更为优秀的表现。1.LightGBM安装LightGBM作为常见的强大Python机器学习工具库，安装也比较简单。这些系统下的 XGBoost 安装，大家只要基于 pip 就可以轻松完成了，在命令行端输入命令如下命令即可等待安...
LightGBM 重要参数、方法、函数理解及调参思路、网格搜索（附例子）
热门推荐
VariableX的博客
07-10 7万+
文章目录一、LightGBM 原生接口重要参数训练参数预测方法绘制特征重要性分类例子回归例子二、LightGBM 的 sklearn 风格接口LGBMClassifier基本使用例子LGBMRegressor基本使用例子三、LightGBM 调参思路四、参数网格搜索 与 xgboost 类似，LightGBM包含原生接口和 sklearn 风格接口两种，并且二者都实现了分类和回归的功能。如果想了解一些理论性的内容，可以看看之前的文章：LightGBM 相关知识理解 一、LightGBM 原生接口 重要参数
LightGBM+OPTUNA超参数自动调优教程（附代码框架）
Python数据科学
09-12 6976
大家好，我是帅东哥。原创系列持续更新，欢迎微信搜一搜「 Python数据科学」阅读机器学习系列文章。 最近在kaggle上有一个调参神器非常热门，在top方案中频频出现，它就是OPTUNA。知道很多小伙伴苦恼于漫长的调参时间里，这次结合一些自己的经验，给大家带来一个LGBM模型+OPTUNA调参的使用教程，这对可谓是非常实用且容易上分的神器组合了，实际工作中也可使用。 关于LightGBM不多说了，之前分享过很多文章，它是在XGBoost基础上对效率提升的优化版本，由微软发布的，运行效率极高，且准确度不降
数据挖掘-金融风控
xuhong_001的博客
09-21 257
数据挖掘-金融风控 特征工程 数据读入 import pandas as pd import numpy as np import matplotlib.pyplot as plt import seaborn as sns import datetime from tqdm import tqdm from sklearn.preprocessing import LabelEncoder from sklearn.feature_selection import SelectKBest from s
LightGBM的参数详解以及如何调优
deephub
09-09 2万+
lightGBM可以用来解决大多数表格数据问题的算法。有很多很棒的功能，并且在kaggle这种该数据比赛中会经常使用。 但我一直对了解哪些参数对性能的影响最大以及我应该如何调优lightGBM参数以最大限度地利用它很感兴趣。 我想我应该做一些研究，了解更多关于lightGBM的参数…并分享我的旅程。 我希望读完这篇文章后，你能回答以下问题: LightGBM中实现了哪些梯度增强方法，它们有什么区别? 一般来说，哪些参数是重要的? 哪些正则化参数需要调整? 如何调整lightGBM参数在python? .
Datawhale第三期
09-01
Datawhale第三期的任务涉及到了预训练模型、数据集增强、排序算法和数组与链表。根据引用中的描述，这一期的任务中只选择了任务三的其中两种方法，分别是预训练模型和数据集增强。同时，引用提到了关于排序算法的...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值