一等奖方案|2021 CCF BDCI个贷违约预测赛题@雅俗共赏 队解题思路

今日分享：中原银行「个贷违约预测」赛题一等奖获奖方案

赛题链接：https://www.datafountain.cn/competitions/530

团队简介

获奖团队：雅俗共赏

翟亚雷，现就读于上海工程技术大学城市轨道交通学院交通运输工程专业，研究方向是能量回收。

摘要

随着银行信贷用户的不断扩展，利用银行现有信贷行为数据进行迁移学习辅助创建目标业务风控模型来服务新场景、新客群变得至关重要。本文提出了利用CatBoost过滤历史信贷行为数据的数据过滤方法和利用K-means聚类构建特征的特征构建方法。通过CatBoost对历史信贷行为数据的过滤，筛选出59633条精确数据，通过K-means聚类对public表构建了重要特征sub_class，加入目标编码及交叉特征后，组成74633条样本、56个特征，建立XGBoost算法模型，最终B榜得分0.91216。

关键词

迁移学习，CatBoost，数据过滤，K-means聚类

背景

为进一步促进金融普惠的推广落地，金融机构需要服务许多新的客群。银行作为对风险控制要求很高的行业[1]，因为缺乏对新客群的了解，对新的细分客群的风控处理往往成为金融普惠的重要阻碍。如何利用银行现有信贷行为数据来服务新场景、新客群成了一个很有价值的研究方向，利用迁移学习捕捉不同业务中用户基本信息与违约行为之间的关联，帮助实现对新业务的用户违约预测是其中一个重要方法。

数据预处理

数据预处理部分主要做了缺失值处理、文本类型特征处理、日期类型特征处理以及异常值处理，原始数据经过预处理之后可以直接放入模型进行训练。

缺失值处理

public表和internet表缺失部分大致相同，internet表缺失情况如图2所示：

图2：train_internet表缺失率

对于缺失数据做了以下处理：

(1) 对f1~f5和recircle_u特征用均值填充。

(2) 对特征pub_dero_bankrup用前一个值进行了填充。

(3) 对debt_loan_ratio、title、post_code存在少量缺失值的特征，将缺失的样本删除。

文本类别型特征处理

文本分类型特征有work_year、class、work_type、employer_type、industry，其类别数如表2所示，对文本类别型特征做了标签编码(Lab