Datawhale AI夏令营学习笔记：用户新增预测模型-优快云博客

本文链接：https://blog.youkuaiyun.com/tanli2001/article/details/149421194

Datawhale AI夏令营学习笔记：用户新增预测模型

用户新增预测模型

用户新增预测模型

赛题任务


赛题背景	用户新增预测是分析用户使用场景以及预测用户增长情况的关键步骤，有助于进行后续产品和应用的迭代升级
赛题目标	基于提供的样本构建模型，预测用户的新增情况
评估标准	F1-score
数据集	用户行为事件记录，15个原始特征字段
挑战与难点	用户行为事件数据到用户级别预测，高维稀疏特征

数据探索（EDA）

总体了解：

train_df.info()
train_df.describe()

测试集与用户重合情况分析：

train_did = set(train_df['did'].unique())
test_did = set(test_df['did'].unique())
overlap_dids = train_did & test_did
ratio_in_train = len(overlap_dids)/len(train_did)
ratio_in_test = len(overlap_dids)/len(test_did)
print(f'重叠did数量：',len(overlap_dids))
print(f'重叠用户占train比例：{ratio_in_train:.4f}({len(overlap_dids)}/{len(train_did)})')
print(f'重叠用户占test比例：{ratio_in_test:.4f}({len(overlap_dids)}/{len(test_did)})')

- 重叠did数量： 192393
- 重叠用户占train比例：0.7104(192393/270837)
- 重叠用户占test比例：0.9324(192393/206342)

缺失值与唯一值分析

# 数据集中特征缺失值、缺失率、唯一值
print(train_df.isnull().any().sum()) #0: 没有缺失值
one_value_fea = [col for col in train_df.columns if train_df[col].nunique()<=1]
one_value_fea_test = [col for col in test_df.columns if test_df[col].nunique()<=1]
one_value_fea,one_value_fea_test # [] []:没有唯一值

使用 pandas_profiling 生成数据报告

!pip install ydata-profiling
from ydata_profiling import ProfileReport
pfr = ProfileReport(train_df)
pfr.to_file("EDA.html")

特征工程

首先将训练数据与测试数据整合到一起，用于统一的数据预处理或特征工程

full_df = pd.concat([train_df, test_df], axis=0)
full_df = full_df.reset_index()

时间特征工程：通过数据查看，对于每个客户最刚开始那一天是1（新客户），其他是0

# 转换为时间格式
full_df['ts'] = pd.to_datetime(full_df['common_ts'], unit='ms')
# 提取时间特征
full_df['day'] = full_df['ts'].dt.day
full_df['dayofweek'] = full_df['ts'].dt.dayofweek
full_df['hour'] = full_df['ts'].dt.hour
# 记录每个用户的第一次记录时间与行为之间的间隔
full_df['days_since_first']=(full_df['ts']-full_df.groupby('mid')['ts'].transform('min')).dt.days
# 用户行为特征--时间序列特征：计算用户历史行为频次（滑动窗口）
full_df.sort_values(['did', 'common_ts'], inplace=True)
full_df['user_event_count'] = full_df.groupby('did')['eid'].transform('cumcount') + 1 #用户第几次行为
full_df.sort_index(inplace=True)

挖掘udmap 字段中的JSON信息（如 botId 、 pluginId ）

full_df['botId'] = full_df['udmap_dict'].apply(lambda x: x.get('botId', 'unknown'))
full_df['pluginId'] = full_df['udmap_dict'].apply(lambda x: x.get('pluginId', 'unknown'))

计算FRM特征：从用户行为的 “时效性、频率、价值” 三个维度量化用户活跃度与重要性，广泛用于用户分层与行为预测。

rfm = full_df.groupby('did').agg(
    recency=('common_ts', 'max'), 
    frequency=('eid', 'count'), # 一共多少次行为
    monetary=('eid', 'nunique')  # 假设不同事件eid类型代表不同价值，一共触发了多少种事件
).reset_index()
full_df = full_df.merge(rfm, on='did', how='left')

特征组合与高阶交互

full_df['bot_plugin'] = full_df['botId'].astype(str) + '_' + full_df['pluginId'].astype(str) 
full_df['device_os'] = full_df['device_brand'].astype(str) + '_' + full_df['os_type'].astype(str)
full_df['time_bucket'] = pd.cut(full_df['hour'], bins=[0,6,12,18,24], labels=[0,1,2,3]) # 数据分桶：深夜、上午、下午、晚上
full_df['time_eid'] = full_df['time_bucket'].astype(str) + '_' + full_df['eid'].astype(str)

特征编码

模型训练

LightGBM：作为基模型，适合高维稀疏数据，且对类别特征处理友好
阈值优化：通过动态调整分类阈值（ find_optimal_threshold ）最大化F1分数，适应类别不平衡问题
贝叶斯参数调优

# 定义超参数搜索空间
    params = {
        'objective': 'binary',
        'metric': 'binary_logloss',
        'max_depth': trial.suggest_int('max_depth', 3, 15),
        'num_leaves': trial.suggest_int('num_leaves', 15, 255),
        'learning_rate': trial.suggest_float('learning_rate', 0.01, 0.3, log=True),
        'feature_fraction': trial.suggest_float('feature_fraction', 0.5, 0.95),
        'bagging_fraction': trial.suggest_float('bagging_fraction', 0.5, 0.95),
        'bagging_freq': trial.suggest_int('bagging_freq', 1, 10),
        'min_child_samples': trial.suggest_int('min_child_samples', 5, 100),
        'lambda_l1': trial.suggest_float('lambda_l1', 1e-8, 10.0, log=True),
        'lambda_l2': trial.suggest_float('lambda_l2', 1e-8, 10.0, log=True),
        'verbose': -1,
        'n_jobs': 8,
        'seed': seed
    }