天池智能工业大赛大佬们的思路(需要再看)

本文分享了参加天池工业AI大赛的经验,重点介绍了特征构造、抗过拟合及缺失值处理三个关键环节。在特征构造方面,通过特征与均值的差异及四则运算构造新特征;在抗过拟合方面,利用不同阈值筛选特征并融合模型;在缺失值处理方面,则采用允许缺失值存在的模型。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

打酱油参加了天池工业AI大赛1,当然没拿到奖,看决赛答辩直播时见识到了大佬们的各种思路,真是大开眼界。记录一下,留给以后参考。

1. 特征构造

这个是相当重要的
第一名那个女孩子并没有用什么高深的方法,但是对特征挖掘的特别好,并且提到我们可能要 “人工”智能,即是人为创造数据。1) 通过每个特征原始值与均值的差异,差异的绝对值构造。2) 通过可能特征的四则运算构造特征(当然,这是剔除掉部分原有特征后进行的,否则维度也太大了)。

2. 抗过拟合

由于大家主要使用的是皮尔森相关系数筛选的特征,那么确定相关系数(实际使用的是相关系数的绝对值)阈值就尤为重要。有个男孩子发现线下cv值并不随着阈值线性变化,而是表现出W型的变化趋势,即mse在两个阈值的时候都较低。所以,他分别使用这两个阈值标准筛选得到的训练数据建模、预测,对这两个模型融合(有可能直接用的平均,我忘记了)。

另外一个团队使用了深度学习的方法来做,原理可能是添加随机噪声什么的,具体我又忘记了。

3. 缺失值处理

其中一个男生使用的确实值处理方法可能有助于提高模型表现,他没有使用均值或中位数对缺失值进行处理,而是未对缺失值进行填充,使用了允许缺失值存在的xgboost模型。此外,有一些特征值为“0”的数据经判断后应该是机器上传过程中出现了错误等,他也把这些转化为了缺失值。

评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值