记一次失败的kaggle比赛（1）：赛题简介与初次尝试

mmc2015

于 2016-04-08 12:37:05 发布

阅读量5.5k

点赞数 4

CC 4.0 BY-SA版权

分类专栏： Kaggle 文章标签： kaggle比赛记一次失败的kaggle比赛 kaggle比赛经验总结

本文链接：https://blog.youkuaiyun.com/mmc2015/article/details/51095446

题目描述：https://www.kaggle.com/c/santander-customer-satisfaction

简单总结：一堆匿名属性；label是0/1；目标是最大化AUC。

第一次尝试：

特征：

由于时间比较充裕，直接用了暴力搜索提取较好的特征：

#!!!!!!!!!!!!!!!!!!!!!!!!!!!!!! better use a RFC or GBC as the clf
#!!!!!!!!!!!!!!!!!!!!!!!!!!!!!! because the final predict model are those two
#!!!!!!!!!!!!!!!!!!!!!!!!!!!!!! we should select better feature for RFC or GBC, not for LR
clf = LogisticRegression(class_weight='balanced', penalty='l2', n_jobs=-1)
selectedFeaInds=GreedyFeatureAdd(clf, trainX, trainY, scoreType="auc", goodFeatures=[], maxFeaNum=150)
joblib.dump(selectedFeaInds, 'modelPersistence/selectedFeaInds.pkl')
#selectedFeaInds=joblib.load('modelPersistence/selectedFeaInds.pkl') 
trainX=trainX[:,selectedFeaInds]
testX=testX[:,selectedFeaInds