- 博客(7)
- 收藏
- 关注
原创 模型融合task5
模型融合大体来说有如下的类型方式简单加权融合:回归(分类概率):算术平均融合(Arithmetic mean),几何平均融合(Geometric mean);分类:投票(Voting)综合:排序融合(Rank averaging),log融合stacking/blending:构建多层模型,并利用预测结果再拟合预测。boosting/bagging(在xgboost,Adaboost...
2020-04-04 20:56:44
220
原创 task4 建模调参
优化内存:来源 https://www.kaggle.com/gemartin/load-data-reduce-memory-usage可以节省60%以上的内存。import pandas as pdimport numpy as np def reduce_mem_usage(df): """ iterate through all the columns of a dat...
2020-03-31 17:57:45
305
原创 特征工程task3
常见的特征工程包括:异常处理:通过箱线图(或 3-Sigma)分析删除异常值;def outliers_proc(data, col_name, scale=3): """ 用于清洗异常值,默认用 box_plot(scale=3)进行清洗 :param data: 接收 pandas 数据格式 :param col_name: pandas 列名 :...
2020-03-28 19:33:17
154
原创 数据挖掘task2之数据分析
数据分析判断数据缺失和异常data.isnull().sum()来判断每个属性的缺失值个数。查看每列的存在nan情况msno.matrix可视化每列的缺失值。异常值检测了解预测值的分布value_counts()总体分布概况(无界约翰逊分布等)查看skewness and kurtosis查看预测值的具体频数plt.hist(Train_data['price'], orie...
2020-03-24 19:19:57
246
原创 task6批量归一化和残差网络;凸优化;梯度下降 task9目标检测基础 图像风格迁移;图像分类案例1 task10图像分类案例2;GAN;DCGAN
task6批量归一化和残差网络对全连接层的批量归一化用于sigmod函数之前。对卷积层的批量归一化位置:卷积计算之后、应⽤激活函数之前。如果卷积计算输出多个通道,我们需要对这些通道的输出分别做批量归一化,且每个通道都拥有独立的拉伸和偏移参数。 计算:对单通道,batchsize=m,卷积计算输出=pxq 对该通道中m×p×q个元素同时做批量归一化,使用相同的均值和方差。对预测的批量归一...
2020-02-24 13:30:06
421
原创 动手学深度学习第二次打卡2/18
task3 task4 and task51.过拟合、欠拟合及其解决方案解决方法包括:验证数据集和交叉验证权重衰减L2 范数正则化(regularization)例如在线性回归中加入带有l2范数惩罚项的损失函数。当 λ 较大时,惩罚项在损失函数中的比重较大,这通常会使学到的权重参数的元素较接近0。当 λ 设为0时,惩罚项完全不起作用。2.(1)梯度消失、梯度爆炸以及Kaggle房价...
2020-02-18 17:33:17
299
原创 softmax与分类模型;多层感知机。文本预处理;语言模型;循环神经网络基础
1.softmax用softmax的原因:直接使用输出层的输出有两个问题一方面,由于输出层的输出值的范围不确定,我们难以直观上判断这些值的意义。例如,刚才举的例子中的输出值10表示“很置信”图像类别为猫,因为该输出值是其他两类的输出值的100倍。但如果 o1=o3=103 ,那么输出值10却又表示图像类别为猫的概率很低。另一方面,由于真实标签是离散值,这些离散值与不确定范围的输出值之间的误...
2020-02-14 12:08:53
414
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人
RSS订阅