a1314_521a的博客

逻辑回归模型原理和损失函数推导；信用卡反欺诈案例；样本不平衡处理；特征衍生woe编码

T检验、F检验、卡方检验统计学原理介绍；T检验、F检验、卡方检验案例计算；利用F检验（方差分析）和互信息法进行随机森林数字识别数据集特征筛选；使用卡方分箱进行连续值编码，生成woe编码。

决策树原理介绍，信息增益，信息增益率，基尼系数等公式和案例计算，随机森林原理，分类案例

svm详细原理推导，svm 案例，绘制svm决策边界

集成算法boosting原理，gbdt、xgbt目标函数手动推导

机器学习，类别变量 各种编码方式 解决独热编码过于稀疏问题

验证 CrossEntropyLoss 内部运算过程import torchfrom torch.nn import CrossEntropyLossfrom torch.optim import SGD假设三分类真实值real 和预测值predreal = [0,1,1,2]pred = [[0.7,0.2,0.1],[0.1,0.6,0.3],[0.1,0.6,0.3],[0.2,0.2,0.6]]real = torch.tensor(real)pred = torch.tens

详细了解参见这篇，写的很棒https://blog.youkuaiyun.com/imsuhxz/article/details/87337608

一、一直对xgboost的输出有些疑惑，这里记录一下1.xgboost的predict接口输出问题（参数pred_leaf、pred_contribs）2.训练过程中输出相关参数的探究(evals、evals_result、verbose_eval)3.多分类内部原理探究（不涉及源码）4.利用gbdt进行特征组合问题(gbdt+lr)二、导入验证数据，验证问题针对问题1# 导入数据import xgboostfrom sklearn.datasets import load_iris(多分

from sklearn.datasets import make_classificationfrom sklearn.calibration import calibration_curve # 校准曲线from sklearn.ensemble import RandomForestClassifierfrom sklearn.naive_bayes import GaussianNBfrom sklearn.linear_model import LogisticRegressionfr