studyvcmfc的专栏

卡尔曼滤波（kalman）相关理论以及与HMM、最小二乘法关系_weixin_30527143的博客-优快云博客

PageRank算法详解 - 知乎

LightGBM和XGBoost使用scale_pos_weight处理不平衡数据源码分析 - 代码先锋网

GBDT、Xgboost、RF的区别_请叫我小皇帝 的博客-优快云博客

出现module 'xgboost' has no attribute 'DMatrix'的临时解决方法问题根源：初学者或者说不太了解Python才会犯这种错误，其实只需要注意一点！不要使用任何模块名作为文件名，任何类型的文件都不可以！我的错误根源是在文件夹中使用xgboost.*的文件名，当import xgboost时会首先在当前文件中查找，才会出现这样的问题。 所以，再次强调：不要用任何的模块名作为文件名！https://blog.youkuaiyun.com/lt77701/java/...

数据与特征对随机森林的影响（特征对比、特征降维、考虑性价比）_PanDawson的博客-优快云博客_随机森林降维

交叉熵损失（Cross Entropy Loss）计算过程_藏知阁-优快云博客_交叉熵计算公式

模型评估指标micro avg、macro avg和weighted avg的计算方式及区别-技术圈

机器学习 二分类分类阈值_分类指标和阈值介绍_weixin_26752765的博客-优快云博客机器学习 二分类分类阈值_分类指标和阈值介绍_weixin_26752765的博客-优快云博客

每棵树的按照如下规则生成：　　1）如果训练集大小为N，对于每棵树而言，随机且有放回地从训练集中的抽取N个训练样本（这种采样方式称为bootstrap sample方法），作为该树的训练集；　　从这里我们可以知道：每棵树的训练集都是不同的，而且里面包含重复的训练样本（理解这点很重要）。为什么要随机抽样训练集？　　如果不进行随机抽样，每棵树的训练集都一样，那么最终训练出的树分类结果也是完全一样的，这样的话完全没有bagging的必要；为什么要有放回地抽样？　　如果不是有放回的抽样，那么每

理解为何用期望最大化或梯度下降等启发式方法处理非凸函数在实际中如此有效，对于理论计算机科学而言是一大挑战一本关于理论计算机科学和机器学习之间关联的高水平、快节奏的集大成之作—《机器学习算法》计算机系统能力培养昨天【导读】近年来，有关机器学习的著作非常多，但是关于理论计算机科学和机器学习之间关联的书却不多见，今天要介绍的这本书《机器学习算法》，就是一本关于理论计算机科学和机器学习之间关联的高水平、快节奏的大作。机器学习是一门多领域交叉学科，涉及概率论、统计学、逼近论、凸..

GridSearchCV 调用模型的执行过程

在分类问题中,RF分类器根据多数投票(例如,投票结果)给出最终答复.是或否.另一方面,在Python中,我还可以看到带有事件最终概率的向量,例如0,83.如果我有1000个估计量,每棵树有1000个概率的平均值,那么该概率如何计算？clf = RandomForestClassifier(max_depth = 4, min_samples_split=2, n_estimators = 200, random_state = 1)clf.fit(train[columns], train["c

注意没有参数n_iter=300否则报错 TypeError: __init__() got an unexpected keyword argument 'n_iter'https://www.cnblogs.com/wj-1314/p/10422159.html

https://baike.baidu.com/item/%E4%B8%BB%E6%88%90%E5%88%86%E5%88%86%E6%9E%90/829840?fromtitle=%E4%B8%BB%E6%88%90%E5%88%86%E5%88%86%E6%9E%90%E6%B3%95&fromid=2652206&fr=aladdin

https://wenku.baidu.com/view/eb88c8e4bbd528ea81c758f5f61fb7360a4c2b72.html

Some inputs do not have OOB scores. This probably means too few trees were used to compute any reliable oob estimates. warn("Some inputs do not have OOB scores. "

如果是None，则使用estimator的误差估计函数（3）scoring=None模型评价标准，默认None,这时需要使用score函数；或者如scoring='roc_auc'，根据所选模型不同，评价准则不同。字符串（函数名），或是可调用对象，需要其函数签名形如：scorer(estimator, X, y)；如果是None，则使用estimator的误差估计函数。具体值的选取看本篇第三节内容。https://blog.youkuaiyun.com/weixin_41988628/...

所以基本上，min_sample_split是分割所需的最小样本数。例如，如果min_sample_split = 6并且节点中有4个样本，则不会发生拆分（不管熵是多少）。在另一方面，min_sample_leaf基本上是叶节点所需的最小样本数。假设min_sample_leaf = 3并且一个含有5个样本的节点可以分别分裂成2个和3个大小的叶子节点，那么这个分裂就不会发生，因为最小的叶子大小为3https://www.cnpython.com/qa/291389...

在一些情况下，sklearn中没有现成的评价函数，sklearn是允许我们自己的定义的，但需要注意格式，接下来给个例子import numpy as npfrom sklearn.metrics import make_scorerdef logloss(act, pred): epsilon = 1e-15 pred = sp.maximum(epsilon, pred) pred = sp.minimum(1-epsilon, pred) ll = sum(a...

https://zhuanlan.zhihu.com/p/129008328

https://blog.youkuaiyun.com/weixin_34279246/article/details/90102855

https://zhuanlan.zhihu.com/p/37702043

https://blog.youkuaiyun.com/xpy870663266/article/details/104600054/

https://blog.youkuaiyun.com/xiaohutong1991/article/details/107946291

https://cloud.tencent.com/developer/article/1187140

https://zhuanlan.zhihu.com/p/26964683

https://scikit-learn.org/stable/modules/generated/sklearn.neighbors.KNeighborsClassifier.html?highlight=kneighborsclassi#sklearn.neighbors.KNeighborsClassifier

https://www.bilibili.com/video/BV1S44y1r7qN?from=search&seid=3501694419494600913

https://www.cnblogs.com/chenjx85/p/9430950.html

https://www.zhihu.com/question/268906480/answer/343104406

https://baike.baidu.com/item/%E5%9F%BA%E5%B0%BC%E4%B8%8D%E7%BA%AF%E5%BA%A6/22046808?fr=aladdin

https://zhuanlan.zhihu.com/p/76667156

https://www.cnblogs.com/iupoint/p/11289650.html

https://zhuanlan.zhihu.com/p/40195364

https://blog.youkuaiyun.com/weixin_39833270/article/details/111519043

https://zhuanlan.zhihu.com/p/66933242

https://blog.youkuaiyun.com/w952470866/article/details/78987265/

https://www.zhihu.com/question/19734616

https://blog.youkuaiyun.com/qq_36783389/article/details/107339312