- 博客(17)
- 收藏
- 关注
原创 支持向量机(SVM)的基本原理
(1)支持向量机比较适当小样本的训练,对于大样本来说,由于涉及到二次规划求解,需要耗费大量的计算资源。(2)支持向量机可以通过核函数,将线性不可分问题转化为非线性可分问题,从而实现问题的解决。(3)SVM涉及较多的数学理论知识,如二次规划、对偶问题、SMO算法、核函数等。
2024-07-28 14:43:36
2380
原创 LightGBM算法的一些说明
LightGBM算法是微软亚洲研究院(MSRA)于2017年提出的一种梯度提升算法。该算法在XGBoost算法的基本原理基础上进行了优化。主要是运行效率和支持类别特征的优化。
2024-05-16 22:04:25
1385
1
原创 GBDT之二分类算法
GBDT,全称Gradient Boosting Decision Tree,梯度提升决策树。该算法于1999年由Friedman最早提出。GBDT算法的基本思路是通过对负梯度的不断拟合,实现学习器的更新,得到最终的强学习器。GBDT算法支持回归算法和分类算法,其分类算法支持二分类和多分类。本文介绍其中的二分类算法。对于二分类算法,得到最终的强学习器后,将其转化为正样本事件发生的概率。
2024-01-22 23:59:41
1891
1
原创 GBDT算法之回归算法
GBDT,全称Gradient Boosting Decision Tree,梯度提升决策树。GBDT算法的基本思路是通过对负梯度的不断拟合,实现学习器的更新,得到最终的强学习器。当损失函数为平方损失函数时,负梯度正好等于残差,此时可通过对残差的不断拟合实现学习器的更新。本文详细讲解了GBDT回归算法的原理。
2024-01-18 21:02:36
2195
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人