- 博客(3)
- 收藏
- 关注
原创 EM算法及其实现
EM算法简单解释举一个例子代码实现 简单解释 Nature Biotech在他的一篇EM tutorial文章《Do, C. B., & Batzoglou, S. (2008). What is the expectation maximization algorithm?. Nature biotechnology, 26(8), 897.》中,用了一个投硬币的例子来讲EM算法的思想。 假设有两枚硬币A、B,以相同的概率随机选择一个硬币,进行如下的抛硬币实验:共做5次实验,每次实验独立的抛十次,
2021-03-29 21:34:34
1101
原创 SVM对偶问题手推以及代码实现
SVM对偶问题手推以及代码实现什么是Support Vector Machine对偶问题公式推导代码实现 什么是Support Vector Machine 官方定义: 支持向量机方法是建立在统计学习理论的VC 维理论和结构风险最小原理基础上的,根据有限的样本信息在模型的复杂性和学习能力之间寻求最佳折衷,以期获得最好的泛化能力。 SVM一般用于解决二分类问题(也可以解决多分类和回归问题,本文暂不涉及),数学化语言概述如下: 样本数据:n个样本,p个输入 (LaTEX还不太熟悉,见谅。。) ,1个输出y 第i
2021-03-29 20:47:26
746
原创 LightGBM学习
LightGBM模型介绍数学原理概述 BUPT_RZK 模型介绍 它的出现是为了解决一般损失函数的优化问题,方法是用损失函数的负梯度在当前模型的值来模拟回归问题中残差的近似值。 简单的说,lightGBM 不需要通过所有的样本计算增益,而且内部有特征降维技术,更快 其优化方法为,在保留大梯度样本时,随机保留小样本,同时放大其带来的信息增益 数学原理概述 LightGBM = XGBoost + Histogram(直方图算法) + GOSS(基于梯度的单边采样算法) +EFB(互斥特征捆绑算法) 相关算法可
2021-03-29 17:34:36
320
1
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人
RSS订阅