earnestbin的博客

目录带你认识各种评价指标sklearn中的调用方法模型评估的方法A/B测试过拟合和欠拟合超参数调优 带你认识各种评价指标     常见的指标以及其术语：        混淆矩阵、准确率(Accuracy)、精确率(Precision)、召回率(Recall)、F1值、真阳性率、假阳性率、查准率、查全率、特异性、敏感性…   &n...

逻辑回归逻辑回归公式推导 逻辑回归公式推导 sigmoid函数形式： g(z)=11+e−zg\left( z \right) = \frac{1}{{1 + {e^{ - z}}}}g(z)=1+e−z1​当z趋近于负无穷时，g(z)趋近于0，令z=wx，就得到了逻辑回归模型： hw(x)=11+e−wx{h_w}\left( x \right) = \frac{1}{{1 + {e^{ - w...

机器学习之支持向量机支持向量机推导过程 支持向量机推导过程 支持向量机是机器学习中最复杂的内容之一，以下就展示支持向量机具体推导过程。 推导分为以下几个部分： 数据线性可分 对偶问题 引入松弛变量以解决数据部分线性可分 当数据线性可分时原始优化问题推导 支持向量机的核心在于在空间中找到一个超平面(决策平面)： wTx+b=0{w^T}x + b = 0wTx+b=0使得两类样本点分布在超...

机器学习之决策树决策树几种常见的生成算法ID3算法 决策树几种常见的生成算法 ID3算法 选择信息增益最大的特征 信息增益的定义：        已知特征X的信息而使得类Y的信息的不确定性减少的程度。 g(D,A)=H(D)−H(D∣A)g\left( {D,A} \right){\rm{ = }}H\left( D \right){\rm{ - }}H\...

集成学习BaggingRandomForest随机森林和决策树的区别sklearn工具包 Bagging Bagging模式有以下特点： Bootstrap抽样，也就是有放回 弱学习器之间没有依赖关系，可以并行训练 RandomForest 随机森林和决策树的区别 随机森林是最常见的一种Bagging集成算法，它使用决策树作为弱学习器，可以用于分类，也可以用于回归。相比单一的决策树，随机森林有...

朴素贝叶斯朴素贝叶斯简述基本概念朴素贝叶斯分类器sklearn中的朴素贝叶斯朴素贝叶斯面试 朴素贝叶斯简述 朴素贝叶斯用于分类，是一种生成模型。它利用特征条件独立假设学习联合概率分布，再通过贝叶斯定理求后验概率最大的输出。 基本概念 先验概率、后验概率、条件概率 先验概率也叫事前概率，也就是没有新数据进来计算的事件的概率。而后验概率理所当然是新信息加入后更新的概率。后验概率是事件A在事件B发...