mabel爱消消乐的博客

一、决策树的基本概念决策树(Decision Tree)算法是一类常用的机器学习算法，在分类问题中，决策树算法通过样本中某一些属性的值，将样本划分到不同的类别中。决策树跟人在做决策的思考方式很想像，先考虑重点选项，不符合则可最优先做出决策。长得帅不帅才华横溢会认字教练级小白热爱早鸭子相亲对象有才吗?不去喜欢羽毛球吗?不去去喜欢游泳吗?去不去1. 划分标准在决定是否去见相亲对象时，该女提出...

上一篇介绍了决策树的基本概念，特征划分标准及ID3､C4.5和CART分类树的算法，本文着重对CART回归树的内容进行补充。本文概览：首先介绍CART回归树的算法，然后是创建CART回归树的主要步骤，最后是实现该过程的Python代码。一、CART回归树算法CART回归树处理的是回归问题，数据集的标签不再是离散的类别值，而是一系列的连续值的集合。CART回归树不同于线性回归模型，不是通过...

softmax regression 代价函数： J(θ)=−1m[∑i=1m∑j=1kI{y(i)=j}logeθjTX(i)∑l=1keθlTX(i)]J(\theta) = -\frac{1}{m}\left[\sum_{i=1}^{m}\sum_{j=1}^{k}I\{y^{(i)}=j\}log \frac{e^{{\theta_j^T}{X^{(i)}}}}{\sum_{l=1}...