钱多多先森

目录 1.线性回归损失函数的极大似然推导：西瓜书公式3.4除了用最小二乘法以外，怎么用极大似然推得？ 2：一元线性回归的参数求解公式推导：西瓜书公式3.7和3.8怎么推来的？ 公式3.7，3.8推导：（一不小心就出错了，哈哈） 3：多元线性回归的参数求解公式推导：西瓜书公式3.10和3.11怎么推来的？ 则3.10推导： 3.11推导： 4：线性回归损失函数的最优化算法： （1）批...

目录   1、西瓜书公式3.7的推导  2、损失函数的最优化算法 （1）牛顿法 （2）拟牛顿法 3、为什么不用线性回归做分类 4、Logistic为啥不用平方差作为损失函数 5、Logistic为啥不直接公式求解 6、Logistic回归与线性回归有哪些联系 1、西瓜书公式3.7的推导  2、损失函数的最优化算法 （1）牛顿法 牛顿法的优缺点总结： 　　优点...

目录   决策树理论： 1.信息论基础 （1）信息熵 （2）联合熵 （3）条件熵 （4）信息增益 （5）基尼指数/基尼不纯度 2：决策树的不同分类算法 （1）ID3算法 （2）C4.5 （3）CART分类树 3.回归树的原理 4.决策树防止过拟合的手段 剪枝处理 决策树理论：   1.信息论基础 （1）信息熵 原本是物理学的定义，后来香农将其引用...