orient928的博客

写在前面： 本次作业分为两个博客来提交的，由于提前没有熟悉csdn的Markdown语法，所以有的公式就没有自己打出来，标题也不是很规范，有的部分就用图片来代替，下次提交作业尽量使用Markdown方法，让博客至少从格式上看着比较舒服。一. 最小二乘法1）.使误差平方和达到最小以寻求估计值的方法，就叫做最小二乘法，也可以叫做最小二乘准则，求解最小二乘准则的方法就是狭义上的最小二...

写在前面：这是初级算法版第一次作业的第二部分，同样由于时间原因准备的不充分，使用的是csdn的富文本编辑器，今天结束后会熟悉一下Markdown编辑器，希望下次至少在格式上有所改进。一.有监督学习1） 从有标记的训练数据中推导出预测函数2） 有标记的训练数据是指每个训练实例都包括输入和期望的输出3） 常用来做分类和回归4）例子：老师给你一份有答案的习题集让你去训练，学完之后...

写在前面：由于连续报了几个班，加上实验室老师催着写专利，没有时间亲自打代码，就按照群里给的大纲从网上找了一些信息直接po出来，同样由于时间问题没有手打公式，仍然是图片，后期有时间会尽量把公式打出来并亲自实操下sklearn来优化该博客。文章目录一. 信息论基础1.熵2.联合熵3.条件熵4.信息增益5.基尼不纯度6.小结二. 决策树的不同分类算法1.ID3算法2.C4.5算法3.CART算法三. ...

写在前面：由于昨天实验室毕业聚餐，和老师师兄们喝酒耽误了一天，所以没有太多的时间仔细梳理一下逻辑回归，这里就把我以前的笔记 po 出来，由于时间不够，所以公式就没有自己手打，全是图片，等后期有时间后再来优化这篇博客，按自己的理解梳理整个算法，并把公式全部打出来。文章目录逻辑回归1. 逻辑回归模型2. 逻辑回归损失函数2.1 推导2.2 优化3. 优化算法4. 逻辑回归和线性回归的联系和区别4....