本文深入探讨了线性回归及逻辑回归的核心概念和技术细节，包括平方误差梯度、矩阵求导、PCA与SVD求解方法的选择依据，以及逻辑回归中的sigmoid函数应用。此外，还对比了不同线性模型的特点，并介绍了梯度下降、随机梯度下降等优化算法的应用场景。
线性回归
平方误差梯度
矩阵求导
线性回归解
求解方式PCA，SVD取决于X矩阵性质，特征值等
误差逼近
n足够大时，Ein与Eout的逼近保证了线性可学习
逻辑回归
- sigmoid函数
- 三种线性模型比较
逻辑回归优化方向
- 梯度下降迭代优化
随机梯度下降
回归用于多分类
- OVA：每次分出一类
- OVO：每次区别两类，使用选举算法选择最终分类，避免不平衡
扫一扫
评论
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
查看更多评论
添加红包
