机器学习——回归算法

最新推荐文章于 2025-03-18 22:34:40 发布

赵小刀的小锦囊

最新推荐文章于 2025-03-18 22:34:40 发布

阅读量602

点赞数 1

分类专栏：机器学习文章标签：机器学习 python

本文链接：https://blog.youkuaiyun.com/cygnet477/article/details/105473695

版权

本文深入探讨了机器学习中的回归算法，包括线性回归的基本思想、LR算法API、优缺点分析，以及岭回归的正则化力度和案例分析。此外，还介绍了逻辑回归的核心思想、损失函数和优化方法。线性回归作为简单易用的模型，适用于初步预测，而岭回归通过L2正则化解决过拟合问题。逻辑回归则常用于二分类问题，依赖梯度下降优化损失函数。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

文章目录

一、线性回归算法
二、逻辑回归算法
模型保存及加载

一、线性回归算法

核心思想

线性回归通过一个或者多个自变量与因变量之间之间进行建模的回归分析。其中特点为一个或多个称为回归系数的模型参数的线性组合。

一元线性回归：涉及到的变量只有一个
多元线性回归：涉及到的变量两个或两个以上

通用公式：
$h(w)=w_0+w_1x_1+w_2x_2+...=w^Tx$
其中 $w, x$ 为矩阵， $w=\begin{pmatrix} w_0 \\ w_1 \\ w_2 \\ ...\\ \end{pmatrix}$ , $x=\begin{pmatrix} x_0 \\ x_1 \\ x_2 \\ ...\\ \end{pmatrix}$