线性回归算法原理简介

本文介绍了线性回归的基本概念,强调了回归与分类的区别,并通过银行贷款实例进行说明。讨论了误差特点,引入了似然函数、对数似然和最小二乘法。接着,阐述了梯度下降法在参数优化中的应用,包括批量、随机和小批量梯度下降,并提及学习率的重要性。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

1,线性回归概念
回归和分类的区别:简单地说,回归就是通过数据预测出一个目标值(实际值),分类就是通过数据预测出一个类别(二分类,多分类)。
比如:银行贷款实例
(1)数据:每个个人(样本)的工资和年龄(两个特征)
(2)目标:预测银行会贷款给个人多少钱(标签,回归)或者预测银行会不会给贷款(标签,分类)
(3)建立以特征为自变量的拟合函数,确定函数参数以求出函数值(标签)

在这里插入图片描述
可以添加一列x0(取值都为1)引入偏置项,使组合式简洁工整,方便进行矩阵运算,提高效率。

2,误差:
在这里插入图片描述

误差的特点:

在这里插入图片描述

高斯分布图:

在这里插入图片描述
高斯分布的实际意义:银行可能会多给,也可能会少给(均值为0),但是绝大多数情况下这个浮动不会太大,极小情况下浮动会比较大,符合正常情况。

在这里插入图片描述

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值