监督学习&回归问题(Regression)

本文深入探讨了监督学习中的回归问题,详细介绍了梯度下降法,包括批梯度下降和增量梯度下降,并阐述了最小二乘法在解决回归问题中的应用。此外,还从概率论角度解释了为何使用最小二乘法,并提供了相关代码实现。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >


分类

模型如下:
模型如下:

  1. 回归问题:学习的结果是连续的,比如房价等等
  2. 分类问题:学习的结果是非连续的,分成某几个类

梯度下降

例子:
这里写图片描述

条件:

  • 对于输入X有n个特征值。X = { x1,x2,x3,x4,.......,xn x 1 , x 2 , x 3 , x 4 , . . . . . . . , x n }
  • 一共有m组输入。 X1,X2,......,Xm X 1 , X 2 , . . . . . . , X m

结果:

  • 根据给出的数据得到函数 hθ h θ (x),关于 θ θ 的一个函数
  • 这里写图片描述
    这里写图片描述

假设:

  • 这里写图片描述
  • J(θ) J ( θ ) 主要用来描述该方程在样本点的逼近程度

特点:

  • 都具有局部最小值
  • 最后的结果并不一定是总体的最小值

1.批梯度下降:

  • 思路:
    先初始化 θ θ = 0向量,然后通过学习,不断改变 θ θ 使

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值