机器学习—正规分析

本文探讨了机器学习中过拟合的问题及其解决方案。通过引入正规化技术来避免模型过于复杂,降低对训练数据的依赖,从而提高泛化能力。文章详细介绍了正规化的原理,并对比了线性回归和逻辑回归等不同算法中正规化的应用。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

正规分析

@(My machine learing)
week 3rd 5.2

The Problem of Overfitting

简单的说,就一个数据比较少时
符合曲线符合的很好,可能很扭曲,但是就是局限于数据
但对应新样本就会导致high bias
解决方法

  • 人工检查
  • 算法实现
  • 正规化,去除峰值

Regularization

对于一个正规分析
主要就是对应cost fuction 的方式的改变,对多项式进行惩罚
对应房价问题
这里写图片描述

研究发现要对每一个(除了theta(0))都要进行simplify
加一个惩罚参数很大

下面对两种方法进行分析

Linear Regression

Gradient Descent
这里写图片描述
Normal Equation
这里写图片描述

Logistic Regression

这里写图片描述

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值