机器学习之过拟合与正则化

本文和大家分享的主要是机器学习中的过拟合和正则化相关内容,一起来看看吧,希望对大家有所帮助。

用线性回归拟合曲线,或者用逻辑回归确定分类边界时,选择的曲线有多种,如下:

不同曲线,对于样本的表达能力,各不相同。

  曲线1,使用一阶曲线,即直线模型,过于简单,出现大量的错误分类,此时的误差较大,模型欠拟合。

  曲线2,使用高阶曲线,几乎是完美的完成拟合任务,但如此严格的模型,当新的样本与训练样本稍有不同,极有可能出现误判,此时模型过拟合。

  而曲线3,一条相对平滑的曲线,基本能完成拟合任务,同时对于个别噪点也没那么敏感。是一个较为理想的模型。

  如何得到曲线

  从曲线2的形态来看,显然是受到高阶项的影响过大了。

  假设曲线2的方程为:

  $

  h_\\theta(x) = \\theta^{T}x = \\theta_0 + \\theta_1x + \\theta_2x^2 + \\theta_3x^3 +...+\\theta_nx^n

  $

  如果要减弱高阶项 xnxn 的影响,可以通过减小 θnθn 的值做到。

  即是在求取 θθ 矩阵时,同时要使矩阵内的元素值,尽量的小。

  而 θθ 是通过最小化误差函数计算出来,故而,对J函数做改造——正则化。

  正则化误差函数

  在原有的误差函数的基础上,增加一个正则项,如下:

  $

  J = J + \\frac{\\lambda}{2m}\\sum_{j=1}^{n}\\theta_j^2

  $

  该正则项,是所有 θθ 参数的平方和。 λλ 是正则化参数,可以使用不同的 θθ 值训练模型,对比最后的误差来确定该值。

  加上正则项后,求误差函数最小值时,要能得到最优解,不仅要使样本的误差要最小,同时, θθ 值也要最小才行。

  这样就达到了上一节的要求了。

  而相对应的梯度,通过求导可得到:

  $

  grad_0 = grad_0, (j = 0)

  $

  $

  grad_j = grad_j+\\frac{\\lambda}{m}\\theta_j, (j > 0)

  $

  注意:

  正则项有一点需要注意,该项中并没有将 θ0θ0 计入。

  因为 θ0θ0 这一项的特征为恒为1( x0=1x0=1 ),即为0次方。它只会影响曲线的位置高低,对于模型的曲折程度没有影响,故而不需要做正则化处理。

  是否只能过通正则化解决过拟合现象?

  答案:非也。

  首先需要说明的一点,过拟合的出现的根本原因,是模型中较多的变量,而约束这么多的变量,需要有足够多的训练样本。

  也就是,当训练样本逐渐增多的时候,那么曲线2也会慢慢的往曲线3变化,但要拟合到接近曲线2的状态,需要的样本量将是非常的庞大,而最终训练时的运算量也会很庞大,不是很必要。

  正则化的误差函数、及其偏导数实现

  只列关键部分代码

  线性回归

  h = X*theta;

  theta_tmp = theta(2:length(theta),1);

  J = 1/(2*m)*(h-y)'*(h-y) + lambda/(2*m) * sum(theta_tmp.^2);

  grad = 1/m * x' * (h- y) + (lambda/m)*[0;theta_tmp];

  逻辑回归

  h = sigmoid(X*theta);

  theta_tmp = theta(2:length(theta),1);

  J = 1/m * sum(-y.*log(h) - (1-y).*log(1-h)) + lambda/(2*m) * sum(theta_tmp.^2);

  grad = 1/m .* X' * (h-y) + (lambda/m)*[0;theta_tmp];

 

 

来源:网络

基于数据挖掘的音乐推荐系统设计实现 需要一个代码说明,不需要论文 采用python语言,django框架,mysql数据库开发 编程环境:pycharm,mysql8.0 系统分为前台+后台模式开发 网站前台: 用户注册, 登录 搜索音乐,音乐欣赏(可以在线进行播放) 用户登陆时选择相关感兴趣的音乐风格 音乐收藏 音乐推荐算法:(重点) 本课题需要大量用户行为(如播放记录、收藏列表)、音乐特征(如音频特征、歌曲元数据)等数据 (1)根据用户之间相似性或关联性,给一个用户推荐其相似或有关联的其他用户所感兴趣的音乐; (2)根据音乐之间的相似性或关联性,给一个用户推荐其感兴趣的音乐相似或有关联的其他音乐。 基于用户的推荐和基于物品的推荐 其中基于用户的推荐是基于用户的相似度找出相似相似用户,然后向目标用户推荐其相似用户喜欢的东西(和你类似的人也喜欢**东西); 而基于物品的推荐是基于物品的相似度找出相似的物品做推荐(喜欢该音乐的人还喜欢了**音乐); 管理员 管理员信息管理 注册用户管理,审核 音乐爬虫(爬虫方式爬取网站音乐数据) 音乐信息管理(上传歌曲MP3,以便前台播放) 音乐收藏管理 用户 用户资料修改 我的音乐收藏 完整前后端源码,部署后可正常运行! 环境说明 开发语言:python后端 python版本:3.7 数据库:mysql 5.7+ 数据库工具:Navicat11+ 开发软件:pycharm
MPU6050是一款广泛应用在无人机、机器人和运动设备中的六轴姿态传感器,它集成了三轴陀螺仪和三轴加速度计。这款传感器能够实时监测并提供设备的角速度和线性加速度数据,对于理解物体的动态运动状态至关重要。在Arduino平台上,通过特定的库文件可以方便地MPU6050进行通信,获取并解析传感器数据。 `MPU6050.cpp`和`MPU6050.h`是Arduino库的关键组成部分。`MPU6050.h`是头文件,包含了定义传感器接口和函数声明。它定义了类`MPU6050`,该类包含了初始化传感器、读取数据等方法。例如,`begin()`函数用于设置传感器的工作模式和I2C地址,`getAcceleration()`和`getGyroscope()`则分别用于获取加速度和角速度数据。 在Arduino项目中,首先需要包含`MPU6050.h`头文件,然后创建`MPU6050`对象,并调用`begin()`函数初始化传感器。之后,可以通过循环调用`getAcceleration()`和`getGyroscope()`来不断更新传感器读数。为了处理这些原始数据,通常还需要进行校准和滤波,以消除噪声和漂移。 I2C通信协议是MPU6050Arduino交互的基础,它是一种低引脚数的串行通信协议,允许多个设备共享一对数据线。Arduino板上的Wire库提供了I2C通信的底层支持,使得用户无需深入了解通信细节,就能方便地MPU6050交互。 MPU6050传感器的数据包括加速度(X、Y、Z轴)和角速度(同样为X、Y、Z轴)。加速度数据可以用来计算物体的静态位置和动态运动,而角速度数据则能反映物体转动的速度。结合这两个数据,可以进一步计算出物体的姿态(如角度和角速度变化)。 在嵌入式开发领域,特别是使用STM32微控制器时,也可以找到类似的库来驱动MPU6050。STM32通常具有更强大的处理能力和更多的GPIO口,可以实现更复杂的控制算法。然而,基本的传感器操作流程和数据处理原理Arduino平台相似。 在实际应用中,除了基本的传感器读取,还可能涉及到温度补偿、低功耗模式设置、DMP(数字运动处理器)功能的利用等高级特性。DMP可以帮助处理传感器数据,实现更高级的运动估计,减轻主控制器的计算负担。 MPU6050是一个强大的六轴传感器,广泛应用于各种需要实时运动追踪的项目中。通过 Arduino 或 STM32 的库文件,开发者可以轻松地传感器交互,获取并处理数据,实现各种创新应用。博客和其他开源资源是学习和解决问题的重要途径,通过这些资源,开发者可以获得关于MPU6050的详细信息和实践指南
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值