机器学习中形式简单却巧妙的idea,看完让人拍案叫绝!!你一定能用得上!!

今天给大家分享机器学习中的几大神仙方法!

第一种各种重建,先把输入corrupt一下,然后用autoencoder重建一下,基本都能让featurerobust,何明的MAE也是如此。

第二种对比学习大神器,核心就看如何构造正样本和负样本。有个惊艳的idea,同一个输入foward两次,因为dropout不同,就可以当正样本,也是无脑涨点

说到涨点,这里给大家分享这包含整整22个即插即用模块的手册,对于只想水篇论文毕业的同学来说,简直轻松又实用,包含注意力机制、卷积变体等等,彻底把你从想创新点、改模型改代码的噩梦中解救出去!所有模块的论文PDF和代码都打包好了,可以分享给大家↓↓↓

章中所有的数据和资料,可添加小助手无偿分享~
扫码添加小助手即可无偿获取~

也可以关注“AI技术星球”公众号,关注后回复“221C”获取。

第三种各种dropout,是个地方都可以试着加点dropoutembedding可以加dropoutattention可以加,ffn可以加,mlp可以加,输入上也可以直接加,相当于某种corrupt

第四种mixup,也是个神级idea输入上a+b类混合一下,然后label也变成a+b混合,基本也是无脑增强,必定涨点

这是它的优点:

  • 提高泛化能力:通过合成新样本,模型可以学习到更加泛化的特征表示。

  • 减少过拟合:平滑的决策边界有助于减少模型对训练数据的过度拟合。

  • 增强模型的鲁棒性:Mixup能够使模型对输入数据的微小变化更加不敏感。

  1. 混合比例λ是一个在01之间的标量,它决定了合成样本中每个原始样本的相对贡献。

章中所有的数据和资料,可添加小助手无偿分享~
扫码添加小助手即可无偿获取~

也可以关注“AI技术星球”公众号,关注后回复“221C”获取。

评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值