李哥深度学习笔记04-无监督学习

无监督学习:即只有数据,没有标签

在深度学习中,采用生成对抗网络和自监督学习(对比学习与生成式自监督)

对比学习: 让自己和自己靠得更近(取自己的增广来凑成一对)

GAN(对抗生成网络):

对抗生成网络分为生成器和判别器,生成器类比于做假货的,判别器相当于鉴定师,生成器会生成一个假货出来,同时会把真货一起送进判别器,判别器需要进行判别哪个为真哪个为假。

判别器的梯度来源其分辨真假的准确度,而生成器的梯度来源于判别器的准确率,这样他们两个一直在对抗,模型就会越来越好。

生成式自监督:取自己的一部分当作标签

比如说一张图片,mask(遮住)一部分,当作输入,然后通过模型去还原出原始图片

其梯度为原始图片和解码后的图片之间的差异。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值