meta-learning的新的理解---以Relation Network为契机的新的感触

本文探讨了通过Relation Network模拟人类区分物体的过程,将embedding module与relation module相结合,其中relation module用于计算待测样本间的关系,区别于传统模型的距离度量方式。该模型展示了元学习的核心——学习度量能力,拓展了元学习的应用范围,包括学习模型初始化、超参数、优化器和网络结构等。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

这里写图片描述

  • 下面给出本文的核心模型图

这里写图片描述

  • 本文的核心价值:

    模拟人在区分物体的过程,比如iPhone和其他安卓机的区别,一个人会找,看哪个手机有空气刘海,ok,这个有,那它就是iPhone咯!
    这里边有两个过程,一个是人脑中的空气刘海—这个是人对于手机所提取到的特征;另一个是,ok,这个有,就做出它是iPhone的判断—这对应着人用先前提取的特征来在待测样本中判断待测样本和这个特征关系的过程。
    文章的embedding module就对应上面的第一个过程;relation module就对应上面的第二个过程。
    可以看出,本文的embedding module其实和matchnet或者prototype是一样的,不论从结构还是作用上来看都是!
    本文的创新点在与relation
    module!用来描述和计算待测样本间的关系,利用这些关系进行分类。BUT,关系的说法太过抽象,具体来说,relation
    module就是用来算query样本和support样本间的距离的。这个距离不是我们定义的,而是模型自己学到的,这有别于matchnet和prototype!它们的关系网络分别对应于cosine距离和欧式距离,是手工设计的一种度量。

最后是关于这个模型带个我关于元学习的启发吧:该模型学习到了一种度量。这种学习度量的能力,正是元学习的体现!与此对应的还有:学习模型初始化参数、学习模型超参数、学习模型优化器以及学习模型网络结构等。只要是模型能自己学到的东西,都属于元学习的范畴,它的典型特征你就是非人手工设计或者提取的!

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值