Meta Learning

【机器学习】Meta-Learning(元学习) 文章目录前言从传统学习引出元学习对比机器学习和元学习如何实现元学习参考链接 前言 元学习Meta Learning,含义为学会学习,即learn to learn,带着对人类的“学习能力”的期望诞生的。Meta Learning希望使得模型获取一种 “学会学习” 的能力,使其可以在获取已有“知识”的基础上快速学习新的任务。 从传统学习引出元学习 传统的机器学习方法是针对一个特定的,一般是有大量数据的数据集 ,试图学习出一个预测模型 ,使得模型对于测试集上的数据的预测有最小的误差。这个思路在数据集 D 阅读详情
  • Meta Learning(元学习)是一种机器学习技术,它的核心思想是学习如何学习。

  • Meta Learning的目标是从以前的学习经验中学习到通用的学习策略和模式,以便在新的任务上快速适应和学习。

  • Meta Learning的核心思想是将学习任务视为元任务,从元任务中学习通用的学习策略和模式,然后将这些策略和模式应用于新的任务中。

Meta Learning的过程通常包括两个阶段:元学习和元测试。

在元学习阶段,模型使用以前的学习经验进行训练,学习通用的学习策略和模式。
在元测试阶段,模型使用已经学习到的策略和模式来快速适应和学习新的任务。

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述


在这里插入图片描述

MAML

MAML(Model-Agnostic Meta-Learning)的核心思想是通过元学习的方式,让模型能够快速适应新的任务,即在少量的样本上学习一个好的初始化模型,使其能够在新任务上快速收敛。

具体来说,MAML将元学习看作是一个优化问题,通过在训练集上进行多次迭代,更新模型参数,使得模型能够快速适应新任务。

同时,为了使得模型具有更好的泛化能力,MAML还引入了一个正则项,对模型参数进行约束,使得模型能够更好地适应新任务。MAML的核心思想是将元学习应用于各种不同类型的模型和任务,从而提高模型的泛化能力和适应性。
在这里插入图片描述

  • 如何尽量减少𝐿𝜙? 𝜙←𝜙−𝜂𝛻𝜙𝐿𝜙 梯度下降
    在这里插入图片描述
    在这里插入图片描述

Gradient Descent as LSTM

在这里插入图片描述

  • 这个流程很像RNN,我们不需要关系输入和输出,我们只需要关心学习到的function
    在这里插入图片描述
    在这里插入图片描述
  • 对比一下梯度下降和LSTM

在这里插入图片描述


在这里插入图片描述

在这里插入图片描述

  • The LSTM used only has one cell. Share across all parameters

在这里插入图片描述

Siamese Network

在这里插入图片描述
Siamese Network是一种神经网络结构,其核心思想是通过共享权重的方式来学习两个输入之间的相似度或差异度

Siamese Network通常用于解决一些需要对比两个输入之间相似度的任务,如图像检索、人脸识别、文本匹配等。

Siamese Network的基本结构是将两个输入通过相同的网络结构进行特征提取,然后将两个特征向量进行比较,得到它们之间的相似度或差异度。在训练过程中,我们会给定一对相似或不相似的输入,并将它们通过Siamese Network进行特征提取和比较,然后根据它们的标签来计算损失函数,从而优化网络参数。

Siamese Network的优点在于,它可以学习到输入之间的相似度或差异度,而不仅仅是对输入进行分类。这使得它在一些需要对比两个输入之间相似度的任务中表现出色。同时,通过共享权重,Siamese Network能够更好地利用有限的数据进行训练,提高模型的泛化能力。

在这里插入图片描述

Prototypical Network

Prototypical Network是一种用于元学习(meta-learning)的神经网络结构,用于解决多类别分类问题。

  • 其核心思想是通过学习每个类别的原型(prototype),来实现对新样本的分类。

在训练阶段,Prototypical Network会从每个类别中随机选择一些样本,并将它们的特征向量通过神经网络进行编码,得到每个类别的原型。

在测试阶段,对于一个新样本,Prototypical Network会计算它与每个类别原型的距离,并选择距离最近的原型所代表的类别作为预测结果。

Prototypical Network的优点在于,它能够通过学习每个类别的原型,实现对新样本的快速分类。
同时,由于原型是通过少量样本计算得到的,因此它具有很好的泛化能力。

此外,Prototypical Network还可以通过元学习的方式,快速适应新的任务,使得模型能够在不同的分类任务中表现出色。

在这里插入图片描述

Relation Network

在这里插入图片描述
Relation Network是一种用于元学习(meta-learning)的神经网络结构,用于解决多类别分类问题。其核心思想是通过学习样本之间的关系,来实现对新样本的分类。

在训练阶段,Relation Network会接受一个包含多个类别的小数据集作为输入,并通过神经网络对每个样本进行编码。然后,它会计算每两个样本之间的关系,并将关系向量通过另一个神经网络进行处理,得到一个表示整个数据集关系的向量。

在测试阶段,对于一个新样本,Relation Network会将它的特征向量与整个数据集中每个样本的特征向量进行关系计算,并将关系向量输入到最后一层神经网络中,得到预测结果。

Relation Network的优点在于,它能够通过学习样本之间的关系,实现对新样本的快速分类。同时,由于它能够考虑整个数据集的关系,因此它具有很好的泛化能力。此外,Relation Network还可以通过元学习的方式,快速适应新的任务,使得模型能够在不同的分类任务中表现出色。

Meta-learning(元学习与少样本学习) Meta-learning(元学习) 虽然目前很多暴力堆算力堆数据的模型取得了很好的效果,但由于有些数据很难收集到,或者大量的标注耗费人力太多,关于元学习的研究也很多。特别是比如人类往往只需要通过少量数据就能做到快速学习,甚至不需要数据仅仅凭概念就可以完成推理。这种能力基本就属于元学习的范畴,或者机器学习领域中的zero-shot,few-shot learning了,首先看看概念: Meta-learning,元学习。学习怎么去学习。所谓“元”对应着人类在幼儿时期就掌握的对世界的基础知识和行为模式的理解 阅读详情

相关推荐

通俗讲解元学习(Meta-Learning)

元学习通俗的来说,就是,有时候掌握学习的方法比刻苦学习更重要!下面我们进行详细讲解。

AI研究院 2万+

meta-learning(元学习)是什么?元学习大概思想是什么?

什么是元学习?

Drug discovery 5494

Learning to Generalize:Meta-Learning for Domain Geralization 深度理解(公式详细推导,包含二阶导)

Learning to Generalize:Meta-Learning for Domain Geralization 深度理解

dailleson的博客 2806

元学习(meta-learning)的通俗解释

还以目标检测为例,仍然拿一个很大的数据集来训练模型,而 meta-learning 的目标不是让模型在没见过的图片中学会分辨训练集中提到过的类别,而是让模型学会分辨事物的异同,学会分辨这两者是相同的东西还是不同的东西,当模型学会分辨异同之后再在具体的分类任务中使用极少的数据集训练很少的次数即可达到甚至超越传统目标检测训练范式的效果(这种方式也称为。以上是元学习在目标检测方面的一种应用,通过元学习训练模型提取不同种类图片的特征,然后在这个预训练的模型的基础上实现快速辨别新的图片种类。元学习可以用来学算法。

Flag_ing的博客 9294

关于Few-Shot Learning & Meta-Learning 的一些 Q&A

什么是Few-shot Learning和Meta-learning?| Few-shot Learning和Meta-learning谁的范围更广?| Few-shot Learning和Meta-learning的共同点与异同点?| Few shot learning可以不用meta-training阶段吗?| 什么是Transductive Few-Shot Learning?它和普通的 Few-Shot Learning有什么区别?

xxxxxxbaby的博客 562

Meta-Learning算法在机器人适应性控制中的底层机制

Meta-Learning,即元学习,是指让机器学会如何更好地学习,其核心在于通过对多个相关任务的学习来获取更高效的学习策略和知识迁移能力,从而在面对新任务时能够快速适应并取得较好的学习效果。:假设存在一个任务分布,通过对该分布中多个任务的学习,模型能够学习到一种通用的学习策略,使得在面对来自同一分布的新任务时,能够快速地进行适应和优化。例如,在机器人控制领域,通过对不同环境下的运动控制任务的学习,机器人能够掌握一种通用的控制策略,当环境发生变化时,能够快速调整自身的控制参数以适应新的环境。

qq_40552871的博客 1502

meta learning元学习

在few-shot learning的术语中,把公司提供的50个人的数据集叫做Support Set,把51个类别叫做51-way,把公司提供的1-2张照片叫做1-shot或2-shot,把做人脸识别实时采集到的图片数据集叫做 query set。为了达到这个目的,MAML在训练过程中基于meta-learning思想,利用训练集的task学习一个初始化参数,使这个参数在未见过的任务上finetune几轮,就能达到较好的效果。测试过程中的loss体现所设置的超参数的优劣,以及超参的可迁移性。

qq_41413211的博客 991

Meta-Q-Learning

Meta-Q-Learning如有错误,欢迎指正摘要Introductionbackground 如有错误,欢迎指正 本文翻译为机翻,仅作初步了解学习使用,需要用到的时候再回来整理。 原文链接: https://arxiv.org/pdf/1910.00125v1.pdf. 如有侵权,请私信本人。 参考链接:https://zhuanlan.zhihu.com/p/109064006. 摘要 介绍了元强化学习(Meta-Q-Learning,MQL)的一种新的off-policy算法Meta-RL。MQL建

rockray21的博客 1587

meta learning

差不多要一个月没有看李老师的视频了,昨天终于又点开了收藏夹里的视频,OK,开始吧~ 一.概述 1.什么是meta learning 像上图蓝色笔圈起来说的,当准备用一个神经网络解决一个任务时,神经网络的架构(比如是CNN还是RNN,是VGG还是resnet)、初始值的设定、参数更新方式(比如是SGD还是Adam)都是我们自己决定的,meta learning的目的就是学习一个F,这个F能针对不同...

weixin_41391619的博客 612

保姆级教程:在Rockchip RK3588 SDK中,如何为你的新硬件板子创建第一个DTS文件

本文提供在Rockchip RK3588 SDK中为自定义硬件创建首个DTS文件的详细教程。通过分析DTS在RK3588开发中的角色、快速定位参考设计、实操步骤及调试验证方法,帮助开发者高效完成硬件板级配置,特别适合嵌入式Linux系统开发者参考。

weixin_28678831的博客 287

3D Slicer中安装MedSAM插件

大家应该都读过这篇论文:《Segment Anything in Medical Images》这个插件便是该论文团队推出的在3D Slicer上使用的插件,可以分割医学图像的任何感兴趣区域。

m0_73719342的博客 2330

Awesome Meta Learning

Awesome Meta Learning A curated list of Meta Learning papers, code, books, blogs, videos, datasets and other resources. Table of Contents Papers and Code Books Blogs Lecture Videos Datasets Workshops Researchers Papers and Code A curated set of papers al

John's Blogs 625

某勾网之登录过程逆向

拉勾网的登录过程逆向,包含请求头(X-S-HEADER、X-K-HEADER、X-SS-REQ-HEADER等) 以及 请求参数/返回数据的加解密。

shanf7921的博客 3万+

Meta Learning/Learning to learn

转自:知乎 智能单元 Flood Sung 《最前沿:百家争鸣的Meta Learning/Learning to learn》 仅供学习使用,如有侵权,请私删 1 前言 Meta Learning 元学习或者叫做 Learning to Learn 学会学习 已经成为继Reinforcement Learning 增强学习之后又一个重要的研究分支(以后仅称为Meta Learning)。对于...

Forlogenの解忧杂货铺 1374

YOLOv8自定义训练:车牌识别全流程(从标注到推理,附可视化代码)

车牌检测全流程实践指南 摘要:本文详细介绍了基于YOLOv8的车牌检测完整实现方案。针对车牌检测中的三大难点(小目标、多角度、光照变化),提供了从数据准备到模型部署的全流程解决方案。重点包括:1)数据采集与标注规范;2)针对小目标的YOLOv8模型优化配置;3)K-means锚框聚类方法;4)训练参数调优策略。通过实际验证,该方法可获得95%以上的检测准确率,并附有完整的代码实现和可视化工具,便于开发者快速复现应用。 (字数:149字)

专注于Python爬虫开发,分享爬虫技巧、项目实战与反爬经验,使用Scrapy、BeautifulSoup等工具,解决数据抓取难题。 850

QML 果冻抖动:用 Scale 动画模拟 Q 弹反馈

介绍果冻抖动效果:点击后卡片通过多段 ParallelAnimation 实现 Scale X/Y 反向缩放和逐步衰减,模拟果冻弹性形变;进阶版本加入小幅 Rotation 增加活泼感,适合游戏、儿童应用等趣味反馈场景。

u011186532的专栏 425

MAML: meta learning 论文分析

https://zhuanlan.zhihu.com/p/57864886 一、Meta-Learning 简述 Meta-Learning(即元学习)是最近比较火的研究方向,其思想是learning to learn(学会学习)。Meta-Learning面向的不是学习的结果,而是学习的过程。其学习不是一个直接用来预测的数学模型,而是学习“如何更快更好地学习一个数学模型”。Meta-Lear...

qq_36213248的博客 3298

绿米Aqara S1【妙控开关 S1E】版本降级或升级自定义固件的方法

绿米Aqara S1【妙控开关 S1E】版本降级或升级自定义固件的方法

LeeKwen的专栏 2171

有关于meta learning

一篇很好的博客:Meta-Learning

weixin_43301333的博客 173

【Proteus仿真】51单片机+DAC0832+LM358放大电路波形发生器

【Proteus仿真】51单片机+DAC0832+LM358放大电路波形发生器

perseverance51博客 5786

mabl:AI原生测试自动化平台的基础使用

mabl是一个基于人工智能和机器学习的云原生测试自动化平台。它通过使用先进的技术,如机器学习,自动创建和执行测试,自动分析测试结果,并根据需求的变化自动适配和维护测试。这样的自动化过程极大地提高了软件测试的效率和准确性。mabl的口号是 “You write code, mabl tests”,意味着开发者只需关注编写代码,而测试工作则可以交给mabl来完成。mabl的平台支持多种测试类型,包括 Web、App、Api、可访问性和性能测试,使得团队能够更快速、更有信心地发布软件。

blues_C的博客 3657

Meta-Learning

元学习包括Zero-Shot/One-Shot/Few-Shot 学习,模型无关元学习(Model Agnostic Meta Learning) 和元强化学习(Meta Reinforcement Learning)等 元学习的训练样本和测试样本都是基于任务的。元学习是要去学习任务中的特征表示,从而在新的任务上泛化 用于训练任务的训练集称为support set,测试集称为query set 从图中可以看出,测试任务和训练任务内容完全不同。 注意一下几种学习方法思想区别: 传统深度学习 终身学习

ltochange的博客 426

pscad IEEE标准系统搭建说明

pscad IEEE标准系统搭建说明,包含典型的IEEE 9节点、14节点、30节点、39节点和118节点系统。内含标准测试系统的原始数据和潮流结果。

有关meta learning 要读的论文清单

参考博客:https://blog.csdn.net/weixin_37589575/article/details/92801610 论文链接 《Optimization as a Model for Few-Shot Learning》:https://openreview.net/pdf?id=rJY0-Kcll. 《Few-shot Classification on Graphs with Structural Regularized GCNs 》: https://openreview.n

binger520886的博客 946

大中型超市收银系统(可直接运行)

光步前台收银系统系统功能:商品销售、商品退货、挂单、收银员权限、会员销售、单品取消、整单取消、商品查询、脱机销售、脱机数据上传,基本资料下载,开钱箱、小票打印、收款结算,支持多币种付款方式(现金、储值卡、礼券、微信等),支持多种促销。运行环境:.net 4.0登陆信息用户名:1001 密码:123456内置商品信息,商品编码可输入00001000 - 00010000,测试效果相关功能键F5 结算 F9挂单 F11商品查询 F8退货 Insert单品取消 Del整单取消 F12开钱箱F2 会员 Ctrl+Z退出系统 Home 锁屏 相关源码待公开

Statistics and Machine Learning Toolbox

Statistics and Machine Learning Toolbox(带书签),MATLAB统计学习工具

Meta Learning ——MAML代码

Meta Learning ——MAML

sinat_28375239的博客 1841

文档:亲测可用解决vnc灰屏,黑屏,鼠标大黑叉情况

主要解决vnc-viewer灰屏,黑屏,鼠标大黑叉等现象,详细见文档。

【中秋快乐】求问meta-learning和few-shot learning的关系是什么?

点击上方,选择星标或置顶,每天给你送干货!阅读大概需要10分钟跟随小博主,每天进步一丢丢编辑:忆臻https://www.zhihu.com/question/291656490本文仅作...

zenRRan的博客 397

multitask-meta learning

cs330 以上14节课 知乎metalearning 为什么看到metalearning ? Multi-Domain Data. It is well recognized that there is a large domain gap between different datsets [35]. Most existing methods adopt domain adaptation for cross-dataset training. A more practical solution w

weixin_44523062的博客 475
上一篇: RNN & Seq2Seq
下一篇: 深度学习架构-Tensorflow
银晗
博客等级 码龄6年 1万+粉丝 133原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值