现代机器学习研究进展 第三部分 学习范式与训练技巧 第22章 少样本与元学习(Few-Shot & Meta-Learning)

严格禁止转载

版权所有 © 2025 刘丹。
本文的全部内容(包括文字、插图、表格、图表、代码示例等)受版权法保护。未经版权所有者书面明确许可,任何单位或个人不得以任何形式(包括但不限于复印、转载、摘编、影印、扫描、改编、录入计算机检索系统、互联网传播、网络下载或以其他方式使用)复制、传播或改编本文的全部或任何部分。
违者将依法追究法律责任。
如需转载或引用本书内容进行教学、研究或出版,请通过以下联系方式申请许可:
联系人:刘丹;电子邮件:3549233510@qq.com。

本章目标讲清少样本学习与元学习的主要范式、理论依据与实践实现。内容适合博士研究生作为教科书章节:每一步推导声明假设、给出结论并指出工程含义。章节包含:

  • 元学习的形式化(任务分布、support/query、元目标)

  • 元学习分类:优化型(MAML)、度量型(ProtoNet、RelationNet)、模型式(meta-learner RNN 等)并给出严格推导

  • MAML 的元梯度推导与一阶近似(FOMAML)证明步骤

  • ProtoNet 的贝叶斯/判别等价性证明与实现细节(训练/评估协议、PyTorch 伪代码)

  • RelationNet 及可学度量的训练解释

  • 元学习的评测设计(任务分布设计、泛化问题、统计性检验)与理论样本复杂度直觉(任务数与样本数的 trad

高光谱图像小样本有序学习:鱼类新鲜度评估技术详解 在计算机视觉与机器学习领域,小样本学习旨在解决标注数据稀缺场景下的模型泛化难题,而有序学习则专注于处理类别间具有内在顺序关系的预测任务。两者的结合,为高维、信息丰富但获取成本高昂的高光谱图像分析提供了高效解决方案。其技术核心在于,通过度量学习构建特征嵌入空间,并在此空间中引入有序约束,使得模型能够利用极少数标注样本,精准捕捉目标属性的连续变化规律。这一技术框架在食品质量安全、农业检测和工业视觉等场景中具有重要应用价值,例如,能够基于高光谱图像,实现对生鲜鱼类储存天数的自动化、低成本评估。 阅读详情

相关推荐

ML硕士申请实操指南:11个真·ML导向项目的选校与进阶路径

机器学习硕士(ML Masters)是通往工业界ML工程师、AI研究员或算法科学家的关键跳板。其本质不仅是学历提升,更是数学建模能力、工程落地习惯与产业资源网络的系统性锻造。理解课程代码背后的教学定位(如CMU 10-601 vs 10-701)、Capstone项目是否对接真实业务场景、地理位置如何影响实习转化率,远比QS排名或CSRankings论文数更能决定成长效率。本文基于200+项目深度调研与37位学员实操验证,聚焦‘课程结构’‘隐性资源’‘工程适配度’三大维度,拆解UCSD、CMU、伯克利MID

weixin_30565199的博客 333

机器学习论文精读实战:三层穿透式阅读法

机器学习论文阅读不是知识搬运,而是构建技术判断力的核心工程能力。从理解模型鲁棒性、测试时自适应(TTA)、小样本不确定性估计等基础概念出发,深入剖析其数学原理与假设边界,揭示对抗扰动、LayerNorm动态校准、元正则化等关键技术如何在真实数据分布下失效或生效。其技术价值在于将前沿方法转化为可验证、可集成、可压测的工程模块,广泛应用于工业质检、边缘部署、冷启动AI产品等强约束场景。本文聚焦2020年三篇关键论文,系统拆解预训练防坑、推理补救、冷启动兜底的闭环逻辑,提供可落地的精读框架与90分钟执行模板。

weixin_30892763的博客 416

Code Llama深度解析:开源代码大模型的工程范式革命

代码大模型正从‘通用文本生成’迈向‘可理解、可验证、可嵌入开发流程’的新阶段。其核心原理在于对代码语义结构(如缩进、类型注解、函数边界)的原生建模,结合高质量开源语料与结构化位置编码,显著提升生成代码的工程合规性与上下文一致性。技术价值体现在本地化部署能力、多语言协同生成、低资源微调支持等工程友好特性上,广泛应用于IDE智能补全、PR自动化审查、遗留系统现代化改造等真实研发场景。本文聚焦Code Llama这一标志性开源模型,深入剖析其词表设计、训练数据哲学与系统级适配机制。

426

【AI应用开发工程师】第三章:大语言模型原理

摘要 本文系统介绍了大规模语言模型(LLM)的核心原理与技术演进。从N-gram统计语言模型开始,分析了其数据稀疏、长距离依赖不足等局限。重点阐述了神经语言模型的突破性进展,包括词向量表示、Transformer架构优势,以及自回归生成机制。详细讲解了三种预训练目标(CLM/MLM/Prefix LM)及其区别,并深入剖析了KV Cache加速、解码策略(Greedy/Top-k/Top-p等)等关键技术。同时探讨了涌现能力现象、Scaling Law规律,以及主流LLM架构差异。文章通过数学公式、对比表格

sjy8207380的专栏 304

大模型API调用微调实战:从指令到可靠HTTP请求

大语言模型(LLM)在实际工程中常面临‘能说不会做’的困境——理解用户意图却无法生成合法、可执行的API调用。这本质是模型缺乏对REST接口规范、参数约束与认证机制的结构化认知。基于LLaMA的Gorilla方案通过指令→意图→调用三层映射,结合LoRA高效微调与负样本驱动训练,显著提升Schema合规性与沙箱执行成功率。其技术价值在于将模糊的自然语言任务,转化为可验证、可部署、可热更新的工程化能力,广泛适用于AI Agent构建、企业服务集成及低代码API编排等场景。

weixin_33797791的博客 339

如何快速证伪一个虚构AI模型:以GPT55X为例的五步核查法

大语言模型(LLM)作为当前生成式AI的核心技术,其命名体系、发布路径与能力边界均有明确工程逻辑。理解模型命名规范(如GPT/Titan/Nova的代际与功能后缀)、掌握官方信源验证方法(AWS官网、Bedrock控制台、arXiv/Hugging Face)、识别多模态与参数宣传中的技术矛盾,是避免被虚假模型误导的基础能力。真实企业级AI落地更依赖可验证的模型服务(如Amazon Titan、Nova、Claude 3)与稳定管道(Prompt工程、Guardrails、向量检索),而非营销造词。本文基于

congli3478的博客 601

FewShot Learning

在传统的机器学习范式中,训练模型需要大量的标记数据。然而,在许多实际应用场景中,获取大规模的标记数据往往是一项昂贵且耗时的任务。Few-Shot Learning(小样本学习)旨在通过有限的标记样本,快速学习并泛化到新的任务和领域。这种学习方式更加贴近人类的学习方式,具有广阔的应用前景。小样本学习的挑战在于,如何在有限的数据下,有效地捕获任务的关键模式,并将其泛化到新的数据上。这需要模型具备强大的学习能力和泛化能力。

AI天才研究院 1059

人工智能技术白皮书 —— 你的AI入门手册

深入定义状态 (State, S)、动作 (Action, A)、奖励 (Reward, R) 以及状态转移概率 (Transition Probability, P),构建一个完整的决策模型。强化学习是关于“决策”的科学,它让智能体(Agent)在与环境的持续互动中,通过试错和回报,学习一套能获得最大长期利益的最优行为策略。学习它,就是学习如何驱动机器的“想象力”。:一个迷宫地图,智能体(小机器人)在每个交叉口(状态)选择方向(动作),根据路径上的宝藏(奖励)或陷阱,更新自己的寻宝地图(策略)。

VectorShift的博客 1396

【信息科学与工程学】【制造工程】第一百四十四篇 计算光刻中的问题01

计算光刻的数学骨架是一条前向算子链: 光源J(fx​,fy​)​​TCC​光瞳P(fx​,fy​)​​Hopkins​空间像I(x,y)​​fresist​​硅片图形Z(x,y)​​MRC​可制造掩模Mmanufacturable​​​ 所有子问题(OPC / PSM / ILT / SMO)都是这条链的逆问题,区别只在优化变量集与约束集​ 。列内容领域 / 子领域​计算光刻 / 光学成像建模类型 / 模式 / 问题​前向问题;Abbe 模型 → Hopkins TCC 模型 → SOCS 快速算法系统化

weixin_49199313的博客 254

归一化流(Normalizing Flows)05:归一化流经典模型【NICE、Glow、WaveGlow、Flow Matching、Rectified Flow】

*引用次数截至2025年7月27日,包含预印本和会议论文论文:Density estimation using Real NVP 作者:Laurent Dinh, Jascha Sohl-Dickstein, Samy Bengio 机构:Google Brain 实验结果 CIFAR-10:3.49 bits/dim CelebA:3.02 bits/dim 首次在复杂数据集上展示了归一化流的潜力 影响与局限 影响:局限:论文:Glow: Generative Flow with Invertible

u013250861的博客 160

【信息科学与工程学】计算机科学与自动化 第二百零一十一 软件开发模型01

编号类型模型领域模型中的知识点/因素/参数关联知识和法律法规1传统顺序模型瀑布模型 (Waterfall)通用软件开发、硬件紧密耦合系统、政府/军工项目、需求稳定的传统信息系统严格线性阶段:可行性研究→需求分析(SRS,含功能/非功能/接口/约束,使用IEEE 830模板)→系统设计(概要设计HLD:架构、模块划分、数据库ER图;详细设计LLD:伪代码、类图、接口定义)→实现(编码规范、代码审查、静态分析工具SonarQube)→测试(单元测试JUnit、集成测试、系统测试、验收测试UAT,测试计划提前编写

weixin_49199313的博客 175

【信息科学与工程学】【通信工程】第二百 四十五篇 “意图网络/意图驱动网络(Intent-Based Networking, IBN)1001 意图网络中的任务01

意图网络任务;1. 意图存在性公理:∀需求∃意图表达 2. 可满足性公理:合法意图必可被满足 3. 可验证性公理:意图实现必可验证 4. 可优化公理:意图实现可优化 5. 可组合公理:简单意图可组合为复杂意图 6. 可分解公理:复杂意图可分解为简单意图 数学工具族 → 在IBN/ADN中的落点 集合论与逻辑:意图匹配域、ACL五元组、LTL/μ-calculus合规校验 图论:拓扑、SFC、依赖DAG、跨域意图图、SRv6路径 线性/非线性优化:QoS、容量、切片资源、节能(LP/MILP/凸优化) 排队论

weixin_49199313的博客 34

VS2022错误列表高效处理:从复制到Excel表格的完整指南

本文详细介绍了在Visual Studio 2022中高效处理错误列表的实用技巧,重点讲解了如何将错误信息一键复制并粘贴到Excel表格中。通过基础操作、自定义视图、筛选功能及常见问题解决方案,帮助开发者将杂乱的编译错误整理成清晰、可排序、可筛选的数据表,极大提升了团队协作、错误分析和项目管理的效率。

weixin_28837817的博客 362

GoDaddy域名解析 到 阿里云域名DNS

一:登录GODaddy,点击“个人中心”,然后点击“管理域名” 二:域名解析 第一种:直接解析到对应的服务器 添加一个,类型默认A,主机填写二级域名前缀(image.主域名),指向填写目标服务器ip即可(注意目标服务器80端口是否开放) 第二种:将主域名dns转到阿里云域名下 三:若要修给为阿里云解析服务器,要做以下修改,点击“更改” 点击更改后出现如下页面,此时需要到阿里云官网云解析DNS下添加域名解析 四:阿里云添加域名解析...

xiaolinzi176的博客 6707

logisim中,如何设计一个位于十字路口的交通信号灯控制系统?

🏆本文收录于 《全栈 Bug 调优(实战版)》 专栏。专栏聚焦真实项目中的各类疑难 Bug,从成因剖析 → 排查路径 → 解决方案 → 预防优化全链路拆解,形成一套可复用、可沉淀的实战知识体系。无论你是初入职场的开发者,还是负责复杂项目的资深工程师,都可以在这里构建一套属于自己的「问题诊断与性能调优」方法论,助你稳步进阶、放大技术价值。

**My Coding Family** 1348

华为OD机考双机位C卷 - 风险投资计划(Java & Python& JS & C/C++ & GO )

华为OD机考双机位C卷 - 风险投资计划(OD上机考试双机位C卷)。提供Java、C++、Python、Go、JavaScript源码实现,并提供完整思路讲解,以及在线OJ模拟做题。

算法大师! 548

YOLO26涨点改进 | 小目标损失函数独家改进篇 | TGRS 2025 | 引入AdaFocalLoss损失函数,改进小目标检测,自适应聚焦小目标与样本分布不平衡,提升检测精度与训练稳定性

本文提出将AdaFocalLoss损失函数应用于YOLO26模型优化,有效提升小目标检测性能。AdaFocalLoss通过目标尺寸感知机制和IoU引导的动态调节,自动调整训练权重和聚焦程度,解决了样本不平衡问题。相比传统损失函数,它无需手动调参,能增强训练稳定性,在多尺度、复杂场景下表现优异。文章详细介绍了AdaFocalLoss的原理、优势及实现方法,并提供了代码集成指南。实验表明该方法能显著提升检测精度和鲁棒性,特别适用于小目标检测任务。

Ai缝合怪、助力小伙伴高效发论文 337

自然语言处理在智能客服系统中的应用

引言与背景 1.1 书籍的目的和内容概述 《自然语言处理在智能客服系统中的应用》旨在探讨自然语言处理(NLP)技术在智能客服系统中的应用,帮助读者理解NLP的核心概念及其在解决实际业务问题中的关键作用。随着人工智能技术的快速发展,自然语言处理成为构建智能客服系统的核心模块之一。本书将深入解析NLP

AI天才研究院 972

手把手教你学simulink(13.2)--构建一个单相并网逆变器Simulink仿真模型

基于Simulink的单相并网逆变器项目的详细仿真实例。这个项目将重点放在逆变器的详细建模、最大功率点跟踪(MPPT)控制策略、并网控制和仿真分析上。我们将使用MATLAB/Simulink来构建整个系统,并通过具体的代码和模块来实现各个功能。

MHD0815的博客 546

104、线缆与终端匹配:特性阻抗、双绞线规格与端接电阻优化策略

摘要: CAN总线物理层可靠性取决于线缆特性阻抗、双绞线规格与终端电阻的精准匹配。核心要点包括: 特性阻抗须严格匹配120Ω(±10%),反射系数需≤0.05,线缆建议选用Belden 3086A等实测达标型号,避免网线替代; 双绞线应选AWG22~24纯铜线,绞距≤30mm,工业环境需屏蔽层单端接地,杜绝铜包铝线; 终端电阻需选用金属膜电阻(0.5W以上),阻值按实测线缆阻抗微调,长距离可采用分裂终端(60Ω+4.7nF)优化信号完整性; 拓扑适配:星型/树型拓扑需控制分支长度,环型拓扑必须断开; 实测验

2401_88858637的博客 53

最新的sdio 4.0 spec 协议标准 带书签 高清完整PDF版

Part-E1-SDIO-Specification-Ver4.00-Final-120220.pdf:最新的sdio 4.0 spec 协议标准 带书签 高清完整PDF版,包括SDIO 接口的外设,SDIO 接口官方协议等。

Probability and Statistics - 4th edition

Probability and Statistics - 4th edition

Data-Structures-and-Algorithm-Analysis-in-Java.pdf

作者: Weiss, Mark A. 出版社: Addison Wesley Data Structures and Algorithm Analysis in Java is an “advanced algorithms” book that fits between traditional CS2 and Algorithms Analysis courses. In the old ACM Curriculum Guidelines, this course was known as CS7. This text is for readers who want to learn good programming and algorithm analysis skills simultaneously so that they can develop such programs with the maximum amo...

IEM模型,地表粗糙度模拟

利用微波反演土壤水分时候,利用IEM模型可以实现对随机地表的模拟

上一篇: 现代机器学习研究进展 第三部分 学习范式与训练技巧 第 21 章 表征学习的可迁移性(Transferability of Representations)
下一篇: 计算高斯函数(超越函数)过程详解
VectorShift
博客等级 码龄1年 1840粉丝 1109原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

VectorShift

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值