论文笔记：Prototypical Networks for Few-shot Learning

最新推荐文章于 2025-06-15 01:34:38 发布
最新推荐文章于 2025-06-15 01:34:38 发布
阅读量1.7w 收藏 57
点赞数 4
CC 4.0 BY-SA版权
分类专栏： meta learning
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/u014767662/article/details/81670215
本文介绍Prototypical Networks，它通过神经网络将样本映射到同一空间，并利用欧几里得距离找到类别的原型。在训练时，目标是使测试样本接近其类别原型，远离其他类别。与Match Network相比，P-net使用欧几里得距离而非余弦距离，且在网络结构上有优化。补充内容探讨了Bregman divergence在选择距离度量中的作用。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

Prototypical Networks for Few-shot Learning（用于小样本学习的原型网络）

论文中心思想：

通过神经网络学会一个“好的”映射，将各个样本投影到同一空间中，对于每种类型的样本提取他们的中心点(mean)作为原型（prototype）。使用欧几里得距离作为距离度量，训练使得测试样本到自己类别原型的距离越近越好，到其他类别原型的距离越远越好。测试时，通过对到每类原型的距离做sofmax获得测试样本类别。
原型网络原理示意

算法主要流程

总结分析：

本文提出的的Prototypical Networks（P-net）思想与match network（M-net）十分相似，但也有几个不同点：1.使用了不同的距离度量方式，M-net中是cosine度量距离，P-net中使用的是属于布雷格曼散度（详见论文）的欧几里得距离。2.二者在few-shot的场景下不同，在one-shot时等价（one-shot时取得的原型就是支持集中的样本）3.网络结构上，P-net相比M-net将编码层和分类层合一，参数更少，训练更加方便。

补充：

关于论文中Bregman divergence的理解，可参考知乎上一个大佬的回答：如何理解Bregman divergence？ - 覃含章的回答 - 知乎
https://www.zhihu.com/question

最低0.47元/天 解锁文章

200万优质内容无限畅学
Prototypical Networks for Few-shot Learning.（用于少样本分类的原型网络）
CaoChengtai的博客
06-18 7265
** Prototypical Networks for Few-shot Learning.（用于少样本分类的原型网络） ** 摘要 文章提出了一种用于少样本分类的原型网络，其中分类器必须可以推广（泛化）到在训练集里面没有见过的新的类别，并且每个新的类别只有很少一部分样本。原型网络学习一个度量空间，执行分类只需要简单的计算到每个类的原型表示的距离。与其他方法的主要一点不同是原型网络反映了一种在数...
Prototypical Networks for Few-shot Learning 论文笔记
qq_30146937的博客
03-18 980
前言 本文提出了用于few-shot learning的原型网络（prototypical network），它的基本思想是，在一个embedding空间中，每个类都有一个原型表示（prototypical representation），每个类的点都聚集在这个原型表示周围。具体来说就是，通过一个非线性映射将输入映射到一个embedding空间中，提取每个类别中样本的均值（mean）作为该类在em...
【原型网络】Prototypical Networks for Few-shot Learning
靓仔博客
02-22 2298
原型网络，基于这样的想法，即存在一个嵌入，其中点围绕每个类的单个原型表示聚集。为了做到这一点，我们使用神经网络学习输入到嵌入空间的非线性映射，并将类的原型作为其在嵌入空间中的支持集的平均值。然后通过简单地找到最近的类原型对嵌入的查询点执行分类。
少样本学习（Few - Shot Learning）
最新发布
mayaohao的博客
06-15 302
影响模型对任务的理解和执行效果，示例越少（zero - shot → one - shot → few - shot 示例逐步变多 ），模型 “猜着干” 的成分越大、效果越差；示例越充分（few - shot 给了少量但够用的参考 ），模型越容易摸准任务套路，效果越好。GPT - 3 这类大模型实验，也验证了 “给模型多些参考，任务表现更靠谱” 的规律。简单说，就是给模型 “任务示例” 的。的情况下，直接执行任务。，让它依此完成任务。
Prototypical Networks for Few-shot Learning
kuxingseng123的博客
12-05 880
慢慢的将各种广义零样本方法都研究透彻。 会自己研究广义零样本的方法都行啦的样子。
学习报告：基于原型网络的小样本学习《Prototypical Networks for Few-shot Learning》
北街末雨Yyg
05-20 5121
学习报告：基于原型网络的小样本学习《Prototypical Networks for Few-shot Learning》，该论文的主要贡献有两点：（1）对图像领域的Few-Shot／Zero-Shot（小样本/零样本）任务，应用设计简单的原型网络方法（见第二部分），在通用数据集上达到了较好的实验效果（见第三部分）；（2）对原型网络本身进行了较为深入的分析，且分析了距离度量方式的选择对任务效果的影响
prototypical networks for few-shot learning论文
Dream_xd的博客
04-14 636
文章目录摘要引言Prototypical networkNotaionmodel参考 论文：prototypical networks for few-shot learning 地址：https://arxiv.org/abs/1703.05175v2 摘要 针对小样本分类任务，作者提出了一种原型网络，分类器对于在训练集中未出现的新类别必须具有足够好的泛化性，每个新类仅有少量数据。原型网络学...
ProtoNet模型结构：《Prototypical Networks for Few-shot Learning》
qq_43496336的博客
02-23 6271
ProtoNet 本文是对NIPS-2017论文《Prototypical Networks for Few-shot Learning》提出的Prototypical Network模型的简要梳理，不含理论分析比较部分。 Intro few-shot classification：分类器对于training set上没见过的类，只要给一些它的example，就可以学会 概念： 支撑集support set：这些提供的labeled example 查询集query set：需要进行预测的unlabele
Python-PrototypicalNetworksforFewshotLearninginPyTorch
08-11
Implementation of Prototypical Networks for Few Shot Learning (https://arxiv.org/abs/1703.05175) in Pytorch
论文 基于度量学习的小样本学习研究 阅读心得
01-20
论文主要工作： 本文提出带间隔的小样本学习， 提升了所学习嵌入表示的质量。 为引入间隔， 本文根据小样本场景特点提出了多路对比损失， 使得小样本学习模型可以学习到一个更加具有判别性的度量空间，同时泛化误差可以减小。带间隔的小样本学习是一个通用的框架，可以同各种基于度量的小样本学习模型结合。 本文将带间隔的小样本学习引入到两种已有模型中，分别是原型网络和匹配网络。 另外， 数据的分布往往都有内在结构，现有的基于度量的小样本学习算法在分类时没有考虑数据分布的特性， 阻碍了算法的效果。 本文使用基于图正则的关系传播框架， 通过结合样本分布的流形和已知的样本间关系，推断出未知的样本间关系。 该框架的目
Prototypical networks for few-shot learning
chumingqian的博客
12-12 343
这篇论文是介绍《作者公布了他的Pytorh。如果看不太懂原作者的代码话可以看一下这一个：https://github.com/orobix/Prototypical-Networks-for-Few-shot-Learning-PyTorch。
Prototypical networks for few-shot learning.
Pr4da的博客
06-05 1526
这篇论文是介绍《作者公布了他的Pytorh。如果看不太懂原作者的代码话可以看一下这一个：https://github.com/orobix/Prototypical-Networks-for-Few-shot-Learning-PyTorch。
Few-shot Learning进展调研
idol24的博客
10-14 1624
点击上方“机器学习与生成对抗网络”，关注"星标"获取有趣、好玩的前沿干货！小样本学习主要研究如何通过少量样本学习识别模型。目前学术界普遍研究的是N-way-K-shot问...
【论文阅读】Prototypical Networks for Few-shot Learning
goodenough5的博客
09-27 1696
本文结合论文和youtube上的视频来整理一下对prototypical networks在few-shot领域的理解。问题：少镜头分类问题（在只给定少量实例的情况下，分类器必须推广到未看到的新类）。提出的解决方案：Prototypical Networks学习一个度量空间，在该空间中，可以通过计算得到每个类的原型表示的距离来执行分类。优点：与最近少镜头学习方法相比，它们反映了一种更简单的归纳偏差，这种偏差在优先数据的状态下是有益的，取得了出色的结果。分析。
论文阅读<1> Prototypical Networks for Few-shot Learning
qq_41135517的博客
05-05 1050
论文阅读<1> Prototypical Networks for Few-shot LearningAbstract1 Introduction2 Prototypical Networks2.1 Algorithm2.2 Choices for Distance Metric2.3 Choices for Episodic Learning Parameters3 Experim...
Prototypical networks for few-shot learning论文
04-01
### 关于Prototypical Networks for Few-Shot Learning论文 Prototypical Networks 是一种针对小样本学习（Few-Shot Learning）设计的方法，旨在通过构建类别原型来完成新类别的快速识别[^1]。该方法的核心思想是在嵌入空间中为每个类别定义一个原型向量，并利用这些原型向量计算输入样本与各个类别的相似度。 #### 论文下载方式 Prototypical Networks 的原始论文《Prototypical Networks for Few-shot Learning》可以在以下链接找到并下载： - 原始论文地址：[https://arxiv.org/abs/1703.05175](https://arxiv.org/abs/1703.05175) 如果无法直接访问上述链接，可以尝试通过其他学术资源网站获取PDF版本，例如Google Scholar 或者 ResearchGate。此外，一些开源项目也提供了对该论文的解读和实现细节说明[^2][^3]。 #### 可视化的实现 对于可视化部分，作者展示了在嵌入空间中的 t-SNE 图像，其中类别原型用黑色表示，而错误分类的字符则用红色高亮显示[^4]。要实现类似的可视化效果，可以通过以下步骤： 1. **提取嵌入特征** 使用训练好的模型对测试数据进行前向传播，得到每张图像对应的嵌入向量。 2. **应用t-SNE降维** 利用 `sklearn.manifold.TSNE` 将高维嵌入向量投影到二维或三维空间以便绘制图形。 3. **绘图展示** 使用 Matplotlib 或 Seaborn 绘制散点图，在图中标记出不同类别的原型位置以及误分类的数据点。 以下是基于PyTorch实现的一个简单代码示例： ```python import torch from sklearn.manifold import TSNE import matplotlib.pyplot as plt def visualize_embeddings(embeddings, labels, prototypes): """ embeddings: 测试样本的嵌入向量 (NxD) labels: 对应的真实标签 (Nx1) prototypes: 类别原型向量 (KxD) """ all_data = torch.cat([embeddings, prototypes], dim=0).cpu().numpy() tsne = TSNE(n_components=2, random_state=42) embedded_data = tsne.fit_transform(all_data) # 提取样本点和原型点的位置 sample_points = embedded_data[:len(embeddings)] prototype_points = embedded_data[len(embeddings):] # 绘制散点图 plt.figure(figsize=(8, 6)) unique_labels = set(labels.cpu().numpy()) colors = plt.cm.rainbow(np.linspace(0, 1, len(unique_labels))) for i, color in zip(unique_labels, colors): idx = np.where(labels == i)[0] plt.scatter(sample_points[idx, 0], sample_points[idx, 1], c=color, label=f'Class {i}') # 添加原型点标记 plt.scatter(prototype_points[:, 0], prototype_points[:, 1], marker='*', s=200, c='black', label='Prototypes') plt.legend() plt.title('t-SNE Visualization of Embedding Space') plt.show() ``` 此函数接受嵌入向量、真实标签以及类别原型作为输入参数，并生成相应的t-SNE可视化图表。 --- ###
评论 15
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值