Metric-based meta-learning model for few-shot fault diagnosis under multiple limited data conditions

最新推荐文章于 2024-11-02 21:42:43 发布
原创 最新推荐文章于 2024-11-02 21:42:43 发布 · 2.1k 阅读 · 8 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#学习 #深度学习

提出一种基于度量的元学习模型FSM3，针对多种有限数据条件下的故障诊断问题，该模型结合监督学习与度量元学习，有效利用小样本数据进行准确的故障识别。

Metric-based meta-learning model for few-shot fault diagnosis under multiple limited data conditions

多种有限数据条件下基于度量得故障诊断元学习模型

近年来由于信息技术和传感器技术地发展，使大工业情境变成了一个数据丰富地环境，但是在有的实际情境中，目前还是很难收集到足够多地数据。例如，当突然地灾难性故障发生时，在系统关闭前仅能够采集到很少地样本。为了解决在非常有限数据集地情况下，利用小样本准确地识别故障属性，本文提出了一种叫做基于特征空间度量的元学习模型（FSM3）。该方法混合了一般的监督学习和情景度量元学习，利用来自个别样本的属性信息和一组样本的相似信息。

相关背景

小样本学习在计算机视觉领域，现在是一个非常热的话题，特别是在图像分类方面。尽管方法的设计各不相同，但这些工作的一个共同特点是，它们从一些不相交的源域中利用了一个大的、完全注释的辅助集，其中，随机抽取一系列小样本学习任务去模拟小样本的学习情景，最后提取一般知识作为附加信息，以促进目标域中的小样本学习任务，从而形成元学习的思想。图像分类中的源域和目标域通过将一个大型数据集按类别随机拆分来获取。在故障诊断领域，数据是通过其工作条件和故障属性收集的，具有明显的区分性。通常来说机器不会工作在高负载的情况下更不会带着故障工作，这导致只有少量的有效故障样本能够被收集到。同时，有许多来自其它情况的数据可以为有限数据的任务提供可迁移的知识。因此将元学习和小样本学习结合进行故障诊断时是合理的。
本文所提出的基于特征空间度量的元学习模型（FSM3），该方法基于两种用于小样本学习基于度量的元学习方法，匹配网络（MN）和原型网络（PN）。但是仅仅基于度量的训练只教会模型关注来自样本组的相对相似信息，因此忽略了每个特定类别的属性信息，这意味着标注的源数据没有得到充

最低0.47元/天 解锁文章
【论文分享】小样本半监督图结点分类模型 Meta-PN：Meta Propagation Networks for Graph Few-shot Semi-supervised Learning
vector的博客
05-19 1186
本文提出了一种新的图元学习框架：元传播网络(Meta- PN)，用于解决小样本半监督节点分类问题。该框架由两个部分构成 1. Adaptive Label Propagator (Meta Learner)：利用目标模型的反馈来调整其传播策略，以在未标记节点上推断出准确的伪标签。2. Feature-label Transformer (Target Model)： 吸收伪标记节点的结构和特征知识预测标签，从而解决了小样本半监督学习背后的挑战。
【李宏毅2020 ML/DL】补充：Meta Learning - Metric-based Approach & Train+Test as RNN
记录学习痕迹的公众号：Piper蛋窝
08-16 1314
关于元学习的一些补充。
Meta learning - metric-based approach 李宏毅机器学习笔记
weixin_41684423的博客
04-07 1050
Siamese Network 孪生网络，通常不会放在meta learning里面 但是李宏毅就要把这个网络放在meta learning里面讲 所以为什么孪生网络可以看成meta learning呢？ 一、直观解释 Intuitive Explanation 可以将train和test看成一组输入，就是一个简单的二分类问题。 原理：用CNN将人脸图片投影到同一个空间上，考量这个空间上两张图片的距离（similarity） 计算similar...
用于少样本故障诊断的半监督元学习网络（有SE模块）
m0_49361060的博客
04-15 4660
Semi-supervised meta-learning networks with squeeze-and-excitation attention for few-shot fault diagnosis 用于少样本故障诊断的半监督元学习网络 摘要：在工程实践中，数据尤其是标注数据的缺乏阻碍了深度学习在机械故障诊断中的广泛应用。然而，收集和标记数据通常既昂贵又耗时。针对这一问题，本文提出了一种用于少样本故障诊断的半监督元学习网络(SSMN)。SSMN由一个参数化编码器、一个非参数化原型精化过程和一个距
小样本论文笔记3：Metric Based - [5] --Prototypical networks-- for few-shot learning.
WAHAJA的博客
03-21 587
小样本论文笔记3：Metric Based - [5] Prototypical networks for few-shot learning. 文章目录小样本论文笔记3：Metric Based - [5] **Prototypical networks** for few-shot learning.0. 前言1. 要解决什么问题2. 用了什么方法3. 效果如何4. 还存在什么问题&有什么可以借鉴 0. 前言 相关资料： 论文地址 第三方复现github 笔记参考 论文基本信息 领域
精选资源
Co-metric: A Metric Learning Algorithm for Data with Multiple Views
02-09
We address the problem of metric learning for multi-view data. Up to date, though many metric learning algorithms have been successfully proposed, most of them focus just on single view circumstances,...
Meta-Learning for Semi-Supervised Few-Shot Classification. （用于半监督少样本分类的元学习）
CaoChengtai的博客
08-01 4437
目录1. 摘要2. 介绍2. 背景2.1 少样本学习：2.2 原型网络3 半监督少样本学习3.1 半监督原型网络：3.1.1 soft k-means 原型网络：3.1.2 soft k-means 和干扰项簇的原型网络：3.1.3 soft k-means 和 masking 的原型网络：4. 其他5. 论文链接 1. 摘要 在少样本分类中，我们关注于学习一个可以用很少的标记数据训练一个分类器的...
【综述翻译】Deep Metric Learning for Few-Shot Image Classification: A Review of Recent Developments
cainiaomyf的博客
10-10 2346
Few-shot 图像分类是一个具有挑战性的问题，旨在仅基于少量的训练图像实现人类级别的识别能力。小样本图像
少样本学习系列(一)【Metrics-Based Methods】
小小何先生的学习之旅
07-10 3951
  如下图所示，传统的图像分类任务是基于左边的给定训练数据，获得model，然后在右边的数据集上测试model的好坏。   而对于小样本问题，其训练数据和测试数据如下所示：   我们拥有的是大量的上方这些数据，也就是对于training中的airplane、automobile等，我们有很多数据，而对于下方Testing中像dog、frog等新的分类问题，只有很少的标注数据。   在了解Matching Networks之前，先要理解一下One-Shot Learning中的一个非常基础的概念N-way
Meta-learning综述
Iron_lyk Blog
05-12 1843
本文首先回顾了监督、无监督、弱监督学习方法的联系和区别，并进一步回顾了域偏移、域适应、域泛化和迁移学习的定义，以及详细介绍了小样本学习（Few-shot Learning），最后全面了解元学习，并比较了它与传统机器学习的相同与区别。
Few-shot Learning (少样本学习) == Meta-Learning (元学习)
天狼啸月1990的博客
03-29 2206
1. 背景 Artificial Intelligence --> Machine Learning --> Deep Learning --> Deep Reinforcement Learning --> Deep Meta Learning 在Machine Learning时代，复杂一点的分类问题效果就不好了，Deep Learning深度学习的出现基本上解决了一对一映射的问题，比如说图像分类，一个输入对一个输出，因此出现了AlexNet这样的里程碑式的成果。但如果输出对
【论文翻译】Meta Relational Learning for Few-Shot Link Prediction in Knowledge Graphs
fadeG的博客
03-04 2254
【论文翻译】Meta Relational Learning for Few-Shot Link Prediction in Knowledge Graphs （基于元关系学习的小样本知识图谱链接预测 ） 2019年 EMNLP 摘要 ​ 关系预测是一种重要的知识图谱补全，基于嵌入的方法对于知识图谱关系预测很有用，但对于只有少量的有效三元组来说效果甚微。本文采取了一种元学习框架（Mate-R）来实现常见缺富有挑战性的小样本知识图谱关系预测。也就是说，通过观察少数几个有效三元组来预测一个新三元组的关系。
IEEE TII | 论文速递！Meta-learning ！Meta-GENE：基于元学习的领域泛化框架，用于智能故障诊断
Python_cocola的博客
10-18 1375
论文提出了一个基于元学习的DG框架，如图1所示。该框架包括双层元学习方式下的梯度对齐、语义匹配和不可见的DG。本文将在下文中详细讨论每个组件。图1 基于元学习的DG框架。
【有啥问啥】深入探讨元学习（Meta-Learning）：从“学习如何学习”到机器智能的飞跃
Chauvin的博客
09-03 2326
元学习的核心思想是将学习过程本身作为一个可以被学习和优化的对象。与传统的机器学习不同，元学习并不只是针对单一任务进行训练，而是希望通过在多个任务上训练，使得模型能够捕捉到任务之间的共性，从而在面对新任务时能够快速适应。换句话说，元学习试图在“任务层面”进行泛化，而不仅仅是在“数据层面”进行泛化。元学习作为机器学习领域的前沿技术，已经在多个应用场景中展现了巨大的潜力。通过学习如何学习，元学习为模型提供了快速适应新任务的能力，特别是在少样本学习、强化学习等领域中，元学习有望带来革命性的突破。
利用论文深度剖析few-shot learning(少样本学习)中的way-shot问题
qlkaicx的博客
11-06 1252
利用论文深度剖析few-shot learning(少样本学习)中的way-shot问题，讲述一下支持集，查询集，元学习中的元任务
meta-learning based FD论文阅读笔记
qq_41915671的博客
11-02 808
（1）a temporal convolutional module is proposed to relieve overfitting due to the depth of the model, which can fully excavate temporal features along the depth of the network. （2）A novel deep learning generalization framework SeMeF—is proposed to make full
learning to propagate labels：transductive propagation network for few-shot learning||论文阅读
VIEO
06-05 617
元学习论文总结||小样本学习论文总结 2017-2019年计算机视觉顶会文章收录 AAAI2017-2019 CVPR2017-2019 ECCV2018 ICCV2017-2019 ICLR2017-2019 NIPS2017-2019 https://blog.youkuaiyun.com/choose_c/article/details/86560074 http://www.zhua...
如何通过Meta Learning实现域泛化（Domain Generalization）？
Paper weekly
04-06 3892
©作者 |丘明姗单位 |华南理工大学研究方向 |领域泛化域泛化（Domain Generalization）中有很多工作是用 meta learning 做的。Meta learning 在 few shot 中很常用，它的目的也是提升模型的泛化性，所以我们来看看 DG 中采用 meta learning 的工作。Revisit Meta LearningMeta ...
TST MEL: Two-stage training based metric fusion learning for few-shot image classification
最新发布
10-22
基于两阶段训练的度量融合学习（TST MEL）在少样本图像分类领域有着独特的应用和意义。 在少样本图像分类问题中，面临的挑战是可用的标注样本数量极少，传统的深度学习方法往往难以在这样有限的数据上进行有效的学习和泛化。TST MEL旨在解决这一难题，通过两阶段的训练策略和度量融合的方式来提升少样本图像分类的性能。 第一阶段的训练可能侧重于学习图像的基础特征表示。在这个阶段，模型会尝试从有限的样本中提取出具有代表性的特征，这些特征能够捕捉图像的关键信息，为后续的分类任务奠定基础。例如，可能会利用卷积神经网络（CNN）等架构来进行特征提取，通过对图像的卷积、池化等操作，将图像转换为低维的特征向量。 第二阶段的训练则聚焦于度量融合。度量融合是指将多种不同的度量方式结合起来，以更全面地衡量样本之间的相似性。在少样本图像分类中，单一的度量方式可能无法准确地反映样本之间的关系，而通过融合多种度量，如欧氏距离、余弦相似度等，可以更精准地判断图像之间的相似程度，从而提高分类的准确性。 通过两阶段的训练和度量融合，TST MEL能够充分利用有限的样本信息，在少样本图像分类任务中取得较好的效果。它能够在样本数量较少的情况下，依然保持较高的分类准确率，为少样本图像分类问题提供了一种有效的解决方案。 ```python # 以下是一个简单的示例代码，模拟TST MEL的部分思想 import torch import torch.nn as nn # 假设这是一个简单的CNN用于特征提取（第一阶段） class SimpleCNN(nn.Module): def __init__(self): super(SimpleCNN, self).__init__() self.conv1 = nn.Conv2d(3, 16, kernel_size=3, padding=1) self.pool = nn.MaxPool2d(2, 2) self.fc1 = nn.Linear(16 * 16 * 16, 128) def forward(self, x): x = self.pool(torch.relu(self.conv1(x))) x = x.view(-1, 16 * 16 * 16) x = torch.relu(self.fc1(x)) return x # 模拟第二阶段的度量融合 def metric_fusion(feature1, feature2): # 这里简单地结合欧氏距离和余弦相似度 euclidean_distance = torch.norm(feature1 - feature2) cosine_similarity = nn.functional.cosine_similarity(feature1, feature2) # 可以根据实际情况调整权重 combined_metric = 0.5 * euclidean_distance + 0.5 * cosine_similarity return combined_metric # 示例使用 model = SimpleCNN() image1 = torch.randn(1, 3, 32, 32) image2 = torch.randn(1, 3, 32, 32) feature1 = model(image1) feature2 = model(image2) combined_metric = metric_fusion(feature1, feature2) print(combined_metric) ```
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值