注意力魔改 | 超强轴承故障诊断模型！

最新推荐文章于 2024-12-16 22:17:31 发布
最新推荐文章于 2024-12-16 22:17:31 发布
阅读量1.5k 收藏 33
点赞数 33
CC 4.0 BY-SA版权
分类专栏： 信号处理 文章标签： 人工智能
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/2402_85668383/article/details/143726402

往期精彩内容：

Python-凯斯西储大学（CWRU）轴承数据解读与分类处理

Pytorch-LSTM轴承故障一维信号分类(一)-优快云博客

Pytorch-CNN轴承故障一维信号分类(二)-优快云博客

Pytorch-Transformer轴承故障一维信号分类(三)-优快云博客

三十多个开源数据集 | 故障诊断再也不用担心数据集了！

Python轴承故障诊断 (一)短时傅里叶变换STFT-优快云博客

Python轴承故障诊断 (二)连续小波变换CWT-优快云博客

Python轴承故障诊断 (三)经验模态分解EMD-优快云博客

Python轴承故障诊断 (四)基于EMD-CNN的故障分类-优快云博客

Python轴承故障诊断 (五)基于EMD-LSTM的故障分类-优快云博客

Python轴承故障诊断 (六)基于EMD-Transformer的故障分类-优快云博客

Python轴承故障诊断 (七)基于EMD-CNN-LSTM的故障分类-优快云博客

Python轴承故障诊断 (八)基于EMD-CNN-GRU并行模型的故障分类-优快云博客

Python轴承故障诊断 (九)基于VMD+CNN-BiLSTM的故障分类-优快云博客

Python轴承故障诊断 (十)基于VMD+CNN-Transfromer的故障分类-优快云博客

基于FFT + CNN - BiGRU-Attention 时域、频域特征注意力融合的轴承故障识别模型-优快云博客

基于FFT + CNN - Transformer 时域、频域特征融合的轴承故障识别模型-优快云博客

Python轴承故障诊断 (11)基于VMD+CNN-BiGRU-Attenion的故障分类-优快云博客

交叉注意力融合时域、频域特征的FFT + CNN -BiLSTM-CrossAttention轴承故障识别模型-优快云博客

交叉注意力融合时域、频域特征的FFT + CNN-Transformer-CrossAttention轴承故障识别模型-优快云博客

轴承故障诊断 (12)基于交叉注意力特征融合的VMD+CNN-BiLSTM-CrossAttention故障识别模型_基于残差混合域注意力cnn的轴承故障诊断及其时频域可解释性-优快云博客

Python轴承故障诊断 (13)基于故障信号特征提取的超强机器学习识别模型-优快云博客

Python轴承故障诊断 (14)高创新故障识别模型-优快云博客

Python轴承故障诊断 (15)基于CNN-Transformer的一维故障信号识别模型-优快云博客

Python轴承故障诊断 (16)高创新故障识别模型（二）-优快云博客

轴承故障全家桶更新 | 基于时频图像的分类算法-优快云博客

Python轴承故障诊断 (17)基于TCN-CNN并行的一维故障信号识别模型-优快云博客

独家原创 | SCI 1区 高创新轴承故障诊断模型！-优快云博客

基于 GADF+Swin-CNN-GAM 的高创新轴承故障诊断模型-优快云博客

Python轴承故障诊断 (18)基于CNN-TCN-Attention的创新诊断模型-优快云博客

基于通道注意力SENet的改进VGG与基于全局注意力机制GlobalAttention的BiGRU并行轴承故障诊断模型!

环境：python 3.9  pytorch 1.8 及其以上都可以

效果：在西储大学、哈工大航空数据集上均表现 百分百故障识别率！

模型创新点还未发表，有毕业设计或者发小论文需求的同学必看，模块丰富，创新度高，性能优越！

创新点：

1.提出一种基于快速傅里叶变换（FFT）和变分模态分解VMD的数据预处理方法，提取轴承振动信号在不同频率范围上的故障特征，捕捉故障信号的时频特性，减少噪声的影响。有助于改善轴承故障的检测和诊断效果，提高故障诊断的准确性和灵敏度；（独家原创）

2.我们设计出一种基于通道注意力机制(SENet)的改进VGG模型提取故障信号预处理后的多尺度特征的空间特征；（独家原创）

3.提出一种基于GlobalAttention优化的BiGRU网络模型来提取故障信号预处理后的多尺度特征的时域特征；（独家原创）

4. 通过并行模型融合空间、时域特征，从而提高特征的表示能力来实现故障信号的识别，取得了极佳的效果！

注意：此次产品，我们还有配套的模型讲解（方便学习网络结构）和参数调节讲解！有毕业设计或者发小论文需求的同学必看，模块丰富，创新度高，性能优越！！

​

前言

本文基于凯斯西储大学（CWRU）轴承数据，进行快速傅里叶变换（FFT）和变分模态分解VMD的数据预处理，最后通过Python实现基于VGGSENet-BiGRUGlobalAttention的时空特征融合模型对故障数据的分类。凯斯西储大学轴承数据的详细介绍可以参考下文：

Python-凯斯西储大学（CWRU）轴承数据解读与分类处理_凯斯西储大学轴承数据集-优快云博客

1 模型整体结构

预处理:一维故障信号分别经过FFT变换、VMD分解处理，然后把变换分解后的结果进行堆叠。

​

分支一：通过基于通道注意力机制(SENet)的改进VGG模型网络，来自适应地调整通道特征的权重，使模型能够自动学习到不同通道的重要性，提取了轴承故障信号中与故障相关的重要空间特征；

分支二：预处理后的数据同时通过基于GlobalAttention优化的BiGRU网络,GlobalAttention是一种用于加强模型对输入序列不同部分的关注程度的机制。在 BiGRU 模型中，全局注意力机制可以帮助模型更好地聚焦于输入序列中最相关的部分，从而提高模型的性能和泛化能力。在每个时间步，全局注意力机制计算一个权重向量，表示模型对输入序列各个部分的关注程度，然后将这些权重应用于 BiGRU 输出的特征表示，通过对所有位置的特征进行加权，使模型能够更有针对性地关注重要的时域特征, 提高了模型对轴承故障信号时域特征的感知能力；

特征融合：然后两个分支提取的空间特征和全局时域特征通过堆叠融合，使模型能够更好地融合不同层次的特征表示，提高模型性能和泛化能力。

通道注意力机制

Squeeze-and-Excitation Networks

​

全局注意力机制：

Global Attention Mechanism

​

2 轴承故障数据的预处理

2.1 导入数据

参考之前的文章，进行故障10分类的预处理，凯斯西储大学轴承数据10分类数据集：

​

train_set、val_set、test_set 均为按照7：2：1划分训练集、验证集、测试集，最后保存数据

2.2 故障FFT变换可视化

图片​

2.3 故障VMD分解可视化

图片​

2.4 故障数据的特征预处理数据集制作

图片​

3 基于FFT-VMD+VGGSENet-BiGRUGlobalAttention的轴承故障诊断分类

3.1 定义VGGSENet-BiGRUGlobalAttention分类网络模型

​

3.2 设置参数，训练模型

​

50个epoch，准确率100%，用FFT-VMD+VGGSENet-BiGRUGlobalAttention网络分类效果显著，快速傅里叶变换（FFT）和变分模态分解（VMD）可以有效地挖掘信号中的多尺度特征，VGGSENet-BiGRUGlobalAttention创新模型能够充分提取轴承故障信号的空间和时序特征，收敛速度快，性能优越，精度高，能够从故障信号频域、时域特征中属于提取出对模型识别重要的特征，效果明显，创新度高!

注意调整参数：

  • 可以适当调整VGG层数和隐藏层的维度，微调学习率；

  • 调整BiGRU层数和注意力维度数，增加更多的 epoch （注意防止过拟合）

  • 可以改变一维信号堆叠的形状（设置合适的长度和维度）

3.3 模型评估

准确率、精确率、召回率、F1 Score

​

故障十分类混淆矩阵：

​

4 代码、数据整理如下：

YOLOv10涨点改进：注意力独家魔改 | 蒙特卡罗注意力(MCAttn)模块，基于尺度变化的注意力网络 | 2024年7月最新成果
①答疑群聊服务；②YOLO大模型知识问答系统；③计算机视觉论文生成智能体；
07-11 795
替换YOLOv10中的PSA进行二次创新，1）MCAttn注意力替换 PSA中的多头自注意力模块MHSA注意力；2） MCAttn直接替换 PSA；
YOLO11涨点优化：注意力魔改 | 通道注意力和空间注意力CBAM | 全新注意力GAM：超越CBAM，不计成本提高精度
①答疑群聊服务；②YOLO大模型知识问答系统；③计算机视觉论文生成智能体；
10-09 2397
分别加入到YOLO11的backbone、neck、detect，助力涨点
一种用于轴承故障诊断的迁移学习模型_张根保.pdf
09-17
一种用于轴承故障诊断的迁移学习模型
（python）论文“时变转速下基于改进图注意力网络的轴承半监督故障诊断”源码
05-23
（python）论文“时变转速下基于改进图注意力网络的轴承半监督故障诊断”源码
交叉注意力融合时域、频域特征的FFT + CNN -BiLSTM-CrossAttention轴承故障识别模型
10-19 1625
本文基于凯斯西储大学（CWRU）轴承数据，进行快速傅里叶变换（FFT）的介绍与数据预处理，最后通过Python实现基于FFT的CNN-BiLSTM-CrossAttention模型对故障数据的分类。
滚动轴承常见故障及其基本模型
联系方式：927632640
08-14 9420
振动检测法是最有效的诊断方法，本文主要针对振动信号特征、故障特征频率、振动信号与线性调频信号之间的关系及振动信号拟合进行分析和讨论。
【故障诊断】基于长短时记忆神经网络结合注意力机制LSTM-Attention实现故障诊断附matlab代码
matlab_dingdang的博客
04-09 1079
本文提出了一种基于长短时记忆神经网络（LSTM）结合注意力机制（Attention）的故障诊断方法。该方法利用LSTM网络对时序数据进行建模，并通过注意力机制关注故障特征，从而提高故障诊断的准确性。
YOLOv10涨点改进：注意力魔改 | 通道注意力和空间注意力CBAM，全新注意力GAM：超越CBAM，不计成本提高精度
①答疑群聊服务；②YOLO大模型知识问答系统；③计算机视觉论文生成智能体；
05-31 2242
通道注意力和空间注意力CBAM，全新注意力GAM：超越CBAM，不计成本提高精度
YOLOv10涨点改进：注意力魔改 | 轻量级自注意力机制CoordAttention | CVPR2021
①答疑群聊服务；②YOLO大模型知识问答系统；③计算机视觉论文生成智能体；
05-31 2988
在NEU-DET案列进行可行性验证，1)mAP50从0.683提升至0.7 ;2)mAP50从0.683提升至0.704
YOLOv8独家改进： 注意力魔改 | 高效的部分自注意力（PSA）模块，来自YOLOv10
会AI的学姐
06-04 910
引入YOLOv10中的一种高效的部分自注意力（PSA）模块设计，在1×1卷积后将特征均匀地分为两部分。
故障识别：CNN-BiLSTM-SelfAttention时空特征融合多头自注意力机制的故障识别程序，数据由Excel导入，直接运行！
weixin_48747334的博客
11-23 2166
结合这三种层的结构，模型首先通过CNN层来捕捉输入故障序列的空间特征，然后通过双向BiLSTM层来捕捉故障序列时序相关性，最后通过Self-Attention层来更好地理解序列内部的关联。这种综合结构可以更全面地处理故障序列数据。 适用于各种数据分类场景，如滚动轴承故障、变压器油气故障、电力系统输电线路故障区域、绝缘子、配网、电能质量扰动，等领域的识别、诊断和分类。
注意力机制
qq_45496282的博客
11-29 3156
引入注意力机制-异常检测 在异常检测中，可以引入注意力机制来更加的关注需要检测的缺陷部分作为出发点。
轴承故障诊断经典模型pytorch复现(一)——WDCNN
热门推荐
qq_23345187的博客
04-07 2万+
论文地址：《A New Deep Learning Model for Fault Diagnosis with Good Anti-Noise and Domain Adaptation Ability on Raw Vibration Signals》—张伟 我们要复现的论文是轴承故障诊断里比较经典的一个模型WDCNN，最近在看的很多论文都把WDCNN作为比较模型，但是只找到过tensorflow版本的源码且只有原始的WDCNN没有改进的WDCNN-AdaBN版本，而我自己又是用的pytorch，因此就
多模态-故障诊断 | 大核卷积开启视觉新纪元!
12-16 2142
本期推出结合 CVPR2022 视觉顶会论文 RepLKNet 的多模态故障诊断创新模型，适合各种故障诊断领域、电能质量扰动信号、各种声信号、脑电信号等分类任务!
分享一个轴承数据集，单一故障+耦合故障的滚动轴承故障数据
woaipythonmeme的博客
05-08 1011
“本文介绍一个使用次数较多的国内滚动轴承故障数据。该数据来自国内某航空发动机设计研究所，目前已在多篇文献被使用。文章最后会列出使用该数据集的相关文献。”关于轴承诊断的公开数据中，单一故障居多，而在实际的过程中，耦合故障也是时常发生的，因此耦合故障更有现实意义，也更能评价故障诊断模型的性能。今天为大家带来一个国内滚动轴承故障模拟数据，含单一故障数据和耦合故障数据。01 实验器材该转子试验器主要由安装...
【故障诊断】基于基于卷积神经网络-双向门控循环单元结合注意力机制CNN-BIGRU-Attention实现故障诊断附matlab代码
m0_57702748的博客
10-29 615
故障诊断一直是工业领域中一个重要的任务，它可以帮助企业及时发现和解决设备故障，提高生产效率和质量。近年来，随着人工智能技术的快速发展，基于深度学习的故障诊断方法得到了广泛关注和应用。本文将介绍一种基于卷积神经网络-双向门控循环单元结合注意力机制的故障诊断算法流程，称为CNN-BIGRU-Attention。首先，我们需要明确故障诊断的目标和流程。故障诊断的目标是根据设备的传感器数据和其他相关信息，判断设备是否存在故障，并确定故障的类型和原因。
基于FFT频谱与小波时频图的双流CNN轴承故障诊断模型
qq_41043389的博客
06-11 1万+
基于2D-CNN与1D-CNN，构建双通道的CNN（双流CNN），其中2D-CNN以小波时频图为输入，而1D-CNN以FFT频谱信号为输入，分别进行卷积层与池化层的特征提取之后，拉伸为特征向量，然后在汇聚层进行拼接，接着是全连接层与分类层。此种方法可以实现1维时域特征与2维时频域特征的有效融合，并以此来提高分类正确率。
注意力魔改
最新发布
03-17
### 注意力机制在YOLOv8中的应用 #### PSA注意力机制的应用 PSA（Pyramid Spatial Attention）是一种空间金字塔注意机制，它通过多尺度的空间特征提取来增强模型对不同大小目标的检测能力。为了将PSA引入到YOLOv8中，可以按照以下方法操作[^1]： - 首先定义PSA模块类，在该类中实现多尺度卷积以及后续的融合逻辑。 - 将PSA模块嵌入到YOLOv8的骨干网络或颈部结构中。 以下是PSA模块的一个简化版本代码示例： ```python import torch.nn as nn class PSAModule(nn.Module): def __init__(self, channels=512, reduction=4): super(PSAModule, self).__init__() self.conv_reduce = nn.Conv2d(channels, channels // reduction, kernel_size=1) self.relu = nn.ReLU(inplace=True) self.conv_expand = nn.Conv2d(channels // reduction, channels, kernel_size=1) def forward(self, x): out = self.conv_reduce(x) out = self.relu(out) out = self.conv_expand(out) return x + out ``` --- #### SEAM注意力机制的作用 SEAM（Spatial Enhanced Attention Mechanism）主要针对物体遮挡场景下的检测性能提升进行了优化。其核心思想是在空间维度上进一步强化特征图的有效区域表达能力。具体来说，SEAM通过对输入特征图进行逐像素加权处理，突出显示感兴趣的目标部分[^2]。 下面是一个简单的SEAM模块实现： ```python class SEAMModule(nn.Module): def __init__(self, channel, reduction=16): super(SEAMModule, self).__init__() self.avg_pool = nn.AdaptiveAvgPool2d(1) self.fc = nn.Sequential( nn.Linear(channel, channel // reduction), nn.ReLU(inplace=True), nn.Linear(channel // reduction, channel), nn.Sigmoid() ) def forward(self, x): b, c, _, _ = x.size() y = self.avg_pool(x).view(b, c) y = self.fc(y).view(b, c, 1, 1) return x * y.expand_as(x) ``` --- #### SEAttention机制集成至YOLOv8 SENet的核心在于通道间的依赖关系建模，而SEAttention则将其扩展到了更广泛的视觉任务领域。对于YOLOv8而言，可以在主干网络（Backbone）、FPN（Feature Pyramid Network）或者PANet（Path Aggregation Network）中加入SEAttention模块以提高整体表现[^3]。 下面是将SEAttention应用于YOLOv8的具体步骤说明： 1. 定义`SEAttention`类； 2. 修改配置文件，指定哪些层启用此功能； 3. 更新训练脚本以便支持新组件加载与保存。 这里给出一段基础版的SEAttention代码片段作为参考： ```python class SEAttention(nn.Module): def __init__(self, channel=512, reduction=16): super(SEAttention, self).__init__() self.avg_pool = nn.AdaptiveAvgPool2d(1) self.fc = nn.Sequential( nn.Linear(channel, channel // reduction, bias=False), nn.ReLU(inplace=True), nn.Linear(channel // reduction, channel, bias=False), nn.Sigmoid() ) def forward(self, x): b, c, _, _ = x.size() y = self.avg_pool(x).view(b, c) y = self.fc(y).view(b, c, 1, 1) return x * y.expand_as(x) ``` --- #### 总结 无论是采用PSA、SEAM还是SEAttention等不同的注意力机制，都可以显著改善YOLOv8在复杂背景条件下的识别精度。实际开发过程中需依据特定应用场景选择合适的方案并调整超参数设置。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值