基于RNN循环神经网络、LSTM、GRU和改进GRU空中目标意图识别实现(附源码+数据集+程序说明)

置顶 已于 2024-10-31 15:09:44 修改
阅读量3.3k 收藏 28
点赞数 2
分类专栏： 深度学习 人工智能 文章标签： rnn 深度学习 循环神经网络 LSTM循环神经网络 空中目标意图识别
于 2022-11-10 23:29:27 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/DeepLearning_/article/details/127798309
版权

文章目录

前言

目标战术意图由一系列动作实现，因此目标状态呈现时序动态变化特征。针对目标意图识别问题的特点，本文是对基于循环神经网络进行意图识别的实现。现有的用于复杂环境下对目标意图识别方法主要有模板匹配、证据推理、贝叶斯网络和神经网络等。

数据集

类别：预警、反辐射、远距离支援干扰、轰炸
数据量够大，不用担心

基于RNN(循环神经网络)空中目标意图识别-kereas完整源码+数据集+评估指标曲线绘制+程序说明及注释

下载链接：https://download.youkuaiyun.com/download/DeepLearning_/89939090

基于LSTM循环神经网络空中目标意图识别-kereas完整源码+数据集+评估指标曲线绘制+程序说明及注释

下载链接：https://download.youkuaiyun.com/download/DeepLearning_/89939097

基于GRU循环神经网络空中目标意图识别-kereas完整源码+数据集+评估指标曲线绘制+程序说明及注释

下载链接：https://download.youkuaiyun.com/download/DeepLearning_/89938743

基于改进GRU(添加注意力机制)循环神经网络空中目标意图识别-kereas完整源码+数据集+评估指标曲线绘制+程序说明及注释

下载链接：https://download.youkuaiyun.com/download/DeepLearning_/89939093

提示：以下是本篇文章正文内容，下面案例可供参考

一、引入库

#!/usr/bin/env python
# coding: utf-8

import tensorflow as tf
import keras.backend as K
from keras.callbacks import ReduceLROnPlateau
from keras.layers import Multiply
from keras.layers.core import *
from keras.layers.recurrent import LSTM
from keras.layers.recurrent import GRU
from keras.layers.recurrent import SimpleRNN
from keras.layers import Bidirectional
from keras.models import *
from sklearn.model_selection import train_test_split
from sklearn.metrics import confusion_matrix
import xml.etree.ElementTree as ET
import matplotlib.pyplot as plt
from collections import Counter
import pandas as pd
import numpy as np
import os
import time
import random
import math

二、程序主干

1.attention层的定义

代码如下（示例）：

def attention_3d_block(inputs,SINGLE_ATTENTION_VECTOR):
    input_dim = int(inputs.shape[2])
    a = Permute((2, 1))(inputs)#(time_steps, input_dim)维度转置
    a = Reshape((input_dim, TIME_STEPS))(a) 
    a = Dense(TIME_STEPS, activation='softmax')(a)#计算每个特征的权重
    if SINGLE_ATTENTION_VECTOR:#是否共享注意力权重
        a = Lambda(lambda x: K.mean(x, axis=1), name='dim_reduction')(a)
        a = RepeatVector(input_dim)(a)
    a_probs = Permute((2, 1), name='attention_vec')(a)
    output_attention_mul = Multiply()([inputs, a_probs])
    return output_attention_mul

2.在GRU层后添加Attention层

代码如下（示例）：

def modelAttentionAfterGRU():
    K.clear_session() #清除之前的模型
    inputs = Input(shape=(TIME_STEPS, INPUT_DIM,))
    GRU_out = GRU(units, return_sequences=True)(inputs)

    attention_mul = Flatten()(attention_mul)
    output = Dense(3, activation='softmax')(attention_mul)
    model = Model(input=[inputs], output=output)
    return model

3.在双向GRU层后添加Attention层

def modelAttentionBiLSTM():
    K.clear_session()
    inputs = Input(shape=(TIME_STEPS, INPUT_DIM,))
    units = 128
    attention_mul = Flatten()(attention_mul)
    inputs= Dense(3, activativa='softmax')(attention_mul)
    model = Model(input=[inputs], output=output)
    return model

def getData(data_length):
    x_data = []
    label = []
    specimen_size = 1500 #设定输入序列长度，只取前1500个数据点
    #特征值取值范围，用于归一化处理
    d_max = 8922;d_min = 0;d_gap = d_max-d_min
    c_max = 29;c_min = 0;c_gap = c_max-c_min
    p = getDocumentList('./SCENARIO_DATA')
    for pp in p:
        q = getDocumentList('./SCENARIO_DATA/%s'%(pp))
        for qq in q:
            tree = ET.parse('./SCENARIO_DATA/%s/%s'%(pp,qq))
            root = tree.getroot()#获取xml文档的根节点
            if (root[0].tag=='轰炸' or root[0].tag=='反辐射' or root[0].tag=='护航'):
                x_signal = [ [root[0][i].attrib[j] for j in ['x','y','z']] for i in range(len(root[0])) if root[0][i].tag=='数据' and i<specimen_size]
                if(len(x_signal)>1000):
                    x_signal=list(np.array(x_signal,dtype=float))
                    d0 = 0
                    x_feature = []
                    if(len(x_signal)<data_length):
                        data_length = len(x_signal)
                    for i in range(0,data_length-5,3):
                        d = 0
                        for j in range(i,i+5):
                            dx = math.pow(x_signal[j+1][0]-x_signal[j][0],2)
                            dy = math.pow(x_signal[j+1][1]-x_signal[j][1],2)
                            dz = math.pow(x_signal[j+1][2]-x_signal[j][2],2)
                            d += math.sqrt(dx+dy+dz)
                        a = (d/15-d0/15)/6
                        d0 = d #保留用于下一段加速度的计算
                        #使用窗口中的三个点构建三角形拟合二次曲线
                        len1 = math.sqrt( math.pow(x_signal[i+2][0]-x_signal[i][0],2)+math.pow(x_signal[i+2][1]-x_signal[i][1],2)+math.pow(x_signal[i+2][2]-x_signal[i][2],2) )
                        len2 = math.sqrt( math.pow(x_signal[i+2][0]-x_signal[i+4][0],2)+math.pow(x_signal[i+2][1]-x_signal[i+4][1],2)+math.pow(x_signal[i+2][2]-x_signal[i+4][2],2) )
                        len3 = math.sqrt( math.pow(x_signal[i+4][0]-x_signal[i+2][0],2)+math.pow(x_signal[i+4][1]-x_signal[i][1],2)+math.pow(x_signal[i+4][2]-x_signal[i][2],2) )
                        if( len1==0 or len2==0 or len3==0):
                            c = 0
                        else:
                            half = (len1+len2+len3)/2
                            if(half<len1 or half<len2 or half<len3):
                                c = 0
                            else:
                                h = 2*math.sqrt( half*(half-len1)*(half-len2)*(half-len3) )/len3
                                xh = math.sqrt(len1*len1-h*h)
                                poly = np.polyfit([0,xh,len3],[1,h,0],deg=2)
                                c = abs(poly[0])
                        x_feature.append([(d-d_min)/d_gap,(a-a_min)/a_gap,(c-c_min)/c_gap])#归一化处理
    
                    if len(x_feature)<500:
                        for j in range(500-len(x_feature)):
                            x_feature.append([0,0,0])

                    if root[0].tag=='轰炸':
                        label.append(0)
                        x_data.append(x_feature)
                    elif root[0].tag=='反辐射':
                        label.append(1)
                        x_data.append(x_feature)
                    elif root[0].tag=='护航':
                        label.append(2)
                        x_data.append(x_feature)

    x_data=np.array(x_data,dtype=float)
    #print(Counter(label))
    return x_data,label

INPUT_DIM = 3 #输入特征维度
TIME_STEPS = 500 #输入序列长度

if __name__ == '__main__':
    
    x_data,y_data = getData(1500)
    training_time = []
    weighted_error_rate = []
    reduce_lr =  tf.keras.callbacks.ReduceLROnPlateau(monitor='val_loss',factor=0.1,verbose=1,min_lr=0.0001,patience=10)#min_lr=0.0001
    for i_test in range(5):
        x_train,x_test, y_train,y_test= train_test_split(x_data, y_data, test_size=0.2, random_state=i_test, shuffle=True, stratify=y_data)
        start = time.time()
        #m = modelGRU() 
        m.compile(optimizer='adam', loss='sparse_categorical_crossentropy', metrics=['accuracy'])
        m.summary()
        historyGRU = m.fit([x_train], y_train, epochs=200, batch_size=32, validation_split=0.1,shuffle=True,callbacks=[reduce_lr])
        end = time.time()
        training_time.append(end-start)
        pred = m.predict(x_test)
        weighted_error_rate.append(weighted_error_rate_i)
    print("training_time: %0.3f s" % (np.mean(training_time)))  #均值和方差
    print("weighted_error_rate: %0.3f (± %0.3f)" % (np.mean(weighted_error_rate), np.var(weighted_error_rate))) #均值和方差

    #模型训练时的Loss可视化
    accGRU = historyGRU.history['accuracy']  # 训练集准确率
    lossGRU = historyGRU.history['loss']  # 训练集损失
    plt.plot(lossGRU, label='GRU')
    #plt.title('Training Loss')
    #使用中文图注
    plt.rcParams['font.sans-serif']=['SimHei']
    plt.rcParams['axes.unicode_minus']=False
    plt.xlabel('训练步数')
    plt.ylabel('损失')
    plt.legend()
    #plt.savefig('./训练损失.jpg')
    plt.show()

三、各个函数的意义如下

1、getData()函数负责读取xml文件，并处理成数据序列及对应的标签序列。参数data_length决定了所读取序列的长度。

2、getDocumentList()函数用于辅助getData()函数进行数据读取。

3、modelRNN()、modelLSTM()、modelGRU()都用于实现最基本的循环神经网络模型，只是所用神经元类型不同，分别为最基础的RNN、LSTM和GRU。

4、attention_3d_block()函数定义了Attention层，参数SINGLE_ATTENTION_VECTOR为True时共享注意力权重。注意力权重共享是说，我们的特征在一个时间结点上是多维的，即有可能是多个特征随时间变换一起发生了变换，那对应的注意力算出来也是多维的。此时，是多维特征共享一个注意力权重，还是每一维特征单独有一个注意力权重呢？当SINGLE_ATTENTION_VECTOR=True时，Lambda层将原本多维的注意力权重取平均，RepeatVector层再按特征维度复制粘贴，那么每一维特征的权重都是一样的了，也就是所说的共享一个注意力。

5、modelAttentionAfterGRU()用于实现在GRU层之后添加Attention层的模型。modelAttentionBiLSTM()用于实现在双向GRU层之后添加Attention层的模型。

6、全局变量INPUT_DIM表示输入特征的维度；TIME_STEPS = 500 表示输入到神经网络层序列的长度。

7、主函数中给出了一个示例：读取数据，划分训练集和测试集，多次训练神经网络模型进行交叉验证，计算加权错误率Weighted Error Rate和训练模型所用时间，最后将模型训练过程中的Loss（也可换成其他指标）变化可视化。

智能家居助手（五）-意图识别：神经网络-代码实现篇
Huoyo
03-14 689
本章重点是接着智能家居助手（四）-意图识别：神经网络-问题分析篇的问题分析，进行代码的实现 首先回顾一下要识别的意图是三个 由于神经网络并不能直接处理文本信息，需要将意图转换为对应的数字，再转成one hot形式（需要说明的是one hot并非必须，只是一种比较方便的计算方式，具体参考什么是one hot） 假设数据集的标签： labels = ['关灯','其他','开灯','关灯','其他'] 先转成数字映射： labels = [1,2,0,1,2] 再转成one hot: import.
Python开发基于深度学习RNN(循环神经网络)空中目标意图识别系统（含完整源码+数据集+程序说明及注释）.zip
10-31
Python开发基于深度学习RNN(循环神经网络)空中目标意图识别系统（含完整源码+数据集+程序说明及注释）.zip 【项目介绍】 程序为使用RNN循环神经网络进行意图识别的程序 程序设计语言为Python 3.7.6；开发环境为Anaconda。循环神经网络模型由Python的keras 2.3.0库实现。 数据集为：SCENARIO_DATA_UTF8.zip 代码可以生成损失函数曲线，精确度曲线； 可自定义修改梯度下降方法，损失函数。 【特别强调】 1、项目资源可能会实时更新，解决一些未知bug； 2、非自己账号在csdn官方下载，而通过第三方代下载，不对资源作任何保证，且不提供任何形式的技术支持和答疑！！！ 百分百可运行，可远程部署+指导！
【CV数据集介绍-21】SkyFusion 航空目标检测数据集：卫星图像中的微小物体检测利器
qq_38614074的博客
05-15 940
一、引言二、数据集概况三、数据集构成四、数据集特点五、应用场景六、总结SkyFusion 航空目标检测数据集凭借其高质量的标注、多样化的目标类别和专注于小目标检测的特点，成为了卫星图像分析领域不可或缺的宝贵资源。它不仅推动了航空目标检测技术的发展，还为军事、环境、城市规划等多个领域的应用提供了坚实的数据支持。如果你对卫星图像中的微小物体检测感兴趣，SkyFusion 数据集无疑是你的不二之选。
基于神经网络的文本意图（intent）识别
新缸中之脑
12-07 1万+
了解聊天机器人（chatbots）的工作原理很重要。 聊天机器人的一个基本机制是利用文本分类器进行意图识别 。 我们来看一下人工神经网络（ANN）的内部工作原理。 在这个教程中，我们将使用2层神经元（1个隐层）和词袋（bag of words）方法来组织我们的训练数据。 文本分类的方法有三种 ： 模式匹配 ， 传统算法和神经网络 。
基于神经网络的意图识别 - 基础版
sinat_15355869的博客
06-29 1719
Github: https://github.com/yjfiejd/Text_Classification_NN/blob/master/text_classification_6.28.py # -*- coding:utf8 -*- # @TIME : 2018/6/28 下午10:34 # @Author : Allen # @File : text_classification_6.28...
航空遥感图像(Aerial Images)目标检测数据集汇总
热门推荐
蚂蚁搬家
12-18 7万+
常规目标检测数据集有很多，现在前沿的目标检测算法（如Faster R-CNN, Yolo, SSD, Mask R-CNN等）基本都是在这些常规数据集上实验的，但是，基于常规数据集训练的分类器，在航空遥感图像上的检测效果并不好，主要原因是航空遥感图像有其特殊性： 1，尺度多样性，航空遥感图像从几百米到近万米的拍摄高度都有，且地面目标即使是同类目标也大小不一，如港口的轮船大的有300多米，小的也只...
NASA和CALCE锂电池数据集基于Pytorch和RNN+LSTM+GRU寿命预测源码+使用说明文档
最新发布
06-05
NASA和CALCE锂电池数据集基于Pytorch和RNN+LSTM+GRU寿命预测源码+使用说明文档NASA和CALCE锂电池数据集基于Pytorch和RNN+LSTM+GRU寿命预测源码+使用说明文档NASA和CALCE锂电池数据集基于Pytorch和RNN+LSTM+GRU寿命...
NASA和CALCE 锂电池数据集基于Pytorch的RNN LSTM GRU 寿命预测源码+说明文档
06-05
NASA和CALCE 锂电池数据集基于Pytorch的RNN LSTM GRU 寿命预测源码+说明文档NASA和CALCE 锂电池数据集基于Pytorch的RNN LSTM GRU 寿命预测源码+说明文档NASA和CALCE 锂电池数据集基于Pytorch的RNN LSTM GRU 寿命预测...
NASA和CALCE 锂电池数据集基于Pytorch的RNN LSTM GRU 寿命预测源码+使用说明文档.zip
05-21
锂电池的容量数据其实是一个时间序列，MLP 并不能很好地对时序数据进行分析。对时间序列的分析最经典的算法当然要数 RNN、LSTM 和 GRU 了。 故，接下来我会主要采用 RNN、LSTM 和 GRU 这三个序列模型进行寿命预测。
基于LSTM、GRU、RNN的时间预测模型python源码+模型+数据集.zip
10-16
基于LSTM、GRU、RNN的时间预测模型python源码+模型+数据集.zip基于LSTM、GRU、RNN的时间预测模型python源码+模型+数据集.zip基于LSTM、GRU、RNN的时间预测模型python源码+模型+数据集.zip 【说明】 【1】项目代码...
Intent-Recognition:11785的意图识别和NLU项目
04-10
意图识别 11785的意图识别和NLU项目
深度学习毕设-基于改进GRU(添加注意力机制)循环神经网络空中目标意图识别系统（完整源码+数据集+程序说明及注释).zip
10-31
深度学习毕设-基于改进GRU(添加注意力机制)循环神经网络空中目标意图识别系统（完整源码+数据集+程序说明及注释).zip 【项目说明】 程序为使用改进GRU循环神经网络进行意图识别的程序 程序设计语言为Python 3.7.6；开发环境为Anaconda。循环神经网络模型由Python的keras 2.3.0库实现。 数据集为：SCENARIO_DATA_UTF8.zip 代码可以生成损失函数曲线，精确度曲线； 可自定义修改梯度下降方法，损失函数。 【特别强调】 1、项目资源可能会实时更新，解决一些未知bug； 2、非自己账号在csdn官方下载，而通过第三方代下载，不对资源作任何保证，且不提供任何形式的技术支持和答疑！！！ 百分百可运行，可远程部署+指导！
意图识别
01-20
本质是分类任务，多用在搜索引擎和智能问答中。 解决方法 1、基于词典以及模板的规则方法 核心是领域词典的构建程度，词典足够好，覆盖范围广，匹配更准确。每一个领域都有自己的词典，如电影、书籍、歌曲；一个query分配给上述三个领域其中之一，最高的匹配度和重合度就是结果。 2、基于机器学习模型来对用户的意图进行判别 标注语料应用ML或者DL训练模型进行测试。 应用fasttext进行文本分类。 作者：关平安
intention_留言意图识别_
10-04
识别用户留言
人工智能目标检测数据集（飞机卫星图）
01-28
包含一类目标：飞机，包括军用、民用和通用飞机。彩图，图片数量为1000张，尺寸为1024x1024，可用于目标检测算法的研究。
使用循环神经网络(RNN, LSTM或GRU)实现气象数据预测
05-03
使用循环神经网络(RNN, LSTM或GRU)实现气象数据预测： 数据集： tq.csv记录了某地每隔1小时的气象数据： Date Time：时间（日期是 日月年 的格式） p (mbar)：大气压 T (degC)：气温 rh (%)：湿度 使用循环神经...
智能家居助手（四）-意图识别：神经网络-问题分析篇
Huoyo
03-14 668
上一篇智能家居助手（三）-意图识别：规则模式中，讲述了基于规则的意图识别，以案例入手，实现开灯、关灯和查新闻的意图识别，本章节将通过神经网络的方式进行意图识别，为了快速入手，本章节只进行开灯和关灯的意图识别，毕竟一个精简的案例，才更容易理解（其实是本人懒，标注不完那么多的数据） 想象你要开发一个机器人，它有两个功能，开灯和关灯，这个时候你们之间的对话可能是这样的： 开始如你期待，结局却不尽人意！ 为什么会这样呢？ 是因为我们在设计的时候就只给他定义了两个意图，当有其他意图输入的时候，机器只能从设计好.
神经网络模式识别方法,神经网络模式识别代码
ynca67269的博客
09-02 1607
我的理解是神经网络可以用于预测，模式识别，聚类，fittingtools是MATLAB自带工具箱模式识别与分类都是基于原始数据通过学习训练网络来预测新的数据源，通过预测结果来确定属于哪一类。真正的聚类分析是给定初始点迭代通过计算类间距离确定属于哪一类，谱系聚类和kmeans聚类。而神经网络倾向于有监督学习，已经给定样本数据及所属类别输出为（0,1），（1,0），根据样本数据进行训练学习，再对新的数据进行计算输出，通过输出判断类别。谷歌人工智能写作项目：神经网络伪原创的确，这两个是相通的写作猫。模式识别（英语
BiLSTM意图识别
01-06
### 使用 BiLSTM 进行意图识别 在自然语言处理领域，BiLSTM（双向长短期记忆网络）是一种非常有效的工具，尤其适用于捕捉序列数据中的上下文信息。为了实现基于 BiLSTM 的意图识别系统，可以从以下几个方面着手： #### 数据预处理 首先，需要准备并清理训练数据集。这一步骤涉及去除无关字符、分词、标注标签等工作。对于意图识别来说，每条语句会被标记上对应的类别或动作。 ```python import pandas as pd from sklearn.model_selection import train_test_split # 假设有一个CSV文件作为输入源 data = pd.read_csv('intents_data.csv') sentences, labels = data['text'].tolist(), data['label'].tolist() # 划分为训练集和测试集 X_train, X_test, y_train, y_test = train_test_split(sentences, labels, test_size=0.2) ``` #### 特征工程 接着是对文本进行向量化操作。常用的方法有词袋模型(Bag of Words)，TF-IDF 或者更先进的 Word Embedding 技术如 GloVe 和 BERT embeddings。这里推荐使用预训练好的嵌入层来初始化 LSTM 输入端的权重矩阵[^3]。 ```python from tensorflow.keras.preprocessing.text import Tokenizer from tensorflow.keras.preprocessing.sequence import pad_sequences tokenizer = Tokenizer(num_words=10000, oov_token="<OOV>") tokenizer.fit_on_texts(X_train) sequences = tokenizer.texts_to_sequences(X_train) padded_sequences = pad_sequences(sequences, padding='post') vocab_size = len(tokenizer.word_index) + 1 embedding_dim = 16 max_length = max([len(x.split()) for x in sentences]) trunc_type='post' padding_type='post' word_index = tokenizer.word_index num_classes = len(set(labels)) ``` #### 构建 BiLSTM 模型结构 定义神经网络架构时，采用两层堆叠的方式构建 BiLSTM 层，并添加 Dense 输出层来进行分类预测。Dropout 可以帮助防止过拟合现象的发生。 ```python from tensorflow.keras.models import Sequential from tensorflow.keras.layers import Embedding, Bidirectional, LSTM, Dropout, Dense model = Sequential([ Embedding(input_dim=vocab_size, output_dim=embedding_dim, input_length=max_length), Bidirectional(LSTM(units=64, return_sequences=True)), Dropout(rate=0.5), Bidirectional(LSTM(units=64)), Dropout(rate=0.5), Dense(64, activation='relu'), Dropout(rate=0.5), Dense(num_classes, activation='softmax')]) model.compile(loss='sparse_categorical_crossentropy', optimizer='adam', metrics=['accuracy']) print(model.summary()) ``` #### 训练与评估 最后，在划分好训练集之后就可以开始训练过程了。经过多次迭代优化参数直至收敛得到较好的泛化能力。完成后还可以进一步调整超参提高精度。 ```python history = model.fit(padded_sequences, np.array(y_train), epochs=10, validation_split=0.2) test_seq = tokenizer.texts_to_sequences(X_test) padded_test_seq = pad_sequences(test_seq, maxlen=max_length, truncating=trunc_type, padding=padding_type) loss, accuracy = model.evaluate(padded_test_seq, np.array(y_test)) print(f'Test Accuracy: {accuracy}') ```
评论 36
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

onnx

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值