12种算法优化CNN-BiLSTM-Attention多特征输入单步预测，机器学习预测全家桶，持续更新，MATLAB代码...-优快云博客

截止到本期，一共发了12篇关于机器学习预测全家桶MATLAB代码的文章。参考文章如下：

今天在机器学习预测全家桶中继续添加12种算法优化CNN-BiLSTM-Attention模型预测的代码。其中Attention模型可以改为单头或者多头，在代码中就是改个数字而已。代码注释已写好如何更改。

本期代码主要功能为：采用12种算法优化CNN-BiLSTM-Attention模型的四个参数，分别是分别是学习率，BiLSTM的神经元个数，注意力机制的键值, 正则化参数。并进行了优化前后的结果比较。

12种算法如下：

包括：北方苍鹰算法(NGO)、蜣螂优化算法(DBO)、灰狼优化算法(GWO)、鱼鹰优化算法(OOA)、粒子群算法(PSO)、减法优化器算法(SABO)、沙猫群优化算法(SCSO)、麻雀优化算法(SSA)、白鲸优化算法(BWO)、霜冰优化算法(RIME)、鲸鱼优化算法(WOA)、哈里斯鹰优化算法(HHO)。

代码中12种算法可以随意切换！也可以搭配推出的改进智能算法使用。

学会这几种算法的调用，你就可以任意替换别的算法！代码设置如下：

% 可选：'DBO','GWO','OOA','PSO','SABO','SCSO','SSA','BWO','RIME','WOA','HHO','NGO';


[Best_score,Best_pos,curve]=NGO(popsize,maxgen,lb,ub,dim,fobj); %修改这里的函数名字即可

CNN-BiLSTM-Attention模型

CNN能够对时间序列数据进行特征提取，但不能发掘出时间序列数据中的长依赖问题：BiLSTM能够很好地对时间序列数据进行学习，解决CNN不能处理的长依赖问题，因此将CNN和BiLSTM组合构成CNN-BiLSTM模型，能够充分发挥各自神经网络模型的优点，从而提高模型预测精度。

CNN-BiLSTM模型能够充分发挥模型各部分的优点，进行时间序列数据预测，但该模型在使用输入项多、数据量大的时间序列数据进行模型训练时，可能存在着忽略部分时刻数据的重要特征信息，导致模型学习能力下降，从而影响模型预测精度。Attention能够捕获时间序列数据中不同时刻数据的特征状态对预测值的影响程度，从而提高模型的预测精度。因此，在CNN-BiLSTM模型中引入Attention能够很好的解决原有模型忽略部分重要特征信息的问题，从而提高模型预测精度。

基于CNN-BiLSTM-Attention的预测模型结构如图所示，该模型由输入层、CNN层（卷积层和池化层）、BiLSTM层（前向LSTM层和后向LSTM层）、Attention层、输出层构成。使用CNN-BiLSTM-Attention模型进行预测时，输入层将对应的特征数据输入；CNN层中的卷积层对输入的数据进行特征提取，选取重要特征数据，池化层对特征数据进行降维处理；BiLSTM层将CNN层提取特征降维后的数据分别通过前向和后向链式连接的多个LSTM单元进行时间序列数据计算得到输出数据；Attention层计算不同时刻数据的特征状态对预测值的注意力值，得到时间序列各项数据与预测值的关联性；输出层对Attention层输出的数据进行输出计算，得到预测值。

CNN-BiLSTM-Attention网络模型搭建

本次搭建的模型如下：

数据准备

数据集统一采用新疆某地风电发电功率数据。

数据包含特征如下：测风塔10m风速(m/s) 、测风塔30m风速(m/s) 、测风塔50m风速(m/s) 、测风塔70m风速(m/s)、轮毂高度风速(m/s) 、测风塔10m风向(°) 、测风塔30m风向(°) 、测风塔50m风向(°) 、测风塔70m风向(°)、轮毂高度风向(°) 、温度(°) 、气压(hPa)、湿度(%) 实际发电功率（mw）。部分数据截图如下：