基于PSO粒子群优化的LSTM-Attention一维时间序列预测算法matlab仿真

PSO优化LSTM-Attention时间序列预测

原创已于 2025-10-18 00:18:46 修改 · 764 阅读

5 ·

CC 4.0 BY-SA版权

文章标签：

#lstm #PSO #粒子群优化 #LSTM-Attention #时间序列预测 #matlab

于 2025-10-18 00:11:55 首次发布

MATLAB算法开发同时被 2 个专栏收录

350 篇文章

订阅专栏

深度学习

161 篇文章

订阅专栏

1.前言

传统LSTM模型虽能捕捉时序依赖，但存在超参数依赖经验设置、长序列关键信息挖掘不足的问题。基于粒子群优化的LSTM-Attention算法通过Attention机制强化关键时序特征的权重，再利用PSO全局优化模型超参数，显著提升了预测精度与鲁棒性。

2.算法运行效果图预览

(完整程序运行后无水印)

3.算法运行软件版本

Matlab2024b(推荐)或者matlab2022a

4.部分核心程序

（完整版代码包含中文注释和操作步骤视频）

........................................................
%% 迭代更新
ij        = 0;
LOSSer    = [];
VLOSSer   = [];
for epoch = 1:Miter  
    epoch
    [~,state] = func_params(Hnum,Isize,Osize);       % 每轮epoch，state初始化
    
    % batch 更新
    for i = 1 : Epochs      
        ij  = ij + 1;
        idx = (i-1)*Bsize+1:i*Bsize;
        dlX = gpuArray(Xtrain(:,idx,:));
        dlY = gpuArray(Ttrain(idx));
        [gradients,loss,state] = dlfeval(@func_Model,dlX,dlY,para,state);       
        %L2正则化
        RL2                  = 0.001;        
        [para,Gradm,SqGradm] = adamupdate(para,gradients,Gradm,SqGradm,ij,Lr);               
        % 验证集测试
        if ij == 1 || mod(ij,Vfre) == 0
            oYnorm = func_Predict(gpuArray(Xnorm),para,Vstate);
            VLOSS  = mse(oYnorm, gpuArray(Ynorm));
        end       
    
    end   
    LOSSer  = [LOSSer,loss];
    VLOSSer = [VLOSSer,double(gather(extractdata(VLOSS)))];
    % 每轮epoch 更新学习率
    if mod(epoch,10) == 0
       Lr = Lr * Lrdf;
    end
end


figure
plot(LOSSer,'LineWidth',2);
hold on
plot(VLOSSer,'LineWidth',2);
xlabel("Iteration")
ylabel("Loss")
legend('训练集','验证集')


%预测
Ynpre = func_Predict(gpuArray(Xtest),para,Tstate);
Ynpre = extractdata(Ynpre);

%可视化
figure
plot(Ynpre,'b');
hold on 
plot(Ttest,'r')
legend('预测值','实际值')


save R1.mat LOSSer VLOSSer Ynpre Ttest gb1 Hnum Lr Lrdf Lvl_sgrad
234

5.算法仿真参数

%寻找最佳参数
%群体个数
Npeop = 6;                   
%初始化群体维数
dims  = 3;      
%最迭代次数
Iter  = 10;                   
%学习因子
c1    = 2;                   
c2    = 2;             
%用线性递减因子粒子群算法
Wmax  = 1; %惯性权重最大值
Wmin  = 0.8; %惯性权重最小值
%每个变量的取值范围
tmps(1,:)= [0.001 0.01]; %Lr
tmps(2,:)= [0.0001 0.0003];%Lrdf    
tmps(3,:)= [0.01 0.02];  %Lvl_sgrad