【BP回归预测】基于BP神经网络结合SHAP特征实现数据回归预测附Matlab代码

✅作者简介：热爱科研的Matlab仿真开发者，擅长数据处理、建模仿真、程序设计、完整代码获取、论文复现及科研仿真。

🍎 往期回顾关注个人主页：Matlab科研工作室

🍊个人信条：格物致知,完整Matlab代码获取及仿真咨询内容私信。

🔥 内容介绍

1. 引言 (Introduction)

1.1 研究背景与意义

回归预测是数据分析与机器学习领域的核心任务之一，旨在通过建立输入特征与连续型输出变量之间的映射关系，实现对未知数据的精准预测，广泛应用于经济预测、环境监测、工业质量控制、医疗健康等多个领域[1-2]。例如，在工业生产中，通过预测产品关键质量指标可提前优化生产参数，降低不合格率；在环境监测中，基于历史气象数据预测污染物浓度，可为环境治理决策提供科学依据；在金融领域，预测股票价格走势或经济指数，助力投资决策制定[3]。

传统回归预测方法如线性回归、决策树回归、支持向量回归（SVR）等，虽具有模型简单、可解释性强的优势，但在处理高维、非线性、多耦合的复杂数据时，预测精度与泛化能力往往受限[4]。反向传播（Back Propagation, BP）神经网络作为一种经典的深度学习模型，具备强大的非线性拟合能力和自适应学习能力，能够自动挖掘数据中的复杂非线性关系，在回归预测任务中得到了广泛应用[5]。然而，BP神经网络也存在明显缺陷：一方面，高维数据中的冗余特征会增加模型复杂度，导致训练效率低下、过拟合风险升高；另一方面，BP神经网络属于“黑箱”模型，难以解释各输入特征对预测结果的贡献程度，限制了其在高可靠性要求领域的应用[6]。

SHAP（SHapley Additive exPlanations）作为一种基于博弈论的模型解释方法，能够量化每个特征对预测结果的贡献值，清晰揭示特征与输出变量之间的内在关联[7]。将SHAP特征分析与BP神经网络相结合，通过SHAP筛选关键特征、解释模型预测机制，可有效解决BP神经网络在高维数据处理中的效率问题与“黑箱”缺陷。因此，开展基于BP神经网络结合SHAP特征的回归预测研究，对提升复杂数据回归预测的精度、效率与可解释性具有重要的理论价值与工程意义。

1.2 国内外研究现状

国内外学者围绕BP神经网络在回归预测中的应用与优化开展了大量研究。在BP神经网络优化方面，Li等[8]通过改进激活函数与自适应学习率，提升了BP神经网络在电力负荷预测中的精度；国内学者王等[9]采用遗传算法优化BP神经网络的初始权重与阈值，有效缓解了模型易陷入局部最优的问题。然而，这些研究多聚焦于模型结构与参数的优化，未充分考虑输入特征质量对预测性能的影响，在高维数据场景下仍存在局限性。

在特征选择与模型解释领域，SHAP方法的应用日益广泛。Zhang等[10]将SHAP与随机森林结合，用于医疗数据的特征筛选与预测结果解释，提升了模型的可解释性；国外学者Kim等[11]基于SHAP分析各特征对房价预测的贡献度，为特征工程提供了明确方向。目前，已有部分研究尝试将SHAP与神经网络结合，如Chen等[12]采用SHAP对CNN模型的预测结果进行解释，但针对SHAP特征筛选与BP神经网络融合的回归预测研究仍较为匮乏，尤其在特征贡献量化、冗余特征剔除与模型可解释性提升的协同优化方面，尚未形成系统的解决方案。

综上，现有研究存在以下不足：（1）单一BP神经网络在高维数据回归预测中，易受冗余特征影响，导致训练效率低、泛化能力差；（2）BP神经网络的“黑箱”特性使其预测结果缺乏可解释性，难以满足高可靠性领域的应用需求；（3）SHAP与BP神经网络的融合多停留在预测结果解释层面，未充分发挥SHAP在特征筛选中的作用，未能实现特征优化与模型性能提升的协同。因此，本文提出一种基于BP神经网络结合SHAP特征的回归预测模型，通过SHAP进行特征筛选与贡献量化，结合优化后的BP神经网络实现精准回归预测，同时提升模型的可解释性。

1.3 研究内容与创新点

本文以提升复杂数据回归预测精度与可解释性为目标，开展基于BP神经网络结合SHAP特征的研究，具体内容包括：（1）构建回归预测数据集，完成数据预处理（缺失值填充、归一化、数据集划分）；（2）基于SHAP方法开展特征分析，量化各特征对输出变量的贡献度，筛选关键特征；（3）设计并训练BP神经网络回归预测模型，将SHAP筛选后的关键特征作为模型输入；（4）通过对比实验验证融合模型的预测性能与可解释性。

本文创新点如下：（1）提出SHAP特征筛选与BP神经网络融合的回归预测框架，通过SHAP量化特征贡献度，精准剔除冗余特征，降低模型输入维度，提升训练效率与泛化能力；（2）利用SHAP值可视化分析关键特征与输出变量的非线性关系，揭示BP神经网络的预测机制，解决其“黑箱”缺陷；（3）通过多组对比实验（单一BP神经网络、SVR、随机森林回归）验证融合模型的优越性，为复杂数据回归预测提供新的有效方案。

1.4 论文结构

论文后续结构安排：第2节阐述相关基础理论，包括BP神经网络原理与SHAP方法核心理论；第3节详细介绍基于BP神经网络结合SHAP特征的回归预测模型构建流程；第4节设计实验方案，通过实例验证模型性能；第5节分析实验结果，验证模型的优越性与可解释性；第6节总结全文并展望未来研究方向。

2. 相关基础理论 (Related Basic Theories)

2.1 BP神经网络原理

BP神经网络是一种基于误差反向传播的多层前馈神经网络，主要由输入层、隐藏层和输出层组成，各层神经元通过权值连接，通过正向传播与反向传播的迭代过程实现模型训练[13]。

（1）正向传播：输入特征数据经输入层传入隐藏层，通过激活函数（本文采用Sigmoid函数）对神经元输出进行非线性变换，再将隐藏层输出传入输出层，得到预测结果。隐藏层神经元输出为：

h_j = f(Σ(w_ij x_i + b_j))  ——（1）

式中，h_j为第j个隐藏层神经元的输出，w_ij为输入层第i个神经元与隐藏层第j个神经元之间的连接权值，x_i为输入层第i个神经元的输入值，b_j为隐藏层第j个神经元的偏置，f(·)为激活函数。

输出层神经元输出（回归预测结果）为：

y_k = g(Σ(v_jk h_j + b_k))  ——（2）

式中，y_k为第k个输出层神经元的输出（回归任务中k=1），v_jk为隐藏层第j个神经元与输出层第k个神经元之间的连接权值，b_k为输出层第k个神经元的偏置，g(·)为输出层激活函数（回归任务中采用线性激活函数）。

（2）反向传播：计算预测值与真实值之间的误差（采用均方误差MSE），通过梯度下降法反向传播误差，更新各层连接权值与偏置，最小化误差函数。误差函数为：

E = (1/2)Σ(y_true - y_k)^2  ——（3）

式中，y_true为输出变量的真实值。通过链式法则计算误差对各权值与偏置的偏导数，沿梯度下降方向更新参数，迭代至误差收敛或达到最大训练次数。

BP神经网络的核心优势在于强大的非线性拟合能力，但在输入特征维度较高时，易出现训练时间长、过拟合等问题，且无法解释各特征对预测结果的影响。

2.2 SHAP方法核心理论

SHAP方法基于Shapley值理论，将每个特征对预测结果的贡献值量化为SHAP值，通过SHAP值的大小与正负判断特征的重要程度与影响方向[14]。其核心思想是：对于每个预测样本，将模型的预测结果分解为各特征的Shapley值之和，即：

φ_0 + Σφ_i = f(x)  ——（4）

式中，φ_0为模型的基准预测值（所有样本的平均预测值），φ_i为第i个特征的SHAP值，f(x)为模型对样本x的预测值。SHAP值φ_i为正，表明该特征对预测结果有正向贡献；为负则表明有负向贡献；绝对值越大，特征重要性越高。

SHAP方法支持对多种机器学习与深度学习模型的解释，包括神经网络、随机森林、SVR等，具有以下关键优势：（1）能够量化每个特征的边际贡献，精准识别关键特征；（2）通过可视化方法（如SHAP summary plot、依赖图）直观展示特征与输出变量的关系；（3）满足一致性与有效性公理，确保解释结果的可靠性[15]。

在回归预测任务中，SHAP方法可用于：（1）特征筛选：根据SHAP值的绝对值大小排序，剔除贡献度极低的冗余特征；（2）模型解释：分析关键特征对预测结果的影响规律，揭示“黑箱”模型的预测机制；（3）异常样本分析：通过单个样本的SHAP值分布，解释异常预测结果的产生原因。

2.3 BP神经网络与SHAP的融合优势

将SHAP方法与BP神经网络融合，可实现优势互补：（1）SHAP特征筛选降低输入维度，减少BP神经网络的参数数量，提升训练效率，缓解过拟合；（2）SHAP量化特征贡献度，解释BP神经网络的预测结果，提升模型的可解释性与可信度；（3）基于SHAP的特征分析的指导特征工程，进一步优化模型输入，提升预测精度。两者的融合机制为：先通过SHAP对原始特征进行筛选，再将筛选后的关键特征输入BP神经网络进行训练，最后利用SHAP解释BP神经网络的预测结果。

3. 融合模型构建流程 (Construction Process of Fusion Model)

基于BP神经网络结合SHAP特征的回归预测模型构建流程主要包括数据预处理、SHAP特征分析与筛选、BP神经网络模型设计与训练、模型验证与解释四个阶段，具体流程如图1所示。

3.1 数据预处理

数据预处理是保证回归预测精度的基础，主要包括数据收集、缺失值处理、异常值检测、归一化处理与数据集划分：

（1）数据收集：选取某一具体回归预测任务的数据集（如工业产品质量预测数据集、气象数据预测数据集），数据集包含多个输入特征（x_1, x_2, ..., x_n）与一个连续型输出变量y；

（2）缺失值处理：采用均值填充法（数值型特征）或众数填充法（分类编码后的特征）处理缺失值，避免缺失数据对模型训练的影响；

（3）异常值检测：采用箱线图法检测异常值，将超出[Q1-1.5IQR, Q3+1.5IQR]范围的数据判定为异常值（Q1为下四分位数，Q3为上四分位数，IQR为四分位距），通过删除异常值或修正为边界值处理；

（4）归一化处理：为消除特征量纲差异对BP神经网络训练的影响，将所有输入特征与输出变量归一化至[0,1]区间，采用min-max归一化公式：

x_norm = (x - x_min) / (x_max - x_min)  ——（5）

式中，x为原始特征值，x_min、x_max分别为该特征的最小值与最大值；

（5）数据集划分：将预处理后的数据集按7:2:1的比例划分为训练集（用于模型训练）、验证集（用于模型参数调优与过拟合监测）与测试集（用于模型性能评估）。

3.2 SHAP特征分析与筛选

采用SHAP方法对预处理后的特征进行分析与筛选，具体步骤如下：

（1）基准模型训练：选取简单且泛化能力较强的模型（如随机森林回归模型）作为基准模型，输入预处理后的所有特征进行训练，用于后续SHAP特征分析（选择基准模型的原因是其训练速度快，且SHAP对其解释效率高）；

（2）SHAP值计算：利用SHAP库计算基准模型中每个特征的SHAP值，获取每个样本在各特征上的SHAP值分布；

（3）特征重要性排序：以各特征SHAP值的绝对值均值作为特征重要性评价指标，对所有输入特征进行排序，SHAP值绝对值均值越大，特征重要性越高；

（4）关键特征筛选：设定特征筛选阈值（如选取前80%重要性的特征，或剔除SHAP值绝对值均值小于某一阈值的特征），筛选出关键特征子集，剔除冗余特征。筛选阈值通过验证集性能优化确定，确保筛选后的特征子集能够保留原始数据的核心信息；

（5）特征关系可视化：通过SHAP summary plot展示各特征的SHAP值分布与重要性排序，通过SHAP依赖图（partial dependence plot）分析关键特征与输出变量的非线性关系，为模型理解提供依据。

3.3 BP神经网络模型设计与训练

以SHAP筛选后的关键特征作为输入，设计并训练BP神经网络回归预测模型，具体步骤如下：

（1）网络结构设计：根据关键特征维度与回归任务复杂度设计网络结构：①输入层神经元数量等于关键特征个数（设为m）；②隐藏层设置1-2层，采用试错法确定隐藏层神经元数量（初始设为2m+1，通过验证集性能调整）；③输出层神经元数量为1（回归任务单输出）；

（2）参数设置：激活函数选取Sigmoid函数作为隐藏层激活函数，线性函数作为输出层激活函数；优化器采用Adam优化器（收敛速度快，稳定性好）；学习率初始设为0.001，通过学习率衰减策略（如每100轮训练学习率衰减为原来的0.9）调整；损失函数采用均方误差（MSE）；最大训练轮数设为1000，早停策略（Early Stopping）的耐心值设为50（若验证集损失连续50轮无下降，则停止训练，避免过拟合）；

（3）模型训练：将筛选后的关键特征对应的训练集输入BP神经网络，进行正向传播与反向传播训练，通过验证集监测模型性能，调整网络结构与参数；

（4）模型优化：若模型出现过拟合，采用Dropout正则化（在隐藏层添加Dropout层， dropout rate设为0.2）或L2正则化（权重衰减系数设为0.001）优化模型，提升泛化能力。

3.4 模型验证与解释

（1）模型性能验证：将测试集输入训练好的融合模型，采用平均绝对误差（MAE）、均方误差（MSE）、决定系数（R²）作为评价指标，评估模型的预测精度。各评价指标公式如下：

MAE = (1/N)Σ|y_true - y_pred|  ——（6）

MSE = (1/N)Σ(y_true - y_pred)^2  ——（7）

R² = 1 - [Σ(y_true - y_pred)^2 / Σ(y_true - y_mean)^2]  ——（8）

式中，y_pred为模型预测值，N为测试集样本数量，y_mean为输出变量真实值的均值。MAE与MSE越小，R²越接近1，表明模型预测精度越高；

（2）模型可解释性分析：将训练好的BP神经网络作为解释对象，利用SHAP方法计算各关键特征的SHAP值，通过SHAP summary plot、依赖图、单个样本的Force plot等可视化工具，分析关键特征对预测结果的贡献程度、影响方向及非线性关系，揭示BP神经网络的预测机制；

（3）对比实验：选取单一BP神经网络、随机森林回归、SVR作为对比模型，在相同数据集上进行训练与测试，对比各模型的评价指标，验证融合模型的优越性。

⛳️ 运行结果

📣 部分代码

function drawShapSummaryBarPlot(meanAbsShap, featureNames)

% SHAP特征重要性条形图

[sortedValues, sortedIdx] = sort(meanAbsShap, 'ascend');

figure;

barh(sortedValues, 'FaceColor',[0.3 0.2 0.8]);

set(gca, 'YTick', 1:numel(featureNames),...

'YTickLabel', featureNames(sortedIdx));

xlabel('平均绝对SHAP值');

ylabel('预测因子');

title('SHAP条形图');

grid on;

end

🔗 参考文献

🎈 部分理论引用网络文献，若有侵权联系博主删除

 👇 关注我领取海量matlab电子书和数学建模资料 

🏆团队擅长辅导定制多种科研领域MATLAB仿真，助力科研梦：

🌟 各类智能优化算法改进及应用

生产调度、经济调度、装配线调度、充电优化、车间调度、发车优化、水库调度、三维装箱、物流选址、货位优化、公交排班优化、充电桩布局优化、车间布局优化、集装箱船配载优化、水泵组合优化、解医疗资源分配优化、设施布局优化、可视域基站和无人机选址优化、背包问题、 风电场布局、时隙分配优化、 最佳分布式发电单元分配、多阶段管道维修、 工厂-中心-需求点三级选址问题、 应急生活物质配送中心选址、 基站选址、 道路灯柱布置、 枢纽节点部署、 输电线路台风监测装置、 集装箱调度、 机组优化、 投资优化组合、云服务器组合优化、 天线线性阵列分布优化、CVRP问题、VRPPD问题、多中心VRP问题、多层网络的VRP问题、多中心多车型的VRP问题、 动态VRP问题、双层车辆路径规划（2E-VRP）、充电车辆路径规划（EVRP）、油电混合车辆路径规划、混合流水车间问题、 订单拆分调度问题、 公交车的调度排班优化问题、航班摆渡车辆调度问题、选址路径规划问题、港口调度、港口岸桥调度、停机位分配、机场航班调度、泄漏源定位、冷链、时间窗、多车场等、选址优化、港口岸桥调度优化、交通阻抗、重分配、停机位分配、机场航班调度、通信上传下载分配优化

🌟 机器学习和深度学习时序、回归、分类、聚类和降维

2.1 bp时序、回归预测和分类

2.2 ENS声神经网络时序、回归预测和分类

2.3 SVM/CNN-SVM/LSSVM/RVM支持向量机系列时序、回归预测和分类

2.4 CNN|TCN|GCN卷积神经网络系列时序、回归预测和分类

2.5 ELM/KELM/RELM/DELM极限学习机系列时序、回归预测和分类

2.6 GRU/Bi-GRU/CNN-GRU/CNN-BiGRU门控神经网络时序、回归预测和分类

2.7 ELMAN递归神经网络时序、回归\预测和分类

2.8 LSTM/BiLSTM/CNN-LSTM/CNN-BiLSTM/长短记忆神经网络系列时序、回归预测和分类

2.9 RBF径向基神经网络时序、回归预测和分类

2.10 DBN深度置信网络时序、回归预测和分类

2.11 FNN模糊神经网络时序、回归预测

2.12 RF随机森林时序、回归预测和分类

2.13 BLS宽度学习时序、回归预测和分类

2.14 PNN脉冲神经网络分类

2.15 模糊小波神经网络预测和分类

2.16 时序、回归预测和分类

2.17 时序、回归预测预测和分类

2.18 XGBOOST集成学习时序、回归预测预测和分类

2.19 Transform各类组合时序、回归预测预测和分类

方向涵盖风电预测、光伏预测、电池寿命预测、辐射源识别、交通流预测、负荷预测、股价预测、PM2.5浓度预测、电池健康状态预测、用电量预测、水体光学参数反演、NLOS信号识别、地铁停车精准预测、变压器故障诊断

🌟图像处理方面

图像识别、图像分割、图像检测、图像隐藏、图像配准、图像拼接、图像融合、图像增强、图像压缩感知

🌟 路径规划方面

旅行商问题（TSP）、车辆路径问题（VRP、MVRP、CVRP、VRPTW等）、无人机三维路径规划、无人机协同、无人机编队、机器人路径规划、栅格地图路径规划、多式联运运输问题、 充电车辆路径规划（EVRP）、 双层车辆路径规划（2E-VRP）、 油电混合车辆路径规划、 船舶航迹规划、 全路径规划规划、 仓储巡逻、公交车时间调度、水库调度优化、多式联运优化

🌟 无人机应用方面

无人机路径规划、无人机控制、无人机编队、无人机协同、无人机任务分配、无人机安全通信轨迹在线优化、车辆协同无人机路径规划、

🌟 通信方面

传感器部署优化、通信协议优化、路由优化、目标定位优化、Dv-Hop定位优化、Leach协议优化、WSN覆盖优化、组播优化、RSSI定位优化、水声通信、通信上传下载分配

🌟 信号处理方面

信号识别、信号加密、信号去噪、信号增强、雷达信号处理、信号水印嵌入提取、肌电信号、脑电信号、信号配时优化、心电信号、DOA估计、编码译码、变分模态分解、管道泄漏、滤波器、数字信号处理+传输+分析+去噪、数字信号调制、误码率、信号估计、DTMF、信号检测

🌟电力系统方面

微电网优化、无功优化、配电网重构、储能配置、有序充电、MPPT优化、家庭用电、电/冷/热负荷预测、电力设备故障诊断、电池管理系统（BMS）SOC/SOH估算（粒子滤波/卡尔曼滤波）、 多目标优化在电力系统调度中的应用、光伏MPPT控制算法改进（扰动观察法/电导增量法）、电动汽车充放电优化、微电网日前日内优化、储能优化、家庭用电优化、供应链优化\智能电网分布式能源经济优化调度，虚拟电厂，能源消纳，风光出力，控制策略，多目标优化，博弈能源调度，鲁棒优化

电力系统核心问题经济调度：机组组合、最优潮流、安全约束优化。新能源消纳：风光储协同规划、弃风弃光率量化、爬坡速率约束建模多能耦合系统：电-气-热联合调度、P2G与储能容量配置新型电力系统关键技术灵活性资源：虚拟电厂、需求响应、V2G车网互动、分布式储能优化稳定与控制：惯量支撑策略、低频振荡抑制、黑启动预案设计低碳转型：碳捕集电厂建模、绿氢制备经济性分析、LCOE度电成本核算风光出力预测：LSTM/Transformer时序预测、预测误差场景生成（GAN/蒙特卡洛）不确定性优化：鲁棒优化、随机规划、机会约束建模能源流分析、PSASP复杂电网建模，经济调度，算法优化改进，模型优化，潮流分析，鲁棒优化，创新点，文献复现微电网配电网规划，运行调度，综合能源，混合储能容量配置，平抑风电波动，多目标优化，静态交通流量分配，阶梯碳交易，分段线性化，光伏混合储能VSG并网运行，构网型变流器， 虚拟同步机等包括混合储能HESS：蓄电池+超级电容器，电压补偿,削峰填谷，一次调频，功率指令跟随，光伏储能参与一次调频，功率平抑，直流母线电压控制；MPPT最大功率跟踪控制，构网型储能，光伏，微电网调度优化，新能源，虚拟同同步机，VSG并网，小信号模型

🌟 元胞自动机方面

交通流 人群疏散 病毒扩散 晶体生长 金属腐蚀

🌟 雷达方面

卡尔曼滤波跟踪、航迹关联、航迹融合、SOC估计、阵列优化、NLOS识别

🌟 车间调度

零等待流水车间调度问题NWFSP 、 置换流水车间调度问题PFSP、 混合流水车间调度问题HFSP 、零空闲流水车间调度问题NIFSP、分布式置换流水车间调度问题 DPFSP、阻塞流水车间调度问题BFSP

👇

5 往期回顾扫扫下方二维码