本文介绍了如何通过设置 HistGradientBoostingRegressor 的 monotonic_cst 参数来增强回归模型的鲁棒性。在面对噪声和局部扰动时，单调约束可以帮助模型建立特征与目标输出的稳定关系，提升预测准确性。文中通过 Boston Housing 数据集展示了这一方法的应用，实现在有噪声数据上的性能提升。
使用HistGradientBoostingRegressor回归器中的单调约束参数monotonic_cst提高回归模型的鲁棒性
在实际应用中，回归模型经常会受到噪声和局部扰动的影响，导致模型的预测结果不够准确。为了提高模型的鲁棒性，可以使用HistGradientBoostingRegressor回归器中的单调约束参数monotonic_cst。
单调约束是指模型特征与目标输出之间的单调关系，如特征增加时目标输出也会随之增加或减少。这种关系被广泛应用于金融、医疗等领域的数据挖掘中，例如对贷款行为进行风险评估、对糖尿病患者进行预测等。
在使用HistGradientBoostingRegressor回归器时，可以使用monotonic_cst参数来定义特征的单调关系。具体来说，monotonic_cst参数是一个列表，其长度应等于特征的数量，每个元素都是1、-1或0，表示相应特征与目标输出之间的单调关系为递增、递减或没有单调关系。
下面的代码演示了如何使用monotonic_cst参数构建一个回归模型，并在Boston Housing数据集上进行拟合和测试。在这个例子中，我们定义了两个特征的单调关系，即RM（房间数）与目标输出之间的关系为递增，而LSTAT（低收入人群比例）与目标输出之间的关系为递减。同时，我们通过添加一些高斯噪声来模拟数据中存在的噪声和扰动。
from sklearn.datasets imp
订阅专栏 解锁全文
扫一扫
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
