20、神经网络与自定义估计器的构建与应用

神经网络与自定义估计器的构建与应用

1. 神经网络堆叠模型训练

1.1 保存最佳估计器

首先，我们需要将最佳估计器进行保存，代码如下：

pickle_func('bag_gbm.save', pre_gs_inst_bag.best_estimator_)

1.2 堆叠器函数定义

1.2.1 handle_X_set 函数

该函数用于创建预测向量的数据框，代码如下：

def handle_X_set(X_train_set_in):
    X_train_set = X_train_set_in.copy()
    y_pred_nn = neural_net.predict(X_train_set)
    y_pred_gbt = gbt.predict(X_train_set)
    y_pred_bag = bag_gbm.predict(X_train_set)
    preds_df = pd.DataFrame(columns = ['nn', 'gbt','bag'])
    preds_df['nn'] = y_pred_nn
    preds_df['gbt'] = y_pred_gbt
    preds_df['bag'] = y_pred_bag
    return preds_df

1.2.2 predict_from_X_s