Ri-yao的博客

基于boosting集成的加法模型，训练时采用前向分布算法进行贪婪学习，每次迭代学习一棵树来拟合前棵树的预测结果与真值的残差。通过叶子节点的权重及实例映射到叶子节点的索引函数来定义树。令其中，固定一较大的学习率（如lr=0.1），进行n_estimators调优；固定学习率和n_estimators，对树的参数进行调优：步骤类型参数名称1树的深度、节点分裂的限制2叶子节点限制3行/列采样(正则化参数alpha、lambda调优)降低学习率，确定理想参数。

序列到序列模型，也称encoder-decoder模型。其中Seq2Seq（序列到序列），强调目的，将输入序列转化为输出序列；Encoder-Decoder（编码器-解码器），强调模型实现的方法。1）Encoder部分：将输入序列转化为固定长度的上下文向量；在每个时间步，读入输入序列的一个元素，并更新隐藏层状态，并将最终的隐藏层状态或其变换作为上下文向量。2）Decoder部分：将上下文向量转化为输出序列；在每个时间步，基于上一时间步的输出、隐藏层状态、上下文向量来生成当前时间步的输出；

基于Pytorch+LSTM实现一元单步时间序列预测的保姆级教程，涵盖模型如何搭建、数据如何加载以及模型训练等相关技巧，更是包含各部分的详细代码！