14、机器学习在需求预测中的应用与实践

机器学习在需求预测中的应用与实践

1. 主要学习算法类型

1.1 决策树相关算法

决策树算法有着丰富的发展历程。1963年，Morgan和Sonquist发布了首个决策树算法。后续在此基础上发展出了多种相关算法：
- 自适应提升（Adaptive Boosting） ：将简单树提升为复杂模型。
- 极度随机树（Extremely Random Trees） ：对森林进行进一步随机化。
- 梯度提升（Gradient Boosting） ：使用梯度下降来提升树。
- 轻梯度提升（Light Grad. Boost） ：利用数据聚类使梯度提升更快。
- 极端梯度提升（Extreme Grad. Boost） ：实现更快更智能的梯度提升。

森林算法也广为人知，它通过对数百个独立树的预测结果取平均值来进行预测。该技术使用起来比一些较新的提升方法更简单，通常能取得不错的效果。

1.2 神经网络

1.2.1 神经元与激活函数

人工神经网络由神经元组成，神经元是接收来自各种输入的数值信息的数学单元。每个神经元会为每个输入分配不同的权重，然后应用激活函数来处理这些输入并生成数值输出。激活函数通常类似于有上限的加权和，选择合适的激活函数至关重要，因为它决定了神经元的行为。

1.2.2 神经网络的结构

神经网络由输入层、多个隐藏层和输出层组成，数据从