本文内容:数学建模,损失函数,结构风险,过拟合,SRM等
一·提前总结:
二·宏观概念:数学建模&机器学习&深度学习
1.数学建模:以数学公式为手段对现实模拟。
应用举例:降雨后的洪水计算,得到洪水过程线。
- 现象:中小流域按照水往低处流来划分流域。
- 思想:建模后,依赖一定的策略通过算法调整参数,模型结果与实际结果在误差范围内一致,不断调整减少误差。
- 建模:初步计算参数建模,然后通过三个公式模拟产流、汇流、河道演算
启发式算法:
- 概念:直白解释就是通过仿生学现象抽象出来的经验,指导求最优解的一个技术统称,目前还没有完备理论体系。
- 作用:常常来解决NP-hard难题
- 算法:遗传算法、退火算法、人工鱼群算法、蜂群算法、人工神经网络(ANN)等
2.机器学习:损失函数为核心
- 概念:机器学习是,寻找目标函数,最小化函数误差的过程。
- 特点:算法都在围绕准确率算损失,找到模型正确率与真实值的距离测度。
- 算法:多元线性回归,逻辑回归,SVM,决策树,随机森林,聚类。
- 举例:GBDT在不断的提高错误样本的权重以达到提高准确率。
- 分类:监督学习,无监督学习,强化学习