ZhuNian的学习乐园

内容包括：数学分析、高等代数、常微分方程、其他数理知识

一、凸优化问题1凸集与凸函数2凸优化问题二、拉格朗日乘子法与KKT条件1无约束优化2约束优化定义3等式约束4不等式约束4.1极小值点落在可行域内(不包含边界)4.2极小值点落在可行域外(包含边界)4.3总结.5约束优化总结6优化问题的总结参考资料

简介：　　ARIMA模型：（英语：Autoregressive Integrated Moving Average model），差分整合移动平均自回归模型，又称整合移动平均自回归模型（移动也可称作滑动），是时间序列预测分析方法之一。AR是“自回归”，p为自回归项数；MA为“滑动平均”，q为滑动平均项数，d为使之成为平稳序列所做的差分次数（阶数）。

1. 自回归模型的定义2. AR模型的状态空间形式3. AR模型的求解4. AR模型示例5 Python对模型参数的求解

1普通最小二乘法1.1正规方程1.2梯度下降法1.3代码实现2岭回归2.1岭回归原理2.1代码实现3 Lasso回归4案例实战1-车流量预测

在学习机器学习里岭回归的公式推导时，涉及到向量求导的相关数学公式推导过程，不同的是：岭回归的代价函数是在多项式回归上的代价函数上加了对参数的约束项。本文基于最小二乘法的推导公式来求解多项式回归系数以及岭回归系数的推导过程。并附加一些向量及矩阵的求导公式。1 岭回归的公式推导采用最小二乘法，定义损失函数为残差的平方，最小化损失函数，公式进行直接求解：岭回归是对最小二乘回归的一种补充，下面是...