b405516801的博客

协方差矩阵在主成分分析降维分析使用非常多，很多公式推导都用到一些性质，比如y=ax+b与 x的协方差计算等。

准备机器学习安装环境

贝叶斯网络(Bayesian network)，又称信念网络(Belief Network)，或有向无环图模型(directed acyclic graphical model)，是一种概率图模型，于1985年由Judea Pearl首先提出。它是一种模拟人类推理过程中因果关系的不确定性处理模型，其网络拓朴结构是一个有向无环图(DAG)。贝叶斯网络的有向无环图中的节点表示随机变量{X1,…,XN它们可以是可观察到的变量，或隐变量、未知参数等。认为有因果关系（或非条件独立）的变量或命题则用箭头来连接。

该篇文章对于CART的算法举例讲解，一看就懂。

下文是基于李航的统计方法写的博客，主要理论加举例比较容易理解,这块其实不难，但是搞了很多概念，容易让人看的迷糊，结合例子看容易理解。同时可以观看B站的这块讲解。

这得从梯度下降更新得角度去考虑如果损失函数加上正则项，那么导函数就等于多了正则项的导函数，即原来比如 MSE的导函数和 L1、L2 的导函数，那么梯度 gradient 就是这两部分组成，每次减小的幅度就是学习率η×(MSE 的导+L1/L2 的导)，说白了就是比不加惩罚项要多更新一部分，这部分就。梯度下降法的基本思想可以类比为一个下山的过程，如下图所示函数看似为一片山林，红色的是山林的高点，蓝色的为山林的低点，蓝色的颜色越深，地理位置越低，则图中有一个低点，一个最低点。真正工作中我们是奔着过。

主要了解多元线性回归的原理以及数学推导。

此文章基本满足机器学习概率需求。

阅读如上文章对于极大似然有直观认识。

首先可以从视频有一个直观的理解，直接上公式会让人云里雾里，看完如下视频后，对于隐马尔可夫模型有直观理解，再理解机器学习的应用有个感觉。看完视频可以对着文章再看下，更加系统的了解这个模型。

召回率、精确率、准确率、F1的概念和意义