will680的博客

1 说明关于集成学习，目前还没有学完，梯度上升树的算法只看了一点，直方图那些连看都没有看，但是拖的已经够久了，近期的时间用来整理自然语言处理的论文了，暂时也没有精力去深入学习其他集成学习方法，先把已经涉及过的部分复习写好，还没有复习到的地方，进行标注。1.1 目录加粗的部分只进行了部分复习，后续有时间再进行补上2 集成学习方法简述2.1 bagging2.2 boost2.3...

1 说明  昨天花了一整天的时间来配环境，走了很多弯路，把以前踩过的坑，大致又踩了一遍。这里记录一下配置环境中可能出现的问题，以防再踩坑1.1 目录2 安装步骤2.1 miniconda2.2 pycharm2.3 pytorch2 安装步骤2.1 miniconda因为不喜欢anaconda的启动速度，用miniconda进行替代2.1.1 安装A 下载地址： UR...

A 说明svm的内容比较多，再加之中间数度拖延，一直不愿意来写这个博客，本着自己越不爱干的事便越要干的原则，今天终于静下心来写这篇博客。A.1 目录线性支持向量机：这里主要列出将svm用于分类的基本思路，主要形式是找出分隔线将平面上的样本分开。线性支持向量机求解：这里主要列出利用拉格朗日、对偶优化、SMO算法等进行svm参数估计的一些方法核方法：核方法原本是不打算写的，因为这次复习...

A 说明按照西瓜书的顺序，接下来的两章是神经网络跟SVM，但是因为同时在学习另一本书的原因，先复习了贝叶斯相关的原理20200113，写博客太费时间，如果明天进度合理，再继续写B 朴素贝叶斯B.1贝叶斯公式昨晚复习E-M算法的时候，遇到了一些麻烦，跟全概率公式有关，这里先列出全概率公式，暂时不会La Tex，粗略看了一下，一时半会应该学不会，下篇博客之前再学吧Pa = Eb Pb * ...

1 目录A 说明A.1一开始是想复习一下线性回归的公式，再手写一遍线性回归的代码。复习到最小二乘法优化函数的正则项时，因为一开始对正则项一知半解的，于是又去了解了一下正则项的原理，这其中用到了贝叶斯的思想，以前学过，这次算是整合到一起了。由于在读一篇关于贝叶斯最大后验分布的博客时，其中谈到了用正则项来减少模型的复杂度，并不是很理解，但是随即想起了SVM的KKT条件有类似的情况，于是又复习了K...