GG_freedom

算法笔记更新~引入  SVM（支持向量机），相信有一些机器学习基础的朋友对这个算法应该早已耳熟。SVM是现有的机器学习基础算法里较为能扛的一个。此篇文章偏向实战，对svm背后繁杂而又精致的数学知识不做展开叙述，在这一方面，笔者在学习时参考的是东大一位教授的知乎文章：零基础学习SVM，教授讲解的十分详细，引人入胜。层层递进的同时令人不禁感慨数学的美妙！如果你对svm最后的目标函数一无所知，同时又有兴趣探个究竟，强烈安利你移步上述链接。SVM经过一番推导之后，得到的目标函数为:对这个优化目标函数，解

学习笔记更新什么是逻辑回归？简要介绍    逻辑回归是用来解决线性回归问题的，它将线性回归得到的结果通过逻辑函数映射到[0,1]之间，因此称逻辑回归。逻辑回归模型主要用于解决二分类问题，是一个分类模型。基本问题形式    前面说的逻辑回归是用来解决线性回归问题的，什么是回归呢？最常见的例子，假设有一些数据点，需要用一条直线对这些数据点进行拟合，求得最佳拟合直线，拟合的过程就是回归。利用逻辑回归对线性问题进行分类的主要思想是：根据现有的数据对分类边界线建立回归公式，将线性回归得到的结果通过逻辑函数映

学习笔记更新什么是梯度下降法？一个基于搜索的最优化方法，每一步都沿着当前梯度的方向，最后达到目标。在训练神经网络时，求解损失函数的最小值。当然，把它理解为寻找函数最小值的方法也是对的，个人认为，这句话虽然没毛病，但更偏向于梯度下降法的应用引入直观解释梯度下降法，最常出现的例子就是在不考虑安全因素的情况下，求解一个人怎样尽快从山顶到山脚。（不不可以飞，只能走！） 这里我们不考虑步行速度，所以问题转换为从山顶找一条到达山底的最短路径。为了找到这条路径，我们首先要确定方向，在360°的周围，朝哪个方向迈一步

算法学习笔记更新，本章内容是朴素贝叶斯，是一个用到概率论的分类方法。算法简介朴素贝叶斯是贝叶斯决策的一部分，简单说，就是利用条件概率来完成分类。说起条件概率，猛地一下戳到了笔者的伤口。想当年，在学完概率论两年的日子里，它再也没有被我宠幸过。常言道：“谁会考完试了还去看书呢？” 没毛病，我就是那些考完试不看书的人之一。自信满满地走进了推免面试场，被一波数学问题轰炸的败下阵来，其中就包括条件概率。总结：学好概率论、学好线代，it is very important. 至少在一些高校面试的时候会被问道。说多了

亲爱的朋友，本次我们开始学习决策树，为了让大家对这个算法有一个系统清晰的认识，这篇博文侧重于对算法整体流程以及算法核心部分进行阐述。决策树算法整体流程大致都一样，不同的是在特征选择时，特征选择策略不同，这篇博文以ID3算法进行特征选择来学习决策。如果你已掌握决策树算法整个工作流程，想要详细学习其他特征选择策略，推荐学习资料 《统计学习方法》（李航著）话不多说，进入正题！算法简介决策树算法，是有监督学习，主要用于分类及回归任务。决策树算法本质是从训练数据集中学习归纳规则，使该规则能对训练集进行正确分类。

...

一、什么是模式识别人类每时每刻在完成某种模式识别的任务，例如读书看报（文字识别）、茫茫人海中寻找一个伙伴（特征识别）、鸟鸣（声音识别)……人们对外界对象的几乎所有认识都是对类别的认识，通过计算机模仿人脑对现实世界各种事物 进行描述、分类、判断和识别的过程即为模式识别。那么什么是模式呢？顾名思义，模式即为模式识别的对象，可以是一些文字，一个人，一张纸，鸟语花香等等一切可以进行识别测量的生活中的事物...