songyuwen0808的博客

一、什么是支持向量机SVM支持向量机（support vector machine），是一种分类算法假设我们有这样的一堆样本，其中y表示不同的类型，这些样本在坐标系中的分布如下：现在想要使用一个超平面（二维中是直线，一维中是一个数字）把这两种样本进行区分，此时有无数条直线可以做到这件事情，但是在上图的三条直线中，红色的鲁棒性最好，因为两条蓝色的直线，都过于接近两个样本，导致在非训练...

一、解决什么问题我们现在有一堆样本，在图象上的位置如下图黑点：最小二乘法要做的事情，就是拟合出来一条直线（也可以是曲线，但是本篇只说直线的情况），使得所有点的均方差最小，以便用于未知数据情况的猜测二、如何拟合因为本篇只讨论线性的，所以直线可以用下记的表达式进行表示：其中：正常情况下，函数表达式有一个常量b，但是为了简写，这里把b融合到了中，并令这样实际上就...

一、什么是神经网络NN神经网络（neural networks）是由具有适应性的简单单元组成的广泛并行互连的网络，它的组织能够模拟生物神经系统对真实世界物体所做出的交互反应。神经网络中最基本的成分是神经元，即上述定义中的“简单单元”，在生物神经网络中，每个神经元与其他神经元相连，当它“兴奋”时，就会向相连的神经元发送化学物质，从而改变这些神经元内的电位；如果某神经元的电位超过了一个“阈值”...

一、什么是决策树在日常生活中，比如酸奶，我们挑选时候的过程经常是这样的：先看牌子，再看口味，再看保质期过了没，再看价格，然后都符合条件了之后，才会买这个酸奶其实这个过程，就类似于决策树要做的事情简单来说，决策树就是基于样本的属性(牌子，口味，保质期，价格)，自动生成的基于概率的if...else....一种监督分类学习方法，图示如下：二、决策树的创建过程假设我们现在有...

一、什么是极大似然估计(MLE)极大似然估计(maximum likelihood estimation)，是一个利用已知的样本结果，反推最有可能（最大概率）导致这样结果的参数值的方法二、举例说明举例一个关于MLE经常用的一个例子来说明MLE要做的事情：假设一个盒子里有未知数量、未知比例的黑色球、白色球，现在我们想了解一下两种颜色球的比例，但是我们只能进行下记步骤： 从盒子中...