、张念

监督学习(Supervised Learning)在监督学习中，给定一组数据，我们知道正确的输出结果应该是什么样子，并且知道在输入和输出之间有着一个特定的关系。这么说可能理解起来不是很清晰，没关系，后面有具体的例子。监督学习的分类监督学习可分为“回归”和“分类”问题。监督学习分类在回归问题中，我们会预测一个连续值。也就是说我们试图将输入变量和输出用一个连

Conda是一个开放源码包管理系统和环境管理系统，用于安装多个版本的软件包及其依赖关系（比如科学计算环境要求多个Python版本并存，尤其是2.x和3.x的并存。这个通过 virtualenv 可以做到。Anaconda也正是通过其实现的），并在它们之间轻松切换。它适用于Linux，OS X和Windows，并且是为Python程序创建的，但可以打包和分发任何软件。Conda包括Anaconda和...

Scikit-learn 要求:Python (>= 2.7 or >= 3.3),NumPy (>= 1.8.2),SciPy (>= 0.13.3).安装scikit-learn需要先安装许多的依赖包，scikit-learn它是一个开源的机器学习模块，它是建立在NumPy,Scipy和matplotlib模块上的，scikit-learn的特点是分类器、回归、聚类、向...

本篇对应斯坦福公开课的第8个视频，主要讲述了SVM（Support Vector Machine,支持向量机）的剩余部分。即核技法（Kernels）、软间隔分类器（softmargin classifier）、对SVM求解的序列最小化算法（Sequential Minimal Optimization,SMO）以及SVM的一些应用。另外，由于笔记6-8大部分都是SVM的内容，因而打包上传到

本篇笔记针对ML公开课的第七个视频，主要内容包括最优间隔分类器（Optimal Margin Classifier）、原始/对偶问题（Primal/Dual Problem）、svm的对偶问题，都是svm（support vector machine，支持向量机）的内容。

本篇笔记针对斯坦福ML公开课的第6个视频，主要内容包括朴素贝叶斯的多项式事件模型（MultivariateBernoulli Event Model）、神经网络（Neural Network）、支持向量机（Support Vector Machine）的函数间隔（functionalmargin）与几何间隔（geometricmargin）。

本篇博客为斯坦福ML公开课第五个视频的笔记，主要内容包括生成学习算法（generate learning algorithm）、高斯判别分析（Gaussian          DiscriminantAnalysis，GDA）、朴素贝叶斯（Navie Bayes）、拉普拉斯平滑（Laplace Smoothing）

第4个视频的笔记如下，主要的内容包括牛顿方法、指数分布族、广义线性模型、广义线性模型举例之多项式分布

第3个视频的笔记如下，主要的内容包括局部加权回归、最小二乘的概率解释、逻辑斯蒂回归、感知器算法

第1-2个视频的笔记如下，主要的内容包括线性规划、最小二乘法，求解最小二乘法的梯度下降算法与正规方程组算法。这里的公式一定要自己亲自证明一遍，这样才能加深印象，虽然花的时间比较多，实际会为接下来的深入学习剩下时间！

kNN算法的核心思想是如果一个样本在特征空间中的k个最相邻的样本中的大多数属于某一个类别，则该样本也属于这个类别，并具有这个类别上样本的特性。该方法在确定分类决策上只依据最邻近的一个或者几个样本的类别来决定待分样本所属的类别。 kNN方法在类别决策时，只与极少量的相邻样本有关。由于kNN方法主要靠周围有限的邻近的样本，而不是靠判别类域的方法来确定所...