第五清风的博客

本篇是关于机器学习的第三篇，这一系列的文章主要是参考李航老师的《统计学习方法》一书，以及兼考虑周志华老师的《机器学习》一书本篇不是李航老师的《统计学习方法》中的一部分，主要是对第二篇感知机中所涉及到的拉格朗日对偶性进行补充。方法的目的目的：为解决约束最优化问题，常使用拉格朗日对偶性将原始问题转换为对偶问题转化步骤通过引入拉格朗日乘子，得到拉格朗日方程。此时原始问题就转换为拉格朗日方程的极小极大问题当x满足约束条件时，拉格朗日函数的最大化会等于原始问题中的函数当x不满足约束条件时，拉.

本篇是关于机器学习的第二篇，这一系列的文章主要是参考李航老师的《统计学习方法》一书，以及兼考虑周志华老师的《机器学习》一书本篇主要讲述的是感知机，需要注意的是与后面的支持向量机（SVM）的比较，尤其是与线性可分的支持向量机之间的比较。1. 简介感知机是二类分类的线性分类模型将输入空间（特征空间）划分为正负两类的分离超平面属于判别模型2. 模型参数空间为各维的权重w及额外的偏置b（n+1）其中w为切分超平面的发现，b为切分超平面与原点的距离3. 策略损失函数为误分类点到超平面.

本篇是关于机器学习的开篇之作，这一系列的文章主要是参考李航老师的《统计学习方法》一书，以及兼考虑周志华老师的《机器学习》一书。本篇博客是该系列的第一篇，主要是关于统计学习一些基本概念中的重难点。1. 统计学习统计学习：关于计算机基于数据构建概率统计模型并运用模型对数据进行预测与分析的一门学科2. 统计学习的分类一般分为监督学习、无监督学习、强化学习监督学习：从标注数据中学习预测模型的机器学习问题输入空间、特征空间、输出空间无监督学习：从无标注数据中学习预测模型的机器学习问题.