－　

文章目录无监督学习无监督学习无监督学习：数据不带有任何标签，训练集只有x而没有对应的label聚类：如下图中数据，可以看为两个分开的点集，用聚类算法可以找到圈出这两个点集的方法...

文章目录1 机器学习概念2 线性回归3 代价函数4 代价函数求解4.1 正规方程求解4.2 梯度下降法4.2.1 批量梯度下降(BGD)4.2.2 随机梯度下降(SGD)1 机器学习概念损失函数/代价函数：当我们选定决策函数f(X)f(X)f(X)时，对于给定的输入XXX，由f(X)f(X)f(X)给出相应的输出YYY，为了能够表现出f(X)f(X)f(X)拟合的好坏，我们定义一个函数来度量...

https://www.cnblogs.com/yonghao/p/5061873.html、https://blog.youkuaiyun.com/qq_40587575/article/details/80247076https://blog.youkuaiyun.com/jiaoyangwm/article/details/79525237https://blog.youkuaiyun.com/qq_41577045/a...

文章目录1 SVM1.1 代价函数1.2 大边界1 SVM1.1 代价函数在推导svm的代价函数之前，先回顾以下逻辑回归中每一个训练样本的代价函数:−(ylog⁡hθ(x)+(1−y)log⁡(1−hθ(x)))- \left( y \log h _ { \theta } ( x ) + ( 1 - y ) \log \left( 1 - h _ { \theta } ( x ) \righ...

文章目录1 过拟合问题2 正则化3 正则化应用3.1 正则化线性回归1 过拟合问题如下图所示的回归问题，第一个模型是线性模型，欠拟合，不能很好地适应训练集；第三个模型就属于过拟合，太过于强调训练数据，而不能推广到新的数据，进行对新数据的预测。中间的模型最为合适。同样的，在分类问题中也有这种现象：如何处理过拟合问题：丢弃一些不能帮助我们正确预测的特征。可以手工选择保留哪些特征，或使用...

文章目录1 模型描述1.1 分类问题1.2 假设函数1.3 判定边界2 代价函数与梯度下降2.1 代价函数2.2 梯度下降1 模型描述1.1 分类问题在分类问题中，我们要预测的变量y是离散的值，即判断其结果是否属于某一个类。在二分类问题中，我们将因变量可能属于的两个类分别称为负向类(y=0)和正向类(y=1)。当我们使用线性回归来解决分类时，我们会设定一个阈值0.5，当y>0.5时，我...

文章目录1 单变量线性回归1.1 模型基本概念1.2 代价函数1 单变量线性回归1.1 模型基本概念线性回归模型是监督学习的一种。之所以叫做回归，是因为我们的模型预测结果为一个准确的数值；与之相对应的是分类问题，即预测结果为0或1从而将数据集分为两类。假设有一个房价预测的问题，如下图所示，我们有房子的面积和对应的价格，我们要构建一个模型来预测其他的房价，这个模型就是线性回归，在下图中，我们...

文章目录1 什么是推荐系统2 基于内容的推荐系统1 什么是推荐系统推荐系统可以依靠你过去浏览的信息或者评价的电影来推荐新的信息。因此这会给互联网内容企业带来很大一部分收入，对企业有实质性的影响。另外，对于机器学习算法来说，数据特征有很大的影响，不同的特征会影响算法的准确性和性能。对于特征的获取，我们可以手动设计数据特征，也可以设计一个算法来学习使用的特征。推荐系统就是后者的一个例子。假如我...

1. 降维如下图所示，有一个含m个样本量的数据组，每个样本包含两个特征，我们可以找到一条直线z，将所有的点投影到该条直线上，那么每个样本的两个特征x1x_1x1​和x2x_2x2​就被压缩成一个特征z1z_1z1​，数据集由{(x1(1),x2(1)),……(x1(m),x2(m))(x^{(1)}_1,x^{(1)}_2),……(x^{(m)}_1,x^{(m)}_2)(x1(1)​,x2(1...

文章目录异常检测(Anomaly detection)高斯分布异常检测算法开发和评价一个异常检测系统异常检测与监督学习之对比特征的选择多元高斯分布及其应用异常检测(Anomaly detection)假设我们有数据集{x(1),x(2),……,x(m)x^{(1)},x^{(2)},……,x^{(m)}x(1),x(2),……,x(m)},其中每个样本都有两个特征值(x1,x2)(x_1,x_...

文章目录1 逻辑回归2 损失函数3 损失函数求解4 正则化4.1 过拟合4.2 正则化应用于逻辑回归1 逻辑回归在分类问题中，我们要预测的变量y是离散的值，即判断其结果是否属于某一个类。具体来说，在二分类问题中，我们将因变量可能属于的两个类分别称为负类(y=0)(y=0)(y=0)和正类(y=1)(y=1)(y=1)。那如何可以将线性回归的连续模型转化为离散模型呢？这里我们要设定一个阈值0....