- 博客(7)
- 资源 (2)
- 收藏
- 关注
原创 吴恩达机器学习课程笔记5——过拟合和正则化
过拟合问题 过度拟合:就是我们拟合一个高阶多项式,这个假设函数几乎可以拟合所有的数据,但是这个假设函数太过庞大,数量太大导致我们没有足够的数据去约束它。 这幅图是以线性回归为例子,第一张图是欠拟合(高偏差),可以看出来它没有很好的拟合数据。第二张图拟合效果刚刚好。第三张图,就是过度拟合(高方差)。 这幅图是以逻辑回归为例子,同样是欠拟合、恰好拟合、和过度拟合。 那么怎样解决过度拟合的问题呢?主要有两类方法: 第一类:减少我们选取变量的数量。 第二类:正则化。就是保留所有的特征变量,但是减少它们的量级或者参数
2021-01-25 19:08:02
216
原创 吴恩达机器学习课程笔记4
逻辑回归 逻辑回归是在输出值y为离散值0或者1的一种分类算法。逻辑回归的特点就是算法的输出或者预测值一直介于0和1之间。 h(x)代表在输入x的时候输出y=1的概率。 决策界限 决策界限是我们在训练集中运用代价函数得到一组拟合参数,将这组拟合参数代入h(x)中,得到的一个决策界限,这个界限就可以把输入进行分类。 代价函数 刚刚我们讲到我们需要用代价函数来得到拟合参数,那我们怎样用代价函数得到拟合参数呢? 我们先类比线性回归的代价函数写出逻辑回归的代价函数。 因为我们知道如果代价函数不是凸函数的话,选用梯
2021-01-24 19:46:46
174
原创 吴恩达机器学习课程笔记3
矩阵相关知识 prediction=DataMatrix✖parameters(预测值=数据✖参数),如图所示。 多元梯度下降法 前面我们介绍的梯度下降法只涉及了一个自变量,但在现实生活中的问题中可能会出现多个变量。例如房子的大小,房间的数目,楼层的高低和房子的新旧都会对房价有一定的影响。 这种情况下我们对应的假设函数、代价函数和梯度下降都应该相应的变化。 在多元梯度下降法中有两个常用的小技巧,一个是特征缩放,一个是对于学习率阿尔法a的选取。 特征缩放适用于我们有多个变量但是不同变量的范围不同,甚至是相差
2021-01-20 16:24:47
163
原创 吴恩达机器学习课程笔记2
模型描述 我们以房子的面积和价格为例,建立一个模型,其中房子的大小我们称之为自变量x,预估的价格为y,从房子的大小到房子价格的映射我们称之为h。h(x)就是预测y关于x的线性函数。(单变量线性回归) 代价函数 再线性回归中,我们想要假设函数h(x)表示的直线与数据点能够更好的拟合,所以我们引入了代价函数。该例子中代价函数就是训练值中预测值和真实值的差的平方。 为了让代价函数变小,我们期望能找到使训练集中预测值和真实值的差的平方的和的1/2m最小的A0和A1.(选用1/2m是为了后续的计算方便求导,参数因
2021-01-17 22:02:26
102
原创 吴恩达机器学习课程笔记1
什么是机器学习? A computer program is said to learn from experience E with respect to some task T and some performance on T, as measured by P improves with experience E. 简单来说就是用经验E提高一些任务T的性能P 举个例子就是:大佬和自己的程序下了几万次跳棋训练自己的程序,那么大佬和程序下这几万次跳棋就是经验E,下跳棋就是任务T,那程序和新手玩棋时赢的概
2021-01-10 09:17:56
250
原创 论文学习笔记1-DnCNN的残差学习
这里写自定义目录标题欢迎使用Markdown编辑器新的改变功能快捷键合理的创建标题,有助于目录的生成如何改变文本的样式插入链接与图片如何插入一段漂亮的代码片生成一个适合你的列表创建一个表格设定内容居中、居左、居右SmartyPants创建一个自定义列表如何创建一个注脚注释也是必不可少的KaTeX数学公式新的甘特图功能,丰富你的文章UML 图表FLowchart流程图导出与导入导出导入 欢迎使用Markdown编辑器 你好! 这是你第一次使用 Markdown编辑器 所展示的欢迎页。如果你想学习如何使用Mar
2021-01-09 10:10:52
870
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人