【含课程pdf & 测验答案】吴恩达-机器学习公开课 学习笔记 Week3-2 Regularization

最新推荐文章于 2020-04-04 13:12:27 发布
原创 最新推荐文章于 2020-04-04 13:12:27 发布 · 450 阅读 · 1 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。

本文为吴恩达机器学习公开课第三周关于正则化的学习笔记，详细介绍了解决过拟合问题的方法，包括减少选取变量数量和正则化策略。讲解了正则化线性回归与逻辑回归的梯度下降法和正规方程，以及如何通过调整正则化参数λ来平衡模型复杂度与训练误差。

吴恩达-机器学习公开课 学习笔记 Week3-2 Regularization

3-2 Regularization 课程内容

此文为Week3 中Regularization的部分。

3-2-1 Solving the Problem of Overfitting

The problem of overfitting

欠拟合/高偏差：没有很好地你和训练数据
过度拟合/高方差： 当变量过多时，训练出的函数总能很好拟合训练数据，代价函数接近于0。这导致它无法泛化到新的样本。
在这里插入图片描述
在这里插入图片描述
解决过度拟合：

  1. 减少选取变量数量：人工选择保留的特征量 / 模型选择算法（自动选择保留特征量）
  2. 正则化（需要所有特征量，每一个特征量都对预测有用）：保留所有特征量，但减少数量级或者θj参数值

Cost Function

加上惩罚项，让θ3 θ4足够小
在这里插入图片描述
正规化：
让一些参数值比较小，我们往往能得到一个形式更简单的假设，因此不易发生过拟合的问题。
我们对θ0不做正则化。
在这里插入图片描述
λ：正则化参数——控制两种目标（拟合训练、保持参数值小）的平衡关系。
在这里插入图片描述
如果λ特别大，就会导致欠拟合。

Regularized Linear Regression

梯度下降

在这里插入图片描述
θ0的更新不变。

正规方程

在这里插入图片描述
样本总数m小于等于特征数量n时，XTX不可逆，但是XTX+λ[…]可逆。

Regularized Logistic Regression

梯度下降

在这里插入图片描述
在这里插入图片描述

高级优化

在这里插入图片描述

测验 Regularization

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

课程链接

https://www.coursera.org/learn/machine-learning/home/week/3

课件

课件链接

吴恩达Machine learning-- week3课后作业
yyxyuxueYang的博客
08-08 1536
解析：hθ(x) will give us the probability that our output is 1, hθ(x) 表示y=1时的概率 解析：求解中，该答案是错的，劳烦大神们指教。 解析：注意线性回归和逻辑回归的区别 解析： sigmoid函数的取值范围是(0,1). 正确 costFunction 大于等于0. 正确 解析：...
【含课程pdf & 测验答案】吴恩达-机器学习公开课 学习笔记 Week9-2 Recommender Systems
CodingRae的博客
01-15 687
吴恩达-机器学习公开课 学习笔记 Week9-2 Recommender Systems 9-2 Recommender Systems 课程内容9-2-1 Predicting Movie Ratings9-2-2 Collaborative Filtering9-2-3 Low Rank Matrix Factorization测验 Recommender Systems课程链接课件 9-2...
Week 3 测验 Regularization【Maching learning】
han_hhh的博客
04-04 207
正确答案：C A的错误原因：将正则化方法加入模型并不是每次都能取得好的效果,如果λλ取得太大的化就会导致欠拟合. 这样不论对traing set 还是 examples都不好 正确答案：A D的错误原因：正则化和J(theta)收不收敛没关系 ...
吴恩达 Machine Learning 第三周 Quiz 正确答案 - Regularization
coco的专栏
08-31 1073
正确答案： 第四题做错了，待提交第二版正确后再行修改。 ～～～～～～～～～～～～～～～～～～～～～～～～～～～～～～～～～～ 阅读后感觉有收获，可以考虑请作者喝咖啡☕️： ...
Machine Learning - VII. Regularization规格化 (Week 3)
皮皮blog
02-27 3390
http://blog.youkuaiyun.com/pipisorry/article/details/43966361机器学习Machine Learning - Andrew NG courses学习笔记规格化RegularizationThe Problem of Overfitting过拟合问题线性规划的例子(housing prices)
吴恩达机器学习课笔记week 3
咚咚锵的博客
07-15 533
本周主要讲分类、逻辑回归以及正则化
林轩田-吴恩达机器学习笔记.pdf
09-22
林轩田和吴恩达的《机器学习基石》课程笔记详细地涵盖了机器学习领域的基础理论和核心概念。林轩田在课程中细致地讲解了机器学习中的关键问题，包括学习问题的本质、如何对Yes-No问题进行学习、不同类型的学习方法、...
吴恩达-机器学习个人笔记
最新发布
02-07
吴恩达教授的机器学习课程是人工智能教育领域的里程碑，它不仅广受学术界的认可，也受到了工业界的高度重视。该课程的深度和广度使之成为理解机器学习原理和应用的绝佳途径。课程内容从基础理论到前沿应用均有涉及，...
COURSERA 吴恩达老师机器学习课程笔记-机器学习笔记-[机器学习与推荐算法].pdf
09-03
在吴恩达老师的COURSERA机器学习课程中，他深入浅出地介绍了机器学习的基本概念和核心算法。课程笔记涵盖了从机器学习的介绍到具体模型的实现，如单变量和多变量线性回归。以下是这些知识点的详细解释： 1. **机器...
吴恩达-机器学习-个人笔记完整版
12-15
这份"吴恩达-机器学习-个人笔记完整版"包含了该课程的主要知识点，以及作者对这些知识的理解和补充，对于想要深入学习或复习机器学习的人来说是一份宝贵的资源。 首先，笔记可能从机器学习的基本概念开始，如监督...
Stanford 机器学习笔记 Week3 Regularization
Baoli1008的专栏
02-15 1063
RegularizationThe Problem of Overfitting拟合效果不好有两种情况：欠拟合(Underfitting)，指的是预测值和training set匹配程度较差。过拟合(Overfitting)，指的是拟合曲线过度追求吻合training set，可能被一些噪音干扰，偏离实际情况。当数据的参数过多时容易发生这种情况。解决过拟合有两种方法:1.减少参数数量，可以人为选择使
斯坦福机器学习视频笔记 Week3 逻辑回归与正则化 Logistic Regression and Regularization...
weixin_30532837的博客
01-26 202
我们将讨论逻辑回归。 逻辑回归是一种将数据分类为离散结果的方法。 例如，我们可以使用逻辑回归将电子邮件分类为垃圾邮件或非垃圾邮件。 在本模块中，我们介绍分类的概念，逻辑回归的损失函数（cost functon），以及逻辑回归对多分类的应用。 我们还涉及正规化。 机器学习模型需要很好地推广到模型在实践中没有看到的新例子。 我们将介绍正则化，这有助于防止模型过度拟合训练数据。 Classifica...
Coursera-吴恩达-深度学习-改善深层神经网络：超参数调试、正则化以及优化-week3-测验
qq1376725255的专栏
02-20 329
本文章内容： Coursera吴恩达深度学习课程， 第二课，改善深层神经网络：超参数调试、正则化以及优化(Improving Deep Neural Networks: Hyperparameter tuning, Regularization and Optimization) 第三周:  超参数调试，batch正则化和程序框架（Hyperparameter tuning, Batch N...
机器学习技法习题3答案
ma412410029的博客
06-04 1459
\begin{enumerate}\item The Gini index is $1-\mu_+^2-\mu_-^2$. What is the maximum value of the Gini index among all $\mu_+\in[0,1]$?Prove your answer.\\\\    解：当$\mu_+=\mu_-=\frac{1}{2}$时，Gini系数有最大值$1...
Machine Learning week 3 quiz : Regularization
热门推荐
GarfieldEr007的专栏
11-17 2万+
Regularization 5 试题 1.  You are training a classification model with logistic regression. Which of the following statements are true? Check all that apply.
Coursera机器学习第三周Regularization练习题
b296405422的博客
05-18 2738
为什么要特别拿出来说这周呢？因为自己在做复选题时感觉只有一个答案正确，但他是多选题，所以试错了两次后，终于在第三次错了要等8小时的恐惧下使用了百度，然后发现是单选.... 因为coursera经常会调整选项顺序和答案内容，比如这周第一题，所以建议各位不要抄答案，理解了再去做。 然后上结果，先证明自己是对的，这下你们就可以听我胡说了，23333. 第一题 第一个选项：加入一个新特征总...
【吴恩达机器学习笔记】Week3 ex2答案
Vincent Lai的博客
09-17 1396
function plotData(X, y) %PLOTDATA Plots the data points X and y into a new figure % PLOTDATA(x,y) plots the data points with + for the positive examples % and o for the negative examples. X is as...
机器学习测试Week3_2Regularization
wangcong02345的专栏
01-10 1万+
Week3_2Regularization 第 1 题 You are training a classification model with logistic regression. Which of the following statements are true? Check all that apply. Introducing regularization to t
Coursera机器学习-Week 3-测验:Regularization
逐梦者
05-25 3551
正则化方法： J(θ)=12m[∑i=1m(hθ(x(i))−y(i))2+λ∑i=1nθ2j]J(θ)=12m[∑i=1m(hθ(x(i))−y(i))2+λ∑i=1nθj2]J(\theta) = \frac{1}{2m}\left[\sum_{i = 1}^m {(h_\theta(x^{(i)}) - y^{(i)})}^2 + \lambda\sum_{i = 1}^n \theta_...
吴恩达斯坦福机器学习公开课中文笔记合集
《斯坦福机器学习公开课笔记（吴恩达）》是一套在人工智能与机器学习领域极具影响力的中文学习资料，源自斯坦福大学著名计算机科学家吴恩达（Andrew Ng）教授所讲授的“CS229: Machine Learning”课程。该系列笔记...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值