Machine Learning Yearning book draft - 读记（更新至Chapters 14）

最新推荐文章于 2025-05-31 01:28:38 发布
最新推荐文章于 2025-05-31 01:28:38 发布
阅读量6.5k 收藏 14
点赞数 3
CC 4.0 BY-SA版权
分类专栏： Deep Learning 文章标签： Andrew NG 斯坦福大学 机器学习 人工智能 计算机科学
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/qq_24818761/article/details/53465940
本文是关于Andrew NG的新书《Machine Learning Yearning》的读记，书中探讨了如何在实际应用中优化机器学习策略。作者强调了正确选择开发和测试集、评估指标的重要性，以及如何通过误差分析来改进系统性能。书中的内容旨在帮助团队快速迭代和优化机器学习项目。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

废话不多说，先上书封面！


首先，非常感谢Andrew NG贡献的新书，本书总共大概50多章，昨天收到了1-12章（1-2页/章，总共23页）的手稿，让各位读者一睹为快。

附上书的下载地址：

1-12章：https://gallery.mailchimp.com/dc3a7ef4d750c0abfc19202a3/files/Machine_Learning_Yearning_V0.5_01.pdf

13章：https://gallery.mailchimp.com/dc3a7ef4d750c0abfc19202a3/files/Machine_Learning_Yearning_V0.5_02.pdf

14章：https://gallery.mailchimp.com/dc3a7ef4d750c0abfc19202a3/files/Machine_Learning_Yearning_V0.5_03.pdf


一、前言

先说说我对于此书的期待，本书作者是Andrew NG，我相信这个名字对于所有做机器学习的朋友来说都不陌生，斯坦福大学计算机科学系和电子工程系副教授，人工智能实验室主任，Coursera的联合创始人，14年加入Baidu IDL担任百度公司首席科学家。或许有许多人跟我一样，是从NG的机器学习视频中得到启蒙的，从此走上了machine learning的道路。在我看来，NG在Teaching方面做的工作为所有年轻学者、科研工作者以及工业界的研发人员带来了实实在在进步的力量。看过CS229课程的朋友可能会有很深的体会，NG讲的内容既深刻又浅显，既理论又实际，公布了大量学习的code以供相关学习，NG无非是想让机器学习的方法真正应用到实际生活中，让机器学习不光在学术上，也在工业上产生应有的价值。当然最终也包括本文提到的此书。（以上的啰嗦是本人对于NG的热衷之言，仅代表本人，勿喷！）



二、《Machine Learning Yearning》

1）Why Machine Learning Strategy

首先，本书列举了一下机器学习的应用包括：网页搜索，辣鸡邮件分类，语音识别，商品推荐等等等。。。然后，NG举了一个例子：如果有一个检测猫的检测器，当这个检测器表现不好的时候，你该怎么办？

● 收集更多的数据

● 让数据集更丰富：例如不同姿势、不同颜色的猫...

● 让梯度再飞一会儿

● 搞个更大的网络，多来几层、多来点神经元，最后加点参数

● 小的网络也不一定差哦

● 加入正则项 - 像是L2

● 把整个框架都换了（什么激活函数之类的）

这样做有一个顾虑，如果没有找准方向，那么你可能会白白花掉很多时间，那么我们该如何下手呢？


2）How to use this book to help your team

NG写此书的目的就在于，让读者了解机器学习算法在应用中出了什么问题，同时如何应对？

此书每一章只有1-2页，前12章没有看到一条数学公式，这对于恐惧英语和数学的同学来说是

最低0.47元/天 解锁文章

200万优质内容无限畅学
快速入门深度学习教程指南（附国外顶级名校课程视频资源）
Tiger数学之家的博客
11-28 1535
Deep_Learning_Route From Self-Driving Cars to Alpha Go to Language Translation, Deep Learning seems to be everywhere nowadays. While the debate whether the hype is justified or not continues, Deep Lea...
machine-learning-yearning
11-18
《machine-learning-yearning》吴恩达老师 最终手稿，拿走不谢
Machine Learning Yearning读书笔记(1)
云水
05-05 288
1 为什么使用机器学习策略？ 机器学习是很多应用的基础：如网页搜索，垃圾邮件分类，语言识别，推荐系统等。 猫图片的推荐 假如要建立一个向爱猫人士推荐猫图片的系统，现在系统性能不好，要怎样改进？ 增加训练数据：收集更多的猫图片。 增加训练数据的多样性：如收集不同角度拍摄的图片、不同颜色的猫图片。 增加训练时间：增大迭代次数。 用更复杂更深的网络结构：如增加网络层数，每层的神经元个数。 用...
图解机器学习 | 机器学习基础知识
最新发布
Gupao123的博客
05-31 748
如果你真的想学习人工智能，请不要去网上找那些零零碎碎的教程，真的很难学懂！你可以根据我这个学习路线和系统资料，制定一套学习计划，只要你肯花时间沉下心去学习，它们一定能帮到你！
Machine Learning Yearning20~22
sunyao_123的博客
05-08 277
1.即使是所有的数据都是相同的分布，训练数据越多也不一定会得到想象的提高。那么我们啥时决定增加数据呢？机器学习里边误差主要来源两个方面：bias 和variance。明白这两个概念能够帮助我们，是否是通过增加数据还是和其它策略一起来提高网络的效果。 比如我们现在的算法，在训练集和测试集的error分别为15%，16%，我们想要达到5%的error。这时增加数据会使得更难达到我们需要的结果。这时，...
《Machine Learning Yearning》
海绵宝宝强无敌的博客
11-14 1292
《Machine Learning Yearning》概要
《MACHINE LEARNING YEARNING》
09-27
吴恩达新书手稿完工
Machine Learning Yearning28~30
sunyao_123的博客
05-17 692
1.通过画学习曲线来观察。学习曲线：横坐标是不同数量的训练样本，纵坐标是dev set的error。随着训练样本的增加，error降低。一般来说，我们有一个期望误差率，希望网络能够达到。比如：人类的误差率；直觉上任务应该达到的误差率；长期目标需要达到的误差率。 通过观察上述曲线，可以推断还需要多少训练样本才能达到期望误差率。但是如果误差曲线最后是平的： 那么，通过增加训练数据是不能够达...
Machine_Learning_Yearning_V0.5_01.pdf
12-10
Andrew Ng的新书《Machine Learning Yearning》01部分
Machine_Learning_Yearning_V01
04-26
Table of Contents (draft) Why Machine Learning Strategy 4 ........................................................................................... How to use this book to help your team 6 ................................................................................ Prerequisites and Notation 7 .................................................................................................... Scale drives machine learning progress 8 ................................................................................ Your development and test sets 11 ............................................................................................ Your dev and test sets should come from the same distribution 13 ........................................ How large do the dev/test sets need to be? 15 .......................................................................... Establish a single-number evaluation metric for your team to optimize 16 ........................... Optimizing and satisficing metrics 18 ..................................................................................... Having a dev set and metric speeds up iterations 20 ............................................................... When to change dev/test sets and metrics 21 .......................................................................... Takeaways: Setting up development and test sets 23 .............................................................. Build your first system quickly, then iterate 25 ........................................................................ Error analysis: Look at dev set examples to evaluate ideas 26 ................................................ Evaluate multiple ideas in parallel during error analysis 28 ................................................... If you have a large dev set, split it into two subsets, only one of which you look at 30 ........... How big should the Eyeball and Blackbox dev sets be? 32 ...................................................... Takeaways: Basic error analysis 34 .......................................................................................... Bias and Variance: The two big sources of error 36 ................................................................. Examples of Bias and Variance 38 ............................................................................................ Comparing to the optimal error rate 39 ................................................................................... Addressing Bias and Variance 41 .............................................................................................. Bias vs. Variance tradeoff 42 ..................................................................................................... Techniques for reducing avoidable bias 43 .............................................................................. Techniques for reducing Variance 44 ....................................................................................... Error analysis on the training set 46 ........................................................................................ Diagnosing bias and variance: Learning curves 48 ................................................................. Plotting training error 50 .......................................................................................................... Interpreting learning curves: High bias 51 ............................................................................... Interpreting learning curves: Other cases 53 .......................................................................... Plotting learning curves 55 ....................................................................................................... Why we compare to human-level performance 58 .................................................................. How to define human-level performance 60 ........................................................................... Surpassing human-level performance 61 ................................................................................ Why train and test on different distributions 63 ...................................................................... Page!2 Machine Learning Yearning-Draft V0.5 Andrew NgWhether to use all your data 65 ................................................................................................ Whether to include inconsistent data 67 .................................................................................. Weighting data 68 .................................................................................................................... Generalizing from the training set to the dev set 69 ................................................................ Addressing Bias and Variance 71 ............................................................................................. Addressing data mismatch 72 ................................................................................................... Artificial data synthesis 73 ........................................................................................................ The Optimization Verification test 76 ...................................................................................... General form of Optimization Verification test 78 ................................................................... Reinforcement learning example 79 ......................................................................................... The rise of end-to-end learning 82 ........................................................................................... More end-to-end learning examples 84 .................................................................................. Pros and cons of end-to-end learning 86 ................................................................................ Learned sub-components 88 .................................................................................................... Directly learning rich outputs 89 .............................................................................................. Error Analysis by Parts 93 ....................................................................................................... Beyond supervised learning: What’s next? 94 ......................................................................... Building a superhero team - Get your teammates to read this 96 ........................................... Big picture 98 ............................................................................................................................ Credits 99
maching learning yearing
04-18
maching learning yearing andrew ng 2018最新力作 Machine Learning Yearning is a deeplearning.ai project
吴恩达新书-Machine learning Yearning
06-14
吴恩达新书《Machine learning Yearning》最新整理版，包括目前所有最新章节。
machine learning yearning Ch. 1-14
05-02
吴恩达分享的链接国内下载不了，分享一下方便下载machine learning yearning Ch. 1-14
Machine Learning Yearning(3、4)
夏天的风
03-08 957
NG的机器学习教程，第三章：预备知识和注释；第四章：规模驱使机器学习前进。 完整手稿翻译详见：https://github.com/xiaqunfeng/machine-learning-yearning Chapter 3Prerequisites and Notation Chapter 4Scale drives machine learning progress Ch
Machine Learning Yearning1~14
sunyao_123的博客
05-08 387
1.测试数据尽量和要应用的数据分布吻合，这可能和训练数据分布不吻合；尽可能的使得dev 和 test sets的分布相同。 2.如果我们的算法要应用到特定的领域，dev和test sets的分布最好是相同的。 3. dev和test sets的大小要基于模型来定。通过dev和test sets评估不同模型的差异，如果模型差异越小，所需数据量越大。 4.确定一个单值的评价标准（比如accura...
Machine Learning Yearning(5、6、7)
夏天的风
03-12 987
第5、6、7三章，主要讲开发集和测试集，包括选型、大小、比例等。 完整手稿翻译详见：https://github.com/xiaqunfeng/machine-learning-yearning Setting up development and test sets Chapter 5Your development and test sets Chapter 6Your dev and
吴恩达新书《Machine Learning Yearning》50-52：数据驱动的深度学习组件选择
"吴恩达在2018年出版的新书《Machine Learning Yearning》章节50至52，探讨了在构建端到端机器学习管道系统时选择组件的关键问题，尤其是数据可用性对系统性能的影响。书中通过自动驾驶系统的例子，阐述了如何有效地...
评论 4
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值