深度学习教程(8) | AI应用实践策略(上)(吴恩达·完整版)

完结撒花!吴恩达DeepLearning.ai《深度学习》课程笔记目录总集 吴恩达 Coursera DeepLearning.ai《深度学习》系列课程笔记目录总集 阅读详情


第3门课 结构化机器学习项目,第1周: 机器学习策略 1

本系列为吴恩达老师《深度学习专项课程(Deep Learning Specialization)》学习与总结整理所得,对应的课程视频可以在这里查看。

引言

在ShowMeAI前一篇文章网络优化:超参数调优、正则化、批归一化和程序框架中我们对以下内容进行了介绍:

  • 超参数优先级与调参技巧
  • 超参数的合适范围确定
  • Batch Normalization
  • softmax回归
  • 深度学习框架

本篇 和 下篇 主要对吴恩达老师第3门课《Structuring Machine Learning Projects》(构建机器学习项目)相关内容做总结梳理。内容主要覆盖机器学习中的一些策略和方法,让我们能够更快更有效地让机器学习系统工作。

为什么是ML策略?  Why ML Strategy?

对于一个已经被构建好且产生初步结果的机器学习系统,为了能使结果更令人满意,往往还要进行大量的改进。之前的内容部分介绍了很多改进的方法,包括:

  • 收集更多数据
  • 调试超参数
  • 调整神经网络的大小或结构
  • 采用不同的优化算法
  • 添加正则化

可选择的方法很多,也很复杂、繁琐。盲目选择、尝试不仅耗费时间而且可能收效甚微。想要找准改进的方向,使一个机器学习系统更快更有效地工作,就需要学习一些在构建机器学习系统时常用到的策略。

1.正交化

正交化 Orthogonalization

机器学习中有许多参数、超参数需要调试。通过每次只调试一个参数,保持其它参数不变,而得到的模型某一性能改变是一种最常用的调参策略,我们称之为正交化方法(Orthogonalization)。

正交化的核心在于每次调整只会影响模型某一方面的性能,而对其他功能没有影响。这种方法有助于更快更有效地进行机器学习模型的调试和优化。

在机器学习(监督学习)系统中,我们希望模型有4重评价:

  • 建立的模型在训练集上表现良好
  • 建立的模型在验证集上表现良好
  • 建立的模型在测试集上表现良好
  • 建立的模型在实际应用中表现良好

其中:

  • 对于第①条,如果模型在训练集上表现不好,可以尝试训练更复杂的神经网络或者换一种更好的优化算法(例如Adam)。
  • 对于第②条,如果模型在验证集上表现不好,可以进行正则化处理或者加入更多训练数据。
  • 对于第③条,如果模型在测试集上表现不好,可以尝试使用更大的验证集进行验证。
  • 对于第④条,如果模型在实际应用中表现不好,可能是因为测试集没有设置正确或者成本函数评估指标有误,需要改变测试集或成本函数。

每一种“功能”对应不同的调节方法。而这些调节方法(旋钮)只会对应一个“功能”,是正交的。面对遇到的各种问题,正交化能够帮助我们更为精准有效地解决问题。

在模型功能调试中并不推荐使用早停法early stopping。如果早期停止,虽然可以改善验证集的拟合表现,但是对训练集的拟合就不太好。因为对两个不同的“功能”都有影响,所以早停止法不具有正交化。虽然也可以使用,但是用其他正交化控制手段来进行优化会更简单有效。

2.单值评价指标

单一数字评估指标 Single Number Evaluation Metric

(关于本节涉及到的机器学习应用中的评估指标详解,推荐阅读ShowMeAI文章 图解机器学习 | 模型评估方法与准则)

构建与优化机器学习系统时,单值评价指标非常必要。通过设置一个量化的单值评价指标(single-number evaluation metric),可以使我们根据这一指标比较不同超参数对应的模型的优劣,从而选择最优的那个模型。

例如,对于二分类问题,常用的评价指标是精确率(Precision)和召回率(Recall)。

单值评价指标

假设我们有A和B两个分类器,其两项指标分别如图。但实际应用中,我们通常使用综合了精确率和召回率的单值评价指标 F 1 − S c o r e F1-Score F1−Score 来评价模型的好坏。 F 1 − S c o r e F1- Score F1−Score 其实就是精准率和召回率的调和平均数(Harmonic Mean),比单纯的平均数效果要好。我们计算出两个分类器的F1-Score,对比会发现A模型的效果要更好。

除了F1-Score之外,我们还可以使用平均值作为单值评价指标来对模型进行评估。

单值评价**加粗样式**指标

如图所示, A A A、 B B B、 C C C、 D D D、 E E E、 F F F六个模型对不同国家样本的错误率不同,可以计算其平均性能,然后选择平均错误率最小的那个模型( C C C模型)。

3.优化指标和满足指标

满足和优化指标 Satisficing and Optimizing Metric

有时候,要把所有的性能指标都综合在一起,构成单值评价指标是比较困难的(比如在上面例子的基础上加入模型效率即运行时间)。这时,我们可以将某些指标作为优化指标(Optimizing Metric),寻求它们的最优值;而将某些指标作为满足指标(Satisficing Metric),只要在一定阈值以内即可。

我们以猫类识别的分类器为例,有A、B、C三个模型,各个模型的Accuracy和**运行时间(Running time)**如下表中所示:

优化指标和满足指标

我们可以将Accuracy作为优化指标(Optimizing metic),将Running time作为满足指标(Satisficing metic):给Running time设定一个阈值,在其满足阈值的情况下,选择Accuracy最大的模型。

如上例中设定Running time必须在100ms以内:

  • 模型C不满足阈值条件,首先剔除
  • 模型B相比较模型A而言,Accuracy更高,性能更好

总结一下:优化指标(Optimizing metic)是需要优化的,越优越好,满足指标(Satisficing metic)只要满足设定的阈值就好了。上例中,准确率就是优化指标,因为我们想要分类器尽可能做到正确分类;而运行时间就是一个满足指标,如果你想要分类器的运行时间不多于某个阈值,那最终选择的分类器就应该是以这个阈值为界里面准确率最高的那个。

4.动态改变评价指标

对于模型的评价标准优势需要根据实际情况进行动态调整,以让模型在实际应用中获得更好的效果。

例如,有时我们不太能接受某些分类错误,于是改变单纯用错误率作为评价标准,给某些分类错误更高的权重,以从追求最小错误率转为追求最小风险。

5.训练 / 验证 / 测试集划分

训练集、开发集、测试集的划分 Train / Dev / Test Distributions

ShowMeAI在前面的文章 深度学习的实用层面 中提到了,我们会将数据集分为训练集、验证集、测试集。构建机器学习系统时,我们采用不同的学习方法,在训练集上训练出不同的模型,然后使用验证集对模型的好坏进行评估,确信其中某个模型足够好时再用测试集对其进行测试。

训练集、验证集、测试集的设置对于机器学习模型非常重要,合理的设置能够大大提高模型训练效率和模型质量。

5.1 验证集和测试集的分布

开发集和测试集的大小 Size of the Dev and Test Sets

验证集和测试集的数据来源应该相同(来自同一分布)、和机器学习系统将要在实际应用中面对的数据一致,且必须从所有数据中随机抽取。这样,系统才能做到尽可能不偏离目标。

训练集 / 验证集 / 测试集划分

如果验证集和测试集不来自同一分布,那么我们从验证集上选择的“最佳”模型往往不能够在测试集上表现得很好。这就好比我们在验证集上找到最接近一个靶的靶心的箭,但是我们测试集提供的靶心却远远偏离验证集上的靶心,结果这支肯定无法射中测试集上的靶心位置。

5.2 验证集和测试集的大小

过去数据量较小(小于1万)时,通常将数据集按照以下比例进行划分,以保证验证集和测试集有足够的数据:

训练集 / 验证集 / 测试集划分

  • 无验证集的情况:70% / 30%;
  • 有验证集的情况:60% / 20% / 20%;

现在的机器学习时代数据集规模普遍较大,例如100万数据量,这时将相应比例设为 98% / 1% / 1% 或 99% / 1% 就已经能保证验证集和测试集的规模足够。

训练集 / 验证集 / 测试集划分

5.3 何时改变开发/验证集和评价指标

什么时候改变开发集/测试集和评估指标 When to Change Dev / Test Sets and Metrics

算法模型的评价标准有时候需要根据实际情况进行动态调整,目的是让算法模型在实际应用中有更好的效果。

依旧以猫类识别的分类器为例。初始的评价标准是错误率,算法A错误率为3%,算法B错误率为5%,从错误率评价指标上看显然A更好一些。但是,实际使用时发现算法A会通过一些色情图片,但是B没有出现这种情况。从用户的角度来说,他们可能更倾向选择B模型,虽然B的错误率高一些。

这时候,我们就需要改变之前单纯只是使用错误率作为评价标准,而考虑新的情况进行改变。例如增加色情图片的权重,增加其代价。

原来的cost function:

J = 1 m ∑ i = 1 m L ( y ^ ( i ) , y ( i ) ) J=\frac1m\sum_{i=1}^mL(\hat y^{(i)},y^{(i)}) J=m1​i=1∑m​L(y^​(i),y(i))

更改评价标准后的cost function:

J = 1 w ( i ) ∑ i = 1 m w ( i ) L ( y ^ ( i ) , y ( i ) ) J=\frac{1}{w^{(i)}}\sum_{i=1}^mw^{(i)}L(\hat y^{(i)},y^{(i)}) J=w(i)1​i=1∑m​w(i)L(y^​(i),y(i))

w ( i ) = { 1 , x ( i )   i s   n o n − p o r n 10 , x ( i )   i s   p o r n w^{(i)}= \begin{cases} 1, & x^{(i)}\ is\ non-porn\\ 10, & x^{(i)}\ is\ porn \end{cases} w(i)={1,10,​x(i) is non−pornx(i) is porn​

综上,总体来说机器学习可分为两个过程:① 定义一个合适的评价指标,② 基于上述指标评估当前模型的表现。也就是说,第1步是找靶心,第2步是通过训练,射中靶心。但是在训练的过程中可能会根据实际情况改变算法模型的评价标准,进行动态调整。

还有一种情况下,我们需要动态改变评价标准:我们的验证集/测试集与实际使用的样本分布不一致。比如猫类识别分类场景下样本图像分辨率差异。

训练集 / 验证集 / 测试集划分

6.比较人类表现水平

为什么是人的表现 Why Human-level Performance?

很多机器学习模型的诞生是为了取代人类的工作,因此其表现也会跟人类表现水平作比较。下图展示了随着时间的推进,机器学习系统和人的表现水平的变化。

比较人类表现水平

一般的,当机器学习超过人的表现水平后,它的进步速度逐渐变得缓慢,最终性能无法超过某个理论上限,这个上限被称为贝叶斯最优误差(Bayes Optimal Error)。

贝叶斯最优误差一般认为是理论上可能达到的最优误差。换句话说,其就是理论最优函数,任何从 x x x 到精确度 y y y 映射的函数都不可能超过这个值。例如,对于语音识别,某些音频片段嘈杂到基本不可能知道说的是什么,所以完美的识别率不可能达到100%。

因为人类对于一些自然感知问题的表现水平十分接近贝叶斯最优误差,所以当机器学习系统的表现超过人类后,就没有太多继续改善的空间了。而当构建的机器学习模型的表现还没达到人类的表现水平时,我们会使用各种方式来提升它:

  • 采用人工标记过的数据进行训练
  • 通过人工误差分析了解为什么人能够正确识别
  • 进行偏差、方差分析

当模型的表现超过人类后,这些方法的作用就微乎其微了。

6.1 可避免偏差

可避免偏差 Avoidable Bias

实际应用中,要看人类表现(误差),训练误差和验证误差的相对值。以猫类识别分类为例:

  • 如果人类误差为1%,模型训练误差为8%,验证误差为10%。由于前两者相差7%,后两者之间只相差2%,所以目标是尽量在训练过程中减小训练误差,即减小偏差bias。
  • 如果图片很模糊,肉眼也看不太清,人类表现(误差)提高到7.5%。此时,由于训练误差与其只相差0.5%,验证误差与训练误差相差2%,所以目标是尽量在训练过程中减小验证误差,即方差variance。

所以这个过程,我们看的更多是相对的数据。

模型在「训练集上的误差」与「人类表现水平」的差值被称作可避免偏差(Avoidable Bias)。

比较人类表现水平

可避免偏差低便意味着模型在训练集上的表现很好,而训练集与验证集之间错误率的差值越小,意味着模型在验证集与测试集上的表现和训练集同样好。

如果可避免偏差大于训练集与验证集之间错误率的差值,之后的工作就应该专注于减小偏差;反之,就应该专注于减小方差。

6.2 理解人类表现水平

理解人类的表现  Understanding Human-level Performance

我们说了很多时候会用**人类水平误差(Human-level Error)**来代表贝叶斯最优误差(或者简称贝叶斯误差)。对于不同领域的例子,不同人群由于其经验水平不一,错误率也不同。**一般来说,我们将表现最好的作为人类水平误差。**但是实际应用中,不同人选择人类水平误差的基准是不同的,这会带来一定的影响。

吴恩达老师的课程里,以医疗影像场景举例说明了,这个场景下不同人群的识别error有所不同:

  • 普通大众人群:3%错误率
  • 普通医生:1%错误率
  • 有经验的医生:0.7%错误率
  • 有经验的医生团队:0.5%错误率

理解人类表现水平

上例中不同人群的错误率不同。一般来说,我们将表现最好的那一组,即「有经验的医生团队」作为「人类水平」,即human-level error就为0.5%。但是实际应用中,不同人可能选择的「人类水平」基准是不同的,这对我们后续会带来一些影响。

假如该模型训练误差为0.7%,验证为0.8%

  • 如果选择「有经验的医生团队」,即人类水平误差为0.5%,则此时bias比variance更加突出。
  • 如果选择「有经验的医生」,即人类水平误差为0.7%,则variance更加突出。

大家可以看到,选择什么样的人类水平误差,有时候会影响bias和variance值的相对变化。当然这种情况一般只会在模型表现很好,接近bayes optimal error的时候出现。越接近bayes optimal error,模型越难继续优化,因为这时候的人类水平误差可能是比较模糊难以准确定义的。

7.超越人类的表现

超过人类的表现 Surpassing Human-level Performance

对于自然感知类问题,例如视觉、听觉等,机器学习的表现暂时还不及人类。但是在很多其它方面,机器学习模型的表现已经超过人类了,包括:

  • 在线广告(计算广告)
  • 商品推荐
  • 物流时间预估等
  • 贷款申请审批

机器学习模型超过人类水平是比较困难的。但是只要提供足够多的样本数据,训练复杂的神经网络,模型预测准确性会大大提高,很有可能接近甚至超过人类水平。而当算法模型的表现超过人类水平时,很难再通过人的直觉来解决如何继续提高算法模型性能的问题

8.总结

改善你的模型表现 Improving Your Model Performance

提高机器学习模型性能主要要解决两个问题:avoidable bias和variance。训练误差与人类水平误差之间的差值反映的是avoidable bias,验证误差与训练误差之间的差值反映的是variance。

基本假设

  • 模型在训练集上有很好的表现
  • 模型推广到开发和测试集啥也有很好的表现

提高模型性能总结

8.1 减少可避免偏差(avoidable bias)

当我们发现模型的主要问题是「可避免偏差」时,我们可以采用如下方式优化:

  • 训练更大的模型
  • 训练更长时间、训练更好的优化算法(Momentum、RMSprop、Adam)
  • 寻找更好的网络架构(RNN、CNN)、寻找更好的超参数

8.2 减少方差(variance)

当我们发现模型的主要问题是「方差」时,我们可以采用如下方式优化:

  • 收集更多的数据
  • 正则化(L2、dropout、数据增强)
  • 寻找更好的网络架构(RNN、CNN)、寻找更好的超参数

参考资料

ShowMeAI系列教程推荐

推荐文章

吴恩达AI for Everyone 拒麦肯锡研究,2030年前AI会达到13万亿的市场价值! 阅读详情

相关推荐

吴恩达《人工智能转型手册》完整版.zip

人工智能(AI)是计算机科学的一个分支,它试图理解智能的本质,并生产出一种新的能以人类智能行为方式作出反应的智能机器。自20世纪50年代诞生以来,它已经经历了数次发展高潮与低谷。

weixin_35794316的博客 624

太强了!吴恩达的 ChatGPT 视频课程来了,完全免费,中文版出炉!

点击关注公众号,Java干货及时送达学习 Spring Cloud 微服务的正确姿势!用上 ChatGPT 啦,强的离谱!终于把 Spring Boot 3.0 写成书了!转自 | Datawhale教程背景最近,吴恩达官宣了一个好消息:他和 OpenAI 一起制作了一节关于 ChatGPT Prompt Engineering 的新课,而且课程是免费的。课程链接:https://www.d...

Java技术栈,分享最主流的Java技术 2132

AI大神吴恩达老师的入门课程(中文字幕完整版本)

AI大神吴恩达老师的入门课程

吴恩达课程笔记:AI Prompting for Everyone

吴恩达2026年AI课程笔记:AI Prompting for Everyone

ChenChen_913的博客 1804

增量编码器资讯大全

增量编码器是什么 增量式编码器是将位移转换成周期性的电信号,再把这个电信号转变成计数脉冲,用脉冲的个数表示位移的大小,按照工作原理编码器可分为增量式和绝对式两类。 增量式编码器是将位移转换成周期性的电信号,再把这个电信号转变成计数脉冲,用脉冲的个数表示位移的大小。 编码器是把角位移或直线位移转换成电信号的一种装置。前者称为码盘,后者称码尺.按照读出方式编码器可以分为接触式和非接触式两种.接触式采...

kindele的博客 6009

【社区分享】从零开始学习 TinyML,建立 TensorFlow 深度学习模型(技术优化篇)

本文来自社区投稿与征集,作者王玉成,ML&IoT Google Developers Expert,温州大学智能锁具研究院总工程师。 了解更多:https://blog.youkuaiyun.com/wfing 经过前面几章的讨论,我们了解了TinyML 的概念,完成了一个最简单的TinyML 的模型并且运行在微控制器上,得出最基本的结果。但是在实际的工程应用中,模型建立之后,也需要再进一步结合许多优化方面的技术,这就是我们接下来想要探讨的。 5. 优化 TinyML 这本书也详细的向我...

tensorflowforum的博客 1万+

深度学习教程(1) | 深度学习概论(吴恩达·完整版)

本篇为深度学习系列教程的引言,以房价预测为例,讲解神经网络(Neural Network)模型结构和基础知识,并介绍针对监督学习的几类典型神经网络:Standard NN,CNN和RNN等知识

ShowMeAI研究中心 1万+

保姆级教程:从WOS下载文献到Citespace出图,手把手搞定科研可视化(附避坑指南)

本文提供从WOS下载文献到Citespace出图的完整科研可视化指南,涵盖数据采集、清洗、环境配置和可视化优化全流程。特别分享WOS检索技巧、数据清洗方法和Citespace参数设置,帮助科研新手高效生成专业图谱,避开常见技术陷阱。

weixin_29311017的博客 174

Coursera吴恩达《深度学习》课程总结(全)

当我们算神经网络的层数时,我们不算输入层,只算隐藏层和输出层。4.8这和大脑有什么关系》What does this have to do with the brain?那么,神经网络跟人脑机制到底有什么联系呢?究竟有多少的相似程度?其实关联性不大。

weixin_46587777的博客 6707

使用MKL+Eigen求解稀疏矩阵方程组

问题:求解Ax=b的解,其中,A为大型稀疏矩阵,长和宽分别为1500^2。 一般思路: (1)A为对称正定矩阵,对A使用cholesky分解。 (2)A为对称不定矩阵,使用LDL‘分解,即: PAP'=LDL' 其中,L为单位下三角矩阵,D由阶数为1或者2的对角块构成,P是置换矩阵。 (3)不对称矩阵:LU分解。 (4)长方形矩阵(长...

薛晓伟 3446

ROS学习笔记之——无人机PID调参过程记录

For cooperaive inquiries, please visit the website:guanweipeng.com

gwpscut的博客 6830

吴恩达老师深度学习课程完整笔记

为了方便学习深度学习课程,转载一个吴恩达老师的一个深度学习笔记,转载的网站是下面这个 https://blog.youkuaiyun.com/red_stone1/article/details/80207815 从去年8月份开始,AI界大IP吴恩达在coursera上开设了由5们课组成的深度学习专项课程,掀起了一股人工智能深度学习热潮。这里附上deeplearning.ai的官网: deeplearnin...

Miracle8070 6万+

[Dify实战] OA 公文排版助手:自动格式化、编号、生成摘要-带配套资源

摘要: Dify 公文排版助手通过自动化解决公文处理中的格式混乱、编号错漏等问题。支持标题层级自动编号、摘要生成、要素补全等功能,输出标准化Markdown格式。核心流程包括输入原文、智能识别、自动排版与要素输出,适用于通知、纪要等场景。实施需统一模板规则,规范输入格式,并通过试跑优化纠错率与处理效率。关键价值在于减少人工返工,提升排版一致性,未来可对接OA系统实现全流程自动化。

技术小甜甜:传播可落地技术,帮助个人和企业降低解决真实场景问题的成本 475

深度学习教程(9) | AI应用实践策略(下)(吴恩达·完整版)

本节覆盖构建机器学习项目的后半部分内容,包括:错误分析(error analysis),错误标签情况及修正,数据分布和数据不匹配问题及解决办法,迁移学习,多任务学习,端到端学习。

ShowMeAI研究中心 9954

华为OD机试 - 名字的漂亮度(Java 牛客练习题)

本专栏包含了最新最全的2023年华为OD机试真题,有详细的分析和Java解答。已帮助1000+同学顺利通过OD机考。专栏会持续更新,每天在线答疑。每个字母都有一个“漂亮度”,范围在1到26之间。没有任何两个不同字母拥有相同的“漂亮度”。给出一个字符串,该字符串仅由小写字母组成,定义这个字符串的“漂亮度”是其所有字母“漂亮度”的总和。给出多个字符串,计算每个字符串最大可能的“漂亮度”。第一行一个整数N,接下来N行每行一个字符串。数据范围:输入的名字长度满足。每个字符串可能的最大漂亮程度。

学Java,找哪吒 1786

黑猫带你学eMMC协议第2篇:eMMC部分相关名词释义

1 前言 1.1 声明 本文依据eMMC JEDEC5.1、网络资料及个人工作经验整理而成,如有错误请留言。 本文结合eMMC JEDEC5.1协议手册查看效果更佳。 1.2 本文背景 本文关键词不包括emmc jedec5.1协议第3章节:《Terms and definitions》内容。关于emmc协议层的关键词,直接查阅spec相关章节即可,清晰明了,此处没必要再列出。 本文为本人工作学习中常听到或常用到关乎于emmc/flash的一些关键词合集,没有固定分类,不需要强行记忆,供查询使用。 1.

黑猫奥利奥的博客 7452

深度学习教程 | 吴恩达专项课程 · 全套笔记解读

本篇内容是组织的「深度学习原理知识大全」系列教程入口,教程依托吴恩达老师《深度学习专项课程》,对内容做了重新梳理与制作,以更全面和直观的图文方式,对深度学习涉及的知识、模型、原理、应用领域等进行详解......

ShowMeAI研究中心 1万+

android 蓝牙通讯demo

android 下蓝牙通讯demo,实现了发现蓝牙,使能蓝牙,通过蓝牙发送消息。

吴恩达deeplearning.ai深度学习课程空白作业

  吴恩达deeplearning.ai深度学习课程的空白作业,包括深度学习微专业五门课程的全部空白编程作业,经多方整理而来。网上找来的作业好多都是已经被别人写过的,不便于自己练习,而且很多都缺失各种数据文件,找起来费时费力。所以我特地整理了一遍,搞到全部空白作业与所有的数据文件,并上传到优快云,欢迎下载:   https://www.baidu.com/ .........

ccgcccccc的博客 1万+

VB摄像头监控

该VB模块可对摄像头捕获的画面进行录像等,可在创建的窗口进行控制

LinePhone3.2.7(android端最新版本) sip客户端

SIP客户端For android:LinePhone3.2.7(最新版本),官网地址:http://www.linphone.org/

吴恩达深度学习笔记 最全最详细!这一篇足够了!

为了方便学习深度学习课程,转载一个吴恩达老师的一个深度学习笔记,转载的网站是下面这个 https://blog.youkuaiyun.com/red_stone1/article/details/80207815 从去年8月份开始,AI界大IP吴恩达在coursera上开设了由5们课组成的深度学习专项课程,掀起了一股人工智能深度学习热潮。这里附上deeplearning.ai的官网: deeplearning.ai 关于该深度学习专项课程,本人非常推荐!它对于理解各种算法背后的原理非常有帮助,同时提供了大

是木子啦~ 1万+

OV9734 DATASHEET,完整规格书

OV9734完整规格书,包括电气参数,尺寸规格,寄存器配置表等

深度学习教程 | AI应用实践策略(下)

现在,我们有了训练集错误率、训练-验证集错误率,以及验证集错误率。其中,训练集错误率和训练-验证集错误率的差值反映了variance方差;而训练-验证集错误率和验证集错误率的差值反映了样本分布不一致的问题,从而说明模型擅长处理的数据和我们关心的数据来自不同的分布,我们称之为。

weixin_42907150的博客 1027

吴恩达新作《如何构建自己的AI职业》看哭我

《How to Build Your Career in AI》是吴恩达创作的一本关于如何在AI领域建立职业生涯的书籍,主要关注学习AI技术技能、选择项目和有序安排项目等方面的职业发展建议。这本书更像是一个对于AI入局者的checklist,为想要在AI领域发展的人提供了学习和职业发展方面的建议,有助于他们更好地适应AI领域的职业需求。

qingkahui24689的博客 1540

微软和吴恩达的两门超绝的免费AI公开课,打破小白的AI认知

大家好,我是凡人。前两天有好几个朋友在问我,有没有大厂出品的权威AI课程,在对比40多个免费AI课程后,选择了微软和吴恩达两门公开课程,他们在GitHup上有超高的人气,分别是18.3K和66.1K颗星,下面我们就一起来看看这两门课程。

weixin_40780178的博客 3255

向吴恩达学人工智能转型:一份企业实战指南

吴恩达是人工智能领域的标杆人物,他主导创立了谷歌大脑、推进百度大脑,并通过在线教育平台Coursera和Deeplearning.ai推动全球AI普及。2018年发布的《AI Transformation Playbook》(AI转型手册)浓缩了他多年实战经验,为企业提供了一套完整的AI转型框架我觉得这本手册常读常新,里面提到的“AI转型五步法”和 “AI 落地常见坑点”,和这两年组织在落地人工智能时遇到的问题很契合。所以,我们不妨来一次人工智能 “考古”,向吴恩达学习如何实现人工智能转型。

2401_84495872的博客 1667

深度学习教程 | AI应用实践策略(上)

提高机器学习模型性能主要要解决两个问题:avoidable bias和variance。训练误差与人类水平误差之间的差值反映的是avoidable bias,验证误差与训练误差之间的差值反映的是variance。基本假设模型在训练集上有很好的表现模型推广到开发和测试集啥也有很好的表现。

weixin_42907150的博客 1059
上一篇: 深度学习教程(7) | 网络优化:超参数调优、正则化、批归一化和程序框架(吴恩达·完整版)
下一篇: 深度学习教程(9) | AI应用实践策略(下)(吴恩达·完整版)
ShowMeAI
博客等级 码龄5年 6514粉丝 672原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

ShowMeAI

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值