第三部分 机器学习(ML)策略1 - 2 笔记

最新推荐文章于 2024-06-20 17:47:39 发布
原创 最新推荐文章于 2024-06-20 17:47:39 发布 · 283 阅读 · 0 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#笔记 #深度学习 #机器学习

本文探讨了在算法评估中使用单一数字指标的方法，如F1-Score等，来综合准确率和查全率等多维度评价标准，从而更简便地对比不同算法的优劣。此外，还介绍了满足和优化指标的概念，帮助开发者在实际应用中更好地衡量算法效果。

1.3 单一数字评估指标
Single number evaluation metric

当评价分类器A/B算法好坏的时候，如果有两个指标比如准确率Precision和查全率Recall可供选择，往往不好评价哪个分类器更加好。若有一个单一的评价指标可以综合这两个标准，即可对分类器A/B的优劣进行评价。

准确率：判断该物为A的概率是多少。

 

查全率：类别为A的物体被识别的概率是多少。

F1-Score 调和平均值。

不同算法在不同场景下误差的平均值也可以作为单一指标，简单有效。
单一的算法评估指标可以算法评估指标可以有效的对算法效率进行评价，进而利于算法的迭代。
1.4 满足和优化指标
Satisficing and optimizing metrics
将所有的评价指标综合为一个，有时候并不太现实。

可以自定义将多个指标进行综合，例如线性/非线性加权。
也可以将评价指标分为优化指标和满足指标。Satisficing and optimizing metrics
在一定阈值内，满足指标得到保证，可以不予考虑，仅考虑优化指标(单一)即可。
(评价指标必须是在训练/开发/测试集上进行评价的)
评价规则：
吴恩达深度学习笔记(60)-深度学习中的正交化
Harpoon_fly的博客
02-15 2455
正交化（Orthogonalization） 搭建建立机器学习系统的挑战之一是，你可以尝试和改变的东西太多太多了。 包括，比如说，有那么多的超参数可以调。 我留意到，那些效率很高的机器学习专家有个特点，他们思维清晰，对于要调整什么来达到某个效果，非常清楚，这个步骤我们称之为正交化，让我告诉你是什么意思吧。 这是一张老式电视图片，有很多旋钮可以用来调整图像的各种性质，所以对于这些旧式电视，可能有一...
深度学习 day10机器学习（ML）策略
博客
08-16 583
01 为什么是ML策略 当你尝试优化一个深度学习系统时，通常有很多想法可以去试。一些策略或者一些分析机器学习问题的方法可以指引你朝着最有希望的方向前进。 [外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-oGG1FN4m-1629041544814)(C:\Users\1\AppData\Roaming\Typora\typora-user-images\image-20210814092245145.png)] 02 正交化 搭建机器学习系统的挑战之一是可以尝试和改变的东西
《深度学习工程师-吴恩达》04结构化机器学习项目--机器学习（ML）策略1 总结 （如何进一步优化系统的方法论）
jliang3的博客
02-17 3752
作者：jliang https://blog.youkuaiyun.com/jliang3 《深度学习工程师-吴恩达》04结构化机器学习项目--机器学习（ML）策略1 学习总结 1.重点归纳 1）ML策略（机器学习策略）就是如何构建你的机器学习项目，目的是快速有效的方法能够判断哪些想法是靠谱的，或者甚至提出新的想法，判断哪些值得一试的想法，哪些是可以放心舍弃的。 2）正交化 （1）正交...
机器学习（ML）策略
qq_51691366的博客
06-30 719
正交化是机器学习中一种常用的数据预处理技术，用于减少特征之间的相关性。在机器学习中，特征之间的相关性可能会导致模型过拟合或者降低模型的性能。正交化的主要目标是通过线性变换将特征向量转化为正交或近似正交的向量。通过正交化，我们可以得到一组新的特征向量，这些特征向量之间是正交的或者近似正交的。这样做可以减少特征之间的相关性，提高模型的性能和稳定性。正交化方法可以通过以下步骤实现：（1）、中心化：将特征向量的均值移动到原点，这样可以消除特征之间的偏差。
结构化机器学习项目(1) ——机器学习(ML)策略1
凝望，划过星空的博客
08-15 860
@[ 1. 为什么是ML策略？ 优化神经网络的思路： 收集更多的数据集Collect more data 收集更多样性的数据集Collect more diverse training set 使用梯度下降法再训练久一点Train algorithm longer with gradient descent 尝试使用的新的优化算法，比如说Adam算法Try algorithm longe...
吴恩达深度学习笔记：机器学习（ML）策略（1）（ML strategy（1））1.1-1.2
weixin_43597208的博客
05-31 887
大家好，欢迎收听本课，如何构建你的机器学习项目也就是说机器学习的策略。我希望通过这门课程你们能够学到如何更快速高效地优化你的机器学习系统。那么，什么是机器学习策略呢？我们从一个启发性的例子开始讲，假设你正在调试你的猫分类器，经过一段时间的调整，你的系统达到了 90%准确率，但对你的应用程序来说还不够好。你可能有很多想法去改善你的系统，比如，你可能想我们去收集更多的训练数据吧。或者你会说，可能你的训练集的多样性还不够，你应该收集更多不同姿势的猫咪图片，或者更多样化的反例集。
《机器学习实战：基于Scikit-Learn、Keras和TensorFlow第2版》-学习笔记（1）
Morganfs的博客
04-08 2157
《机器学习实战：基于Scikit-Learn、Keras和TensorFlow第2版》 - 第一章：机器学习概览，学习内容 Hands-On Machine Learning with Scikit-Learn, Keras, and TensorFlow, 2nd Edition, by Aurélien Géron (O'Reilly). Copyright 2019 Aurélien Géron, 978-1-492-03264-9.
《机器学习实战：基于Scikit-Learn、Keras和TensorFlow第2版》-学习笔记（7）：集成学习和随机森林
Morganfs的博客
05-05 1740
· Hands-On Machine Learning with Scikit-Learn, Keras, and TensorFlow, 2nd Edition, by Aurélien Géron (O’Reilly). Copyright 2019 Aurélien Géron, 978-1-492-03264-9. · 《机器学习》周志华 · 环境：Anaconda（Python 3.8） + Pycharm · 学习时间：2022.05.05~2022.05.05 第六章 集成学习和随机森林 .
吴恩达深度学习笔记：机器学习（ML）策略（1）（ML strategy（1））1.9-1.10
weixin_43597208的博客
06-14 833
那么左边的例子发生了什么？而在右边的例子中，如果你认为贝叶斯错误率是 7.5%，这里我们使用人类水平错误率来替代贝叶斯错误率，但是你认为贝叶斯错误率接近 7.5%，你就知道没有太多改善的空间了，不能继续减少你的训练错误率了，你也不会希望它比 7.5%好得多，因为这种目标只能通过可能需要提供更进一步的训练。所以在这个例子中，我得说，不管你怎么定义人类水平错误率，使用单个普通医生的错误率定义，还是单个经验丰富医生的错误率定义或经验丰富的医生团队的错误率定义，这是 4%还是 4.5%，这明显比都比方差问题更大。
《机器学习实战：基于Scikit-Learn、Keras和TensorFlow第2版》-学习笔记（8）：降维
Morganfs的博客
05-08 1895
· Hands-On Machine Learning with Scikit-Learn, Keras, and TensorFlow, 2nd Edition, by Aurélien Géron (O’Reilly). Copyright 2019 Aurélien Géron, 978-1-492-03264-9. · 《机器学习》周志华 · 环境：Anaconda（Python 3.8） + Pycharm · 学习时间：2022.05.07~2022.05.08 第八章 降维 许多机器学习问.
《DeepLearning.ai》第八课：机器学习策略（1）(ML strategy(1))
qq_44783439的博客
09-09 258
第八课：机器学习策略（1）(ML strategy(1)) 1.1 什么是ML策略 ML策略总结就是让人少走弯路，能够选择合适的方法来优化系统。 1.2 正交化(Orthogonalization) 针对不同的环节出现的问题进行不同方式的解决。判断出系统的性能瓶颈出现在那里，然后找到一组特定的旋钮来调整系统，来改善它特定的性能。 1.3 单一数字评估指标(Single number evaluation metric) 对于上面两个分类器，分别给出了它们的查准率和召回率，通常这两个特征必须折中，因
第三部分 机器学习(ML)策略2 - 1 笔记
dddd34的博客
05-08 305
2.1 进行误差分析Carrying out error analysis例子 分析开发集误差在调试猫分类器时，获得90%的准确率，意味着有10%的数据被错分，假设在开发集上10%的数据对应100个样本，若这100个样本中有一些是狗被误分为猫，那么，是否要调整系统使得算法在狗分类上效果更好呢？ 此时不能盲目的将算法改进的目标放在提高狗类图片的识别效果上，首先需要对误分样本进行分析，case1：若1...
第三部分 机器学习(ML)策略1 - 5 笔记
dddd34的博客
05-06 374
1.9 可避免偏差Avoidable bias偏差 VS 方差明确贝叶斯误差亦或是人类水平误差有利于在不同的场景下专注于不同的算法调整策略。例子 猫分类器Case1：如果训练误差以及开发误差与人类水平误差相差较大 (huge gap)，需要把算法的重点放在减少偏差(bias)上，可以通过调整网络结构(更大、更深)、增加训练时间等方式调整。(gap between Bays error ...
第三部分 机器学习(ML)策略1 - 6 笔记
dddd34的博客
05-07 271
1.11 超过人的表现Surpassing human-level performance例子 分类任务Classification taskCase1：可以认为贝叶斯误差为0.5%，可避免偏差是0.1%，方差是0.3%，应该侧重于调整方差。Case2：训练误差以及开发误差以及超过了人类水平，很难评价是该调整方差还是偏差，模型的精度肯定还是可以进一步改进的，但是并不清楚最优贝叶斯误差是多少，在算法...
吴恩达深度学习3笔记week1—— 机器学习（ML）策略（1）Introduction to ML strategy
Saulty的博客
07-08 221
吴恩达深度学习3笔记week1—— 机器学习（ML）策略（1）Introduction to ML strategy1.1 为什么是 ML 策略 Why ML strategy1.2 正交化 Orthogonalization1.3 单一数字评估指标 Single number evaluation metric1.4 满足和优化指标 Satisficing and optimizing metrics1.5 训练 / 开发 / 测试集划分 Train/dev/test distributions1.6 开
机器学习ML策略
u014033218的专栏
09-13 999
机器学习ML策略 1、为什么是ML策略 例如：识别cat分类器的识别率是90%，怎么进一步提高识别率呢？ 想法： （1）收集更多数据 （2）收集更多的多样性训练样本 （3）使用梯度下降训练更长时间 （4）尝试Adam代替梯度下降 （5）尝试更大的网络 （6）尝试更小的网络 （7）尝试dropout （8）尝试L2正则化 （9）修改网络架构（激励函数，隐含层单元数目）2、正交化
03.结构化机器学习项目 第一周 机器学习（ML）策略（1）：1.1 为什么是 ML 策略
xpj8888的博客
06-24 690
转载http://www.shareblogs.top/1694/ 目录 第一章、简介 第二章、ML策略 第一章、简介 本文基于吴恩达人工智能课程做学习笔记、并融入自己的见解(若打不开请复制到浏览器中打开)https://study.163.com/courses-search?keyword=吴恩达。 本文第二章介绍ML策略。 第二章、ML策略 本文介绍说机器学习的策略，即学习如何更快速高效地优化机器学习系统。 那么 什么是机器学习策略？如图2-1所示，我们从一个启发性的例子开始讲，假..
1.1 为什么是 ML 策略
Claroja
02-12 336
PyTorch下，使用list放置模块，导致计算设备不一的报错
最新发布
2401_85327249的博客
06-20 992
在复现 Transformer 代码的训练阶段时，发生报错： RuntimeError: Expected all tensors to be on the same device, but found at least two devices, cuda:0 and cpu!
Python机器学习与深度学习实战：handson-ml2 Jupyter笔记本解析
1. **在线快速开始**：通过第三方服务如Binder，用户可以无需安装任何软件或环境，直接在浏览器中运行Jupyter笔记本。这为临时尝试或演示提供了便利。 2. **临时环境警告**：使用在线服务时，用户需要注意到所做的...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值