八股文——机器学习基础模型评估

原创

已于 2024-06-11 21:09:12 修改 · 1.5k 阅读

44 ·

CC 4.0 BY-SA版权

文章标签：

#机器学习 #人工智能

于 2024-04-07 17:05:35 首次发布

本文详细介绍了评估函数如准确率、精准度、召回率、F1值和混淆矩阵，以及ROC曲线和AUC的原理。讨论了AUC作为排序性能指标的优点和缺点，强调了它对正负样本比例的鲁棒性，并探讨了过拟合和欠拟合现象及其成因及缓解策略。

一、常用的评估函数

Accuracy 准确率

Precision 精准度/查准率

Recall 召回率/查全率

P-R曲线查准率为纵轴，查全率为横轴

F1 F1值

Confusion Matrix 混淆矩阵

ROC ROC曲线

AUC ROC曲线下的面积

二、什么是混淆矩阵

计算公式召回率(预测结果中真正的正例数)/(样本中所有的正例数)

这里需要注意一个特点，真阳性率和召回率是一致的。

召回率是对样本的评判样本中有多少正样本被预测正确了

精确率是对预测结果的评判

最低0.47元/天解锁文章

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

wangziling123456

关注关注

11
点赞
踩
44

收藏

觉得还不错? 一键收藏
0
评论
分享

复制链接

分享到 QQ

分享到新浪微博

扫一扫
举报

举报

【RePo】机器学习八股文

0x00

09-11

1万+

机器学习八股文

机器学习_八股

qq_45972323的博客

04-11

3773

这里称J(a,b)为损失函数，明显可以看出它是个二次函数，即凸函数，所以有最小值。当J(a,b)取最小值的时候，f(x)和y的差异最小，然后我们可以通过J(a,b)取最小值来确定a和b的值。

参与评论您还未登录，请先登录后发表或查看评论

机器学习深度学习八股表格（由AI整理）

最新发布

weixin_45715390的博客

10-09

599

由AI整理的机器学习&深度学习八股表格，适合面试等速成场景快速记忆。

Transformer八股！！！常见八股、台大李宏毅图解、个人理解

weixin_45995838的博客

06-21

3653

Attention is All You Need

机器学习八股文

weixin_43570470的博客

08-09

3754

机器学习面试笔试求职必背

机器学习八股文(考研复试自用)

weixin_54262350的博客

03-25

3180

机器学习起源于上世纪50年代，1959年在IBM工作的Arthur Samuel设计了一个下棋程序，这个程序具有学习的能力，它可以在不断的对弈中提高自己。由此提出了“机器学习”这个概念，它是一个结合了多个学科如概率论，优化理论，统计等，最终在计算机上实现自我获取新知识，学习改善自己的这样一个研究领域。

机器学习面试笔试求职必背！八股文（1/5）

大厂offer宝典

08-29

1万+

算法工程师，技术软件类求职机器学习必背八股文 更多算法/业务/HR面等笔试题面试题 —— >个性签名自取！ 1. 特征工程： 1.1 为什么要对特征做归一化处理： Feature scaling，常见的提法有“特征归一化”、“标准化”，是数据预处理中的重要技术。特征间的单位（尺度）可能不同，比如身高和体重，比如摄氏度和华氏度，比如房屋面积和房间数，一个特征的变化范围可能是[ 1000 , 10000 ] [1000, 10000][1000,10000]，另一个特征的变化范围可能是[ −.

算法面试八股文『基础知识篇』

SG_teresa's blog

01-31

4101

个人整理的算法面试基础知识八股文，内容较详细。

机器学习面试八股文

03-12

如果一个机器学习模型过度适应了训练数据中的噪声或者细节特征，则该模型很可能无法很好地推广到未知的新样本上去——这就是所谓的“过拟合”。为了防止这种情况发生，可以采取正则化技术、增加更多样化的训练实例...

最新八股文面试题

weixin_44530708的博客

03-01

3042

最新八股文面试题

【AI算法岗面试八股面经【超全整理】——机器学习】

热门推荐

猫猫头的博客

05-28

2万+

因为回归树的标签是连续的，因此基尼系数、熵这种概率评估不适合作为评估指标，所以考虑使用均方误差作为特征划分的好坏，将划分后每个节点所有样本的均方误差之和与之前没划分的节点的均方误差作差来代替基尼系数。如果能将用户A的原始特征转变为一种代表用户A喜好的特征向量，将电影1的原始特征转变为一种代表电影1特性的特征向量，那么，我们计算两个向量的相似度，就可以代表用户A对电影1的喜欢程度。首先对物品或内容的特征作出描述，发现其相关性，然后基于用户以往的喜好记录，推荐给用户相似的物品。交叉熵越小，两个概率分布越接近。

大模型实习必备八股文 之 机器学习（一）

Mary的博客

01-11

1090

Sigmoid 函数Sigmoidz1e−x1二元交叉熵损失。

机器学习的8篇文章

weixin_34203426的博客

07-10

444

Time Series Prediction with LSTM Recurrent Neural Networks in Python with Keras Time series prediction problems are a difficult type of predictive modeling problem. Unlike regression predictive m...

【机器学习】大模型面试八股含答案

fengdu78的博客

10-12

7347

原作者：花甘者浅狐感谢这位朋友辛苦整理，访问知乎原文https://zhuanlan.zhihu.com/p/643560888基础知识1.transformer 八股文a.Self-Attention的表达式 b.为什么上面那个公式要对QK进行scaling scaling后进行softmax操作可以使得输入的数据的分布变得更好，你可以想象下softmax的公式，数值会进入敏感区间，防止梯度消失...

【秋招】算法岗的八股文之机器学习

qq_42312574的博客

08-02

1万+

为了便于后续的下游任务中特征距离计算，为了消除特征间单位和尺度差异的影响，以对每维特征同等看待，需要对特征进行归一化。余弦相似度：计算两个向量之间夹角的余弦值，余弦值接近1说明夹角趋近0，表示两个向量相似。表示激活函数，【激活函数是用来加入非线性因素的，提高神经网络对模型的表达能力，解决线性模型所不能解决的问题。模型假设：自变量的变化对因变量的影响是通过一个逻辑函数（sigmoid函数）体现的。这个模型中包含了许多不同的网络模型，以下将根据他们之间的应用侧重来浅显的解析概念。的代价函数是交叉熵函数。

【5】机器学习算法面试八股

weixin_44125042的博客

07-15

999

若卷积神将网络的上一层有N个卷积核,则对应的通道数也为N。设群数目为M,在进行卷积操作的时候,将通道分成M份,每个group对应N/M个通道,然后每个group卷积完成后输出叠在一起,作为当前层的输出通道。

【2】机器学习算法面试八股

weixin_44125042的博客

07-15

1017

频率派认为模型参数是固定的,一个模型在无数次抽样后,参数是不变的；频率派认为模型不存在先验贝叶斯学派认为数据才是固定的而参数并不是。贝叶斯派认为模型存在先验。支持向量机为一个二分类模型,它的基本模型定义为特征空间上的间隔最大的线性分类器。而它的学习策略为最大化分类间隔,最终可转化为凸二次规划问题求解。LR是参数模型,SVM为非参数模型。LR采用的损失函数为logisticalloss,而SVM采用的是hingeloss。在学习分类器的时候,SVM只考虑与分类最相关的少数支持向量点。

机器学习面试八股准备

weixin_44036607的博客

04-21

1082

一般是卷积-BN-Relu. Sigmoid：如果先BN再Sigmoid，由于BN后方差接近于1，均值接近于0，使得BN后的数据接近于Sigmoid的线性区域，降低了激活函数的非线性能力，这种情况下建议Sigmoid+BN。2、在训练的时候，是分批量进行填入模型的，但是在预测的时候，如果只有一个样本或者很少量的样本来做inference，这个时候用BN显然偏差很大，例如在线学习场景。正则化，增加训练数据，数据增强，标签平滑，BatchNorm，early-stop，交叉验证，Dropout，

八股文——机器学习基础损失函数

wangziling123456的博客

03-21

849

对于一个样本而言，J=(y-a)/2激活函数的梯度越大，权值w和b大小调整的越快，训练收敛的越快假使激活函数是sigmoid函数，当使用二次代价函数时，很可能会出现梯度消失，使用sigmoid函数在饱和区即x过大或者过小时，梯度是接近于0。

Java面试八股文：全面覆盖基础知识与技巧