efei7968的博客

在模型评估与调整的过程中， 我们往往会遇到“过拟合”或“欠拟合”的情况。 如何有效地识别“过拟合”和“欠拟合”现象， 并有针对性地进行模型调整， 是不断改进机器学习模型的关键。 特别是在实际项目中， 采用多种方法、 从多个角度降低“过拟合”和“欠拟合”的风险是算法工程师面试必备知识。 欠拟合与过拟合现象 过拟合是指模型对于训练数据拟合呈过当的情况， 反映到评估指标上，就是模型在训练集上的表现很...

文章目录机器学习的数学基础1.1 标量、向量、矩阵、张量之间的联系1.2 张量与矩阵的区别？1.3 矩阵和向量相乘结果1.4 向量和矩阵的范数归纳1.5 如何判断一个矩阵为正定？1.6 导数偏导计算1.7 导数和偏导数有什么区别？1.8 特征值分解与特征向量1.9 奇异值与特征值有什么关系?1.10 机器学习为什么要使用概率？1.11 变量与随机变量有什么区别？1.12 常见概率分布1.13 举例...

1. 常用分类算法的优缺点 2.线性回归vs.逻辑回归 3.逻辑回归vs. SVM 相同点： 1.都是分类模型 2.都是判别模型 不同点： 1.从损失函数角度：SVM用的是hinge loss,而logistic回归用的是对率损失 2.从风险函数角度：SVM软间隔自带正则，属于结构风险最小化；logis...

1.为什么要用交叉熵损失代替平方损失 为什么不用二次方代价函数 权值​和偏置​的偏导数为​ 求导过程 偏导数受激活函数的导数影响，sigmoid函数导数在输出接近0和1时非常小，会导致一些实例在刚开始训练时学习得非常慢。 为什么要用交叉熵 求导结果 这个梯度公式与激活函数对z的偏导数无关，只与激活函数作用于z后的输出与期望的输出y有关， ...

一面 主要了解项目相关内容 xgboost，lightGBM 机器学习评价指标 手撕代码：字符串的修改 小B最近迷上了字符串处理技术，他设计了各种处理方式，并计算字符串的属性。这次也不例外，他定义了一种新的字符置换方式。小B研究的字符串由ASCII码字母和“.”构成，这次的研究对象是“.”。他关心的对象是字符串中出现的连续两个“.”。若每次操作把其中最开始的连续两个“.”以一个“.”替代...