机器学习——逻辑回归Logistic Regression

原创 已于 2022-07-11 23:33:06 修改 · 355 阅读 · 0 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#机器学习 #算法 #数学 #统计学 #逻辑回归

于 2022-07-11 19:04:39 首次发布
本文探讨了在模型设计中，如何通过假定数据遵循正态分布来最小化损失函数。作者解释了为何这种假设在实践中常见，并详细介绍了使用绝对误差或平方误差作为loss函数的实际意义。

整体思路：

b198de306ab54f5f869b5fca0486bffe.png

损失函数：

c40902c75f27490c9a308e4b23c92b9c.png

 8b5c6ca77b7f494a975d271e1ae74957.png

其他感悟：

 这种假定分布的就像假定班级成绩服从正态分布一样，因为用的多了发现这种假定的期望loss最少，所以这么假定：

b6e1f5da6f49424cae150fffd3f2940f.png

 loss通常用｜估计值-实际值｜或者｜估计值-实际值｜^2，本文里用的是这个，其实际意义也非常明显：

c9bd46b2533543bd946b3a6088b7f4a9.png

WangSoooCute
关注
机器学习——逻辑回归（Logistic Regression）
weixin_73923138的博客
05-28 842
模型简单：Logistic回归的模型结构简单，易于理解和实现。速度快：Logistic回归的计算速度相对较快，适合处理大量数据。适应性：Logistic回归可以处理线性可分问题，对于某些场景具有较好的表现。易于更新：Logistic回归模型可以容易地更新，吸收新的数据和特征。稳定性：Logistic回归对异常值和不稳定数据具有一定的鲁棒性。减小极端情况的影响。
机器学习——​逻辑回归（Logistic Regression）​
weixin_74731967的博客
05-28 7746
在机器学习中，分类问题是一种常见的任务，目标是根据输入特征将数据点分配到不同的类别中。为了实现分类，我们需要训练一个分类器，该分类器能够根据输入数据的特征进行预测。逻辑回归（LogisticRegression）是一种常用的分类算法，尤其适用于二分类问题。逻辑回归的核心思想是通过对数几率函数（logistic function）将线性回归的输出映射到概率空间，从而实现分类。注意：逻辑回归虽然名字中有回归二字，但是它不是回归算法，而是分类算法。梯度下降法（Gradient Descent）
机器学习：逻辑回归LogisticRegression
weixin_52390875的博客
10-11 1056
逻辑回归（Logistic Regression）是一种广泛应用的机器学习算法，特别适用于分类问题。尽管名字中带有“回归”，但它主要用于解决二分类或多分类问题，而不是回归问题。比如某用户购买某商品的可能性，某病人患有某种疾病的可能性，以及某广告被用户点击的可能性等。
机器学习基础（六）——逻辑回归Logistic Regression
weixin_43172869的博客
07-11 1422
逻辑回归是用来做二分类任务的，输出为：hθ(x)=g(θTx)=11+e−θTx h_\theta(x)=g(\theta^Tx)=\frac{1}{1+e{-\theta^Tx}} hθ​(x)=g(θTx)=1+e−θTx1​g(z)=11+e−z g(z)=\frac1{1+e^{-z}} g(z)=1+e−z1​其中，zzz是线性回归的结果。cost(hθ(x),y)={−log(hθ(x))y=1−log(1−hθ(x))y=0 cost(h_\theta(x),y)= \left\{
机器学习之逻辑回归(Logistic Regression)
2302_82237047的博客
05-19 5465
1. 初始化参数学习率：控制梯度下降时参数更新的步长，自定义设置(我将其设置为0.1)；最大迭代次数：自定义设置(我设置为10000)，防止算法无限循环。收敛阈值：自定义设置(我设置为1e-4)，当梯度的范数小于设置值时，认为算法已收敛。参数向量：存储模型的权重和偏置，初始化为 None。2. 调用sigmoid函数，将线性输出转换为概率值(0-1之间)3.模型训练添加偏置项：将输入特征矩阵X扩展为X_b，在第一列插入全 1 向量，对应偏置参数；
机器学习——逻辑回归（LogisticRegression）的核心参数：以约会数据集为例
2302_78022640的博客
08-01 1004
问题建议参数模型过拟合减小C，增加正则化强度模型欠拟合增大C，尝试类别不平衡使用收敛慢或警告增加max_iter，或更换solver特征太多，想降维使用。
*Python*机器学习算法——逻辑回归（Logistic Regression）
m0_57916248的博客
09-10 1510
在评估方面，准确率、混淆矩阵和 AUC-ROC 曲线提供了全面的评价指标，帮助我们更好地理解模型的表现。而在实际应用中，逻辑回归被广泛用于信用评分、医疗诊断和市场营销等多个领域，展示了其强大的实用价值。本文将简单介绍逻辑回归的基本原理、模型构建、损失函数与优化方法、参数调整、模型评估以及应用场景。混淆矩阵：提供了更详细的分类结果信息，包括真阳性（TP）、假阳性（FP）、真阴性（TN）和假阴性（FN）。使用梯度下降法更新参数: 根据损失函数对参数的梯度来调整参数值，以最小化损失函数。
机器学习————逻辑（logistic）回归
m0_74239963的博客
05-28 917
在当今数据驱动的时代，机器学习技术已经渗透到我们生活的方方面面，从在线购物推荐、社交媒体内容过滤，到医疗诊断、金融风险评估，无不体现着机器学习的强大力量。在这些应用场景中，分类问题尤为常见，如判断邮件是否为垃圾邮件、预测用户是否会点击某个广告等。逻辑回归（Logistic Regression）作为一种经典的分类算法，因其简单高效、易于实现和解释性强等特点，在机器学习领域占据了重要地位。逻辑回归，尽管名字中带有“回归”二字，但实际上它是一种用于解决二分类问题的统计学习方法。
机器学习——逻辑回归
zdx2585503940的博客
03-12 4726
本模型要查看的评估指标为recall（召回率）。由结果发现，模型训练集和测试集上的recall值都不是很高，原因是为什么呢？我们发现数据集中正负样本个数相差太大，标签为0的样本有284315个，标签为1的样本数仅仅只有492个。这样的数据集我们称为不平衡数据集，它可能导致模型偏向于多数类，从而影响少数类的预测性能。那么我们该怎么解决这一问题呢？之后的两篇文章我们会采用两种不同方法来解决这类情况。
机器学习——逻辑回归logistic实现二分类（matlab）
09-20
在本文中，我们将深入探讨机器学习领域的一个重要算法——逻辑回归（Logistic Regression），特别是如何在MATLAB环境中实现二分类问题。逻辑回归，虽然名字中含有“回归”二字，但其实它是一种广泛用于分类任务的...
[机器学习]逻辑回归Logistic regression线性多分类逻辑回归
m0_51955470的博客
04-18 1341
目的：分类还是回归？经典的二分类算法！机器学习算法选择：先逻辑回归再用复杂的，能简单还是用简单的逻辑回归的决策分界：可以是非线性的。
机器学习入门——sklearn关于LogisticRegression模型改进
likecccjy的博客
07-13 1178
在机器学习的过程中训练模型是很重要的一件事情，但是训练出来的模型不知道它到底好不好，因此针对模型更换参数（比如我有一个机器人，我不知道它用什么类型的大脑比较好用，给它换大脑试试）更重要咯。本文虽然只调整了一次参数，不过也有很大的收获！
肝硬化患者肝功能分级临床预测模型：基于机器学习的多变量分析
huanghm88的专栏
12-11 191
摘要 本研究基于128例肝硬化患者的34项临床指标，采用机器学习方法构建肝功能分级预测模型。通过XGBoost、随机森林等多种算法比较，发现XGBoost模型表现最优，预测准确率达86.5%，AUC值0.89。研究确定了总胆红素、白蛋白等10个关键预测因子，为临床肝功能评估提供了新的辅助工具。该模型整合了多维临床数据，较传统Child-Pugh评分更具综合性，有助于优化肝硬化患者的个体化诊疗决策。未来需扩大样本量进行多中心验证，进一步完善模型性能。 关键词：肝硬化；肝功能分级；机器学习；预测模型；XGBoo
【技术人如何用爬虫+机器学习识别并屏蔽恶意广告】第1课：爬虫与广告反欺诈入门
weiliang_Handan的博客
12-14 511
本文介绍了广告欺诈的现状及其危害，并提出了利用网络爬虫和机器学习技术进行反欺诈的解决方案。主要内容包括：1)网络爬虫的基本原理和工作流程；2)常见广告欺诈类型及其对行业的负面影响；3)系统化的反欺诈学习路径，从数据采集、预处理到模型训练和系统部署。通过构建自动化识别系统，可有效保护广告预算、优化投放策略并提升用户体验。文章还包含了一个简单的Python爬虫示例代码，帮助读者初步了解数据采集技术。
机器学习进阶＜5＞K-means智能客户分群与可视化分析系统
2303_77568009的博客
12-09 1266
这篇博客详细介绍了基于Streamlit构建的交互式K-means聚类学习平台。该项目通过模块化设计，带领用户从数据生成、算法原理演示、最佳K值选择，到实际应用场景（如客户细分、图像颜色量化）和交互式练习，完整实践无监督学习流程。平台集成了丰富的可视化组件与即时反馈功能，特别适合机器学习初学者直观理解K-means的核心概念与实现步骤。博客还提供了完整的代码解析、运行指南及资源推荐，是一份深入浅出的实战教程。
机器学习基础（线性，逻辑回归）
lyx2870657588的博客
12-11 1485
本文介绍了两种常用的回归分析方法及其应用。线性回归部分详细讲解了模型参数、API使用方法和评估指标，通过广告投入与销售额的案例展示了模型建立、训练和预测的全过程。逻辑回归部分重点阐述了其在分类任务中的应用，包括数据预处理、模型训练和性能评估方法，以信用卡欺诈检测为例演示了分类模型的实现步骤。文章还系统介绍了混淆矩阵、精确率、召回率和F1值等模型评价指标的计算方法和适用场景，为机器学习实践提供了完整的技术参考框架。
Day37 深入理解SHAP图
最新发布
weixin_47193046的博客
12-15 460
年龄+0.02影响很小，把模型的决策分解到每个特征上。基准值 = 没有任何特征信息时的"默认"预测(相当于"0”的起点)，这个值一般就是平均值，把训练集的所有样本都输入模型，得到所有预测值取平均值，在没有关于这个特定样本的区分性信息时，最合理的猜测就是平均值。到这里你可能心想，这样是不是很类似于线性回归的特征前的系数 y=ax1+bx2+cx3，那既然如此，我直接选择用线性回归的系数作解释，那岂不是更好?三人合伙前，收入是 0，三人合伙后，收入是 100万，要分配的"蛋糕"就是 100万-0=100 万。
机器学习与深度学习基础（五）：深度神经网络经典架构简介
TracyCoder的博客
12-11 790
本文学习要点：1.深度神经网络分层架构：全连接层卷积层池化层2.深度神经网络代表:CNN：CNN、AlexNet、VGG-Net、GoogLeNet（Inception）、ResNet（残差连接）编码器-解码器架构：序列到序列模型（Seq2Seq）
基于大语言模型的端到端多智能体机器学习自动化系统--AutoML Agent 开发：MLZero & AutoGluon Assistant 技术报告
shiter编写程序的艺术
12-09 123
本报告综合分析了 MLZero 研究论文及其通过 AutoGluon Assistant 框架的实现，并将其置于 LLM 智能体系统和新兴模型上下文协议（MCP）标准的宏观背景下。MLZero 通过在多模态数据上实现无需人工干预的真正端到端自动化，代表了 AutoML 领域的重大飞跃。92.0% 成功率在多模态 AutoML 智能体基准测试中，超越竞争对手263.6%MLE-Bench Lite 获得 6 枚金牌，在解决方案质量和效率上全面领先即使使用8B 参数的小模型。
逻辑回归 LogisticRegression：分类与决策边界
"这篇资源主要介绍了机器学习中的逻辑回归（Logistic Regression）算法，它是用于解决二分类问题的一种常见方法。文章首先通过实例说明分类问题的重要性，如判断邮件是否为垃圾邮件、交易是否存在欺诈以及肿瘤的良...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值