机器学习 多元回归和logistic回归

原创 已于 2025-02-26 23:33:42 修改 · 140 阅读 · 0 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#机器学习 #回归 #人工智能

于 2025-02-25 21:53:32 首次发布

梯度下降

        1.随机梯度下降

随机梯度下降，每一个数据下降一次，即拿到样本就下降

优点：下降速度变快，迭代时间更短

        2.小批量下降

每次用一部分数据样本来下降处理，而不是随机梯度的每拿一个样本就下降一次。

 Logistic回归

逻辑回归的本质是把几率（odds）看作是一个线性模型

Softmax回归

可以看到，我们可以把softmax回归看作logistic回归的一种推广

what_if_it
关注
[Python从零到壹] 十二.机器学习之回归分析万字总结全网首发（线性回归、多项式回归、逻辑回归）
杨秀璋的专栏
07-03 5万+
前一篇文章讲述了数据分析部分，主要普及网络数据分析的基本概念，讲述数据分析流程和相关技术，同时详细讲解Python提供的若干第三方数据分析库，包括Numpy、Pandas、Matplotlib、Sklearn等。本文介绍回归模型的原理知识，包括线性回归、多项式回归和逻辑回归，并详细介绍Python Sklearn机器学习库的LinearRegression和LogisticRegression算法及回归分析实例。进入基础文章，希望对您有所帮助。
机器学习——logistic回归
KIng_TE_L的博客
05-28 1996
（2）逻辑回归和线性回归首先都是广义的线性回归，其次经典线性模型的优化目标函数是最小二乘，而逻辑回归则是似然函数，另外线性回归在整个实数域范围内进行预测，敏感度一致，而分类范围，需要在[0,1]。逻辑回归就是一种减小预测范围，将预测值限定为[0,1]间的一种回归模型，因而对于这类问题来说，逻辑回归的鲁棒性比线性回归的要好。（3）逻辑回归的模型本质上是一个线性回归模型，逻辑回归都是以线性回归为理论支持的。其中，m为样本的总数，表示第i个样本的类别，表示第i个样本，需要注意的是w是多维向量，也是多维向量。
【机器学习】：logistic回归分析
weixin_44322778的博客
01-17 1399
逻辑回归，简称LR，它的特点是能够将我们的特征输入集合转化为0和1这两类的概率。一般来说，回归不用在分类问题上，但逻辑回归却能在二分类(即分成两类问题)上表现很好。逻辑回归本质上是线性回归，只是在特征到结果的映射中加入了一层Sigmod函数映射，即先把特征线形求和，然后使用Sigmoid函数将作为假设函数来概率求解，再进行分类。例如，在进行预测的过程中，预测结果大于0.5的认为是属于一类，小于0.5的我们认为是第二类，进而我们实现二分类。优点： 适合需要得到一个分类概率的场景，简单，速度快。
机器学习六———logistic 回归
HangJiuYi的博客
12-04 263
在给定的代码中，我们使用梯度下降算法训练了逻辑回归模型，然后对50个随机生成的训练样本进行了二分类。最后，我们通过绘制散点图和分类线来展示了训练数据的分类效果。
【机器学习】（1）多元回归和logistic回归
mjiansun的专栏
03-16 5566
1. 线性回归 1.1 线性模型 xi和h0是已知的观测值，需要求得theta的参数值，这一步其实就是在拟合一个截断面。当求得theta后，只需要给定xi的值，就可以推断出h0的值，起到了预测的作用。 1.2 如何求得theta 1.2.1 似然函数 如果theta是被已经求得，那么预测如下公式所示。 y_pred会与真实值有一定的偏差，我们将偏差记作ε，此时真实值与预测值之间的关系可以表示为（即似然函数）：。 我觉得这里有问题：为什么能直接套用概率密度函数？误差的概率是这样的吗.
【机器学习】逻辑斯蒂回归（LogisticRegression）
专注上位机开发、机器视觉、机器学习、嵌入式软硬件开发
12-19 1万+
逻辑回归（Logistic Regression）是统计学和机器学习中的一种广义线性模型，用于解决二分类问题。尽管名字里有“回归”二字，但它实际上是一种分类算法。逻辑回归的目的是根据给定的一组输入特征预测一个离散的输出标签。
机器学习多元Logistic回归算法——原理+python详细代码解析（sklearn）
qq_45932996的博客
08-24 3731
多元 Logistic 回归算法是一种用于处理多分类问题的统计方法。当因变量有多个类别时，比如三个及以上的不同取值，就需要使用多元 Logistic 回归算法。与二元 Logistic 回归类似，它也是建立因变量的发生概率与自变量之间的关系，但这里的因变量有多个类别。我们讲解多元Logistic回归算法的基本原理，并结合具体实例讲解该算法在Python中的实现与应用。
机器学习-逻辑回归(LogisticRegression)详解
热门推荐
yuxj的博客
08-27 1万+
逻辑回归详解 1.什么是逻辑回归 逻辑回归是监督学习，主要解决二分类问题。 逻辑回归虽然有回归字样，但是它是一种被用来解决分类的模型，为什么叫逻辑回归是因为它是利用回归的思想去解决了分类的问题。 逻辑回归和线性回归都是一种广义的线性模型，只不过逻辑回归的因变量(Y)服从伯努利分布(离散分布)，而线性回归的因变量(Y)满足的是高斯分布(正态分布)，因此他们两个是很相似的(PS：线性回归是拟合一条直线，而逻辑回归是根据sigmoid将线性变成非线性，所以去掉sigmoid，他们一样的...
机器学习（六）——Logistic回归
weixin_73852115的博客
05-26 873
逻辑回归是一种用于解决分类问题的统计学习方法。它用于预测一个二元变量（如"是"或"否"、"成功"或"失败"）的概率。逻辑回归基于线性回归模型，但使用了一个称为逻辑函数（也称为sigmoid函数）来将线性输出转换为概率值。逻辑函数的取值范围在0和1之间，可以将线性输出映射到概率。逻辑回归模型假设输入特征与输出之间存在一种线性关系，并使用最大似然估计等方法来拟合模型参数。训练完成后，可以使用逻辑回归模型进行新样本的分类预测。逻辑回归在许多领域中被广泛应用，包括医学、金融、市场营销和社会科学等。
机器学习 Logistics回归
2301_79569991的博客
05-06 1791
其中，t 表示时间变量，a，b，c 为模型的参数；Logistic回归是一种流行的统计方法，它在二分类问题中尤为常用，旨在通过估计事件发生的概率来进行预测。该模型利用Sigmoid函数将特征的线性组合转换成(0, 1)区间内的概率值。参数的估计通常采用最大似然法，可以通过如梯度下降等优化算法实现。Logistic回归的参数提供了对特征影响力的直观理解，增强了模型的解释性。为了处理特征与输出间的非线性关系，可以通过特征工程来增强模型的适用性。此外，模型可以通过正则化方法来防止过拟合。
机器学习——Logistic回归.pdf
03-28
在机器学习领域，Logistic回归是一种广泛应用于分类问题的算法，尤其在需要预测二元输出（是或否、0或1）时表现出色。从提供的文件内容来看，这些笔记记录了有关Logistic回归的基本概念和一些高级概念，如代价函数和...
【机器学习界的“Hello World“ 】Logistic 分类回归算法 （二元分类 & 多元分类）
计算机魔术师的blog
09-14 4448
一、线性回归能用于分类吗？ 二、二元分类 2.1假设函数 2.1.1例子一 2.1.2例子二 2.2拟合logistic回归参数\thetaθ 三、logistic代价函数 3.1 y = 1的图像 3.2 y = 0的图像 四、 代价函数与梯度下降 4.1 线性回归与logistic回归的梯度下降规则相同吗？ 五、高级优化算法 六、多元分类：一对多
【机器学习】23-25 决策树 & 树集成
weixin_54010404的博客
12-02 1026
本文系统性地介绍了决策树模型及其相关算法。首先阐述了决策树的基本结构与学习过程，重点讨论了如何通过最大化信息增益选择最优划分特征，并详细解释了熵作为纯度衡量指标的计算方法。文章涵盖了分类树与回归树的构建逻辑，包括离散特征处理（独热编码）和连续特征阈值选择。 进一步，文章深入探讨了决策树集成方法，重点分析了随机森林算法通过放回抽样和特征随机选择来增强模型鲁棒性的机制。特别介绍了XGBoost算法的核心优势：自适应样本权重调整、内置正则化和高效实现。最后，文章对比了决策树集成与神经网络的应用场景。
【模式识别与机器学习（8）】主要算法与技术（下篇：高级模型与集成方法）之 元学习与集成方法：组合多个学习器来提高整体性能
hiliang521的博客
12-02 860
【模式识别与机器学习（8）】主要算法与技术（下篇：高级模型与集成方法）之 元学习
【模式识别与机器学习（15）】机器学习算法-主成分分析
hiliang521的博客
12-02 859
【模式识别与机器学习（15）】主成分分析
机器学习（一）
weixin_52554463的博客
12-01 930
机器学习学习笔记
当AI遇见MEMS：机器学习如何优化微振镜的控制与可靠性预测
最新发布
m0_57847742的博客
12-04 1099
您认为在控制优化与可靠性预测这两个方向中，哪一项的产业化落地会更快，面临的障碍更小？
用Python玩转GAN：让AI学会“造假”的艺术
2303_77568009的博客
12-03 1499
本项目基于PyTorch实现了生成对抗网络（GAN），用于生成手写数字图像。通过搭建生成器和判别器的卷积神经网络结构，采用对抗训练策略，成功在MNIST数据集上训练出能够生成逼真数字图像的模型。实践过程中解决了GPU环境配置、Windows多进程加载数据、网络优化等关键技术问题，最终实现了从随机噪声到清晰数字图像的端到端生成。该实践加深了对深度学习框架使用、模型训练调优及GAN原理的理解，为机器学习算法学习提供了完整案例。
学习笔记二十三：支持向量机-间隔与支持向量
dengdaijc的专栏
12-02 688
本文介绍了支持向量机(SVM)的基本原理。SVM通过在样本空间中寻找最优划分超平面来实现分类，其核心思想是最大化分类间隔以提高泛化能力。关键概念包括：划分超平面的数学表示（由法向量和位移项定义）、支持向量（决定超平面位置的最近样本点）以及间隔（反映分类置信度）。SVM的基本型是一个凸二次规划问题，通过最小化法向量范数平方来最大化间隔，同时满足所有样本正确分类的约束条件。该方法具有理论严谨、模型稀疏、全局最优等优势，是经典的分类学习算法。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值