GDA 和logistic回归的联系

最新推荐文章于 2024-07-04 08:59:40 发布
最新推荐文章于 2024-07-04 08:59:40 发布
阅读量1.2k 收藏 1
点赞数 1
CC 4.0 BY-SA版权
分类专栏： Machine Learning基础理论 文章标签： 人工智能 吴恩达 机器学习 斯坦福
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/qq_35083093/article/details/75205819
本文探讨了GDA算法与Logistic回归之间的联系，指出在特定假设下，两者的决策边界相同。当假设p(x|y)服从正态分布时，p(y=1|x)遵循Logistic函数，形成直线型决策边界。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

上篇博文中的GDA算法中，如果我们把p(y=1|x)整理变形一下，就能得到

这是logistic回归的h函数。

实质上，当我们假设p(x|y)服从正态分布时，p(y=1|x)必然是logistic函数，但反过来不成立，也就是说，前者是更强的假设，当我们对问题做更强的假设时，往往就能更精确地找到问题地解，当然前提是假设正确。或基本正确。

更一般地，只要我们对p(x|y)的建模属于GLM指数分布族时，p(y=1|x)都是logistic函数，那么最后得到的都是直线型的决策边界。当实际问题的边界线不是直线时，就不适用了，此后的博文会总结其他的算法解决这个问题。

生成学习算法.高斯判别分析(GDA).GDA与Logistic模型
Cheese的博客
08-13 1万+
《Andrew Ng 机器学习笔记》这一系列文章文章是我再观看Andrew Ng的Stanford公开课之后自己整理的一些笔记，除了整理出课件中的主要知识点，另外还有一些自己对课件内容的理解。同时也参考了很多优秀博文，希望大家共同讨论，共同进步。
GDA和Logistic方法的区别及相应的matlab代码
贼哥CTO
08-11 1318
由Ng的视频和讲义中可以总结出GDA方法的优劣和适用范围，然后再利用matlab进行编程，进行实战学习 GDA方法与Logistic方法的主要区别在于这两个模型的假设不同： GDA方法假设很强：p(x|y)服从多元高斯分布，并且输入特征是连续的； Logistic方法并没有GDA那么强的假设：它既没有要求p(x|y)服从多元高斯分布，也没有要求输入特征是连续的。 因此Logistic的适用
GDA和Logistic方法的区别及相应的python代码
Lnan95的博客
07-18 728
点击打开链接 好文收藏，作者——bl竹子。 GDA方法与Logistic方法的主要区别在于这两个模型的假设不同：GDA方法假设p(x|y)服从多元高斯分布，并且输入特征是连续的；Logistic方法并没有GDA那么强的假设，它既没有要求p(x|y)服从多元高斯分布，也没有要求输入特征是连续的。因此Logistic的适用范围比GDA更加广泛。例如：如果输入特征符合泊松分布
线性判别分析_线性判别分析（LDA）和逻辑斯蒂回归（LogitsR）的关系
weixin_39829073的博客
12-16 736
考虑多分类问题，特征为 ，类别为 ， 有 个取值。 表示样本 属于第 类的概率。0 贝叶斯后验概率根据贝叶斯定理，样本 属于第 类的后验概率为： 其中 是第 类的先验概率。假设第 类的样本 服从高斯分布，其密度函数为： 那么log-ratio（对数几率）为： 其中 当log-ratio大于0时，说明 属于类别 的概率大于类别 ，反之亦然。1 LDA当各类的协方差矩阵...
高斯判别分析(GDA,Gaussian discriminant analsis)和Logistic回归
JasonQ的专栏
11-26 2149
高斯判别分析与Logistic回归之间是有一定关系的，通过公式转换，我们能够把高斯判别分析的公式转换为Logistic回归公式。但是高斯判别分析与Logistic回归之间有什么关系呢？
判别模型：logistic,GDA,QDA（一）
G090909的博客
12-06 9818
前言准备： 输入变量可称呼为预测变量、自变量、属性变量、解释变量，有时候就称为变量； 输出变量称为：响应变量或因变量。本篇目的：预测定性响应变量的方法及分类，预测一个定性响应变量也指对观测分类(classifying),因为它涉及到将观测分配到一个类别中。大部分的分类方法先从预测定性变量不同类别的概率开始，将分类问题作为概率估计的一个结果。分类方法： 逻辑斯蒂回归（logistic regre
MLaPP Chapter 8 Logistic Regression 逻辑斯特回归
张小彬的专栏
02-08 2588
8.1 IntroductionLR 是一个非常重要的模型，几乎所有的机器学习职位面试都会问到。因此这章是重点，一定要看懂。8.2 Model specification把线性回归的高斯分布，换成伯努利分布，就成了逻辑斯特回归，不过这个模型其实是个分类模型，p(y|x,w)=Ber(y|sigm(wTx))p(y|\mathbf{x}, \mathbf{w}) = \text{Ber}(y|\tex
机器学习（十七）——高斯判别分析模型（The Gaussian Discriminant Analysis model）
qq_31589695的博客
05-16 1926
原文：http://cs229.stanford.edu/notes/cs229-notes2.pdf当我们有一个输入特征x是连续值随机变量的分类问题时，我们可以使用高斯判别分析(GDA)模型，该模型p(x|y)使用多元正态分布。这个模式为：写出它的展开形式，如下所示：这里，我们的模型的参数是φ，Σ，µ0和µ1。(请注意，当存在两个不同的均值向量µ0和µ1时，通常只使用一个协方差矩阵Σ。)这些数据...
python的GDAL基础1（GDAL、Rasterio、GeoPandas）
weixin_44217158的博客
07-04 1988
GDAL介绍GDAL（Geospatial Data Abstraction Library）是一个开源的地理空间数据转换库，能够处理包括栅格和矢量在内的多种地理空间数据格式。GDAL支持超过100种数据格式，如GeoTIFF、JPEG2000、HDF5等，广泛应用于地理信息系统、遥感图像处理等领域。GDAL安装GDAL的安装方法因操作系统而异：Linux：使用包管理器安装，如Ubuntu上可以使用sudo apt-get install gdal-bin。
高斯判别分析GDA的简单python实现
weixin_51279476的博客
11-22 1531
参考文章：https://blog.youkuaiyun.com/qq_30091945/article/details/81508055 作为机器学习的小白，最近将GDA给简单实现了，有很多不足的地方，欢迎大家指出。 #!/usr/bin/env python3 # -*- coding:utf-8 -*- # Author: # Time:2021-11-21 # 参考文章：https://blog.youkuaiyun.com/qq_30091945/article/details/81508055 import num
Python：Generalized Discriminant Analysis (GDA) 手工代码实现 Kernel LDA
DeniuHe的博客
03-17 722
""" Auther:Deniu He Date:2021-03-16 """ import numpy as np from sklearn.datasets import load_iris from sklearn.metrics.pairwise import rbf_kernel import matplotlib.pyplot as plt from scipy.linalg import block_diag class GDA(): def __init__(self,X,y,g.
线性分类（四）-- 高斯判别分析 GDA
CarpeDiem
12-10 3266
本篇介绍了高斯判别分析，首先介绍生成模型，狭义的给出了生成模型与判别模型的一般区别；然后介绍高斯判别分析模型的三个基本假设：1）先验概率服从伯努利分布，2）条件概率服从高斯分布，3）特征的条件概率相互独立（同线性模型中的特征不相关）通过最大似然估计导出模型的参数；最后对比了判别模型中的逻辑回归，一般而言，高斯判别模型的假设条件强于逻辑回归，在模型选择时需考虑数据的分布和模型的适用场景。 .
机器学习之判别式模型和生成式模型
weixin_41036461的博客
10-14 1673
https://www.cnblogs.com/nolonely/p/6435213.html   判别式模型（Discriminative Model）是直接对条件概率p(y|x;θ)建模。常见的判别式模型有线性回归模型、线性判别分析、支持向量机SVM、神经网络、boosting、条件随机场等。 　　举例：要确定一个羊是山羊还是绵羊，用判别模型的方法是从历史数据中学习到模型，然后通过提取这...
概率生成模型：GDA和Navie Bayes
咔咔响
11-15 479
1.线性分类软输出模型包含概率判别模型和概率生成模型2.概率判别模型对条件概率建模，概率生成模型对联合概率建模3.逻辑回归是经典的概率判别模型，GDA和朴素贝叶斯是生成模型4.GDA三个...
高斯判别分析 matlab,机器学习导论（5）–GDA高斯判别模型
weixin_36254564的博客
03-17 385
引言之前介绍过分类方法使用最小二乘法或者Logistic回归实现分类，通过直接给定相应的预测函数实现数据的划分，例如预测函数在二分类中的实现就是一条直线之类。接下来对于给定的测试样本特征X,直接判定其是在直线的左边还是右边，从而实现对样本的分类。上面的描述的都是属于判别学习分析，区别于判别学习分析，今天需要介绍的是生成学习算法，生成学习算法是先对给定的训练样本(正样本与负样本)建立相应的模型，然后...
机器学习（六）——高斯判别法(GDA)
天天乐见的笔记本
05-23 3184
6.高斯判别法(GDA) 多元正态分布 p(x;μ,Σ)=1(2π)n/2∣Σ∣1/2exp(−12(x−μ)TΣ−1(x−μ)) p(x;\mu,\Sigma)=\frac{1}{(2\pi)^{n/2}|\Sigma|^{1/2}} exp(-\frac{1}{2}(x-\mu)^T\Sigma^{-1}(x-\mu)) p(x;μ,Σ)=(2π)n/2∣Σ∣1/21​exp(−21​(x−μ...
高斯判别分析(GDA)和朴素贝叶斯(NB)
热门推荐
sz464759898的专栏
03-20 1万+
本文先介绍生成模型(generative model)和判别模型(discriminative model)的区别，然后重点介绍生成模型中的两个例子：高斯判别分析(Gaussian discriminant analysis)和朴素贝叶斯方法(Naive Bayes)生成模型和判别模型监督学习一般学习的是一个决策函数：y=f(x)y=f(x) 或者是条件概率分布：p(y|x)p(y|x) 判别模
贝叶斯模型
人上人酿酒师的博客
06-06 8004
贝叶斯模型 文档可下载， 目录 贝叶斯模型 1.判别模型与生成模型 2. 基于最小风险贝叶斯决策理论 3. 高斯判别分析模型(Gaussian Discriminant Analysis) ​3.1 高斯判别分析（GDA）与LR的关系 4. 朴素贝叶斯模型(Gaussian Discriminant Analysis) 4.1 后验概率最大化的含义 4.2 学习与分类算法...
高斯判别分析(GDA)——含python代码
机器学习笔记
03-21 6445
基本数学知识 多元正态分布   多元正态分布是正态分布在多维变量下的扩展，它的参数是一个均值向量(mean(mean(mean vector)μvector)μvector)\mu和协方差矩阵(covariance(covariance(covariance matrix)Σ∈Rn∗nmatrix)Σ∈Rn∗nmatrix)\Sigma\in R^{n*n}，其中n是多维变量的向量长度，Σ...
jadx和gda
最新发布
03-23
<think>嗯，用户想比较JADX和GDA这两个反编译工具的功能和用途，特别是针对APK的反编译。我需要先回顾一下这两个工具的特点，然后逐一对比它们的优缺点和适用场景。 首先，JADX我记得是一个开源的Java反编译器，主要用来将DEX文件转换成Java代码。用户界面友好，支持APK直接拖放，适合快速查看代码结构。而GDA是亚洲首款全交互式的反编译器，支持多种文件格式，包括DEX、ODEX、OAT等，还支持脚本自动化分析，可能更适合高级用户进行深入分析。 接下来，功能方面，JADX的反编译速度可能更快，适合日常的逆向工程任务。GDA则可能在处理复杂的优化代码，比如ODEX或OAT时表现更好，而且有自动化脚本的功能，这对批量处理或复杂分析有帮助。不过GDA是闭源的，而JADX是开源的，这一点可能在可定制性上有差异。 使用场景的话，普通开发者或者安全研究人员如果只是需要快速查看APK的代码逻辑，JADX可能更合适。而需要进行深度分析、处理优化过的文件或者自动化任务时，GDA会更强大。另外，用户提到的AndroidKiller这种集成工具，可能结合了多个工具的优势，但用户的问题集中在JADX和GDA上，所以需要重点突出这两个的区别。 还要考虑用户可能的实际需求，比如是否需要图形化界面、脚本支持、处理不同文件格式的能力等。同时，引用中提到的GDA支持Python和Java脚本，这对于自动化分析确实是一个亮点，而JADX的实时调试功能可能对动态分析有帮助。 最后，用户可能需要一个总结性的建议，根据不同的使用场景推荐合适的工具。确保回答结构清晰，分点对比，并给出实际例子或引用中的信息来支持结论，比如引用[2]和[3]提到的GDA和AndroidKiller的特点。</think>### JADX vs GDA 工具对比 #### 1. **核心功能** - **JADX** - 支持APK/DEX/JAR/CLASS文件反编译为Java代码 - 提供图形化界面，支持代码搜索、语法高亮、实时调试 - 开源项目，社区维护更新频繁[^2] - **GDA** - 支持APK/DEX/ODEX/OAT/JAR/CLASS/AAR等多种格式 - 全交互式分析界面，支持Python/Java脚本自动化 - 专注Dalvik字节码反编译，优化处理能力更强[^2] #### 2. **技术特性** - **反编译效果** - JADX：对标准DEX文件反编译准确率高，代码可读性较好 - GDA：对ODEX/OAT等优化后文件支持更优，能处理复杂混淆逻辑[^4] - **扩展能力** - JADX：依赖插件系统扩展功能 - GDA：内置脚本引擎，可直接编写分析逻辑（如自动化脱壳）[^2] #### 3. **使用场景** - **JADX适用场景** - 快速查看APK业务逻辑 - 普通逆向工程教学/研究 - 需要开源工具的场景 - **GDA适用场景** - 分析加固/混淆后的APK - 处理厂商定制ROM中的ODEX文件 - 自动化批量分析任务 #### 4. **操作体验对比** | 维度 | JADX | GDA | |------------|--------------------------|------------------------------| | 学习曲线 | 简单直观 | 需掌握脚本编写 | | 处理速度 | 较快（轻量级） | 较慢（深度分析消耗资源） | | 输出格式 | Java/Kotlin | Java+字节码混合视图 | | 特殊能力 | 实时调试 | 内存数据可视化分析 |
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值