统计学习方法笔记 第6章（上）逻辑斯蒂回归

最新推荐文章于 2022-07-10 15:43:11 发布
原创 最新推荐文章于 2022-07-10 15:43:11 发布 · 172 阅读 · 0 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#统计学习方法

本文为吴恩达课程的学习笔记，作者同时参考了《统计学习方法》与《西瓜书》，采用绘制导图的方式记录要点，避免重复劳动，侧重个人理解与独特见解。

文章目录

一些废话

因为我是吴恩达+统计学习方法+西瓜书并进的
所以按模型写笔记，而不一定是书的顺序
珠玉在前，搜索到一些完整笔记，先记录一下地址，以供参考
https://blog.youkuaiyun.com/yeyustudy/article/category/7420549
https://blog.youkuaiyun.com/zl3090/article/category/8031092
https://blog.youkuaiyun.com/s000da/article/category/8700241
我的笔记应该比较简略，想了想还是画导图
因为别人的笔记也很好吴恩达老师的笔记也有过这模型
所以我不打算做重复工作，只记一些要点吧

导图

在这里插入图片描述

小结

这里还没讲到算法，表达和吴恩达老师的还是不一样的。
然后发现画导图也不容易，3页纸也要画个十几分钟= =

统计学习方法笔记---逻辑斯蒂回归
leemusk的博客
03-28 627
基本概念 几率（odds）：一个事件发生的概率与时间不发生的概率的比值。 p1−p \frac p {1-p} 1−pp​ 对数几率（log odds） logp1−p log \frac p {1-p} log1−pp​ 特征函数： P~(x)\tilde{P}(x)P~(x) 本章概要 逻辑斯蒂回归模型是由以下条件概率分布表示的分类模型。逻辑斯蒂回归模型可以用于二分类问题或多分类问题。...
统计学习方法读书笔记（六）-逻辑斯蒂回归与最大熵模型（迭代尺度法（IIS））
scu-liu的博客
01-18 662
全部笔记的汇总贴：统计学习方法读书笔记汇总贴 逻辑斯谛回归 (logistic regression ）是统计学习中的经典分类方法。最大熵是概率模型学习的一个准则，将其推广到分类问题得到最大熵模型（maximum entropy model) 。逻辑斯谛回归模型与最大熵模型都属于对数线性模型。 一、逻辑斯谛回归模型 设XXX是连续随机变量，XXX服从逻辑斯谛分布是指XXX具有下列分布函数和密度函数：F(x)=P(X≤x)=11+e−(x−μ)γf(x)=F′(x)=e−(x−μ)γγ(1+e−(x−μ)γ)
统计学习方法第6章逻辑斯蒂回归
weixin_43758492的博客
03-03 212
逻辑斯蒂回归是一种分类方法。 逻辑斯蒂分布 设X是随机变量，X服从逻辑斯蒂分布是指X具有下列分布函数和密度函数 分布函数F(x)=P(X≤x)=11+e−(x−μ)/γF(x) = P(X\leq x)=\frac{1}{1+e^{-(x-\mu)/\gamma}}F(x)=P(X≤x)=1+e−(x−μ)/γ1​ 密度函数f(x)=F′(x)=e−(x−μ)/γγ(1+e−(x−μ)/γ)2f(...
统计学习方法逻辑斯蒂回归
一枝韩独秀的博客
12-26 1684
逻辑斯谛回归（logistic regression） 是统计学习中的经典分类方法。 最大熵是概率模型学习的一个准则， 将其推广到分类问题得到最大熵模型（maximum entropy model） 。逻辑斯谛回归模型与最大熵模型都属于对数线性模型。本文只介绍逻辑斯谛回归。 设X是连续随机变量， X服从Logistic distribution， 分布函数： 密度函数： μ为位置参数， γ大于0为...
统计学习方法笔记_cbr：第六章 6.1 逻辑斯蒂回归模型
chenburong2021的博客
07-10 952
定义 6.1 （逻辑斯蒂分布）原型：人口增长率和人口量成线性关系->人口量的指数增长->给人口增长增加一个环境阻力（二次型）->计算现存人口占环境承受最大人口比例P(t)->对P(t)求一阶导得P(t)微分方程->整理得P(t)函数表达式； 类似于二项分布，设已出现人口为1，未出现人口为0； 这个P（t）函数被称为Logistic函数；Logistic函数变形： 可得标准的Sigmoid激活函数Sigmoid激活函数满足分布函数的三个条件：（非减，有界，右连续）；对分布函数(Sigmoid函数)求导得概率密
统计学习方法读书笔记第六章：逻辑斯谛回归与最大熵模型
weixin_40692963的博客
02-14 561
统计学习方法第六章：逻辑斯谛回归与最大熵模型统计学习方法读书笔记第六章：逻辑斯谛回归与最大熵模型逻辑斯谛回归模型最大熵模型 统计学习方法读书笔记第六章：逻辑斯谛回归与最大熵模型 逻辑斯谛回归是统计学习中的经典分类方法。最大熵是概率模型学习的一个准则，将其推广到分类问题得到最大熵模型。逻辑斯谛回归模型与最大熵模型都属于对数线性模型。 逻辑斯谛回归模型 逻辑斯谛分布 设XXX是连续随机变量，XXX服...
《统计学习方法》第六章逻辑斯蒂回归与最大熵模型学习笔记
wjlucc的专栏
04-05 2676
一、逻辑斯蒂回归模型1. 二项逻辑斯蒂回归模型二项逻辑斯蒂回归模型是如下的条件概率分布： P(Y=1|x)=exp(w⋅x+b)1+exp(w⋅x+b)P(Y=1|x)=\frac{\exp{(w \cdot x+b)}}{1+\exp(w\cdot x+b)} P(Y=0|x)=11+exp(w⋅x+b)P(Y=0|x)=\frac{1}{1+\exp(w\cdot x+b)} 注意：P(Y
逻辑斯蒂回归_逻辑斯蒂回归详细解析 | 统计学习方法学习笔记 | 数据分析 | 机器学习...
weixin_39849153的博客
12-16 357
本文包括：重要概念逻辑斯蒂回归和线性回归二项逻辑斯谛回归模型逻辑斯蒂回顾与几率模型参数估计多项逻辑斯谛回归其它有关数据分析，机器学习的文章及社群1.重要概念：在正式介绍逻辑斯蒂回归模型之前，需要先对一些基本概念有所了解，如果明白这些概念可以直接跳过。分布函数和密度函数：对于一个连续型随机变量，密度函数是指该变量在其可取值范围内为一个特定值的概率，分布函数即在一个特定值和小于该特定值的范围内出现的概...
笔记|统计学习方法：逻辑斯蒂回归与最大熵
CODE_WangZIli的博客
03-26 1522
基本介绍 逻辑斯蒂回归（Logistic Regression），虽然被称为回归，其实是一种解决分类问题的算法。 LR模型是在线性模型的基础上，使用sigmoid激励函数，将线性模型的结果压缩到[0,1][0,1][0,1]之间，使其拥有概率意义。其本质依旧是线性模型，实现相对简单。LR模型也是深度学习的基本组成单元。 一般回归模型 回归模型：f(x)=11+e−wxf(x) = \frac{1}{1+e^{-wx}}f(x)=1+e−wx1​ 其中wx线性函数：wx=w0⋅x0+w1⋅x1+w2⋅x2+
《统计学习方法》第六章: 逻辑斯蒂回归与最大熵模型 读书笔记
虎哥的铲屎员
04-21 375
第六章6.逻辑斯蒂回归(logistic regression)与最大熵模型(maximum entropy model)6.1二项逻辑斯蒂回归模型6.1.1 二项逻辑斯蒂回归模型的数学表示6.1.2 logistic regression数学表达的一种解释6.1.3 模型参数估计6.1.4采用梯度上升法对目标函数最优化6.2多项逻辑斯蒂回归6.2.1数学表示6.2.2 多项逻辑斯蒂回归数学表达的...
李航《统计学习方法》——第六章逻辑回归和最大熵模型笔记及理解+习题
李滚滚的博客
01-04 4956
习题 6.1确认逻辑斯蒂分布属于指数族分布 指数族分布,满足一下形式P(y;η)=b(y)exp(ηTT(y)−a(η))P(y;\eta) = b(y)exp(\eta^TT(y)-a(\eta))P(y;η)=b(y)exp(ηTT(y)−a(η))η被称为分布的自然参数（也称为规范参数） T(y)是充分统计量（通常情况下有T(y)=y） a(η)被称为对数划分函数。这一项本质上是起到了正则化...
李航·统计学习方法笔记·第6章 logistic regression与最大熵模型（1）·逻辑斯蒂回归模型
tina的博客
12-08 3912
第6章 logistic regression与最大熵模型（1）·Logistic回归模型标签（空格分隔）： 机器学习教程·李航统计学习方法第6章 logistic regression与最大熵模型1Logistic回归模型 Logistic distribution 1 一维逻辑斯蒂分布的数学定义 2 logistic分布的均值和方差 3 何时需要用到Logistic分布 二项逻辑斯蒂回归模型及其
逻辑斯蒂回归模型——逻辑斯蒂分布、二项逻辑斯蒂回归模型、参数估计与多项逻辑斯蒂回归
Qianzhen_Sun的博客
05-20 2171
本笔记整理自李航老师《统计学习方法》第二版 第六章 逻辑斯蒂回归是统计学习中经典的分类方法。 逻辑斯蒂分布 F(x)=P(X≤x)=11+e−(x−μ)/γ F(x) = P(X\leq x) = \frac{1}{1+e^{-(x-\mu)/\gamma}} F(x)=P(X≤x)=1+e−(x−μ)/γ1​ f(x)=F′(x)=e−(x−μ)/γγ(1+e−(x−μ)/γ)2 f(x) = F'(x)=\frac{e^{-(x-\mu)/\gamma}}{\gamma(1+e^{-(x-\mu)/\g
统计学习方法 第六章习题答案
qq_41562704的博客
06-04 4565
习题6.1 题目：确认逻辑斯谛分布属于指数分布族. 答： 习题6.2 题目：写出逻辑斯谛回归模型学习的梯度下降算法. 习题6.3 题目：写出最大熵模型学习的DFP算法.（关于一般的DFP算法参见附录B） 参考 指数分布族 ...
国家自然科学基金项目数据分析与可视化工具_国家自然科学基金项目数据科研项目分析资助趋势统计学科领域分布项目负责人信息经费使用情况成果产出评估国际合作研究青年科学基金.zip
12-01
国家自然科学基金项目数据分析与可视化工具_国家自然科学基金项目数据科研项目分析资助趋势统计学科领域分布项目负责人信息经费使用情况成果产出评估国际合作研究青年科学基金.zip
JouChin_TurbineMarineProject_44300_1764554191333.zip
最新发布
12-01
JouChin_TurbineMarineProject_44300_1764554191333.zip
【太阳能电池系统与逆变器】太阳能电池的电压输出被储存在电池中，同时直流电压通过五级逆变器转换为交流电（Simulink仿真实现）
12-01
【太阳能电池系统与逆变器】太阳能电池的电压输出被储存在电池中，同时直流电压通过五级逆变器转换为交流电（Simulink仿真实现）内容概要：本文档围绕太阳能电池系统与逆变器展开，重点介绍了一个基于Simulink的仿真模型，其中太阳能电池产生的直流电压被储存于电池中，并通过五级逆变器转换为交流电。该系统仿真涵盖了光伏发电、储能管理和电力电子变换的核心环节，突出了多级逆变器在提升电能质量和转换效率方面的优势。文中详细描述了系统结构、工作原理及Simulink建模过程，有助于理解可再生能源系统的能量转换与控制策略。; 适合人群：具备一定电力电子、自动控制或新能源系统基础知识的高校学生、研究人员及工程技术人员。; 使用场景及目标：①用于教学演示太阳能发电系统的能量流动与转换过程；②支持科研中对多级逆变器拓扑结构的性能分析与优化设计；③为微电网、分布式能源系统中的储能与并网控制提供仿真基础。; 阅读建议：建议结合Simulink软件实际操作，深入理解模型各模块的功能与参数设置，并可通过修改逆变器级数或控制策略进行拓展性实验，以增强对系统动态响应和稳定性的认识。
【智能车竞赛】多模态感知与控制技术融合：基于全国大学生智能汽车竞赛的工程实践与产业落地应用研究
12-01
内容概要：本文全面解析了全国大学生智能汽车竞赛的赛事定位、赛制安排与竞赛类别，并通过武汉大学、成都理工大学等高校的经典参赛案例，深入剖析了智能车在视觉识别、机械结构设计、算法优化等方面的创新实践。文章进一步梳理了智能车开发的核心技术体系，涵盖感知层的多传感器融合与视觉AI部署、决策控制中的路径规划与运动控制策略，以及软硬件平台的协同架构。最后，基于竞赛技术延伸出智能物流分拣车、越野巡检机器人、多模态智能识别平台等实际应用项目，展示了从赛事到产业落地的技术转化路径。; 适合人群：具备一定电子、控制、计算机或机械基础的高校学生及指导教师，尤其适合参与智能车竞赛或工程实践项目的1-3年经验研发人员； 使用场景及目标：①了解智能车竞赛的整体架构与备赛策略；②掌握视觉识别、多传感器融合、运动控制等关键技术的设计与实现方法；③探索竞赛成果向智能物流、无人巡检、安防识别等领域的产业化应用； 阅读建议：建议结合具体案例与技术模块进行系统学习，重点关注技术突破背后的创新思维与跨学科整合方法，同时可参考文中项目实践开展原型开发与成果转化。
基于Java和Vue技术构建的现代化自助点餐系统_包含餐厅员工管理员和客人三种身份角色支持点餐前台和后台管理功能涵盖首页个人中心用户数据修改用户管理商家管理菜品分类菜品信息管理餐桌.zip
12-01
基于Java和Vue技术构建的现代化自助点餐系统_包含餐厅员工管理员和客人三种身份角色支持点餐前台和后台管理功能涵盖首页个人中心用户数据修改用户管理商家管理菜品分类菜品信息管理餐桌.zip
决策树详解：统计学习方法笔记第五章
在本篇读书笔记中，我们深入探讨了《统计学习方法》（李航）第二版中的决策树这一核心概念。决策树作为一种基础的分类与回归工具，以其直观性和高效性在数据分析中占据重要地位。它通过if-then规则集合和条件概率...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值