新手村：逻辑回归

新手村：逻辑回归

前置条件

知识点	重要性评分（1-5）	简要说明
概率论基础（伯努利分布、概率计算）	5	理解逻辑回归的输出概率本质。
线性回归基础（线性方程、损失函数）	5	逻辑回归是广义线性模型的延伸。
微积分基础（导数、梯度下降）	4	用于优化参数的数学推导。
Python编程基础	3	用于代码实现和实验验证。
NumPy/Pandas库	3	数据处理和数值计算的基础工具。

---

分阶段学习计划

阶段1：基础概念与直觉理解

目标：理解逻辑回归的定义、输入输出关系及核心思想。
知识点：

知识点	重要性评分	通俗解释	理论表达
逻辑回归的定义	5	用于二分类问题，输出概率值介于0和1之间。	( P(Y=1
Sigmoid函数	5	将线性组合映射到概率范围（0,1）。	( \sigma(z) = \frac{1}{1 + e^{-z}} )
二分类问题	4	输出标签为0或1，如“是否患病”。	( y \in {0,1} )

教学示例：肿瘤分类问题

1. 问题：根据肿瘤大小（特征）预测是否为恶性（0=良性，1=恶性）。
2. 步骤：
   • 输入特征：肿瘤大小 ( x )。
   • 线性组合：( z = w x + b )。
   • Sigmoid转换：( P(Y=1|x) = \frac{1}{1 + e^{-z}} )。
   • 阈值判断：若概率 ( > 0.5 )，预测为恶性（1）。

---

阶段2：数学原理与损失函数

目标：掌握逻辑回归的数学推导及优化过程。
知识点：

知识点	重要性评分	公式/推导	应用场景
对数损失函数（Log Loss）	5	( L(y, p) = -y \log p - (1-y)\log(1-p) )	二分类问题的损失函数，衡量预测与真实标签的差异。
极大似然估计（MLE）	5	通过最大化数据出现的概率优化参数。	逻辑回归的参数估计方法。
梯度下降优化	4	通过迭代更新参数最小化损失函数。	处理高维数据时的参数优化。