机器学习算法之 logistic 回归

本文详细介绍了Logistic回归,包括其基本思想、Sigmoid函数的作用、寻找最佳回归参数的方法——梯度上升/下降算法,以及通过代码实现模型训练。通过对Sigmoid函数的分析,展示了Logistic回归如何进行概率估计和分类。最后,提供了使用梯度上升法训练Logistic回归模型的Python代码示例。


  逻辑回归 logistic regression

1、概述

 主要思想:根据现有的数据对分类边界线建立回归公式(最佳拟合线,这个拟合过程称作为回归),以此进行分类

如下线性函数z,x为输入数据,w为相应的系数。
在这里插入图片描述
向量写法 Z = W^T*X ,向量X为分类器的输入值,向量W是我们要找到的最佳拟合参数。

得到最佳拟合参数W后, sigmoid(z) > 0.5 分类成1, 否则分类到0

2、Sigmoid 函数

 我们想要的回归函数,能接受所有的输入并能够预测出类别。例如两个类别的情况下,函数输出0或1。这样性质的函数,想到

的是单位阶跃函数(海维塞德阶跃函数),而海维塞德阶跃函数的问题是,该函数在跳跃点上从0瞬间跳跃到1,这个瞬间过程有时很

难处理。有幸,我们找到一个函数由此性质,并数学上比较容易处理,这就是sigmoid函数。

Sigmoid 函数,一种阶跃函数,值为0到1之间,如下:
在这里插入图片描述
在这里插入图片描述
X的尺度足够大时就像0和1之间的阶跃函数。

为了实现Logistic回归分类器,我们可以在每个特征上都乘以一个回归系数,然后把所有的结果值相加,将这个总和带入sigmoid函数中,

进而得到一个范围在0~1

评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值