逻辑回归
题目介绍:用现有的数据建立分类模型,通过给出的成绩,预测学生是否能够进入大学,前两维都是学生的成绩,第三维是标签,代表是否能进入大学。
1.数据可视化
在开始实现算法之前,将数据可视化通常是很有帮助的。这一部分代码已给出。
% 分出正样本和负样本的点
pos = find(y == 1);
neg = find(y == 0);
% 绘制
plot(X(pos, 1), X(pos, 2), 'k+', 'LineWidth', 2, 'MarkerSize', 7);
plot(X(neg, 1), X(neg, 2), 'ko', 'MarkerFaceColor', 'y', 'MarkerSize', 7);
正样本的点用黑色的十字形状表示,后面两个参数表示线条宽度以及标点的大小;负样本的点用黄色的圆圈表示。

2.实现
2.1 sigmoid 函数
逻辑回归的假设函数:

其中的函数g就是sigmoid函数,定义为:

该函数常用作激活函数,将变量映射到0,1之间,函数曲线光滑,易于求导,可以很好地用于处理二分类问题
g = 1 ./ (1+exp

本文详述了逻辑回归的实现过程,包括数据可视化、sigmoid函数、损失函数与梯度计算,以及如何使用fminunc优化参数。此外,还探讨了逻辑回归的正则化,特征映射和不同正则化参数lambda对模型的影响。
最低0.47元/天 解锁文章
373

被折叠的 条评论
为什么被折叠?



