李航《统计学习方法》——第六章逻辑斯谛回归模型

fuqiuai

于 2018-03-10 13:30:22 发布

阅读量3.3k

点赞数 1

分类专栏：机器学习文章标签：李航统计学习方法逻辑斯谛回归

本文链接：https://blog.youkuaiyun.com/fuqiuai/article/details/79507143

版权

博客介绍了李航《统计学习方法》第六章的逻辑斯谛回归模型，包括二项和多项逻辑斯谛回归。博主提供了Python实现代码，适用于二类和多类分类问题，读者可以参考train_binary.csv和train.csv实验数据进行学习。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

由于网上资料很多，这里就不再对算法原理进行推导，仅给出博主用Python实现的代码，供大家参考

二项逻辑斯谛回归

适用问题：二类分类

可类比于感知机算法

实验数据：train_binary.csv

实现代码：

# encoding=utf-8

import time
import math
import random
import pandas as pd

from sklearn.cross_validation import train_test_split
from sklearn.metrics import accuracy_score


class LogisticRegression(object):

    def __init__(self):
        self.learning_step = 0.0001 # 学习率
        self.max_iteration = 5000 # 分类正确上界，当分类正确的次数超过上界时，认为已训练好，退出训练

    def train(self,features, labels):
        self.w = [0.0] * (len(features[0]) + 1) # 初始化模型参数

        correct_count = 0 # 分类正确的次数

        while correct_count &