Task04分类问题

分类问题和回归问题都是预测模型,但输出类型不同。分类问题关注离散型变量,如预测天气;回归问题关注连续型变量,如预测温度。在训练模型时,分类问题通常使用交叉熵损失函数以提高学习效率。logistic回归和LDA在估计参数时有不同的方法,前者更鲁棒,后者在某些情况下也能给出类似结果。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

1、其实分类和回归的本质是一样的,都是对输入做出预测,其区别在于输出的类型。

分类问题:分类问题的输出是离散型变量,是一种定性输出。(预测明天天气是阴、晴还是雨)
回归问题:回归问题的输出是连续型变量,是一种定量输出。(预测明天的温度是多少度)。

比如预测房价的问题,如果定一个阀值,我们就可以把房价分成高房价和低房价两类,回归问题变成分类问题,

2、sigmoid函数 的导数在输出接近 0 和 1 的时候是非常小的,故导致在使用最小均方差Loss时,模型参数w会学习的非常慢。而使用交叉熵Loss则没有这个问题。为了更快的学习速度,分类问题一般采用交叉熵损失函数。

3、

在logistic回归中,我们最大化条件概率  来估计参数;而LDA最大化边缘密度 来估计参数。

一般而言,logistic回归更加鲁棒,因为其依赖的假设更少。但在实际运用中,有时不恰当地对定性变量用LDA,也能得到相似的结果

4、

import numpy as np

class logistic:
    def __init__(self, fileName, splitBy='\t'):
        self.lr = 1e-3
        self.epochs = 3000  # 定义学习率和训练轮数

        data = np.array([line.split(splitBy) for line in open(fileName).readlines()], dtype='float')
        self.X &
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值