本文探讨了逻辑回归和决策树在处理分类问题时的主要区别，包括数据处理、算法逻辑、优缺点及实际应用。逻辑回归擅长全局分析和线性关系，而决策树则在局部结构和非线性关系上表现出色。尽管决策树易于理解和实施，但可能对全局把握不足；逻辑回归则可能受极端值影响。两者可通过嫁接模型等方法互补，但实践应用上存在挑战。
在讨论之前，让我们来看一下逻辑回归和决策树的主要差别：
有些分歧是表面的，例如决策树可以对付缺失值，而逻辑回归需要挖掘人员预先对缺失数据进行处理。但实际上决策树同样要对缺失值做出某种假设和处理。例如CART在遇到一个变量中有缺失情况时，是用次级变量进行替换切分。这种做法在逻辑回归中也可以办到，但需要单独的编程。而在决策树中，这一步已经嵌入软件的算法引擎。
从实质上看，决策树和逻辑回归的分歧是：
1．逻辑回归对数据整体结构的分析优于决策树，而决策树对局部结构的分析优于逻辑回归。
2．逻辑回归擅长分析线性关系，而决策树对线性关系的把握较差。虽然对付非线性关系是决策树的强项，但是很多非线性关系完全可以用线性关系作为
最低0.47元/天 解锁文章
扫一扫
1445
到【灌水乐园】发言
