数据挖掘常见分析方法
一、回归分析
目的:
设法找出变量间的依存(数量)关系, 用函数关系式表达出来。
所谓回归分析法,是在掌握大量观察数据的基础上,利用数理统计方法建立因变量与自变量之间的回归关系函数表达式(称回归方程式)。
回归分析中,当研究的因果关系只涉及因变量和一个自变量时,叫做一元回归分析;当研究的因果关系涉及因变量和两个或两个以上自变量时,叫做多元回归分析。
此外,回归分析中,又依据描述自变量与因变量之间因果关系的函数表达式是线性的还是非线性的,分为线性回归分析和非线性回归分析。通常线性回归分析法是最基本的分析方法,遇到非线性回归问题可以借助数学手段化为线性回归问题处理。
回归分析法是定量预测方法之一。它依据事物内部因素变化的因果关系来预测事物未来的发展趋势。由于它依据的是事物内部的发展规律,因此这种方法比较精确。测报工作中常用的是一元线性回归和多元线性回归模型。
一元线性回归是指事物发展的自变量与因变量之间是单因素间的简单线性关系,它的模型可以表示为: y=a+bx
其中y是因变量,x是自变量,a是常数,b是回归系数。
多元线性回归是指一个因变量与多个自变量之间的线性关系。模型的一般型式为:
y=a+b1x1+b2x2+…+bnxn
其中,y是因变量,x1、x2、…xn是自变量,a是常数,b1、b2、…bn是回归系数。
logistic回归(logistic regression)是研究因变量为二分类或多分类观察结果与影响因素(自变量)之间关系的一种多变量分析方法,属概率型非线性回归。
logistic回归的分类:
(1)二分类资料logistic回归:因变量为两分类变量的资料,可用非条件logistic回归和条件logistic回归进行分析。非条件logistic回归多用于非配比-对照研究或队列研究资料,条件logistic回归多用于配对或配比资料。