描述性数据分析

一、什么是描述统计分析（Descriptive Analysis）

概念：使用几个关键数据来描述整体的情况

描述性数据分析属于比较初级的数据分析，常见的分析方法包括对比分析法、平均分析法、交叉分析法等。描述性统计分析要对调查总体所有变量的有关数据做统计性描述，主要包括数据的频数分析、数据的集中趋势分析、数据离散程度分析、数据的分布、以及一些基本的统计图形。

Excel里的分析工具库里的数据分析可以实现描述性统计分析的功能。

 

    描述性统计分析即是对数据源最初的认知，其次才能去做一些其他的分析。

 

二、常用指标

均值、中位数、众数体现了数据的集中趋势。

极差、方差、标准差体现了数据的离散程度。

偏度、峰度体现了数据的分布形状。

 

1、均值。均值容易受极值的影响，当数据集中出现极值时，所得到的的均值结果将会出现较大的偏差。

 

2、中位数：数据按照从小到大的顺序排列时，最中间的数据即为中位数。当数据个数为奇数时，中位数即最中间的数，如果有N个数，则中间数的位置为(N+1)/2；当数据个数为偶数时，中位数为中间两个数的平均值，中间位置的算法是(N+1)/2。中位数不受极值影响，因此对极值缺乏敏感性。

 

3、众数：数据中出现次数最多的数字，即频数最大的数值。众数可能不止一个，众数不能能用于数值型数据，还可用于非数值型数据，不受极值影响。

 

4、极差：=最大值-最小值，是描述数据分散程度的量，极差描述了数据的范围，但无法描述其分布状态。且对异常值敏感，异常值的出现使得数据集的极差有很强的误导性。

 

5、四分位数：数据从小到大排列并分成四等份，处于三个分割点位置的数值，即为四分位数，四分位数分为上四分位数（数据从小到大排列排在第75%的数字，即最大的四分位数）、下四分位数（数据从小到大排列排在第25%位置的数字，即最小的四分位数）、中间的四分位数即为中位数。四分位数可以很容易地识别异常值。箱线图就是根据四分位数做的图。

• 四分位数的计算：

下四分位数的位置：

1. 计算n/4
2. 如果结果为整数，则下四分位数位于n/4这个位置和下一个位置的中间，取这两个位置上数值的平均值
3. 如果结果不为整数，则向上取整，所得结果为下四分位数的位置

上四分位数的位置：

1. 计算3n/4,
2. 如果结果为整数，则上四分位数位于3n/4这个位置和下一个位置的中间，取这两个位置上数值的平均值
3. 如果结果不为整数，则向上取整，所得结果为上四分位数的位置

eg、3 3 6 7 7 10 10 11 13 30

n=11, 11/4=2.75，不为整，向上取整3，则下四分位数是第3个数，即6；

3*11/4=8.25，也不为整，向上取整9，则上四分位是第9个数，即11

 

箱线图可以用来比较不同组别的数据。箱线图除了上下四分位数，还有上界（除异常点以外的最大值）、下界（除异常点以外的最小值）

 

6、方差和标准差。方差是每个数据值与全体数据的平均数差的平方的平均数。标准差是方差开方。方差与标准差表示数据集波动的大小，方差小，表示数据集比较集中，波动性小，方差大，表示数据集比较分散，波动性大。由于标准差只能用于统一体系内的数据比较，如果要对不同体系的数据比较，就要引入标准分的概念。

σ2=1Ni=1N（Xi-μ）2

σ=σ2

 

7、标准分z：对数据进行标准化处理，又叫Z标准化，经过Z标准化处理后的数据符合正态分布（即均值为0，标准差为1）。标准分是对不同数据集的数据进行比较的量，可用来表示数据值在所在数据集内的相对排名 。标准分的意义是每个数值距离平均值有多少个标准差。

有数据集x1,x2,x3，其平均值为μ，标准差为σ，则其标准分z为：

z=x2-μσ

 

8、峰度：描述正态分布中曲线峰顶尖哨程度的指标。峰度系数>0，则两侧极端数据较少，比正太分布更高更瘦，呈尖哨峰分布；峰度系数<0，则两侧极端数据较多，比正太分布更矮更胖，呈平阔峰分布。

9、偏度：以正态分布为标准描述数据对称性的指标。偏度系数=0，则分布对称；偏度系数>0，则频数分布的高峰向左偏移，长尾向右延伸，呈正偏态分布；偏度系数<0，则频数分布的高峰向右偏移，长尾向左延伸，呈负偏态分布。

还有一些其他的量，不仅在描述性统计分析中常见，在数据报告中也很常见，如

10、绝对数

11、相对数：倍数、成数、百分数

12、百分比

13、百分点：1个百分点=1%，是指变动的幅度

14、频数：绝对数，是一组数据中个别数据重复出现的次数

15、频率：相对数，次数与总次数的比。

16、比例：相对数，总体中各部分占全部的比，如：男生的比例是30:50

17、比率：相对数，不同类别的比，如男女比率俄日3:2

18、倍数：相对数，一个数除以另一个数所得的商，如A/B=C，那么A是B的C倍。

19、番数：相对数，指原来数量的2的N次方，如翻一番，意思是原来数量的2倍，翻两番意思是4倍

20、同比：相对数，指历史同时期进行比较，如去年12月与今年12月相比是同比

21、环比：相对数，指与前一个统计期进行比较，如今年5月与今年4月相比是环比

 

三、常用的图

1、直方图

展示分组数据分布的图形。通过直方图可以看出数据的分布形状、分布的中心位置及数据分散的程度，由此判断数据是否符合正态分布。

 

2、箱线图  

箱线图就是根据四分位数做的图，箱线图可以用来比较不同组别的数据。

上四分位数：数据从小到大排列排在第75%的数字

下四分位数（数据从小到大排列排在第25%位置的数字。

上边缘：除异常值以外的最大值

下边缘：除异常值以外的最小值

设四分位的百分比值为y，数据的数量为n,则分位数L=n x y得到。

1. 情况1：如果L是整数，则取第L和第L+1位数的平均数
2. 情况2：如果L不是整数，则向上取离L最近的一个整数。

如1、2、3、4、5、6、7、8、9、10

下四位数：10X25%=2.5，取向上最近的整数位第3位，下四位数为3

上四位数：10X75%=7.5，上四位数8

 

3、茎叶图

4、线图

5、饼图

 

四、数据分析（Data Analysis）

1、概念：用适当的统计分析方法对收集来的大量数据进行分析，将它们加以汇总和理解并消化，以求最大化地开发数据的功能，发挥数据的作用。

    数据分析是建立在业务的基础上，没有业务指标，数据分析也就失去了意义。

2、分类：描述性数据分析、探索性数据分析、验证性数据分析

3、作用：现状分析、原因分析、预测分析

4、步骤

1. 明确分析的目的和思路
2. 收集数据（数据源获取）
3. 数据处理
4. 数据分析
5. 数据展现
6. 报告撰写

 

五、数据挖掘（Data Mining）

1、概念：运用基于计算机的方法从数据中获得有用知识的过程，叫做数据挖掘。从已知的数据集合中发现各种模型、概要和导出值得过程。

2、目标：数据挖掘的目标是预测和描述

3、分类：预测性数据挖掘和描述性数据挖掘。

4、步骤：

1. 陈述问题，阐明假设（明确分析的目的和思路）
2. 收集数据
3. 数据预处理
4. 模型评估
5. 解释模型，得出结论