卡方检验

特征提取

特征检验的方法

卡方检验
信息熵

卡方检验

卡方检验就是统计样本的实际观测值与理论推断值之间的偏离程度，实际观测值与理论推断值之间的偏离程度就决定卡方值的大小，卡方值越大，越不符合；卡方值越小，偏差越小，越趋于符合，若两个值完全相等时，卡方值就为0，表明理论值完全符合。

卡方检验公式

${\chi }^2=\sum \frac{(A-E{)}^2}{E}=\sum _{i=1}^k\frac{(A_i-E_i{)}^2}{E_i}=\sum _{i=1}^k\frac{(A_i-n{p}_i{)}^2}{n{p}_i}$
其中A代表观察频数（就是观察值），E代表期望频数, k为观察值的个数，n 为总的频数，p为理论频率，那么n*p就是理论频数

卡方检验举例

1. 四表格

卡方分布

自由度：独立变量的个数