DataAnalysis-Maggie-Lecture4-降维

数据可视化和数据降维
4个主题：直方图2多维的问题3PCA4T-SNE

可视化:Histograms直方图

直方图用来统计数据在不同区间出现的次数。

高维数据：特征很多的数据
e.g.如病人病历包含，姓名，年龄，性别，血压，血糖，等

数据量为n，维度d的数据，其复杂度为O(nd^2)。d的增加，导致复杂度大幅增加，算法时间增加，样本量增大。
e.g.单位长度保持9个样本，保持样本密度下，一维需要9个样本，二维就是81个样本，三维就是729个样本依次，1维情况下要n个样本密度，d维需要n^d个样本。

矛盾产生：在低维下无法解决的问题，我们增加特征，但是样本总量是不变，所以分类效果下降。我们使用分类误差表示分类效果，如下图。

案例讲解：人脸识别中的维数

降维：应对多维的自然想法

降维的动机：数据可视化，大家只习惯看二维，或者伪三维的图片。

PCA和T-SNE是两种在可视化中常用的降维算法，并尽可能保留信息。

主成分分析PCA（principle component analysis）

寻找最准确的数据表达用较少的维。
PCA算法
PCA目标是降维，最直接就是二维转一维。
手法是，向量换基（基向量变换），使得变换后均值两端分隔最大，所以变换成求最值问题。

T-SNE
t-distributed Stochastic Neighbor Embedding