3、数据科学中的降维与数据空间理解

数据科学中的降维与数据空间理解

1. 降维在数据科学中的角色

降维（DR）在数据科学中扮演着重要角色，它既可以作为自动化预处理工具，提取变量用于其他自动化任务，如分类、聚类和回归；也可以作为一种映射技术，将多维数据可视化到低维空间。在这个过程中，还会涉及到一些数据分析的通用工具，如距离计算和内在维度估计，这些对于降维操作至关重要。

2. 数据在度量空间中的表示

不同类型的数据，如多维数据、序列数据和网络数据，都可以被看作度量空间或内积空间的元素。

2.1 度量和相似度的测量

只要能定义一个度量或距离函数来测量两个数据实例之间的差异，任何类型的数据实例都可以被视为度量空间中的点。一个度量空间 (D, ) 是一个配备了距离 的拓扑空间，距离函数需要满足非负性、不可区分性的同一性、对称性和三角不等式。
- 距离的定义 ：
- 非负性：(ξi, ξj) ⩾0
- 不可区分性的同一性：(ξi, ξj) = 0 当且仅当 ξi = ξj
- 对称性：(ξi, ξj) = (ξj, ξi)
- 三角不等式：(ξi, ξj) ⩽(ξi, ξk) + (ξk, ξj)
- 范数和内积 ：度量空间是赋范向量空间的更一般情况，赋范向量空间配备了一个范数 || · || 来测量向量的大小。内积空间是赋范向量空间的一个子情况，内积 ⟨·, ·⟩ 提供了两个向量之间的相似度测量。
- 矩阵表示 ：度量数据集可以用距离矩阵 表示，内积空间中的数据集可以用 Gram 矩阵 表示。 <