FAISS 原理 使用方法 记录

Faiss是Facebook的AI团队开源的一套用于做聚类或者相似性搜索的软件库，底层是用C++实现。

Faiss几乎可以在10ms内完成百万*百万以上的向量距离计算，它是怎么实现的呢？

原理

向量计算是一个最经典的时空优化问题，在查询过程中建立更多地索引固然可以提升查询速度，但是却有占据了存储空间，我们希望系统可以即减少索引又能提升查询性能。

为了得到时间和空间的最优，Faiss使用了PCA和PQ两个手段进行向量压缩和编码，当然还有其它的一些优化手段，但是PCA和PQ是最为核心的。

PCA降维

PCA(Principal Component Analysis)，PAC的作用主要是降低数据集的维度，然后挑选出主要的特征。

PCA的主要思想是移动坐标轴，找到方差最大的方向上的特征值，什么叫方差最大的方向的特征值呢。就像下图中的曲线B，一样，它的覆盖范围最广。

基本步骤：
（1）首先计算数据集的协方差矩阵
（2）计算协方差矩阵的特征值和特征向量
（3）保留最重要的n个特征

PQ编码

Product quantization(乘积量化PQ)，PQ是一种建立索引的方式。这里的乘积是指笛卡尔积（Cartesian product），意思是指把原来的向量空间分解为若干个低维向量空间的笛卡尔积，并对分解得到的低维向量空间分别做量化（quantization）。这样每个向量就能由多个低维空间的量化code组合表示。

假设原始向量是1024维，可以把它拆解成8个子向量，每个子向量128维。