45、模式识别与张量分类算法研究

模式识别与张量分类算法研究

在模式识别领域，特征维度至关重要。过大的特征向量会导致计算时间大幅增加，拖慢匹配过程。因此，人们期望在尽可能保留原始模式重要特征的同时，使用较小的特征向量。在此背景下，有研究提出了用于不变形状识别的圆形投影方法，该方法对输入形状图像的旋转和缩放具有不变性，通过将质心移至图像中心还可实现平移不变性，实验结果也证明了该方法的可行性。

而在机器学习、图像处理和模式识别等领域，数据表示和分类器设计是两个主要关注点。传统的支持向量机（SVM）虽在诸多应用中取得成功，但它基于向量空间，无法直接处理非向量模式。在实际应用中，图像和视频数据更自然地以二阶或高阶张量形式表示，直接将张量模式重塑为向量会破坏原始数据的自然结构和相关性，导致维度灾难和小样本规模（SSS）问题。

1. 相关概念与算法

为解决上述问题，研究人员提出了多种方法，如张量分解和多线性子空间学习，还尝试构建多线性模型将 SVM 学习框架扩展到张量模式。不过，目前基于监督张量学习（STL）的方法存在非凸性导致可能陷入局部极小值，以及迭代求解耗时的问题。

为克服这些缺点，提出了基于张量分解的最小二乘支持张量机（TFLS - STM）。在介绍 TFLS - STM 之前，先了解一些必要的概念和算法。
- 基本概念
- 张量 ：N 阶张量是向量空间张量积的元素，是向量（一阶张量）和矩阵（二阶张量）的高阶推广，记为 $\mathcal{A} \in \mathbb{R}^{I_1 \times I_2 \times \cdots \times I_N}$，其元素记为 $a_{i_1 i_2 \cdo