34、张量学习与虚拟网络嵌入算法优化

张量学习与虚拟网络嵌入算法优化

在当今的计算机科学与工程领域，张量学习和虚拟网络嵌入是两个备受关注的研究方向。下面将深入探讨这两个方向的相关算法及其优化。

张量学习方法的最优计算

许多模式识别方法已被扩展到张量空间，如PCA扩展为MPCA和UMPCA，LDA扩展为TR1DA和GTDA等。然而，张量空间中算法的目标函数基本是非凸的，存在大量局部解。虽然固定除一个模式外的所有模式得到的子问题通常是凸的且易于求解，但迭代算法可能陷入局部最小值，难以收敛到全局解。

初始值设定

一般张量方法常将随机生成的值或全1值作为初始值，结果往往不理想。所有张量方法的本质是在秩一张量空间中找到原始向量空间问题的最优解，因此初始值可以是在最小二乘意义下最接近原始向量空间最优解的秩一张量。

[
\min f(a^{(1)}, \ldots, a^{(N)}) \equiv \frac{1}{2} \left\lVert Z - \left\langle a^{(1)}, \ldots, a^{(N)} \right\rangle \right\rVert^2
]

其中，(Z)是通过向量空间最优解的逆向量化过程得到的张量。

无约束条件下的方法

• 交替最小二乘法（ALS） ：计算某一模式的值时，固定其他模式，问题变为凸且易解。
  [
  \min_{a^{(n)}} f(a^{(1)}, \ldots, a^{(N)}) = \frac{1}{2} \left\lVert Z - a^{(1)} \circ \cdots