深入理解张量 第4章 张量在深度学习架构中的核心应用

目录

第4章 张量在深度学习架构中的核心应用 (Tensors in Deep Learning Architectures)

4.1 卷积神经网络（CNN）的张量视角

4.1.1 图像作为三阶张量（Batch×Height×Width×Channel）

4.1.1.1 张量卷积作为模式-3张量缩并

4.1.1.2 分组卷积与通道维度张量分解

4.1.2 卷积核的张量低秩近似

4.1.2.1 SVD与CP分解在3×3卷积中的应用

4.1.2.2 MobileNet的深度可分离卷积张量解释

4.1.3 特征图的高阶统计建模

4.1.3.1 Gram矩阵与张量风格迁移

4.1.3.2 协方差池化与二阶注意力机制

4.2 循环神经网络与序列张量

4.2.1 序列数据的三维张量表示（Time×Batch×Feature）

4.2.1.1 时间维度展开与BPTT算法

4.2.1.2 PackedSequence与变长序列处理

4.2.2 LSTM/GRU的门控张量运算

4.2.2.1 遗忘门作为张量Hadamard积与Sigmoid激活

4.2.2.2 细胞状态的张量线性组合与梯度流

4.2.3 Transformer的自注意力张量机制

4.2.3.1 Q/K/V张量投影与缩放点积注意力

4.2.3.2 多头注意力作为张量并行计算

4.3 图神经网络（GNN）的张量聚合

4.3.1 邻接张量与特征张量的消息传递

4.3.1.1 稀疏邻接矩阵与COO/CSR格式

4.3.1.2 Graph Attention Network的张量注意力权重

4.3.2 高阶图神经网络与张量网络

4.3.2.1 超图（Hypergraph）的关联张量

4.3.2.2 Simplicial Complex的边界算子与张量

4.4 生成模型中的张量隐空间

4.4.1 VAE的隐变量张量分布

4.4.1.1 重参数化技巧与张量采样

4.4.1.2 解耦表示学习与张量因子独立性

4.4.2 扩散模型的噪声张量调度

4.4.2.1 前向加噪过程的张量马尔可夫链

4.4.2.2 去噪网络对噪声张量的逐步预测

---

---

第4章 张量在深度学习架构中的核心应用 (Tensors in Deep Learning Architectures)