44、Mr - ResNeXt与可扩展多智能体强化学习架构研究

Mr - ResNeXt与可扩展多智能体强化学习架构研究

Mr - ResNeXt网络架构

在处理输入信息时，会对其进行分组，并在不同组之间建立信息通道。这种处理方式有利于提取全局和局部信息，并且通过不同通道间的信息交换增加了模块的感受野。在第二和第三分支使用由多个卷积核（3×3、5×5、7×7、9×9、11×11）组成的分组卷积，既能轻松提取高分辨率部分和低分辨率部分的特征，又能有效减少参数数量。

将三个分支从左到右的输入记为 (x_i)（(i \in {1, 2, 3})），对应的输出记为 (y_i)（(i \in {1, 2, 3})），(g_j) 表示分组卷积的某一分支。那么多分辨率模块可以表示为：
[
y_i =
\begin{cases}
x_i & i = 1 \
\sum_{j = 1}^{D} g_j(x_i) + x_i & i = 2 \
\sum_{j = 1}^{D} g_j(x_i + y_{i - 1}) + (x_i + y_{i - 1}) & i = 3
\end{cases}
]

为了整合每个分支的信息，会将所有分支进行拼接。这种拆分和拼接策略使卷积处理特征更加有效。多分辨率模块受残差块和分组卷积的启发，能在保证性能的同时减少参数。ResNeXt也采用了这种思想，并且在此基础上进行了扩展。

Mr - ResNeXt实验分析

• 正常与异常的定性分析

  • 特征提取能力