全波形反演培训的思考与总结

一. InversionNet: 最简单的端到端DL_FWI

        1. 网络结构：

图1

        构建了一个具有编码器-解码器结构的卷积神经网络，根据地震波动数据模拟地下速度结构。编码器主要由卷积层构建，它从输入地震数据中提取高级特征并将其压缩为单个高维向量。解码器然后通过一组反卷积层将这些特征转换为速度模型。 

        2. 编码器与解码器：

        编码器包括图1的顶部流水线中由“conv”表示的一组卷积块。1.每个卷积块由卷积层，批归一化（BN）和ReLU组成。输入数据的大小为（32,1000,6）从这个数据看来时间维度和空间维度比例太大，这里采用的是非方形卷积。起到压缩空间的作用，我们这里接下来的任务是对于时间层面的降维。

        注意：这里补充说明原文章用的数据大小是（32,1000,6），但是张星移师兄培训的数据集大小是（70,1000,6），以后者为准。

        时间域第一次降维：

        将大小（70,1000,6）的图片通过一批32卷积降维到（70,500,32）

        时间域第二次降维：

        将大小（70,500,32）的图片通过卷积降维到（70,250,64）

        将大小（70,250,64）的图片通过卷积降维到（70,125,64）

        时间域第三次降维：

        将大小（70,125,64）的图片通过卷积降维到（70,63,128）

        进入两个方向同时降维，将大小（70,63,128）的图片通过卷积降维到（35,32,128）

        第四次降维

        两个方向同时降维，将大小（35,32,128）通过卷积降维到（18，16，256）

        两个方向同时降维，将大小（18，16，256）通过卷积降维到（8，8，256）

        最后将图片降维到1×1的512维度的向量；再经过解码（反卷积）转化为我们需要的图像，解码的过程如图2所示。

图2

        结果评价指标：

        InversionNet的末端采用的标准损失函数是规范的损失函数:（是是真实速度模型, 是预测的速度模型，是速度模型中空间像素的数量.）

        

        作者采用的四个评价指标：

二. FCNVMB——UNet架构下的FWI

        1. 网络结构

• 通过红色箭头，特征图的尺寸并不会发生改变，相当于特征的重整合，为接下来的尺寸变化做准备；
• 而紫色箭头 (下采样) 则会导致尺寸缩小一半，相当于特征进一步提取细化。
• 而黄色箭头 (反卷积) 则会导致尺寸扩大一倍。

名词解释：UNet

        UNet 是一种常用的卷积神经网络架构，用于图像分割任务。它在 2015 年由 Olaf Ronneberger、Philipp Fischer 和 Thomas Brox 提出。UNet 的结构由对称的编码器和解码器组成，中间通过跳跃连接进行特征传递。

名词解释：跳跃连接（Skip Connection）

        跳跃连接（Skip Connection）是一种在神经网络中引入直接连接的技术。它的目的是通过将某些层的输出直接与后续层的输入相加或连接，来提高信息流动和梯度传播，从而改善网络的性能。

名词解释：迁移学习

        迁移学习（Transfer Learning）是一种机器学习方法，旨在利用已经在一个领域上学到的知识和经验来改善在另一个相关领域上的学习任务表现。它基于一个关键观察：不同的任务或领域之间可能存在一些共享的特征和模式。

        传统的机器学习方法通常将学习任务视为独立的，从头开始训练模型以适应特定的任务或数据集。然而，这种方法在目标数据集较小或缺乏标注数据的情况下可能面临困难。这时，迁移学习通过利用源领域上学到的知识，可以在目标领域上更高效地学习模型。

总结：

        FCNVMB使用了迁移学习的训练手段。

        FCNVMB采用了包含skip connection的UNet的架构