深度学习——Bottleneck Layer

Bottleneck Layer // Bottleneck  Features // Bottleneck Block

输入输出维度差距较大,就像一个瓶颈一样,上窄下宽亦或上宽下窄

"In order to reduce the number of weights, 1x1 filters are applied as a "bottleneck" to reduce the number of channels for each filter" 1x1 filters 可以起到一个改变输出维数(channels)的作用

在ResNet中:

其对应的图示如下:

右图中 1x1 filters把维度(channels)升高了,输入输出维度差距较大。继续如下图所示:

Bottleneck features are generated from a multi-layer perceptron in which one of the internal layers has a small number of hidden units, relative to the size of the other layers

 

转自:https://blog.youkuaiyun.com/u011501388/article/details/80389164

### 使用深度学习实现股骨三维重建的方法和模型 #### 数据准备与预处理 为了构建有效的股骨三维重建模型,数据的质量至关重要。通常需要大量的X光片或CT扫描图像作为输入数据[^1]。这些原始影像需经过一系列预处理操作,包括但不限于去噪、标准化以及分割等。 #### 模型架构设计 针对股骨这种特定骨骼结构的特点,可以采用卷积神经网络(CNN)为基础的编码-解码器架构来进行三维重建工作。具体来说: - **编码部分**:利用多层卷积层提取二维切片中的空间特征; - **瓶颈层**:连接编码器与解码器之间起到降维作用的一层或多层全连接层; - **解码部分**:逐步恢复分辨率直至输出完整的三维体积表示;在此过程中引入跳跃连接机制有助于保留更多细节信息[^4]。 此外,在某些情况下还可以考虑加入条件随机场(CRF)或其他正则项以增强预测结果的空间一致性[^3]。 #### 训练策略优化 考虑到医学成像领域标注样本稀缺这一现实情况,迁移学习成为了一种有效手段——即先在一个大规模公开可用的数据集上预先训练好基础版本的CNN,再将其迁移到目标任务上来微调参数设置。与此同时,对抗生成网络(GAN)也被证明能够改善传统监督式方法难以克服的一些局限性,比如过拟合等问题[^2]。 ```python import torch.nn as nn class BoneReconstructionNet(nn.Module): def __init__(self): super(BoneReconstructionNet, self).__init__() # Encoder layers self.encoder = nn.Sequential( nn.Conv2d(in_channels=1, out_channels=64, kernel_size=(3, 3), padding='same'), nn.ReLU(), ... ) # Bottleneck layer(s) self.bottleneck = nn.Linear(...) # Decoder layers with skip connections self.decoder = nn.Sequential( nn.Upsample(scale_factor=2), nn.ConvTranspose2d(...), ... ) def forward(self, x): encoded_features = self.encoder(x) bottleneck_output = self.bottleneck(encoded_features.view(-1)) reconstructed_volume = self.decoder(bottleneck_output.reshape((-1))) return reconstructed_volume ```
评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值