北京交通大学《深度学习》专业课，实验3卷积、空洞卷积、残差神经网络实验

已于 2025-02-20 10:36:27 修改
阅读量2.5k 收藏 48
点赞数 46
分类专栏： 深度学习 文章标签： 深度学习 cnn 人工智能 python pytorch
于 2024-07-17 21:03:11 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/weixin_61681867/article/details/140504208
版权

一、实验要求

1. 二维卷积实验（平台课与专业课要求相同）

⚫ 手写二维卷积的实现，并在至少一个数据集上进行实验，从训练时间、预测精 度、Loss变化等角度分析实验结果（最好使用图表展示）

⚫ 使用torch.nn实现二维卷积，并在至少一个数据集上进行实验，从训练时间、 预测精度、Loss变化等角度分析实验结果（最好使用图表展示）

⚫ 不同超参数的对比分析（包括卷积层数、卷积核大小、batchsize、lr等）选其 中至少1-2个进行分析

⚫ 使用PyTorch实现经典模型AlexNet并在至少一个数据集进行试验分析 （平台 课同学选做，专业课同学必做）（无GPU环境则至少实现模型）

⚫ 使用实验2中的前馈神经网络模型来进行实验，并将实验结果与卷积模型结果 进行对比分析（选作）

2. 空洞卷积实验（专业课）

⚫ 使用torch.nn实现空洞卷积，要求dilation满足HDC条件（如1,2,5）且要 堆叠多层并在至少一个数据集上进行实验，从训练时间、预测精度、Loss 变化等角度分析实验结果（最好使用图表展示）

⚫ 将空洞卷积模型的实验结果与卷积模型的结果进行分析比对，训练时间、 预测精度、Loss变化等角度分析

⚫ 不同超参数的对比分析（包括卷积层数、卷积核大小、不同dilation的选择， batchsize、lr等）选其中至少1-2个进行分析（选做） 

3. 残差网络实验（专业课）

⚫ 实现给定结构的残差网络，在 至少一个数据集上进行实验&#

最低0.47元/天 解锁文章
pytorch实现卷积神经网络实验
qq_37534947的博客
11-16 1万+
一：手写二维卷积的实现 要求： 手写二维卷积的实现，并从至少一个数据集上进行实验，这里我选取了车辆分类数据集（后面的实验都是用的车辆分类数据集），主要根据数据集的大小，手动定义二维卷积操作，如：自定义单通道卷积、自定义多通道卷积、自定义卷积层等。 实验过程： 1.1相关包的导入 1. import torch 2. import numpy as np 3. import random 4. from IPython import display 5. from matplotlib imp
【深度学习】深度学习实验三——二维卷积实验、超参数对比分析（包括卷积层数、卷积核大小、batchsize、lr等）、经典模型AlexNet、空洞卷积实验、dilation、残差网络实验、退化、残差块
沐风—云端行者
10-11 1665
二维卷积实验 （1）手写二维卷积的实现，并在至少一个数据集上进行实验，从训练时间、预测精度、Loss变化等角度分析实验结果（最好使用图表展示） （2）使用torch.nn实现二维卷积，并在至少一个数据集上进行实验，从训练时间、 预测精度、Loss变化等角度分析实验结果（最好使用图表展示）。 （3）不同超参数的对比分析（包括卷积层数、卷积核大小、batchsize、lr等）选其中至少1-2个进 行分析。 空洞卷积实验 （1）使用torch.nn实现空洞卷积，要求dilation满足HDC条件（如1,2,5）且
北京交通大学《深度学习》专业课，实验4循环神经网络实验
weixin_61681867的博客
07-20 3398
1. 手动实现循环神经网络RNN，并在至少一种数据集上进行实验，从训练时间、预测精度、Loss变化等角度分析实验结果（最好使用图表展示）2. 使用torch.nn.rnn实现循环神经网络，并在至少一种数据集上进行实验，从训练时间、预测精度、Loss变化等角度分析实验结果（最好使用图表展示）3. 不同超参数的对比分析（包括hidden_size、batchsize、lr等）选其中至少1-2个进行分析4. 用户签到数据实验的难度会稍高一些，若在实验中选用，可酌情加分。
北京交通大学《深度学习》专业课，实验2-前馈神经网络
weixin_61681867的博客
07-14 2977
见资源“北京交通大学《深度学习》专业课，实验2-前馈神经网络”
BJTU深度学习实验
m0_72836223的博客
07-30 3558
北京交通深度学习暑期
信息网络综合专题研究课_大作业（附代码）_机器学习与人工智能_北京交通大学
11-23
信息网络综合专题研究课_大作业_机器学习与人工智能_北京交通大学 信息网络综合专题研究课_大作业_机器学习与人工智能_北京交通大学
【百家稷学】深度学习与嵌入式平台AI实践（北京交通大学实训）
hacker_long的专栏
08-05 805
继续咱们百家稷学专题，本次是有三AI在北京交通大学进行的暑期课程教学。百家稷学专题的目标，是走进100所高校和企业进行学习与分享。分享主题本次分享是在北京交通大学计算机与信息技术学院进行，...
北京交通大学《深度学习》专业课，实验3卷积神经网络、空洞卷积、残差神经网络实验
07-17
5.使用实验2中的前馈神经网络模型来进行实验，并将实验结果与卷积模型结果进行对比分析（选作） 空洞卷积实验（专业课） 1.使用torch.nn实现空洞卷积，要求dilation满足HDC条件（如1,2,5）且要堆叠多层并在至少一个...
神经网络教材推荐,神经网络经典书籍
Supermen333的博客
08-26 934
1．神经网络领域的成就提出了样条权函数神经网络算法与代数算法，形成了独立的学派和理论体系。提出的这些理论与方法彻底克服了困扰学术界多年的传统方法的局部极小、收敛速度慢、难以求得全局最优点等困难。特别是样条权函数神经网络理论与算法具有网络结构简单、泛化能力强等突出优点，值得推广。2．演化计算领域的成就提出了广义蚁群算法，从理论上证明了广义蚁群算法的收敛性。与传统方法相比，广义蚁群算法更具有一般性，应用领域也更加广泛。3．计算机体系结构领域的成就在流水线技术、定点数运算、浮点数运算等方面取得了一些研究成果。..
2021北京交通大学《深度学习》平台课—第1讲：绪论
weixin_42067873的博客
07-16 1724
1、人工智能和机器学习概述 （1）人工智能军备竞赛：百度（自动驾驶）、阿里云（城市大脑）、腾讯（医疗影像）、科大讯飞（智能语音） （2）人工智能人才缺口 （3）人工智能高等教育 （4）什么是人工智能？是机器像人一样进行感知、认知、决策、执行的人工程序或系统。 （5）人工智能的起源 约翰·麦卡锡：LISP符号处理语言 摩尔 明斯基 塞弗里奇 索罗门诺夫：归纳推理机，影响贝叶斯推理过程 （6）人工智能发展标志性事件 1956—达特茅斯会议标志AI诞生 1957—罗森
BJTU实验4_循环神经网络实验
08-15
手动实现循环神经网络RNN，并在至少一种数据集上进行实验，从训练时间、预测精度、Loss变化等角度分析实验结果 使用torch.nn.rnn实现循环神经网络，并在至少一种数据集上进行实验，从训练时间、预测精度、Loss变化等角度分析实验结果
北京交通大学实验报告
06-11
北京交通大学2018年光纤实验报告 1、使学生深入了解WDM器件的各种特性及特点 2、熟悉WDM器件的应用方法 3、让学生通过对光纤器件的连接建立一个感性认识，增加学习的兴趣，熟悉光纤无源器件的使用方法
深度学习大作业基于神经网络实现中英文本分类任务源代码+数据集+高分必看.zip
06-09
深度学习大作业文本分类任务源代码。 使用说明如下： Baselines baseline运行方法：运行 codes/baselines/run.py ， 用 --model参数指定需要运行的模型（必选），用 --dataset 参数指定数据集（可选，默认为AGNews） baseline中各模型的超参数设置见各模型定义文件中 预训练参数下载地址： 链接：https://pan.baidu.com/s/1wqxUAA4LpE3LIgF3kP-6QQ 提取码：gaw3 下载后放入 codes/baselines/pre_trained 中即可 数据集： 中文数据集，原作者从THUCNews中抽取的20万条新闻标题。一共10个类别，每类2万条。 类别：财经、房产、股票、教育、科技、社会、时政、体育、游戏、娱乐。 英文数据集，来自文本分类经典数据集AG News，包含新闻的标题、内容和标签。使用中对数据进行了简单处理，将标题和内容进行了拼接作为一列，并将训练数据划分为了训练集和验证集。一共4个类别，每类13900条。 类别：世界、体育、商业、科技。
空洞卷积+残差网络.rar
11-16
博客见：https://blog.youkuaiyun.com/qq_37534947/article/details/109727232，主要是空洞卷积以及残差网络的代码实现，包含数据集，框架是pytorch
深度学习报告
03-19
合工大硕士的电子与通信专业的前沿课程的老师要求写，我写好了一份，供以后的师弟师妹们用
实验3：卷积神经网络
m0_74074068的博客
10-10 3687
网络架构第一个卷积层conv1：输入 3 个通道，输出 6 个特征图，卷积核大小为 5x5。第一个池化层pool：最大池化操作，核大小为 2x2，步长为 2。第二个卷积层conv2：输入 6 个通道，输出 16 个特征图，卷积核大小为 5x5。三个全连接层fc1fc2fc3：用于将卷积层提取的特征转换成类别预测。激活函数：ReLU 函数作为非线性激活函数。前向传播：定义forward方法描述数据流向，将输入数据通过卷积、池化、全连接层的顺序依次处理。VGG16 模型。
深度学习实验（四）——卷积神经网络编程
code_bro的博客
12-21 1702
本次实验练习使用torch.nn中的类设计一个卷积神经网络进行MNIST手写体数字图像分类。
【深度学习实验】线性模型（四）：使用Pytorch实现线性模型：使用随机梯度下降优化器训练模型
天地玄黄 魑魅魍魉 风花雪月 商角徵羽
09-18 362
本实验实现了使用随机梯度下降训练线性模型
基于残差网络实现手写体数字识别实验 [HBU]
weixin_63010525的博客
11-25 260
通过ResNet团队的实验，ResNet随着网络层不断的加深，模型的准确率先是不断的提高，达到最大值（准确率饱和），然后随着网络深度的继续增加，模型准确率毫无征兆的出现大幅度的降低。更好的优化方法，更好的初始化策略，BN层，Relu等各种激活函数，都被用过了，但是仍然不够，改善问题的能力有限，直到残差连接被广泛使用。第一模块：包含了一个步长为2，大小为7×77×7的卷积层，卷积层的输出通道数为64，卷积层的输出经过批量归一化、ReLU激活函数的处理后，接了一个步长为2的3×33×3的最大汇聚层；
空洞卷积结构模型
最新发布
03-24
### 空洞卷积的结构与模型实现 #### 什么是空洞卷积？ 空洞卷积（Dilated Convolution），也被称为膨胀卷积，是一种特殊的卷积操作方式。相比于标准卷积，空洞卷积通过在卷积核中引入间隔（dilation rate）来扩大感受野而不增加参数量或计算复杂度[^2]。 #### 空洞卷积的核心特性 空洞卷积的关键在于其 dilation 参数。当 dilation=1 时，空洞卷积退化为普通的卷积；而当 dilation>1 时，卷积核会在输入特征图上跳跃采样，从而覆盖更大的区域。这种机制允许网络在不显著增加计算成本的情况下捕获更大范围的空间上下文信息[^4]。 #### PyTorch 中的空洞卷积实现 在 PyTorch 中，可以通过设置 `nn.Conv2d` 的 `dilation` 参数来轻松实现空洞卷积。以下是基于 PyTorch 的简单代码示例： ```python import torch import torch.nn as nn class DilatedConvBlock(nn.Module): def __init__(self, in_channels, out_channels, kernel_size, stride=1, padding=0, dilation=1): super(DilatedConvBlock, self).__init__() self.dilated_conv = nn.Conv2d( in_channels=in_channels, out_channels=out_channels, kernel_size=kernel_size, stride=stride, padding=padding, dilation=dilation ) self.relu = nn.ReLU() def forward(self, x): x = self.dilated_conv(x) x = self.relu(x) return x # 测试代码 if __name__ == "__main__": input_tensor = torch.randn((1, 3, 64, 64)) # 输入张量 (batch_size, channels, height, width) model = DilatedConvBlock(in_channels=3, out_channels=64, kernel_size=3, padding=2, dilation=2) output = model(input_tensor) print(output.shape) # 输出形状应保持一致 ``` 上述代码定义了一个简单的空洞卷积模块，并设置了 `dilation=2` 来扩展感受野。注意，为了防止边界效应，通常需要调整 `padding` 值以维持输出尺寸不变。 #### 应用于实际模型中的例子 PNASNet 和 NASNet 是两种典型的利用空洞卷积提升性能的模型。这些模型不仅采用了深度可分离卷积和组卷积，还在某些层中嵌入了空洞卷积技术，以便更高效地提取多尺度特征[^1]。此外，在语义分割领域，UNet 结合空洞卷积被广泛应用于医学图像分析等领域。 #### 实验验证 对于车辆分类任务，可以构建一个带有空洞卷积的残差网络并对其进行训练测试。具体来说，可以在基础 ResNet 架构的基础上替换部分普通卷积层为空洞卷积层，观察其对最终精度的影响[^3]。 --- ###
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值