weixin_42245644-优快云博客

原创第TR5周：Transformer实战：文本分类

创建一个大小为[max_len,embed_dim]的零张量#创建一个形状为[maxlen,1]的位置索引张量pe[:,0::2]=torch.sin(position*div_term)#计算 PE(pOs，2i)pe[:,1::2]= torch.cos(position*div_term)#计算 PE(pos，2i+1)#将位置编码张量注册为模型的缓冲区,参数不参与梯度下降，保存model的时候会将其保存下来#将位置编码添加到输入张量中，注意位置编码的形状return x。

2025-07-31 15:44:42 754

原创第N8周：使用Word2vec实现文本分类

device(type='cuda') 0 1 0 还有双鸭山到淮阴的汽车票吗13号的 Travel-Query 1 从这里怎么回家 Travel-Query 2 随便播放一首专辑阁楼里的佛里的歌 Music-Play 3 给看一下墓王之王嘛 FilmTele-Play 4 我想看挑战两把s686打突变团竞的

2025-07-24 14:05:18 690

原创第N7周：调用Gensim库训练Word2Vec模型

拿到了分词后的文件，在一般的NLP处理中，会需要去停用词。因此对于word2vec，我们可以不用去停词，仅仅去掉一些标点符号，做一个简单的数据清洗。这里使用了word2vec提供的LineSentence类来读文件然后套用word2vec的模型。本周调用Gensim库训练Word2Vec模型，首先是安装Gensim库，随后进行分词和训练。选择《人民的名义》的小说原文作为语料，先采用jieba进行分词。的方式从原始的非结构化文本当中来学习到文本隐藏层的主题向量表达。这位 0.999855637550354。

2025-07-07 21:26:23 440

原创第TR3周：Pytorch复现Transformer

1.Transformer可以看作是seq2seq模型的一种，因此，先从seq2seq的角度对Transformer进行宏观结构的学习。解码部分也是由多层的解码器(Decoder)组成。本周详细学习了Transformer架构，其与Seq2seq比较相似，都是包括编码器和解码器，不同之处在于Transformer架构就是基于注意力机制。4.其中，解码器在编码器的自注意力层和全连接前馈网络中间插入了一个Encoder-Decoder Attention层，这个层帮助解码器聚焦于输入序列最相关的部分。

2025-07-01 21:49:47 1033

原创第N5周：Pytorch文本分类入门

self.embedding =nn.EmbeddingBag(vocab_size, #词典大小embed_dim, #嵌入的维度model.eval() # 切换为测试模式loss = criterion(predicted_label, label) # 计算loss值# 记录测试数据。

2025-06-27 21:26:23 861

原创第N2周：构建词典

学习了构建词典，自定义停用词。同时通过去除标点符号来减少结果中的噪音。使用一个函数build_vocab_from_iterator来构建词汇表，能够从一个可迭代的对象中统计token频次，并返回一个vocab（词汇字典）。

2025-06-13 21:28:05 161

原创第N1周：one-hot编码案例

['比较', '直观', '的', '编码方式', '是', '采用', '上面', '提到', '的', '字典', '序列', '。'], ['one', '-', 'hot', '编码', '的', '基本', '思想', '是', '将', '每个', '类别', '映射', '到', '一个', '向量', '，', '其中', '只有', '一个', '元素', '的', '值', '为', '1', '，', '其余', '元素', '的', '值', '为', '0', '。

2025-06-04 22:46:36 889

原创第J3-1周:DenseNet算法实现乳腺癌识别

1.本周的DenseNet网络模型搭建了DenseLayer模块、DenseBlock模块、Transition模块等。并且应用于乳腺癌病理图像的识别与分类中。2.由于此网络较深，显著增加了内存开销与计算量，代码运行需要耗费大量时间。但是此网络容易达到比较高的准确率。

2025-05-28 09:59:01 872

原创 G4周：指定手势图像生成（CGAN）

训练模型 # 定义损失函数 adversarial_loss = nn.BCELoss() def generator_loss(fake_output, label ):# 定义优化器。

2025-05-13 10:30:00 829

原创 R9周：RNN实现阿尔茨海默病诊断

device(type='cuda')2. 年龄与患病探究(torch.Size([1934, 32]), torch.Size([1934]))3.构建数据加载器三、特征选择四、构建数据集五、构建模型model_rnn( (rnn0): RNN(32, 200, batch_first=True) (fc0): Linear(in_features=200, out_features=50,

2025-05-08 16:00:00 1644

原创 R8周：RNN实现阿尔茨海默病诊断

训练循环size = len(dataloader.dataset) # 训练集的大小num_batches = len(dataloader) # 批次数目, (size/batch_size，向上取整)train_loss, train_acc = 0, 0 # 初始化训练损失和正确率for X, y in dataloader: # 获取图片及其标签# 计算预测误差pred = model(X) # 网络输出。

2025-05-06 11:02:37 1057

原创 Solidworks安装后启动（打开）崩溃，显示已停止工作

卸载solidworks重新安装之后，发现出现solidworks停止工作，但是安装的其他插件如solidworks visualize、eDrawings等均能打开，因此选择打开安装时候的安装包，重新修复一下，选择全部（本体和插件），修复1次后，仍然存在此问题。然后再使用安装程序setup.exe单独对solidworks.exe本体进行修复。修复后问题得到解决。偶然间看到一个方案，可能是启动的dll出现问题。接着，又使用安装程序setup.exe对所有安装进行了两次修复，还是出现上述问题。

2025-04-30 10:11:25 2391 1

原创 R7周：糖尿病预测模型优化探索

self.fc0 = nn.Linear(200, 2) # 输出 2 类# 如果 x 是 2D 的，转换为 3D 张量，假设 seq_len=1# LSTM 处理数据out, (h_n, c_n) = self.lstm0(x) # 第一层 LSTM# 使用第二个 LSTM，并传递隐藏状态out, (h_n, c_n) = self.lstm1(out, (h_n, c_n)) # 第二层 LSTM# 获取最后一个时间步的输出。

2025-04-25 21:33:40 1119

原创 R6周：LSTM实现糖尿病探索与预测

self.fc0 = nn.Linear(200, 2) # 输出 2 类# 如果 x 是 2D 的，转换为 3D 张量，假设 seq_len=1# LSTM 处理数据out, (h_n, c_n) = self.lstm0(x) # 第一层 LSTM# 使用第二个 LSTM，并传递隐藏状态out, (h_n, c_n) = self.lstm1(out, (h_n, c_n)) # 第二层 LSTM# 获取最后一个时间步的输出。

2025-04-11 21:35:07 616

原创 R5周：天气预测

1.本周使用探索式数据分析（EDA）开展天气预测，气象数据复杂，通过EDA，可以梳理结构、图表的性质显得非常直观。2.天气数据中存在缺失，通过比例和填补法对数据进行相应的补充，相对完整，体量较大的数据更能进行全面的分析。3.但是学习的还不够深入，有些地方不是很懂，接下来会找一些其他的案例进行练习。

2025-04-04 21:18:42 980

原创 T11周：优化器对比实验

2.在这个案例中，Adam的Accuracy和Loss相较于SGD而言，都要更胜一筹。尤其是在训练初期，Adam 的收敛速度更快，模型更快达到较优性能。1.本周比较了两个常用优化器：Adam 和 SGD。在相同的模型结构和超参数设置下，分别观察它们在训练过程中的表现差异。3.或许在其他场景中，SGD更加适合。结合具体任务、模型复杂度以及数据特点对模型进行调试。图片总数为： 1800。

2025-03-27 17:06:04 796

原创 T10周：数据增强

这是大家可以自由发挥的一个地方# 随机改变图像对比度。

2025-03-21 18:20:01 1055

原创 P10周：Pytorch实现车牌识别

模型是一个卷积神经网络（CNN），模型中使用了批标准化（Batch Normalization, BN）和池化（Pooling）层，共有四组卷积和批标准化。2.加入acc计算后，计算的training_loss与给出的范例不太符合，且loss的数值过大。1.本周对无法分类的数据集，进行导入和识别，并搭建了相关的自建模型。

2025-03-07 16:33:07 1140

原创 P9周：YOLOv5-Backbone模块实现

1.本周学习了YOLOv5-Backbone模块，YOLOv5 是一种目标检测算法，其 Backbone 模块是整个网络的重要组成部分，主要用于提取图像的特征。C3 模块是一种具体的网络结构模块，是构成 Backbone 的基本单元之一。2.与之前学习的C3模块相比，YOLOv5-Backbone模块具有更高的复杂性，尤其在训练时需要更多的epoch进行收敛。深度学习环境：torch 1.12.0+cu113。编译器：jupyter notebook。语言环境：Python 3.8.12。

2025-02-28 12:27:49 833

原创 P8周：YOLOv5-C3模块实现

1.本周学习了yolov5-C3模块，C3模块结合了残差连接、卷积操作以及一些改进的结构。C3模块通过残差连接有效缓解了深度网络训练中的梯度消失问题，增强了网络的学习能力，并提升了特征提取的效果。2.该模块在保持较小模型尺寸（计算量小，参数量小）的同时，仍能提供较高的准确率（ACC），且训练过程中的收敛速度较快。深度学习环境：torch 1.12.0+cu113。编译器：jupyter notebook。语言环境：Python 3.8.12。

2025-02-14 13:25:17 505

原创 P7周：马铃薯病害识别(VGG-16复现)

1.自行搭建的vgg16模型相比于官方vgg16模型，在ACC方面前期提升速度更慢，但LOSS的收敛性更好。3.自行搭建的模型可以自由设置各种超参数，需要进一步探索，并且需要将此模型进行更加轻量化的升级。2.使用官方模型时利用预训练的权重，使得ACC提升变得更加迅速。深度学习环境：torch 1.12.0+cu113。编译器：jupyter notebook。语言环境：Python 3.8.12。预测结果是：Early_blight。

2025-01-24 02:27:27 721

原创 P6周：VGG-16算法-Pytorch实现人脸识别

1.本次使用pytorch深度学习环境对官方的VGG-16模型进行调用，并且保存最佳模型权重。VGG-16模型的最大特点是深度。除此之外，其卷积层都采用3x3的卷积核和步长为1的卷积操作，同时卷积层后都有ReLU激活函数，从而降低过拟合风险。2.训练过程中发现训练和测试的acc都过低（约为20%），通过调整动态学习率予以调整，初始学习率增大一个数量级之后，此问题得到一定的解决。深度学习环境：torch 1.12.0+cu113。预测结果是：Angelina Jolie。

2025-01-17 12:48:39 1309

原创 J2周：ResNet-50V2算法实战与解析

1.ResNet-50v2 在 ResNet-50 的基础上进行了一些关键的修改，尤其是在残差块的结构上。具体来说，在 ResNet-50v2 中，新的网络结构是：结构先进行归一化和激活函数计算后，再进行卷积，把 addition 后的 ReLU 计算放到了残差结构内部。2.这种顺序上的改变有助于提升网络的表现，因为它通过减少某些类型的非线性约束，允许更加高效的梯度流动，并且在训练过程中取得更好的效果。...................此处省略多行...................

2025-01-10 18:19:44 1031

原创 J1周：ResNet-50算法实战与解析

1.ResNet-50是一种深度残差网络，通过引入残差连接，有效解决了深层网络训练中的梯度消失和退化问题。本次学习深入理解了残差学习的概念，感受到其在提升训练效率和模型性能方面的优势。残差连接使得信息能够更容易地在网络中传递，从而减少了训练时的困难。2.预训练模型的载入，极大地减少了代码的运行时间，提升了运行效率。模型可以更快地收敛，避免从零开始训练的时间浪费。图片总数为: 565。

2025-01-03 16:07:18 894

原创第G7周：Semi--Supervised GAN 理论与实战

该算法是以产生式对抗网络（DCGAN）为基础，并且将此网络拓展到半监督学习（Semi-Supervised GAN），通过强制判别器D来输出类别标签。首先，在一个数据集上训练一个生成器G以及一个判别器D，输入是N类当中的一个。在训练的时候，判别器D被用于预测输入是属于 N+1类中的哪一个，这个N+1是对应了生成器G的输出，这里的判别器D同时也充当起了分类器C的效果。这种方法可以用于训练效果更好的判别器D，并且可以比普通的GAN 产生更加高质量的样本。

2024-12-19 23:50:54 807

原创第G6周：CycleGAN实战

🍨 本文为🔗365天深度学习训练营中的学习记录博客 🍖 原作者：K同学啊一、背景介绍1.概述目的：图像之间的风格迁移，图像的主体内容不变，只是学习一种映射关系，使源域图像能够被自动转化为具有目标域特征的图像，像是更换了”滤镜“。比如可以把一张普通的风景照变化成梵高化作，或者将游戏画面变化成真实世界画面，将一匹正常肤色的马转为斑马等等。2.CycleGAN 网络结构 CycleGAN 由左右两个 GAN 网络组成 G(AB)负责把 A 类物体 (斑马

2024-12-13 17:38:59 800

原创 G3周：手势图像生成（CGAN）

训练模型# 定义损失函数# 定义优化器。

2024-12-06 10:44:15 972

原创 G2周：人脸图像生成（DCGAN）

自定义权重初始化函数，作用于netG和netD#获取当前层的类名#如果类名中包含'Conv'，即当前层是卷积层= -1:#使用正态分布初始化权重数据，均值为0，标准差为0.02#如果类名中包含'BatchNorm'，即当前层是批归一化层=-1:#使用正态分布初始化权重数据，均值为1，标准差为0.02#使用常数初始化偏置项数据，值为0#输入为z，经过一个转置卷积层nn.BatchNorm2d(ngf*8), #批归一化层，用于加速收敛和稳定训练过程。

2024-11-29 11:08:25 1031

原创 G1周：生成对抗网络（GAN）入门

1.定义鉴别器#将图片28x28展开成784，然后通过多层感知器，中间经过斜率设置为0.2的LeakyReLu激活函数，#最后接sigmoid激活函数得到一个0到1之间的概率进行二分类2.定义生成器# 定义生成器# 输入一个100维的0~1之间的高斯分布，然后通过第一层线性变换将其映射到256维，# 然后通过LeakyReLu激活函数，接着进行一个线性变换，再经过一个LeakyReLu激活函数，

2024-11-22 16:14:27 412

原创 Y2周：使用YOLOv5训练自己的数据集

1.会出现很多报错，首先是：module ‘PIL.Image‘ has no attribute ‘ANTIALIAS‘，解决：进入相应的.py文件中，将Image.ANTIALIAS改为Image.LANCZOS。2.其次是：AttributeError: ‘NoneType‘ object has no attribute ‘_free_weak_ref‘，解决：降级torch版本。具体版本可参考一、环境搭建。

2024-11-07 13:47:52 967

原创 Y1周：YOLOv5白皮书调用官方权重进行检测

接下来，以同样的方法打开cmd，输入命令:python path/to/detect.py--source path/to/img.jpg --weights yolov5s.pt --img 640，将地址更换成自己的：python detect.py --source data\images\zidane.jpg --weights yolov5s.pt --img 640。这是官方已经训练好的模型。2.在环境上浪费了比较多的时间，因为numpy要求2.0.0版本以下，还有各种版本之间的不匹配。

2024-10-30 18:53:54 452

原创 T5周：运动鞋品牌识别

1.经过这几期的学习，对于Tensorflow-gpu框架已经灵活使用，其显著提高了代码的运行速度与运行效率。2.目前对CNN卷积神经网络的熟悉度大幅度提升，了解CNN包含的block数目及如何进行数据预处理和预训练。3.目前对于动态学习率的掌握程度一般，并不是特别熟悉，在今后的学习中加强训练。4.平常要加强学习，发现很多词语还并不了解，更加主动获取学习资源。深度学习环境：Tensorflow-gpu 2.7.0。语言环境：Python 3.9.13。预测结果为： adidas。图片总数为： 578。

2024-10-18 10:11:56 841

weixin_42245644的博客