羊羊的博客

TorchIO 是一个专为医学图像处理设计的 Python 库，构建于 PyTorch 之上。它的目标是为医学影像分析中的深度学习模型（如分类、分割、检测）提供高效、灵活的数据预处理和增强工具。TorchIO 支持 3D 图像数据（如 CT、MRI）以及多模态输入，特别适用于医学影像任务。能够同时加载和处理多种模态的数据（如 T1、T2、FLAIR），为联合分析提供支持。

poetry 配置深度学习环境

poetry install 配置项目环境 ，出现的错误

图神经网络，GNN简单示例，针对不同的情况，节点分类，图分类，cluster-GCN，使用的数据都是torch_geometric的内置数据集。

图神经网络 基础知识篇 club俱乐部数据demo

StarGAN 生成对抗网络 GAN CycleGAN debug 对抗loss 多样性loss style_loss 一致性loss

StarGAN 生成对抗网络 cyclegan高级版 多个domain之间的相互转化 style_loss cycle_loss diversity_loss

cyclegan 一个数据集转化为另一个数据集 无监督学习

CycleGAN 生成对抗网络 无监督学习 循环一致性损失

目标检测 深度学习 Transformer DETR 匈牙利匹配

物体检测 YOLOv7 推理过程

yolov7的debug过程，detect的话题还不会结束，深度学习，物体检测

YOLO-v7 深度学习 物体检测 辅助头 卷积层和batchnormalization融合

深度学习 物体检测 YOLOv5 Focus,BlockneckCSP,SPP，PAN 模型可视化netron 计算机视觉公开数据集

YOLO-v4 物体检测 深度学习

yolov3 物体检测 深度学习 非极大值抑制

YOLO 物体检测 深度学习 学习记录

transformer 长时间序列预测

关于训练过程中loss和acc一直保持不变的原因和解决方法

convnext 在分类中的应用

最近放假，在家里虽然也有实验室的任务，但是时间相对自己安排的更灵活一点，也在看之前的一些文献学一点自己之前没有涉及的域。随笔记录、今天这篇文献主要讲述一个在语义分割中的方法：Dual Attention NetWork（看到attention大家y8inggai脑子里面先想到的是各种attention，但是每个attention都离不了里面的三个矩阵q,k,v）文章主要使自注意力机制来捕获上下文依赖，提出DANet来自适应地整合局部特征和全局依赖。这个方法可以。

昨天讨论的时候一个大佬提到了Metric Learning，听他讲了一下大致思路，觉得有点意思，所以下来了解了一下，简单记录。

新的model是需要两个模型作前期的处理后的结果，如model1得到feature1，model2得到feature2，最终（现在训练的）model（model3）需要学习的是根据feature1和feature2进行整合和特征学习正确分辨出最终的结果。这个时候model3在第一次训练做初始化的时候需要加载model1和model2的权重，但是后来训练的时候如果初始权重是之前训练好的model3的权重，就不要再加载model1和model2的权重后再加载model3的权重，机器在加载的过程中都是需要消耗时间

分类问题注意label，正负样本一定要谨慎

在模型训练过程中loss和acc都会发生变化，常常需要记录这些值，以便后期调整参数时有的根据，使用tensorboard记录，好物分享！！

swintransformer的相关理论知识，以及一个分类的实践，training

Knowledge distillation（Demo）原本昨天晚上要写的，但是奈何手中有更紧迫的任务需要做，所以自己还没有实战，昨天看到了一个简单的demo，自己写了一部分注释，希望对大家有帮助。等我把手头的活干完，再来接着详细说

知识蒸馏将已经训练好的模型包含的知识，蒸馏到另一个模型中teacher 模型只在训练的过程中使用一个teacher可以用于蒸馏多个studentloss分为两个部分 第一部分称为Lsoft:（两个分布之间的loss）第二部分称为Lhard:（两个确定值之间的loss)

使用经典模型对图像数据进行分类

一般在处理图像的过程中更多使用的是卷积，全连接一般只用于最后几层做分类映射或者回归的映射

掌握搭建pytorch框架的方法，对气温进行预测。

以mnist为例，对构建一个10分类的model对model的写法做基本认识（里面涉及一些详细的知识点，在后期建立model的时候可能不需要这种复杂的写法，只是为了更清楚的了解网络的具体内部运算过程）...

加载预训练参数 冻结部分层参数required_grad

数据不平衡 class_weight loss_function

VGG16 图像分类

VGG16将交叉熵loss改为MSElossone-hot的转换

损失函数L1-lossMSE-losssmoothL1 loss交叉熵KL散度

深度学习 人工智能 图像分类 ResNet34 ResNet50 ResNeXt50 训练和预测

2022Topic第一弹——GCN练手

深度学习Pytorch（十一）——微调torchvision模型文章目录深度学习Pytorch（十一）——微调torchvision模型在本小节，深入探讨如何对