自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+
  • 博客(58)
  • 收藏
  • 关注

原创 python打卡day59

机器学习模型:通过滑动窗口实现,往往需要借助arima等作为特征提取器来捕捉线性部分(趋势、季节性),再利用自己的优势捕捉非线性的残差。作业:由于篇幅问题,无法实战SARIMAX了,可以自己借助AI尝试尝试,相信大家已经有这个能力了。统计模型:SARIMA(单向因果)、VAR(考虑双向依赖)深度学习模型:独特的设计天然为时序数据而生。

2025-07-05 13:52:54 394

原创 python打卡day58

建立一个ARIMA模型,通常遵循以下步骤:1. 数据可视化:观察原始时间序列图,判断是否存在趋势或季节性。2. 平稳性检验:- 对原始序列进行ADF检验。- 如果p值 > 0.05,说明序列非平稳,需要进行差分。3. 确定差分次数 d:- 进行一阶差分,然后再次进行ADF检验。- 如果平稳了,则 d=1。否则,继续差分,直到平稳。4. 确定 p 和 q:- 对差分后的平稳序列绘制ACF和PACF图。- 根据昨天学习的规则(PACF定p,ACF定q)来选择p和q的值。

2025-07-03 21:24:23 300

原创 python打卡day57

检索下经典的时序单变量数据集有哪些,选择一个尝试观察其性质。4.绘制ACF,PACF图查看数据适合什么模型。3.再对季节性差分结果做一阶差分(处理趋势)可以看出该模型效果有待进一步提高。P值这么高,显然数据不稳定。根据AI分析选择AR模型。

2025-06-30 21:06:22 931

原创 python打卡day56

-- 开始检验白噪声属性 --- 1. 序列的均值: 9.0969 (结论: 均值偏离0较远。) 2. 序列的方差: 55.5327 (结论: 方差偏离1较远。) 3. 检验自相关性 (使用ACF图): - ACF图展示了序列与它过去值之间的相关性。- 对于白噪声,只有lag=0时相关性为1,其他所有lag的相关性都应在蓝色置信区间内(统计上不显著)。时序部分需要铺垫的知识非常多,相信这次应该说清楚了假设检验相关的基础知识。记忆口诀:p越小,落在置信区间外,越拒绝原假设。1.假设检验基础知识。

2025-06-25 15:28:50 231

原创 python打卡day55

假设原始数据 y 是一个长度为 10 的序列:y = [1, 2, 3, 4, 5, 6, 7, 8, 9, 10]3、滑动窗口生成序列:生成的特征和标签对如下,总共生成了 7 个样本(10 - 3 = 7)1、训练数据是前 8 个点:[1, 2, 3, 4, 5, 6, 7, 8]作业:手动构造类似的数据集(如cosx数据),观察不同的机器学习模型的差异。4、经典机器学习在序列任务上的劣势;2、测试数据是后 2 个点:[9, 10]2、多步预测的2种方式。2、序列数据的处理:滑动窗口。

2025-06-19 21:13:05 353

原创 python打卡day54

它的核心设计理念是 “并行的多尺度融合”,通过在同一层网络中使用多个不同大小的卷积核(如 1x1、3x3、5x5)以及池化操作,从不同尺度提取图像特征,然后将这些特征进行融合,从而在不增加过多计算量的情况下,获得更丰富的特征表达。所以不同的设计,其实是为了不同的任务,比如你虽然可以捕捉不同尺度的信息,但是对于图像分类这个任务来说没用,我的核心是整个图像的类别,如果你是目标检测,对于小目标的检测中小尺度的设计就很有用。卷积也是有很多变体的,除了我们之前说过的基础的卷积,还有空洞卷积、幻影卷积等等变体。

2025-06-16 20:34:28 827

原创 python打卡day53

作业:对于心脏病数据集,对于病人这个不平衡的样本用GAN来学习并生成病人样本,观察不用GAN和用GAN的F1分数差异。如果你学有余力,对于gan的损失函数的理解,建议去找找视频看看,如果只是用,没必要学。nn.sequential容器:适合于按顺序运算的情况,简化前向传播写法。leakyReLU介绍:避免relu的神经元失活现象。使用GAN数据增强后F1分数: 0.8955。对抗生成网络的思想:关注损失从何而来。原始F1分数: 0.8438。

2025-06-14 15:09:16 138

原创 python打卡day52

从80.98%——》82.34% 有了微弱的提升,多半是因为epoch的提高;其它调参优化效果并不明显,甚至可能在训练集上出现过拟合风险加大,最后收敛仍然未能较好,可继续优化调参。Enoch 30/30 完成 | 训练准确率:80.56% | 测试准确率:82.34%作业:对于day41的简单cnn,看看是否可以借助调参指南进一步提高精度。

2025-06-13 21:50:57 270

原创 python打卡day51

day43的时候我们安排大家对自己找的数据集用简单cnn训练,现在可以尝试下借助这几天的知识来实现精度的进一步提高。以下是43天时使用CNN训练猫狗数据集获得的结果。定义resnet18模型并加上CBAM模块。1.模型换成性能更好的resnet18。3.采用冻结解冻机制和微调模型。采用三阶段解冻策略训练模型。加载数据集以及加强数据。2.采用CBAM模块。

2025-06-12 22:10:29 246

原创 python打卡day50

ps:今日的代码训练时长较长,3080ti大概需要40min的训练时长。

2025-06-12 21:54:19 227

原创 python打卡day49

尝试对今天的模型检查参数数目,并用tensorboard查看训练过程。定义带有CBAM的CNN模型。cnn➕cbam训练。

2025-06-10 19:35:14 267

原创 python打卡day48

知识点回顾:随机张量的生成:torch.randn函数卷积和池化的计算公式(可以不掌握,会自动计算的)pytorch的广播机制:加法和乘法的广播机制ps:numpy运算也有类似的广播机制,基本一致作业:自己多借助ai举几个例子帮助自己理解即可随机张量的生成在深度学习中经常需要随机生成一些张量,比如权重的初始化,或者计算输入纬度经过模块后输出的维度,都可以用一个随机函数来实现需要的张量格式,而无需像之前一样必须加载一张真实的图片。

2025-06-09 22:01:20 416

原创 python打卡day47

这个注意力热图是通过构子机制: register_forward_hook 捕获最后一个卷积层(conv3)的输出特征图。热力图(红色表示高关注,蓝色表示低关注)半透明覆盖在原图上。通道权重计算:对特征图的每个通道进行全局平均池化,得到通道重要性权重。热力图生成:将高权重通道的特征图缩放至原始图像尺寸,与原图叠加显示。通道1可能关注整体轮廓,通道2关注纹理细节,通道3关注颜色分布。高关注区域(红色):模型认为对分类最重要的区域。结合多个通道的热力图,可全面理解模型的决策逻辑。向非技术人员解释模型决策依据。

2025-06-08 19:47:39 452 1

原创 python打卡day46

2. 什么是注意力:注意力家族,类似于动物园,都是不同的模块,好不好试了才知道。2. 对比不同卷积层特征图可视化的结果(可选)1. 不同CNN层的特征图:不同通道的特征图。3. 通道注意力:模型的定义和插入的位置。DAY 46 通道注意力(SE注意力)4. 通道注意力后的特征图和热力图。1. 今日代码较多,理解逻辑即可。

2025-06-08 19:44:24 222

原创 python打卡day45

对resnet18在cifar10上采用微调策略下,用tensorboard监控训练过程。

2025-06-07 09:17:40 178

原创 python打卡day44

迁移学习效率:预训练模型(如 ImageNet 上训练的 ResNet)的卷积层已经学习到了通用的图像特征(边缘、纹理、形状等)。在处理新任务(如 CIFAR-10 分类)时,可以利用这些已有知识,只训练最后的全连接层来适应新的分类标签,从而显著减少训练时间和数据需求。防止过拟合:对于小数据集,如果从头开始训练整个模型,很容易过拟合。第一阶段(前 5 个 epoch):冻结卷积层,只训练全连接层。尝试在cifar10对比如下其他的预训练模型,观察差异,尽可能和他人选择的不同。常见的分类预训练模型。

2025-06-04 23:43:32 181

原创 python打卡day43

(2)注意内存,可采取减小 batch_size 或使用更小的。(如 (128, 128))。(1)确保路径与代码中一致。Grad-CAM 可视化。加载测试图像并生成热力图。实现 Grad-CAM。构建并训练CNN模型。

2025-06-03 12:18:39 213

原创 python打卡day42

模块钩子:就像是在餐厅的出菜口安装监控摄像头,每当有菜出来(前向传播结束)或订单完成(反向传播结束),钩子函数就会被触发,可以记录或修改菜品(特征图或梯度)。定义:lambda函数就像是厨房中的“快速调味料”,可以快速定义简单的匿名函数,不需要像普通函数那样写完整的def语句,特别适合简单的操作。张量钩子:类似于在食材上贴标签,当食材被使用(张量被访问或修改)时,钩子函数会被触发,可以记录或修改食材的状态(张量的值或梯度)。计算权重:根据记录的梯度计算每个特征图的权重,表示该特征图对最终分类结果的重要性。

2025-06-01 21:52:03 342

原创 python打卡day41

例如,可以通过旋转、翻转、裁剪等方法来扩充食材的种类和形态,使模型在训练过程中看到更多的“菜品”变化,从而提高模型的泛化能力。调度器就像是餐厅的经理,根据餐厅的运营情况(如顾客流量、食材供应等)动态调整厨师的工作强度和节奏。在 CNN 中,特征图是由卷积层生成的,它们捕捉了图像的不同特征,如边缘、纹理等。Flatten:将多维的特征图展平成一维向量,类似于将复杂菜品的所有成分混合在一起,形成一个统一的混合物。激活函数:厨师根据菜谱添加特定的调料,使菜品具有独特的风味,激活函数为模型引入非线性。

2025-05-31 21:50:31 604

原创 python打卡day40

作业:仔细学习下测试和训练代码的逻辑,这是基础,这个代码框架后续会一直沿用,后续的重点慢慢就是转向模型定义阶段了。dropout操作:训练阶段随机丢弃神经元,测试阶段eval模式关闭dropout。展平操作:除第一个维度batchsize外全部展平。彩色和灰度图片测试和训练的规范写法:封装在函数中。

2025-05-31 21:47:09 364

原创 python打卡day39

4. batchisize和训练的关系。1. 图像数据的格式:灰度和彩色数据。作业:今日代码较少,理解内容即可。3. 显存占用的4种地方。a. 模型参数+梯度参数。d. 神经元输出中间状态。c. 数据批量所占显存。

2025-05-30 19:25:04 460

原创 python打卡day38

这是一种接口约定,类似函数参数的规范。这意味着,如果你要创建一个自定义数据集,你需要实现这两个方法,否则PyTorch将无法识别你的数据集。因为每个数据的维度比较小,所以既可以视为结构化数据,用机器学习、MLP训练,也可以视为图像数据,用卷积神经网络训练。__len__方法用于返回对象中元素的数量,当使用内置函数len()作用于对象时,Python 会自动调用该方法。Dataset类的__getitem__和__len__方法(本质是python的特殊方法)- __len__():返回数据集的样本总数。

2025-05-28 21:22:37 433

原创 python打卡day38

Dataset类的__getitem__和__len__方法(本质是python的特殊方法)样本的预处理逻辑(如裁剪、翻转、归一化等,通常通过transform参数实现)。原始数据的读取方式(如图像解码为PIL对象、文本读取为字符串)。返回值格式(如(image_tensor, label))。作业:了解下cifar数据集,尝试获取其中一张图片。数据存储路径/来源(如文件路径、数据库查询)。Dataset和Dataloader类。是否打乱数据顺序(shuffle)。批量大小(batch_size)。

2025-05-27 21:44:27 195

原创 python打卡day37

对信贷数据集训练后保存权重,加载权重后继续训练50轮,并采取早停策略。

2025-05-26 19:32:40 191

原创 python打卡day36

对之前的信贷项目,利用神经网络训练下,尝试用到目前的知识点让代码更加规范和美观。

2025-05-25 19:55:36 219

原创 python打卡day35

知识点回顾:三种不同的模型可视化方法:推荐torchinfo打印summary+权重分布可视化进度条功能:手动和自动写法,让打印结果更加美观推理的写法:评估模式作业:调整模型定义时的超参数,对比下效果。MLP是nn.model中自带的模型,因此可以直接打印-------不推荐相较第一种清晰了很多torchifo库和torchsummary库的使用方法一致,但结果更清晰,因此更推荐。

2025-05-24 20:50:47 358

原创 python打卡day34天

PyTorch中,GPU计算(如模型推理、梯度计算)与CPU操作(如 loss.item() 将GPU张量转为CPU标量、 append 到列表)是。鸢尾花数据集(150样本、4特征)和MLP模型(仅2层全连接)的计算量极小,单个epoch的GPU计算时间可能仅需 几微秒到几十微秒。losses.append(loss.item()) 是Python列表的 O(1)时间复杂度操作 (均摊时间),即使记录次数增加(如从10次到200次),CPU辅助操作的总耗时在整体训练时长中的占比极低(可能不足1%),

2025-05-23 20:28:47 475

原创 python打卡day33

定义一个简单的全连接神经网络模型,包含一个输入层、一个隐藏层和一个输出层。定义层数+定义前向传播顺序class MLP(nn.Module): # 定义一个多层感知机(MLP)模型,继承父类nn.Moduledef __init__(self): # 初始化函数super(MLP, self).__init__() # 调用父类的初始化函数# 前三行是八股文,后面的是自定义的self.fc1 = nn.Linear(4, 10) # 输入层到隐藏层。

2025-05-22 19:43:32 850

原创 python打卡day32

作业:参考pdpbox官方文档中的其他类,绘制相应的图,任选即可。2.官方文档的阅读和使用:要求安装的包和文档为同一个版本。1.官方文档的检索方式:github和官网。4.绘图的理解:对底层库的调用。普通方法所需要的参数。

2025-05-21 21:03:04 177

原创 python打卡day31

尝试针对之前的心脏病项目,准备拆分的项目文件,思考下哪些部分可以未来复用。

2025-05-20 21:16:08 273

原创 python打卡day30

模块(Module)

2025-05-19 15:48:54 2369

原创 python打卡day29

之前无论是函数还是类的装饰器,我们都发现是先有装饰器,再有类。那既然我们说了装饰器除了让原本的代码更加清晰可读可复用,还具有修改函数or类的功能。那如何修改之前已经写好的类or函数呢?所以你还是需要理解 装饰器本质就是一个语法糖,对类而言:@decorator 语法只是 MyClass = decorator(MyClass) 的简写,即使类已定义,仍可手动调用装饰器函数修改它。# 手动调用装饰器总结:装饰器的核心是动态修改类 / 函数,而不改变原代码。

2025-05-18 21:50:47 2022

原创 python打卡day28

创建一个工厂函数 create_shape(shape_type, *args),根据类型创建不同图形对象:图形工厂(函数或类)calculate_circumference():计算圆的周长(公式:2πr)。shape_type="rectangle":创建长方形(参数:长、宽)。calculate_area():计算圆的面积(公式:πr²)。shape_type="circle":创建圆(参数:半径)。题目2:定义长方形(Rectangle)类。类的继承:属性的继承、方法的继承。

2025-05-17 21:22:25 342

原创 python打卡day27

作业:编写一个装饰器 logger,在函数执行前后打印日志信息(如函数名、参数、返回值)装饰器本质上是一个 Python 函数,它可以让其他函数或方法在不需要做任何代码修改的前提下增加额外功能。--本质是如果让一个函数具备太多功能,那么他看起来就会比较乱,可读性比较差,如果把其中一部分相同甚至可以复用的功能用一个新的函数来调用,然后让2个函数同时实现,就会做到。

2025-05-17 00:49:13 305

原创 python打卡打印26

"""Docstring: 描述函数的功能、参数和返回值 (可选但强烈推荐)"""# 函数体: 实现功能的代码# ...return value # 可选,用于返回结果def: 关键字,表示开始定义一个函数。function_name: 函数的名称,应遵循Python的命名约定(通常是小写字母和下划线,例如 calculate_area,用英文单词含义和下划线来作为函数名)。parameter1, parameter2, ...: 函数的参数(也叫形参),是函数在被调用时接收的输入值。

2025-05-15 20:52:05 1825

原创 python打卡day25

知识点回顾:异常处理机制debug过程中的各类报错try-except机制try-except-else-finally机制在即将进入深度学习专题学习前,我们最后差缺补漏,把一些常见且重要的知识点给他们补上,加深对代码和流程的理解。作业:理解今日的内容即可,可以检查自己过去借助ai写的代码是否带有try-except机制,以后可以尝试采用这类写法增加代码健壮性。

2025-05-14 21:30:09 649

原创 python打卡DAY24

这三元组就是一个典型的元组,它是一个不可变的有序集合。我们可以通过 for 循环(可迭代对象)逐个访问这些元组,从而实现对文件夹的深度遍历。元组是一种不可变的数据结构,用于存储有序的元素集合。os 模块提供了与操作系统交互的功能,例如操作文件和目录、获取环境变量等。可迭代对象是可以被迭代的数据结构,例如列表、元组、字典、集合等。作业:对自己电脑的不同文件夹利用今天学到的知识操作下,理解下os路径。1.列出指定文件夹中的所有文件和目录。循环逐个访问其元素。2.创建一个新的文件夹。元组和可迭代对象的应用。

2025-05-13 20:37:24 282

原创 python打卡DAY23

转换器(transformer)是一个用于对数据进行预处理和特征提取的 estimator,它实现一个 transform 方法,用于对数据进行预处理和特征提取。因此,估计器需要在训练集上进行训练,并使用训练得到的模型参数对新数据进行预测。在pipeline中,每个估计器都实现了fit和transform方法,fit方法用于训练模型,transform方法用于对数据进行预处理和特征提取。在机器学习中,通常会按照一定的顺序对数据进行预处理、特征提取、模型训练和模型评估等步骤,以实现机器学习模型的训练和评估。

2025-05-12 20:04:07 998

原创 python打卡DAY22

学习别人的经验后我知道, test_data在丢弃列的时候不能丢弃ID列,否则在pd.DataFrame读取ID列时会读不到,所以可以单独用一个X_test来丢弃ID列。作业:自行学习参考如何使用kaggle平台,写下使用注意点,并对下属比赛提交代码。数据中包含缺失值,此外姓名,船票,ID,船舱列对于预测没有帮助,可以删除。SMOTE过采样+网格搜索调参进一步优化;训练基础模型-随机森林。可以看到效果有所提升。

2025-05-11 19:44:55 318

原创 python打卡DAY20

对于任何矩阵(如结构化数据可以变为:样本*特征的矩阵,图像数据天然就是矩阵),均可做等价的奇异值SVD分解,对于分解后的矩阵,可以选取保留前K个奇异值及其对应的奇异向量,重构原始矩阵,可以通过计算Frobenius 范数相对误差来衡量原始矩阵和重构矩阵的差异。应用:结构化数据中,将原来的m个特征降维成k个新的特征,新特征是原始特征的线性组合,捕捉了数据的主要方差信息,降维后的数据可以直接用于机器学习模型(如分类、回归),通常能提高计算效率并减少过拟合风险。

2025-05-09 21:11:33 830

空空如也

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除