自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+
  • 博客(50)
  • 收藏
  • 关注

原创 Day57打卡 @浙大疏锦行

MA(q) 移动平均模型:当前值收到短期冲击的影响,且冲击影响随时间衰减。AR(p) 自回归模型:当前值受到过去p个值的影响。ARMA(p,q) 自回归滑动平均模型。:同时存在自回归和冲击影响。处理非平稳性:n阶差分。处理季节性:季节性差分。

2025-06-27 19:07:19 299

原创 Day56打卡 @浙大疏锦行

P值、统计量、显著水平、置信区间。偏自相关性检验:PACF检验。序列分解:趋势+季节性+残差。自相关性检验:ACF检验和。Ljung-Box 检验。

2025-06-22 19:29:06 209

原创 Day55打卡 @浙大疏锦行

经典机器学习在序列任务上的劣势;序列数据的处理:滑动窗口。多输入多输出任务的思路。

2025-06-19 15:13:08 249

原创 Day54打卡 @浙大疏锦行

特征融合方法阶段性总结:逐元素相加、逐元素相乘、concat通道数增加等。感受野与卷积核变体:深入理解不同模块和类的设计初衷。inception模块和网络。

2025-06-15 20:26:14 288

原创 Day53打卡 @浙大疏锦行

nn.sequential容器:适合于按顺序运算的情况,简化前向传播写法。leakyReLU介绍:避免relu的神经元失活现象。对抗生成网络的思想:关注损失从何而来。

2025-06-13 22:19:39 280

原创 Day52打卡 @浙大疏锦行

各部分参数的调整心得。

2025-06-12 20:27:11 324

原创 Day51打卡 @浙大疏锦行

【代码】Day51打卡 @浙大疏锦行。

2025-06-11 23:08:47 157

原创 Day50打卡 @浙大疏锦行

resnet结构解析CBAM放置位置的思考针对预训练模型的训练策略差异化学习率三阶段微调。

2025-06-10 22:24:59 1698

原创 Day49打卡 @浙大疏锦行

知识点回顾:通道注意力模块复习空间注意力模块CBAM的定义CBAM 是一种能够集成到任何卷积神经网络架构中的注意力模块。它的核心目标是通过学习的方式,自动获取特征图在通道和空间维度上的重要性,进而对特征图进行自适应调整,增强重要特征,抑制不重要特征,提升模型的特征表达能力和性能。简单来说,它就像是给模型装上了 “智能眼镜”,让模型能够更精准地看到图像中关键的部分。

2025-06-09 22:58:44 456

原创 Day48打卡 @浙大疏锦行

知识点回顾:随机张量的生成:torch.randn函数在 PyTorch 中,torch.randn()是一个常用的随机张量生成函数,它可以创建一个由标准正态分布(均值为 0,标准差为 1)随机数填充的张量。这种随机张量在深度学习中非常实用,常用于初始化模型参数、生成测试数据或模拟输入特征。标量: -1.6167410612106323, 形状: torch.Size([])

2025-06-08 21:34:30 1854

原创 Day47打卡 @浙大疏锦行

【代码】Day47打卡 @浙大疏锦行。

2025-06-07 21:19:10 175

原创 Day46打卡 @浙大疏锦行

什么是注意力:注意力家族,类似于动物园,都是不同的模块,好不好试了才知道。对比不同卷积层特征图可视化的结果(可选)不同CNN层的特征图:不同通道的特征图。通道注意力:模型的定义和插入的位置。通道注意力后的特征图和热力图。今日代码较多,理解逻辑即可。

2025-06-06 23:26:31 277

原创 Day45打卡 @浙大疏锦行

对resnet18在cifar10上采用微调策略下,用tensorboard监控训练过程。tensorboard在cifar上的实战:MLP和CNN模型。tensorboard的发展历史和原理。tensorboard的常见操作。

2025-06-05 20:11:43 194

原创 Day44打卡 @浙大疏锦行

因为任务差不多,他提取特征的能力才有用,如果任务相差太大,他的特征提取能力就没那么好。我们把用预训练模型的参数,然后接着在自己数据集上训练来调整该参数的过程叫做微调,这种思想叫做迁移学习。把预训练的过程叫做上游任务,把微调的过程叫做下游任务。所以很自然的想到,如果最开始能有比较好的参数,即可能导致未来训练次数少,也可能导致未来训练避免陷入局部最优解的问题。如果别人在某些和我们目标数据类似的大规模数据集上做过训练,我们可以用他的训练参数来初始化我们的模型,这样我们的模型就比较容易收敛。常见的分类预训练模型。

2025-06-04 19:20:14 452

原创 Day43打卡(补41+42) @浙大疏锦行

Flatten -> Dense (with Dropout,可选) -> Dense (Output)1. 输入 → 卷积层 → Batch归一化层(可选) → 池化层 → 激活函数 → 下一层。batch归一化:调整一个批次的分布,常用与图像数据。DAY 42 Grad-CAM与Hook函数。特征图:只有卷积操作输出的才叫特征图。hook函数的模块钩子和张量钩子。调度器:直接修改基础学习率。卷积神经网络定义的写法。Grad-CAM的示例。DAY 43 复习日。

2025-06-02 22:14:13 272

原创 Day40打卡 @浙大疏锦行

dropout操作:训练阶段随机丢弃神经元,测试阶段eval模式关闭dropout。展平操作:除第一个维度batchsize外全部展平。彩色和灰度图片测试和训练的规范写法:封装在函数中。

2025-05-30 21:50:31 360

原创 Day39打卡 @浙大疏锦行

从这里开始我们进入到了图像数据相关的部分,也是默认你有之前复试班计算机视觉相关的知识,但是一些基础的概念我仍然会提。昨天我们介绍了minist这个经典的手写数据集,作为图像数据,相较于结构化数据(表格数据)他的特点在于他每个样本的的形状并不是(特征数,),而是(宽,高,通道数)# 先继续之前的代码from torch.utils.data import DataLoader , Dataset # DataLoader 是 PyTorch 中用于加载数据的工具。

2025-05-29 21:04:26 620

原创 Day38打卡 @浙大疏锦行

Dataset类的__getitem__和__len__方法(本质是python的特殊方法)minist手写数据集的了解。Dataloader类。

2025-05-27 21:59:26 158

原创 Day37打卡 @浙大疏锦行

对信贷数据集训练后保存权重,加载权重后继续训练50轮,并采取早停策略。保存全部信息checkpoint,还包含训练状态。过拟合的判断:测试集和训练集同步打印指标。

2025-05-26 21:09:16 279

原创 Day36打卡 @浙大疏锦行

回顾一下神经网络到目前的内容。

2025-05-25 21:45:44 242

原创 Day35打卡 @浙大疏锦行

三种不同的模型可视化方法:推荐torchinfo打印summary+权重分布可视化。进度条功能:手动和自动写法,让打印结果更加美观。作业:调整模型定义时的超参数,对比下效果。推理的写法:评估模式。

2025-05-24 20:54:50 429

原创 Day34打卡 @浙大疏锦行

类的call方法:为什么定义前向传播时可以直接写作self.fc1(x)GPU训练的方法:数据和模型移动到GPU device上。CPU性能的查看:看架构代际、核心数、线程数。GPU性能的查看:看显存、看级别、看架构代际。

2025-05-23 21:57:45 445

原创 Day33打卡 @浙大疏锦行

1. 分类任务中,若标签是整数(如 0/1/2 类别),需转为long类型(对应 PyTorch 的torch.long),否则交叉熵损失函数会报错。2. 回归任务中,标签需转为float类型(如torch.float32)。查看显卡信息的命令行命令(cmd中使用)数据预处理(归一化、转换成张量)PyTorch和cuda的安装。继承nn.Module类。定义损失函数和优化器。

2025-05-22 22:06:27 813

原创 Day32打卡 @浙大疏锦行

参考pdpbox官方文档中的其他类,绘制相应的图,任选即可。官方文档的阅读和使用:要求安装的包和文档为同一个版本。官方文档的检索方式:github和官网。绘图的理解:对底层库的调用。普通方法所需要的参数。

2025-05-21 21:43:21 238

原创 Day31打卡 @浙大疏锦行

知识点回顾规范的文件命名规范的文件夹管理机器学习项目的拆分编码格式和类型注解。

2025-05-20 21:52:01 382

原创 Day30打卡 @浙大疏锦行

导入库/模块的核心逻辑:找到根目录(python解释器的目录和终端的目录不一致):自己新建几个不同路径文件尝试下如何导入。导入自定义库/模块的方式。导入官方库的三种手段。

2025-05-19 22:09:38 170

原创 Day29(补28)打卡@浙大疏锦行

calculate_perimeter():计算周长(公式:2×(长+宽))。is_square() 方法,判断是否为正方形(长 == 宽)。calculate_circumference():计算圆的周长(公式:2πr)。shape_type="rectangle":创建长方形(参数:长、宽)。calculate_area():计算圆的面积(公式:πr²)。shape_type="circle":创建圆(参数:半径)。calculate_area():计算面积(公式:长×宽)。

2025-05-18 22:12:59 381

原创 Day 27 打卡 @浙大疏锦行

编写一个装饰器 logger,在函数执行前后打印日志信息(如函数名、参数、返回值)装饰器的思想:进一步复用。注意内部函数的返回值。

2025-05-16 16:31:59 215

原创 Day26打卡 @浙大疏锦行

编写一个名为 calculate_circle_area 的函数,该函数接收圆的半径 radius 作为参数,并返回圆的面积。编写一个名为 calculate_average 的函数,该函数可以接收任意数量的数字作为参数(引入可变位置参数 (*args)),并返回它们的平均值。编写一个名为 print_user_info 的函数,该函数接收一个必需的参数 user_id,以及任意数量的额外用户信息(作为关键字参数)。函数的参数类型:位置参数、默认参数、不定参数。user_id 是一个必需的位置参数。

2025-05-15 22:15:24 589

原创 Day25打卡 @浙大疏锦行

理解今日的内容即可,可以检查自己过去借助ai写的代码是否带有try-except机制,以后可以尝试采用这类写法增加代码健壮性。在即将进入深度学习专题学习前,我们最后差缺补漏,把一些常见且重要的知识点给他们补上,加深对代码和流程的理解。try-except-else-finally机制。debug过程中的各类报错。try-except机制。DAY 25 异常处理。

2025-05-14 21:28:55 236

原创 Day23打卡 @浙大疏锦行

pipeline管道知识回顾:转化器和估计器的概念管道工程ColumnTransformer和Pipeline类作业:整理下全部逻辑的先后顺序,看看能不能制作出适合所有机器学习的通用pipeline。

2025-05-12 22:00:02 379

原创 DAY 22 打卡 @浙大疏锦行

DAY 22 复习日复习日仔细回顾一下之前21天的内容,没跟上进度的同学补一下进度。作业:自行学习参考如何使用kaggle平台,写下使用注意点,并对下述比赛提交代码。

2025-05-11 21:47:12 279

原创 Day21打卡 @浙大疏锦行

常见的降维算法知识点回顾:LDA线性判别PCA主成分分析t-sne降维还有一些其他的降维方式,也就是最重要的词向量的加工,我们未来再说作业:自由作业:探索下什么时候用到降维?降维的主要应用?

2025-05-10 21:52:28 1581

原创 Day20打卡 @浙大疏锦行

对于任何矩阵(如结构化数据可以变为:样本*特征的矩阵,图像数据天然就是矩阵),均可做等价的奇异值SVD分解,对于分解后的矩阵,可以选取保留前K个奇异值及其对应的奇异向量,重构原始矩阵,可以通过计算Frobenius 范数相对误差来衡量原始矩阵和重构矩阵的差异。应用:结构化数据中,将原来的m个特征降维成k个新的特征,新特征是原始特征的线性组合,捕捉了数据的主要方差信息,降维后的数据可以直接用于机器学习模型(如分类、回归),通常能提高计算效率并减少过拟合风险。降噪:通常噪声对应较小的奇异值。

2025-05-09 21:48:28 442

原创 Day19打卡 @浙大疏锦行

【代码】Day19打卡 @浙大疏锦行。

2025-05-08 21:21:35 242

原创 Day18打卡 @浙大疏锦行

推断簇含义的2个思路:先选特征和后选特征。科研逻辑闭环:通过精度判断特征工程价值。通过可视化图形借助ai定义簇的含义。

2025-05-07 21:49:14 169

原创 Day17打卡 @浙大疏锦行

实际在论文中聚类的策略不一定是针对所有特征,可以针对其中几个可以解释的特征进行聚类,得到聚类后的类别,这样后续进行解释也更加符合逻辑。DBSCAN 的参数是 eps 和min_samples,选完他们出现k和评估指标。除了经典的评估指标,还需要关注聚类出来每个簇对应的样本个数,避免太少没有意义。聚类常见算法:kmeans聚类、dbscan聚类、层次聚类。KMeans 和层次聚类的参数是K值,选完k指标就确定。以及层次聚类的 linkage准则等都需要仔细调优。选择合适的算法,根据评估指标调参( )

2025-05-06 22:07:11 330

原创 Day16打卡 @浙大疏锦行

numpy数组的创建:简单创建、随机创建、遍历、运算。numpy数组的索引:一维、二维、三维。:今日知识点比较多,好好记忆下。

2025-05-05 22:22:15 210

原创 Day15(补13+14)打卡 @浙大疏锦行

随机过采样的缺点是,它可能会增加训练集的大小,从而增加训练时间。1. 对于少数类中的每个样本,计算它与少数类中其他样本的距离,得到其$k$近邻(一般$k$取5或其他合适的值)。6. 重复上述步骤,直到合成出足够数量的少数类样本,使得少数类和多数类样本数量达到某种平衡。- 过采样是把少的类别补充和多的类别一样多,欠采样是把多的类别减少和少的类别一样。SMOTE的核心思想是通过在少数类样本的特征空间中进行插值来合成新的样本。随机过采样的优点是,它可以增加少数类的样本数,从而提高模型的泛化能力小。

2025-05-04 23:23:34 409

原创 Day12打卡 @浙大疏锦行

超参数调整专题2三种启发式算法的示例代码:遗传算法、粒子群算法、退火算法学习优化算法的思路(避免浪费无效时间)作业:今天以自由探索的思路为主,尝试检索资料、视频、文档,用尽可能简短但是清晰的语言看是否能说清楚这三种算法每种算法的实现逻辑,帮助更深入的理解。

2025-05-01 21:10:13 236

空空如也

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除