AI_Robot001-优快云博客

原创 Datawhale AI夏令营 --深度学习进阶--Task3

该图展示了在深度神经网络中通过批量归一化来平滑和标准化每一层的特征，以确保不同维度的特征值在激活函数之前处于相对相似的范围，从而减少训练中的梯度消失或爆炸现象，提高网络的训练效果。在卷积神经网络中，随着网络的深入，特征图（Feature Map）会有越来越多的通道，这些通道代表了通过卷积层提取到的不同特征。通过对每一层的输入数据进行归一化处理，BN可以使得参数更新更加稳定，从而有助于减少在不同方向上的斜率差异，也就是说，BN可以“铲平”误差表面的山峰和谷底，使得优化过程更加高效。

2024-09-03 01:11:08 759

原创 Datawhale AI夏令营--深度学习进阶--Task2

如果某个参数的梯度较大，AdaGrad 会减小该参数的学习率，以避免在梯度较大的方向上过快更新，可能导致的震荡或不稳定。随着迭代次数的增加，累积的梯度平方会越来越大，导致学习率迅速减小，这可能会使训练过程在后期变得非常缓慢。分类问题中的常见做法：在实际的分类问题中，使用独热编码表示类别是一种常见做法，尤其是在使用深度学习模型时，如多分类问题中的全连接层输出。初始点的影响：如果从黑点（初始点）开始梯度下降，由于误差表面的特殊形状，训练可能会沿着横轴方向快速下降，而在纵轴方向上进展缓慢。

2024-08-29 01:10:53 1105

原创 Datawhale AI训练营--深度学习进阶

深度学习中的优化问题复杂多变，理解局部极小值与鞍点、批量处理、动量法以及自适应学习率等概念对于设计有效的优化策略至关重要。

2024-08-25 23:15:58 363

原创 Datawhale AI夏令营 Task3

因为模型相对架构简单等问题，每一个epoch的准确率更新存在问题，不过基本实现了模型训练及验证的过程，其中添加了部分数据增强、早停等技术，对流程有了进一步的了解。数据增强的目的是通过人工方式增加训练数据的多样性，从而提高模型的泛化能力，使其能够在未见过的数据上表现得更好。提交得分为0.974，若使用全部数据+增加数据增强方式，得分应该可以可以在0.98以上。实现二分类，并使用早停技术以免过度浪费资源，参考资料：Datawhale AI学习指南。在之前baseline中，

2024-07-20 22:18:00 303

原创 Datawhale AI夏令营 Task2

随后，每个卷积层后紧跟一个最大池化层，使用2x2的池化窗口和步长为2，进一步减少特征图的尺寸，同时增加对图像位移的不变性。timm.create_model(‘resnet18’, pretrained=True, num_classes=2)这行代码就是加载了一个预训练的ResNet-18模型，其中pretrained=True表示使用在ImageNet数据集上预训练的权重，num_classes=2表示模型的输出层被修改为有2个类别的输出，以适应二分类任务（例如区分真实和Deepfake图像）。

2024-07-17 21:21:15 1044

原创 Datawhale AI夏令营-从零入门CV图像竞赛(Deepfake攻防)

之后，在baseline基础上，替换网络结构为efficientnet，epoch为5，批量大小为32，采用adam优化器，训练集跟验证集按照5:1的比例分别扩大到50000和10000张，在五个训练周期中识别准确率大幅度提升，为之后进一步优化提供方向。Deepfake是一种使用AI技术生成的以视频和音频为主的伪造媒体，它们看起来或听起来非常真实，但实际上是由计算机根据音视频生成的。这种技术通常涉及到深度学习算法，特别是生成对抗网络（GANs），它们能够学习真实数据的特征，并生成新的、逼真的数据。

2024-07-14 20:22:47 184 1

原创飞桨领航团--Python零基础速成营学习有感

寒假期间，通过学校的飞桨团了解到百度大脑的Python基础速成营，虽然在之前的学习中接触过C和C++语言，但是在和他人的交谈中也了解到python的便利和简洁，正好这次速成营的机会让我得以有体系的学习python语言。前三天的学习主要以基础为主，老师详细地讲解了Python计算基础、编程基础和函数基础；后三天的学习主要以提升为主，老师详细地教授了python面向对象、多线程、文件操作及常用模块使用。虽然只是短短的六天课程，但是让我对Python语言有了一个较为全面的认识，通过六天的课程与作业，在不断地寻

2021-02-09 23:42:06 116