- 博客(11)
- 收藏
- 关注
原创 Datawhale组队学习之模型减肥秘籍-task2
模型剪枝(Model Pruning):指的是在深度学习中减少模型参数的过程,以提高模型的效率和减少计算资源消耗。非结构化剪枝(Unstructured Pruning): 随机移除网络中的权重,不保留网络的结构完整性。结构化剪枝(Structured Pruning): 移除整个神经元、卷积核或网络层等结构化组件。半结构化剪枝(Semi-Structured Pruning): 结合了非结构化和结构化剪枝的特点,部分保留网络结构。
2024-11-14 21:44:57
850
原创 Datawhale组队学习之模型减肥秘籍-task1
精确率衡量模型预测为正样本的实例中真正为正样本的比例,而召回率衡量所有真正的正样本中被模型正确预测为正样本的比例。随着模型参数量的增加,GPU硬件发展速度跟不上模型大小的增长,导致大模型训练和推理困难,模型压缩技术可以弥补硬件资源限制,使大模型能在有限的硬件上运行。:ROC曲线展示了模型在不同阈值下的性能,AUC值是ROC曲线下的面积,用于量化模型的分类性能。:精确率和召回率的调和平均数,用于平衡两者之间的权重,特别适用于需要同时考虑精确率和召回率的场景。所有可能的网络架构组成的集合。
2024-11-12 21:30:17
975
原创 Datawhale X 李宏毅苹果书AI夏令营深度学习进阶 task3笔记
这段代码定义了一个图像分类器类(Classifier),继承自PyTorch的nn.Module。该分类器通过一系列卷积层、批归一化层、激活函数和池化层构建卷积神经网络(CNN),用于提取图像特征。随后,这些特征被输入到全连接层进行分类,最终输出11个类别的概率,用于图像分类任务。"""定义一个图像分类器类,继承自PyTorch的nn.Module。该分类器包含卷积层和全连接层,用于对图像进行分类。""""""初始化函数,构建卷积神经网络的结构。包含一系列的卷积层、批归一化层、激活函数和池化层。
2024-09-03 12:36:44
1683
原创 Datawhale AI夏令营从零上手MobileAgent task2笔记
过去,阿里巴巴通义实验室推出的Mobile-agent-V1能够做到许多日常生活中的指令,但是当步骤略多(如需要跨平台操作),单智能体的V1便困难实现,于是推出V2,延续了一代的纯视觉方案,多智能体拥有更强大的复杂指令拆解能力、跨应用操作能力,更符合用户日常操作习惯及步骤。
2024-08-31 13:19:35
523
原创 Datawhale X 李宏毅苹果书AI夏令营深度学习进阶 task2笔记
Task2中含有三个任务点,2.1与2.2是介绍自适应学习率与分类,2.3是对应的实践跑通baseline。问题提出:当我们在训练的时候,往往容易出现一开始随着参数的不断更新,损失从明显的下降直到卡住无法再改变,这不一定是到达了极值点,反之,只是单纯地无法做到再下降,如图1.1,梯度仍然很大,但是来回震荡导致并没有变得更小。那么是否可以继续通过改变参数使得梯度进一步下降?图1.1 梯度来回震荡图(摘自参考书)
2024-08-30 11:14:37
1904
原创 Datawhale AI夏令营从零上手MobileAgent task1笔记
完成task1首先需要几个前提准备:Anaconda与python环境搭配,vs code或visual studio,Android studio,git,一台用户名的电脑。
2024-08-28 23:36:49
634
原创 Datawhale X 李宏毅苹果书AI夏令营进阶 task1笔记
本次学习的参考书为《深度学习详解》,由李宏毅老师编写。机器学习作为人工智能发展的产物,涵盖内容丰富,深度学习作为其子集,往往采用更为复杂的模型,会使用深层神经网络解决模式识别等问题。深度学习往往需要更多的模型参数、神经网络层数、训练所用数据集等。本期Datawhale Task1讲解了参考书3.1-3.3小节,概括总结得出以下内容。
2024-08-27 22:44:28
1467
原创 Datawhale X 魔搭 AI夏令营task 3笔记
Task 3主要目标是学会微调,首先要了解一下工具,ComfyUI,主要用处是可以细分生成图片的步骤,达到过程可视化,以此进行局部调整,通过碎片化的手段可以进一步修饰图片细节内容。克隆远程git仓库到本地后,打开ComfyUI代码进行安装程序。安装完成后进入ComfyUI界面,导入工作流样例后修改正反向关键词即可生成图片。图1 ComfyUI基本功能逻辑图。),通过像搭积木一样的方式层层递进实现目标功能。图3 ComfyUI界面图。图2 ComfyUI.ipynb画面图。
2024-08-17 13:04:07
341
原创 Datawhale X 魔搭 AI夏令营task 2笔记
Task 2任务是根据场景描述自定义关键词进行绘图。你是一个文生图专家,我们现在要做一个实战项目,就是要编排一个文生图话剧话剧由8张场景图片生成,你需要输出每张图片的生图提示词具体的场景图片1、女主正在上课2、开始睡着了3、进入梦乡,梦到自己站在路旁4、王子骑马而来5、两人相谈甚欢6、一起坐在马背上7、下课了,梦醒了8、又回到了学习生活中生图提示词要求1、风格为古风2、根据场景确定是使用全身还是上半身3、人物描述4、场景描述5、做啥事情例子:古
2024-08-14 18:35:51
475
原创 Datawhale X 魔搭 AI夏令营task 1笔记
其中,通过正向反向关键词可以实现控制生成结果的特征值,如图7,控制正向关键词为“黑色披肩卷发”、“黑色吊带”、“蓝色贝雷帽”、“白色的花衬衫外套”、“白色长裙”、“可爱”后,生成结果如图8所示。DiffSynth-Studio作为高效微调训练大模型的工具,在基础模型上,使用整理好的数据文件进行训练微调。生成图整体基本逻辑为:导入库,构建数据集、模型微调(task1中可以忽略,也可以用以修改图片)、图片生成四个步骤。:使用微调后的模型,生成用户指定的prompt提示词的图片。图3 下载模型及调参代码。
2024-08-11 22:44:23
247
原创 Datawhale AI夏令营 第三期Task 01笔记
做了一个小实验,当决策树数量较小时,生成的答案统一都是分数比较低的,但是有着明显的大小区分,可能分散集中于某一部分。这是因为随机森林的预测结果可能会有较大的方差,模型的集成效果依赖于多棵树的平均预测。随机森林的优势在于集成多棵决策树的预测结果,以减少单棵树可能出现的过拟合问题,提高整体预测的稳定性和准确性。01中,通过更改了参数,可以较为容易地提高自己的分数,如27号的0.2583.接下来会继续尝试更改模型和其他方案。n_jobs=1:并行计算的作业数量,-1 表示使用所有可用的 CPU 核心。
2024-07-28 23:59:15
299
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人
RSS订阅