【深度学习】数据集打标签:生成train.txt和val.txt

深度学习中常见的打标签工具和数据集资源 深度学习中常见的打标签工具和数据集集合参考文章:https://blog.csdn.net/xiaomu_347/article/details/83744828一、打标签工具1. labelimg/labelme1.1 搭建图片标注环境(1) 安装anaconda3(2) 在anaconda环境python3下搭建labelImg环境1.2 打标签 参考文章:https://blog.csd... 阅读详情
AI摘要

博客介绍了在Github下载论文代码后,如何在自己的数据集上进行复现。包括准备十分类的服装数据集,设置目录,将taming作为根目录,新建相关文件夹存放训练集和测试集。还介绍了生成训练集和验证集列表清单文件train.txt和val.txt的方法。

当我们在Github上下载一篇论文的代码后,我们如何在自己的数据集上进行复现呢?

准备自己的数据集

这是在百度爬的十分类的服装数据集,其中train文件夹下每类大概300张,val文件夹下每类大概100张,总共在4000张左右。

设置目录

我们将taming作为根目录,在taming下新建data-->myself,再在myself下新建两个子文件夹, train 和 val,即训练集和测试集。然后在 train 文件夹下新建十个文件夹down jacket,flare skirt,hoody,jeans,jump suit,jump suit,miniskirt,overall,sport pant,sweater和T-shirt。val下也是同样这十个文件夹。每个分类文件夹下大概100张图片,总共大约4000张,至此,我们准备好了原始的数据集。

 生成 train.txt 和 val.txt 文件,即训练集和验证集列表清单

在根目录taming下新建examples,在examples下新建myself 文件夹,在myself下新建create_filelist.sh文件用于存放配置文件(可运行下面的代码也可自己手创建)。

cd ~/taming/
sudo mkdir examples/myself
# 在 taminge 根目录下进行操作,这是默认的,也是良好的习惯
 

sudo gedit examples/myself/create_filelist.sh

目录

 编辑 create_filelist.sh 脚本文件,输入以下内容:

DATA=/tmp/taming/data/myself
MY=/tmp/taming/examples/myself
#DATA是数据集路径,MY是sh脚本路径,也要改成你自己的,如果是按照我上面的步骤创建的文件夹,就不用修改。



#这里将文件夹名称换成你们自己,注意观察数据集图片的后缀我的是.jpeg格式
echo "Create train.txt..."
rm -rf $DATA/train.txt
find $DATA/train/downjacket -name "*.jpeg" >>$MY/train.txt
find $DATA/train/flareskirt -name "*.jpeg" >>$MY/train.txt
find $DATA/train/hoody -name "*.jpeg" >>$MY/train.txt
find $DATA/train/jeans -name "*.jpeg" >>$MY/train.txt
find $DATA/train/jumpsuit -name "*.jpeg" >>$MY/train.txt
find $DATA/train/miniskirt -name "*.jpeg" >>$MY/train.txt
find $DATA/train/overall -name "*.jpeg" >>$MY/train.txt
find $DATA/train/sportpant -name "*.jpeg" >>$MY/train.txt
find $DATA/train/sweater -name "*.jpeg" >>$MY/train.txt
find $DATA/train/Tshirt -name "*.jpeg" >>$MY/train.txt
echo "All done"
#
#
#
#
#
echo "Create val.txt..."
rm -rf $DATA/val.txt
find $DATA/val/downjacket -name "*.jpeg" >>$MY/val.txt
find $DATA/val/flareskirt -name "*.jpeg" >>$MY/val.txt
find $DATA/val/hoody -name "*.jpeg" >>$MY/val.txt
find $DATA/val/jeans -name "*.jpeg" >>$MY/val.txt
find $DATA/val/jumpsuit -name "*.jpeg" >>$MY/val.txt
find $DATA/val/miniskirt -name "*.jpeg" >>$MY/val.txt
find $DATA/val/overall -name "*.jpeg" >>$MY/val.txt
find $DATA/val/sportpant -name "*.jpeg" >>$MY/val.txt
find $DATA/val/sweater -name "*.jpeg" >>$MY/val.txt
find $DATA/val/Tshirt -name "*.jpeg" >>$MY/val.txt
#这里一定要注意是双箭头>>,单箭头的话不会换行,只会执行一行的文件夹

echo "All done"
#制作结束,all done

代码解释:

rm -rf $DATA/train.txt                   表示清除该路径下的train.txt文件 
find $DATA/train/downjacket-name "*.jpeg"   此处为find指令的用法。查找此目录下所有的jpeg图片 
$DATA/train/downjacket                 表示具体的图片路径 
*.jpeg                               表示在该目录下得所有jpeg图片 

 

$MY/train.txt        表示在/examples/myself/路径下产生train.txt,以上内容全部保存到此。

运行:

1.cd到create_filelist.sh的上级目录:

cd  /tmp/taming/examples/myself


2.运行create_filelist.sh:

执行./create_filelist.sh

这一步如果提示没有权限要先添加权限:chmod u+x create_filelist.sh,之后运行./create_filelist.sh

 

3.之后就会在/taming/examples/myself目录下(和create_filelist.sh同级)生成train.txt和val.txt文件:

 train.txt内容为:

大约3012行,即十个文件夹都实现了遍历生成

 然后就可以加载进我们的模型进行训练了......

自动生成test.txt、train.txt、trainval.txt、val.txt代码 https://blog.csdn.net/baidu_41906969/article/details/121835265?spm=1001.2014.3001.5506 阅读详情

相关推荐

tf-faster-rcnn指南(四)——制作PASCAL VOC2007数据集

目录 tf-faster-rcnn指南(一)——序言 tf-faster-rcnn指南(二)——平台搭建 tf-faster-rcnn指南(三)——训练模型 数据集解析 在利用诸如Faster R-CNN等深度学习网络进行目标检测的时候一定需要训练自己的数据集。在制作为VOC2007格式的数据集之前,来看看这个数据集到底是什么样的:   参照tf-faster-rcnn指南(二)——平台搭建 ...

lockonlxf的博客 2475

自训练数据集打标签注意事项及使用工具推荐

盘点自训练数据集如何打标签!分享我在训练自己的数据集前期所碰到的一些问题,希望大家能及时避雷!

阿珂学cv 2万+

深度学习端到端项目工程化实战:从训练到生产部署全链路

深度学习项目不再只是模型训练与调参,而是涵盖数据治理、环境可复现、训练可观测、推理服务化与可解释性分析的完整工程闭环。理解端到端(End-to-End)的本质,需回归工业级交付标准:数据主权确认保障输入可信,Docker+DVC实现环境与数据双可复现,ONNX/TensorRT支撑跨平台高效推理,FastAPI+HealthCheck构建健壮API服务。这些能力共同构成AI工程师的核心技术资产,直接决定项目能否通过简历筛选、GitHub评审与真实业务验证。本文聚焦真实产线级实践,系统拆解CV/NLP多模态项

weixin_34082854的博客 449

训练过程中的train,val,test的区别

\quadtrain是训练集,val(validation的简称)是训练过程中的测试集,是为了让你在边训练边看到训练的结果,及时判断学习状态。test就是训练模型结束后,用于评价模型结果的测试集。 \quad其中,只有train是需要训练的,val和test不是必须的。一般的,val的数据集和train没有交集,所以这部分数据对最终训练出的模型没有贡献,其主要作用是来验证是否过拟合、以及用来调节训练参数等。例如: \quad例: 训练0-5000次迭代过程中,train和val的loss都是不断降低, 但是

Kai-Xuan 8883

基于FMCW雷达的人体行为识别数据集构建全流程解析

FMCW雷达通过发射线性调频连续波,经两次FFT变换生成距离-多普勒谱,将非视觉的雷达回波转化为可供图像识别的特征图。这种技术路线弥补了摄像头在隐私场景中的不足,能精准捕捉距离、速度等精细运动特征。在养老监护、智能家居等场景中,基于毫米波雷达的人体行为识别具备非接触、抗干扰等突出优势。构建高质量数据集是模型落地的关键,详细解析从雷达参数计算、数据采集规范、MTI杂波抑制到RD谱图像生成与标注的完整流程,涵盖行走、跌倒、喝水等六类动作的采集要点与避坑经验,为雷达感知与行为识别工程实践提供可复用的参考路径。

weixin_33853794的博客 322

YOLO全系列实战教程:从环境配置到模型部署的完整指南

目标检测是计算机视觉的核心任务之一,其目标是在图像或视频中定位并识别出特定物体。YOLO作为业界广泛应用的实时检测框架,以高效率和易用性著称,从学术研究到工业落地均占据重要地位。本教程围绕YOLO全系列展开,从最基础的深度学习环境搭建讲起,涵盖显卡与CUDA版本匹配、Anaconda虚拟环境配置、PyTorch安装等关键步骤。随后介绍数据集的制作流程,包括YOLO标注格式解析、LabelImg标注工具实操以及数据集的自动划分。在模型训练阶段,详细讲解data.yaml配置、核心训练参数含义、显存不足与los

weixin_33829657的博客 271

PaddleX 视频分类任务数据标注完整指南:从 BILS 时间轴标注到 VideoClsDataset 数据集构建

本文以 PaddleX 开源仓库中视频分类任务的数据标注文档为骨架,系统讲解两条主线:如何使用 BILS(百度智能标注系统)标注工具在时间轴上完成视频片段动作类别标注,以及如何把标注产物整理成 PaddleX 训练所需的 VideoClsDataset 标准数据集格式。读完本文,你将掌握从原始视频整理、BILS 安装配置、时间轴打标、导出 json,到通过 `convert_to_videocls

gitblog_00196的博客 1033

制作VOC格式数据集的train.txt、val.txt文件

一、前言 在以前的文章中已经聊过 VOC数据集的组织结构 和 VOC格式数据集转yolo(darknet)格式。 当我们按照组织结构将自己的图片和xml标注文件放在指定文件夹下之后,在转换时我们还需要使用到VOC格式数据集中的train.txt、val.txt文件,这两个文件分别保存的是用来训练和验证的图片的名称,注意,仅仅是图片名。 二、txt生成程序 在程序中只需要设置好数据集文件夹的路径即可,也即saved_path变量,最后会在ImageSets/Main路径下生成所需的txt文件!!! impor

耐心的小黑的博客 6298

MMF 数据集开发指南:深入解析 BaseDataset 基类的核心机制与自定义数据集实战

`BaseDataset` 是 MMF(Facebook AI Research 开源的视觉与语言多模态研究框架)中所有数据集类的统一基类,它继承 PyTorch 的 `torch.utils.data.Dataset`,并在其上封装了配置驱动的处理器(Processor)自动初始化、批数据准备(batch preparation)与设备迁移、以及供训练器与数据加载器协作的完整生命周期。本文以 [

gitblog_00339的博客 757

停车位识别YOLOv5数据集实战:格式转换、训练配置与常见坑

目标检测是计算机视觉的核心研究方向,YOLOv5以其高效性和易用性成为工程落地的常用算法。高质量的数据集是模型性能的基石,而数据集的标注格式(如VOC、COCO与YOLO txt)往往决定了训练能否顺利开展。理解标注格式差异、掌握转换与清洗方法,能将原始图像数据转化为可直接训练的资源。在停车位识别场景中,利用YOLOv5实现车位占用状态检测,需要关注类别平衡、超参数调整和验证集划分。通过合理的训练配置与mAP指标分析,可避免常见陷阱,最终将模型部署到边缘设备,实现智能化停车管理。围绕停车位识别YOLOv5数

weixin_29046611的博客 136

泳池溺水识别数据集:COCO JSON标注与YOLOv8训练实战

目标检测是计算机视觉落地最广泛的技术方向之一,而数据集的标注质量直接决定模型上限。COCO JSON作为主流结构化标注格式,通过顶层字段统一管理图片、类别与检测框信息,天然适配多目标、复杂场景的泳池安全监控需求。围绕溺水识别这一细分场景,从原始图像到可训练数据的完整链路——标注工具选型、坐标转换陷阱、类别平衡统计,再到基于YOLOv8的训练与评估,每个环节都有不可忽视的工程细节。采用合理的场景分组划分,配合针对小目标的训练策略,mAP等关键指标才能真实反映系统在智慧泳池、景区水域等场景中的可用性。本文以99

weixin_34072458的博客 433

深度学习复试项目-08:bert实战

整理训练日志、loss/acc 曲线,对比不同超参数下模型效果,分析模型优缺点,撰写完整实验报告。

2303_80448897的博客 163

构建高质量蘑菇检测数据集:从数据采集到YOLO模型训练全流程实战

目标检测是计算机视觉的核心任务之一,旨在识别和定位图像中的特定物体。其原理通常基于深度学习模型,通过卷积神经网络提取特征,并预测目标的类别和位置。这项技术的价值在于能将视觉感知自动化,广泛应用于安防监控、自动驾驶、工业质检和生物识别等领域。在农业监测、生物多样性研究和食品安全等具体场景中,对特定、细粒度目标的精准检测需求日益增长。例如,蘑菇检测因其类内差异大、类间特征模糊、背景复杂等挑战,通用数据集往往失效,凸显了构建专用数据集的重要性。本文聚焦于**数据采集**的源头把控与**数据标注**的精细化工程,详

weixin_34038293的博客 432

口腔疾病AI检测:从数据集构建到U-Net模型实战全解析

计算机视觉在医疗领域的应用,核心在于通过算法模型对医学影像进行自动化分析与诊断。其基本原理是利用深度学习网络,从标注数据中学习疾病特征表示,实现像素级或区域级的病变识别。这项技术的核心价值在于提升诊断效率、减少主观差异,并为资源匮乏地区提供辅助工具。在口腔健康领域,AI可应用于龋齿、牙周病等常见疾病的早期筛查与分级。本文聚焦于口腔疾病检测数据集的构建与实战,深入探讨了数据标准化、标注体系、预处理增强等关键环节,并详细介绍了基于U-Net的龋齿分割模型训练流程,涵盖了损失函数设计、评价指标选择以及实际部署的轻

weixin_33910385的博客 395

遥感影像土地信息分类:17500张标注数据集构建与模型训练实战复盘

深度学习技术正在推动遥感影像智能解译能力的快速提升。在计算机视觉领域,图像分类是理解地表覆盖信息的基础任务,而高质量标注数据集则决定了AI模型能否在真实业务场景中落地。土地利用分类、地物识别等应用背后,离不开标注规范、类别体系设计与训练策略的系统配合。本文基于17500张遥感影像土地信息图像分类数据集,梳理了从数据构建、标注质检到深度模型训练与部署的完整流程,并给出可直接复用的工程经验,适用于自然资源监测、城市规划、农业调查等场景。

weixin_34032621的博客 2556

集装箱缺陷识别数据集构建与YOLOv8训练实践:从标注到微调避坑指南

目标检测是计算机视觉工业落地中应用最广的技术方向之一,其效果高度依赖数据质量与标注规范。在工业质检场景下,缺陷识别往往面临类别不平衡、小目标漏检、域漂移等典型挑战,而数据集构建是解决这些问题的根基。通过合理设计缺陷类别体系、规范标注流程、完成格式转换与数据切分,再结合YOLOv8进行模型微调和训练参数优化,能够有效提升检测精度与部署可靠性。本文从集装箱缺陷识别数据集入手,介绍从图像采集、标注、格式转换到YOLOv8训练与避坑的完整流程,为港口闸口巡检、物流装备视觉检测等场景提供可复用的工程实践参考。

weixin_34221332的博客 281

深度学习课堂行为识别评价系统全流程落地指南

深度学习视觉分析技术正在改变传统课堂评价方式。通过目标检测与图像分类相结合的两阶段模型,系统可将教室视频自动解析为举手、趴桌、低头等行为标签,再聚合成课堂参与度分数。该技术无需可穿戴设备,以纯视觉方案实现群体行为统计,在教务督导、教培机构课堂质量评估及教育AI研究中具有广泛应用价值。本文从行为类别定义、数据标注、YOLOv8微调、分类器训练到评价映射,完整解析系统落地路径与避坑要点,帮助工程师构建可解释、可回溯的课堂行为识别评价综合系统。

weixin_34268169的博客 411

Python深度学习实战:基于TextCNN的电影评论情感分析系统

情感分析是自然语言处理中应用最广泛的任务之一,旨在让机器判断文本所表达的情感倾向。在电影评论这类表达自由、充满反讽与对比的文本上,传统情感词典与关键词匹配方法往往力不从心,深度学习模型则能通过词向量与上下文语义捕捉更真实的情绪。TextCNN作为一种轻量级文本分类模型,凭借多尺度卷积核与池化机制,在影评等局部特征主导的场景中兼顾效率与精度,成为工程落地的优选方案。通过Python与PyTorch可以完整实现从IMDB数据清洗、词汇表构建、模型训练到评估与推理的整条链路,并规避数据泄漏、类别不均衡与复现性等问

weixin_33785108的博客 277
上一篇: 【GitHub】VQGAN+CLIP代码从零开始复现
下一篇: 解决:RuntimeError: CUDA out of memory. Tried to allocate 160.00 MiB (GPU 0; 10.76 GiB total capacity..
nocol.
博客等级 码龄7年 587粉丝 67原创
评论 1
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值