解决目标检测API在GPU下训练出现两遍log的问题

最新推荐文章于 2024-06-11 17:50:39 发布
最新推荐文章于 2024-06-11 17:50:39 发布
阅读量352 收藏
点赞数
分类专栏： BUG
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/qq_37764129/article/details/102495611
版权

https://github.com/tensorflow/models/issues/4881

问题二：

GPU训练对显存与内存使用是基于贪心算法，它会一直尝试获取更多内存，大概训练了100左右step就会爆出如下的错误：

tensorflow.python.framework.errors_impl.InternalError: Dst tensor is not initialized.

网络使用GPU训练时，一般当GPU显存被占满的时候会出现这个错误
解决的方法，就是在训练命令执行之前，首先执行下面的命令行：

Windows SET CUDA_VISIBLE_DEVICES=0

Linux export CUDA_VISIBLE_DEVICES=0

然后训练就会很顺利的执行下去

 

AI人工智能目标检测在机器人视觉中的应用
AI天才研究院
04-07 829
本文旨在全面介绍AI目标检测技术在机器人视觉领域的应用现状和技术细节。我们将从基础概念出发，逐步深入到算法实现和实际应用，覆盖从理论研究到工程实践的完整知识体系。文章首先介绍目标检测的基本概念和背景知识，然后深入分析主流算法的技术原理，接着通过实际案例展示应用场景，最后讨论未来发展趋势和挑战。目标检测(Object Detection)：在图像或视频中识别特定对象并确定其位置和类别的计算机视觉任务机器人视觉(Robot Vision)：使机器人能够通过视觉传感器感知和理解环境的技术。
目标检测YOLO实战应用案例100讲-基于弱监督学习的目标检测（下）
qq_36130719的博客
09-22 1283
目录 基于回归的弱监督目标检测算法 4.1弱监督学习下的回归问题 4.1.1回归中伪标签生成的难点分析 4.1.2弱监督目标检测中提议框筛选算法的不足 4.2加入回归的弱监督目标检测算法 4.2.1目标检测任务中边界框回归策略 4.2.2加权的自训练网络损失函数 4.2.3改进的基于评分的提议框筛选算法 4.2.4回归中伪标签的生成算法 4.3实验结果及分析 4.3.1消融实验 4.3.2实验结果 4.3.3回归方法与注意力方法的对比分析与讨论 本文在第三章提出的弱监督目标检测算法主要通过融入注意力机制来
gpulog：使用nvidia-smi记录和显示GPU利用率的示例脚本
02-17
将NVIDIA GPU利用率记录到文件的示例 此存储库包含一些小代码示例，这些示例说明如何使用nvidia-smi将GPU使用率记录到CSV文件中，以及如何使用python脚本来绘制结果。 使用脚本log_gpu_utilization.sh开始记录gpu利用率。 通过按CTRL+C退出日志记录。 要显示GPU利用率，请运行脚本plot_nvidia_dump.py ： $ python plot_nvidia_dump.py gpu_log_[timestamp].csv 您可以通过提供GPU的整数ID来过滤掉GPU。 为了通过这些ID过滤器，可使用--filter-ids命令行参数plot_nvidia_dump.py ： $ python plot_nvidia_dump.py gpu_log_[timestamp].csv --filter-ids 6 仅显示ID为6的GPU
GPU监控（二）获取log文件中的内容
qq_42492684的博客
08-18 262
对python脚本传参实现对时间区间的控制，输出该时间区间内的GPU使用记录，即该时间区间内的log文件内容。本文章记录需求实现第二部分：获取log文件中的内容保存在df中，便于后续绘制折线图。
目标检测算法实现（二）——配置调用GPU：CUDA和cuDNN
小刺猬的宝藏笔记本
04-27 2002
目录 1.根据自己电脑的显卡确定cuda和cuDNN版本： 1.1 查看系统中的显卡驱动版本 1.2 根据显卡确定CUDA版本 1.3根据显卡确定cuDNN版本 2.安装CUDA10.2 2.1 下载网址 2.2 选项配置如下所示，单击download。 2.3 下载完成后安装步骤如下，这个路径不修改，是临时文件，后面会自动删除的。 2.4 一路傻瓜式安装操作，即可安装完成。（没有装VS的需要装个VS2017或者更高的版本） 2.5 windows+R...
GPU端到端目标检测YOLOV3全过程（下）
吴建明wujianming_110117
10-21 552
GPU端到端目标检测YOLOV3全过程（下） Ubuntu18.04系统下最新版GPU环境配置 · 安装显卡驱动 · 安装Cuda 10.0 · 安装cuDNN 1.安装显卡驱动 （1）这里采用的是PPA源的安装方式，首先添加Graphic Drivers的PPA源，打开终端输入以下指令代码（添加PPA源并更新）： sudo add-apt-repository ppa:graphics-drivers/ppasudo apt-get update （2）使用命令行自动查看合适的驱动版本，系统会自动查找并给
10分钟内基于gpu的目标检测
吴建明wujianming_110117
06-22 789
10分钟内基于gpu的目标检测 Object Detection on GPUs in 10 Minutes 目标检测仍然是自动驾驶和智能视频分析等应用的主要驱动力。目标检测应用程序需要使用大量数据集进行大量训练，以实现高精度。NVIDIA gpu在训练大型网络以生成用于对象检测推断的数据集所需的并行计算性能方面表现优异。本文介绍了使用NVIDIA gpu快速高效地运行高性能目标检测管道所需的技术。 我们的python应用程序从实时视频流中获取帧，并在gpu上执行对象检测。我们使用带有Inception V
英伟达SSD目标检测代码解析
qq_18677445的博客
06-11 1321
这段代码实现了一个实时对象检测系统，通过解析命令行参数设定视频输入和输出、加载对象检测模型，并在一个循环中不断捕获图像、检测对象、渲染结果并显示性能信息。该代码适用于NVIDIA Jetson设备，利用Jetson Inference库进行高效的对象检测。img是在GPU内存中的CUDA图像，适用于高性能并行计算。np_img是在CPU内存中的NumPy数组，便于灵活的图像处理和分析。通过和进行相互转换，可以在GPU和CPU之间高效处理图像数据。
目标检测YOLO实战应用案例100讲-基于深度学习的无人机目标检测算法轻量化研究（下）
qq_36130719的博客
04-28 604
本文结合ROS操作系统、软件仿真平台Gazebo、通信包MAVROS以及PX4来进 行无人机目标检测的仿真实验，如下图是PX4的软件在环(SITL)仿真的系统通信接口连接图如下图4-15所示：在仿真系统中，由Gazebo提供一个虚拟世界的仿真环境，并且提供无人机仿真模 型和虚拟的GPS、IMU等各种传感器的相关数据。
Github上利用win10使用TensorFlow（GPU）上如何去训练一个目标多分类检测的例子
qq_34714281的博客
09-10 2562
Github上利用win10使用TensorFlow（GPU）上如何去训练一个目标多分类检测的例子 github： https://github.com/EdjeElectronics/TensorFlow-Object-Detection-API-Tutorial-Train-Multiple-Objects-Windows-10 实现图中扑克牌识别效果。 需要经过一下几步： ...
错误 ：tensorflow.python.framework.errors_impl.InternalError: Dst tensor is not initialized.解决办法
weixin_39335972的博客
11-20 1427
GPU使用运行程序出现错误： ensorflow.python.framework.errors_impl.InternalError: failed initializing StreamExecutor for CUDA device ordinal 0: Internal: failed call to cuDevicePrimaryCtxRetain: CUDA_ERROR_OUT_OF_MEMORY: out of memory; total memory reported: 1155209625
tensorflow.python.framework.errors_impl.InternalError: Dst tensor is not initialized.
libertatis的专栏
02-26 4235
网络使用GPU训练时，一般当GPU显存被占满的时候会出现这个错误。
「日志」记录显卡GPU日志信息
绿色羽毛
11-10 4925
但是以上方式都只能查看，并不能调取其中的显卡信息，因此，在做日志记录的时候并不是十分方便。在查阅过其他大神的方式后，发现 pynvml 库可以满足要求。最近踩坑比较多，很大原因就是日志记录不是很完整，因此，最近一直在学习日志的内容。其中有一点就是显卡的信息内容，虽然不是很重要的信息，但是也是有必要的。对于使用 logger 记录的小伙伴，可以直接将以下代码添加到 logger中，其中。可以获取主机名称，便于更好的记录日志。是必须的，否则无法使用。
成功解决tensorflow.python.framework.errors_impl.InvalidArgumentError: slice index 1 of dimension 0 out o
热门推荐
头部AI社区如有邀博主AI主题演讲请私信—心比天高，仗剑走天涯，保持热爱，奔赴向梦想！低调，专注，谦虚，自律，反思，成长，还算比较正能量的博主，公益免费传播…内心特别想在AI界做出一些可以推进历史进程影响力的技术(兴趣使然，有点小情怀，也有点使命感呀
04-18 9万+
成功解决tensorflow.python.framework.errors_impl.InvalidArgumentError: slice index 1 of dimension 0 out o 目录 解决问题 解决思路 解决方法 解决问题 tensorflow.python.framework.errors_impl.InvalidArgumentError:...
tensorflow.python.framework.errors_impl.InternalError: Failed to create session.
pursuit_zhangyu的博客
06-05 2万+
简介首先说一下我出现的情况，使用gpu运行跑模型的时候。出现标题的情况。然后查看nvidia-smi中进程的使用情况的时候，出现一个python进程正在运行，所以导致无法failed to create session。具体如下解决办法当然是关闭这个进程了，参考了百度的：https://jingyan.baidu.com/article/48206aea81b886216ad6b3e5.html打...
猫狗大战遇到问题
py496980138的博客
12-19 7369
1、input_data.py<ipython-input-11-216aefeda7db> in get_files(file_dir, ratio) 44 print(n_train) 45 ---> 46 tra_images = image_list[0:n_train] 47 tra_labels = label_list[0:n_t
tensorflow.python.framework.errors_impl.NotFoundError: tensorflow_inception_graph.pb
weixin_39223665的博客
05-09 9385
运行程序调用谷歌的Inception-v3模型 遇到了tensorflow.python.framework.errors_impl.NotFoundError: tensorflow_inception_graph.pb报错！解决方法如下：谷歌提供的Inception-v3模型https://storage.googleapis.com/download.tensorflow.org/model...
python实现对voc2012数据集的目标检测
最新发布
12-30
### 实现VOC2012数据集上目标检测 #### 数据预处理 对于VOC2012数据集，在准备阶段，需要确保数据被正确解析并转换成适合模型输入的形式。通常情况下，这涉及到将原始图片及其对应的标注文件加载到内存中，并执行必要的预处理步骤。 - **读取图像和标签** 需要编写代码来遍历指定目录下的所有JPEG格式的图片以及XML形式存储的对象边界框信息。可以借助`xml.etree.ElementTree`库解析这些XML文档，提取出每个物体的位置坐标和其他属性。 - **标准化与增强** 图像尺寸可能不一致，因此有必要统一大小以便于后续批量处理。此外，为了提高泛化能力，还可以引入随机裁剪、翻转等变换作为数据扩增手段之一[^2]。 ```python import os from PIL import Image, ImageEnhance import xml.etree.ElementTree as ET def load_image_and_labels(image_dir, annotation_dir): images = [] labels = [] for filename in os.listdir(image_dir): if not (filename.endswith('.jpg') or filename.endswith('.jpeg')): continue img_path = os.path.join(image_dir, filename) anno_filename = os.path.splitext(filename)[0]+'.xml' anno_path = os.path.join(annotation_dir, anno_filename) tree = ET.parse(anno_path) root = tree.getroot() objects = [] for obj in root.findall('object'): bbox = obj.find('bndbox') xmin = int(bbox.find('xmin').text) ymin = int(bbox.find('ymin').text) xmax = int(bbox.find('xmax').text) ymax = int(bbox.find('ymax').text) label_name = obj.find('name').text objects.append([label_name, xmin, ymin, xmax, ymax]) image = Image.open(img_path).convert('RGB') # Apply transformations here like resizing and augmentation. enhancer = ImageEnhance.Brightness(image) enhanced_img = enhancer.enhance(1.5) # Example of simple brightness adjustment. resized_image = enhanced_img.resize((300, 300), resample=Image.BILINEAR) images.append(resized_image) labels.append(objects) return images, labels ``` #### 模型选择 当考虑用于VOC2012这样的通用视觉识别任务时，YOLO系列因其高效性和准确性而成为流行的选择。特别是YOLOv3结合MobileNet V1骨干网不仅能够保持较高的精度而且计算成本较低，非常适合资源受限环境下的部署需求。 #### 训练过程最佳实践 在配置训练流程之前，应该先熟悉所选框架的具体要求。例如，在PaddleDetection中，可以通过编辑`.yaml`配置文件来定制各项超参数： - 设置合适的批次大小(batch size)，考虑到硬件条件合理分配显存； - 调整初始学习率(initial learning rate)，依据经验或网格搜索找到最优解； - 定义损失函数(loss function)，一般采用交叉熵加权求和的方式衡量预测值同真实值之间的差距； - 设定最大迭代次数(maximum iterations)，即整个训练周期内更新权重的最大循环数目； 最后一步就是调用API启动训练程序了。这里给出一段简化版伪代码示意如何集成上述组件完成最终的任务设定。 ```python from paddle.vision.models.detection.yolo import YOLOv3 from paddle.io import DataLoader from paddlevideo.utils.parser import parse_dataset_config from paddlevideo.engine.trainer import TrainerConfigurator dataset_cfg = '.../datasets/voc.yml' # Path to dataset configuration file runtime_cfg = './runtime.yml' train_loader = DataLoader( ..., batch_size=8, shuffle=True, num_workers=4 ) model = YOLOv3(num_classes=len(class_names)) trainer_conf = TrainerConfigurator( model=model, train_dataloader=train_loader, optimizer='sgd', lr_scheduler='cosine_decay_warmup', epochs=270, save_interval_epochs=10, log_interval_steps=10, work_dir='./output/', resume_checkpoint=None, pre_train_weights=None, use_gpu=True ) trainer_conf.train() ```
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值