解决python数据加载中[Errno 24] Too many open files.问题

OSError:[Error 24] Too many open files python 解决方案 OSError:[Error 24] Too many open files python 解决方案 问题描述问题排查 问题描述 在高并发或者接口压测过程中常常会遇到的错误,这里并不是程序中打开文件过多,而是某个时间端服务打开的连接数超出服务器的句柄数限制所导致的报错。所以这里我们不要惊慌或者自己的代码出了bug,我的服务是使用supervisor进行管理的,在压测过程中出现了这个问题。 问题排查 通过 ps -ef 查看自己服务的进程ID,再通过lsof -p pid | wc -l 查看当前服务打开 阅读详情

在复现论文的过程中遇到了数据格式不同的问题,需要自己把数据改成论文要求的格式。

自己是初学者,第一次遇到[Errno 24]Too many open files.查了很多资料,说是线程数不足的问题,实际上在我的代码中,只是数据加载不规范产生的问题。

问题的背景大概是:自己想通过np.load()批量加载npz文件(一个文件存了一个向量)并存入列表中(一个文件夹有800个npz,共70个文件夹),这时报错Too many open files.原因是打开了太多文件。查了一些资料后学习到,这种情况需要对每个文件执行load和close操作,而不能直接一次性全部暴力读取。代码片段如下:

npz_name_list = []
npz_data_list = []
for root, dirs, files in os.walk(npz_path):

    for name in files:
        npz_name = os.path.join(root, name)         #遍历获取每个文件路径
        with np.load(npz_name) as f:                #加载单个npz文件
            npz_data_list.append(f['feat'])         #把特征矩阵存入npz_data_list这个特征列表
        f.close()                                   #关闭文件。很重要,因为不关闭会遇到文件太多无法处理的情况
        npz_name_list.append(npz_name)              #文件路径存入路径列表

这样解决了报错,但同时读取的速度明显慢了很多。

Python错误提示:[Errno 24] Too many open files的分析与解决 主要给大家介绍了Python中出现错误提示:[Errno 24] Too many open files的分析与解决,需要的朋友可以参考借鉴,下面来一起看看吧。 立即下载

相关推荐

【Windows】 解决联想为主的所有自带摄像头(integrate camera)打不开的毛病(特别点名小新、thinkbook、thinkpad、y7000...)

解决联想系列电脑打不开自带摄像头的问题

Iamruzi的csdn博客 3万+

Python:Too many open files

这个的原因是系统线程的限制。在linux下显示线程限制数目 $ ulimit -n 系统默认值是1024,更改这个限制,用下述命令: $ ulimit -n 2048 将线程限制数目增加到2048,再运行程序不报错。 ...

云梦九章~ 1万+

使用 Python 获取网络数据

本文介绍了 Python 获取网络数据、使用 requests 库、编写爬虫代码以及使用 IP 代理的方法。Python 的 requests 库非常方便,可以帮助我们快速访问网络资源。编写爬虫程序需要掌握正则表达式、HTTP 协议等知识,同时需要注意爬取速度和频率,以避免对被爬取网站造成负担。最后,使用 IP 代理可以帮助我们隐匿身份,保护我们的网络安全。

互联说 2695

Windows下解决: [Errno 24] Too many open files. (含Linux系统解决方法)

前言: 当读者看到此博客时,大概率是Python遇到读取文件出现[Errno 24] Too many open files.我也小白,这是我在Tensorflow读取本地训练数据时出现的,看网上也有如爬虫等读取文件时产生的情况. 网上找了一些资料大致是说多线程读取文件太多,超出系统的限制. 但是解决方法,我找遍了博客资料都在说,这种情况多发生在linux系统下,给出的方法也是主要针对Linu...

第一段代码的博客 1万+

RT-Thread学习笔记(5):SPI驱动框架分析

1、两个设备模型 在spi驱框架中,一般会自己初始化一个总线设备(rt_spi_bus),当我们通过挂载后,会相应注册一个从设备(rt_spi_device)。 1、总线设备模型 struct rt_spi_bus { struct rt_device parent; rt_uint8_t mode; const struct rt_spi_ops *ops; struct rt_mutex lock; struct rt_spi_device *owner; };

BLBQ962464的博客 1万+

Latex下使用JabRef添加参考文献

文章目录 前言 一、pandas是什么? 二、使用步骤 1.引入库 2.读入数据 总结 前言 Latex可以手动添加参考文献,但文献过多时,使用JabRef软件相对方便。 提示:以下是本篇文章正文内容,下面案例可供参考 一、JabRef安装 网址:http://www.jabref.org 打开网址后,点击“Download” 进入如下页面后,选择 portable (便携版,无需安装),下载后是一压缩包,打开即可使用。 二、使用 1.创建库 ...

sz3076799的博客 3467

【Python】成功解决: [Errno 24] Too many open files

在Python编程中,遇到错误是一个常见的系统资源限制问题。这个错误表明你的程序尝试打开的文件数量超过了操作系统允许的最大文件描述符数量。在Linux和Unix系统中,每个进程都有一个限制,即它可以同时打开的最大文件数(包括套接字和其他类型的文件描述符)。当这个限制被达到时,尝试打开更多文件将会失败,并引发。

qq_38614074的博客 4566

8.2-12.4GHz喇叭天线设计

使用后处理模板的优化算法,对a1、h_horn、b1进行优化,各参数的优化区间即为之前计算得到的参数范围。由于矩形喇叭的辐射特型基本上是E面和H面扇形喇叭的结合,当波导中只是单模传播(只有TE波)时,矩形喇叭的口径可以通过远场公式推理出来。表示矩形喇叭的口径效率,进行最佳增益设计时,一般取值为0.5。从表中可以看出,该结构在8.58GHz的增益误差为2.68%>2.5%,需要对结构进行优化。建模完成,之后就是在矩形波导尾部添加波导端口激励,以及对应频率的远场监视器。,在这里,将频率定为区间的中心频率。

qq_48897427的博客 6660

OError: [Errno 24] Too many open files:问题解决

IOError: [Errno 24] Too many open files 问题解决

Hydra_Zhang的博客 2378

BLDC方波控制双闭环Simulink仿真模型

无刷直流电机方波控制双闭环Simulink仿真模型搭建详细教程,包括速度PI环、电流PI环、换向逻辑和受控电压源,仿真结果良好。

m0_57458432的博客 6871

海思3559av100平台lan9500模块调试记录

1. 前言 通过USB2.0接口扩展一路百兆虚拟网口 2. 配置lan9500驱动 make ARCH=arm64 menuconfig 开启LAN95XX驱动,编译进内核 保存内核配置 3. 编译内核 make ARCH=arm64 CROSS_COMPILE=aarch64-himix100-linux- uImage -j 20 cd ../../arm-trusted-firmware/arm-trusted-firmware ./mk.sh cp ...

jzwjzw19900922的博客 909

笔记13-OSError: [Errno 24] Too many open files

出现OSError: [Errno 24] Too many open files错误解决方法。难道可能是进度条的锅,决定在代码中去掉(其实不是)但是改为在SSH虚拟环境命令行使用命令运行就可以了。没看见有打开很多文件的进程,不敢再调大了。o:在当前行下方新开一行并进入插入模式。O:在当前行上方新开一行并进入插入模式。esc:退出插入模式,回到普通模式。线程限制增加,仍然不行,继续增加。仍然不能继续提高提高,且仍然报错。对pycharm还是没有作用。仍然不行,继续增加时候提示。右键exludeded后。

1932

YOLO模型从10MB瘦到2MB!剪枝+INT8量化双方案(精度损失<1%,附部署代码)

摘要:本文介绍了一种针对边缘设备的YOLO模型轻量化方案,通过"结构化剪枝+INT8量化"组合技术,将YOLOv8n模型从6.4MB压缩至2MB,体积减少68.75%,推理速度提升80%,同时保持精度损失小于1%。文章详细讲解了剪枝工具选择、通道剪枝实现、量化校准等关键步骤,并提供了完整的代码示例。特别强调了剪枝保留率、校准集使用、微调必要性等实践要点,帮助开发者在树莓派等资源受限设备上实现高效目标检测。

专注于Python爬虫开发,分享爬虫技巧、项目实战与反爬经验,使用Scrapy、BeautifulSoup等工具,解决数据抓取难题。 756

OSError: [Errno 24] Too many open files:

版权声明:本文为优快云博主「爱的太深,太认真」的原创文章,遵循CC 4.0 BY-SA版权协议,转载请附上原文出处链接及本声明。原文链接:https://blog.csdn.net/m0_55837832/article/details/116695693。a、ulimit -n 2048(此方法为临时修改,当前有效,退出后就恢复原来设置)果然如我所预想,得到的结果是1024,就是说系统限制为同时打开1024个文件。1、将自己的线程数改小,使之符合这个限制(只是方法)。2、将这个限制值改大。

weixin_45833431的博客 2049

Camera2Demo

在Camera2 的基础上进行封装,使得Camera2一堆初始化逻辑与Activity分离,降低耦合度,完成预览拍照并保存的操作

汉书HE8,好用的汇编代码编写工具

汉书HE8,好用的汇编代码编写工具早期编写汇编代码所用功能强大

python OSError: [Errno 24] Too many open files | HTTPConnectionPool(host=‘‘, port=80): Max retries e

对于问题:python OSError: [Errno 24] Too many open files 原因:超出了进程同一时间最多可开启的文件数. 解决方案P: 使用ulimit -n查看进程同一时间最多可开启的文件数 mac默认是256,linux是1024 修改 sudo vim /etc/security/limits.conf 这个文件的最后添加两行代码,这里我修改限制为6000 * soft nofile 6000 * hard nofile 6000 修改上面的文件数可以发现也可以解决这个报

hanhan的博客 4585

IDEA的使用指南

IDEA基于java的使用手册,可以最快速的上手,在使用中不断的丰富自己的使用技巧.

关于OSError: [Errno 24] Too many open files的windows运行python的问题

windows操作系统下,在进行图片分割成小块的时候,在如下代码中出错 OSError: [Errno 24] Too many open files

windmyway的博客 3365

华为的C语言编程规范.pdf

华为技术有限公司内部技术规范。本规范制定了编写C语言程序的基本原则、规则和建议。从代码的清晰、简洁、可测试、安全、程序效率、可移植各个方面对C语言编程作出了具体指导。

解决[Errno 24] Too many open files

2019独角兽企业重金招聘Python工程师标准>>> ...

weixin_33709590的博客 3045

【error】Too many open files

错误: Python错误提示:[Errno 24] Too many open files 上网查找解决方案: http://www.jb51.net/article/105751.htm中写道 出现错误的原因是系统默认限制为同时打开1024个文件,这对该程序来说太少了,才会报错 建议解决方案为修改系统默认同时打开文件的次数。 但在我的程序中: 按照网上普遍方案修改系

ccbrid的博客 1326

OSError: [Errno 24] Too many open files

默认情况下,修改仅针对当前 Shell 生效。为了针对当前用户进行修改,可以将上面的命令写入。需要通过下面的命令进行修改。查看操作系统对打开文件数量的限制。

LutingWang的博客 302

python——ubuntu下[Error 24: too many open files]的解决方法

我在使用多线程+协程爬虫抓取数据的时候,当我的协程数×线程数非常大的时候,会提示[Error 24: too many open files]和其他一系列错误。这篇博客就是专门针对这个问题的解决方案,亲测可行。 为什么会报这个错误呢?明明只打开了几个文件啊? 这应该是绝大多数人的第一反应。我当时遇到这个错误的时候也很懵,后来想了想,应该是我每一个协程都获取了访问这个文件的句柄,所以尽管你只把爬取的...

yzf0011的专栏 975

python socket.error: [Errno 24] Too many open files

以openwrt AR9331开发板为例,socket连接到1019个就报错 “python socket.error: [Errno 24] Too many open files” 1.查看开发板socket默认连接个数root@Tijio:~# ulimit -m1024 2.修改socket连接个数,以root用户运行以下命令root@Tijio:~# ulimit -HSn 1...

weixin_30445169的博客 541

python open file失败_Python错误提示:[Errno 24] Too many open files的分析与解决

背景最近在工作中发现了一个错误,在执行多线程扫描脚本的时候频繁出现下面这个错误HTTPConnectionPool(host=‘t.tips', port=80): Max retries exceeded with url: /index.php (Caused by NewConnectionError(': Failed to establish a new connection: [Err...

weixin_39521651的博客 1533

python运行出现数据错误_在python中侦听UDP数据包时出现问题套接字错误:[Errno 24]打开的文件太多...

我对python比较陌生,我已经被这个问题困扰了一段时间了。在基本上,我正在制作的模块将在游戏中使用(使用模块pygame),但是我不想使用pygame模块接收从键盘按下的键,而是希望通过UDP发送的网络接收这些键。在我已经创建了一个模块,它将在一个单独的线程上监听已定义的UDP端口,并返回在游戏中需要调用的地方使用的按键。在我编写的代码运行了一段时间,但是当它运行得非常慢时,我会收到以下错误消息...

weixin_42099987的博客 347

一个潜伏3天半才爆的bug-从502到Too-many-open-files的排查记录

本文记录了一个线上AI服务502错误的排查过程。最初观察到Python网关报错"Too many open files",但深入分析发现这只是表象,实际是socket泄漏问题。通过对比/proc/fd和ss命令结果,发现1007个已断开的TCP连接未被释放。进一步追踪发现是定时任务sync_tasks每5分钟调用init_pool函数时,未做重复初始化检查,导致数据库连接不断累积,最终耗尽文件描述符。问题根源在于代码逻辑缺陷,而非最初的配置文件权限猜测。

懒人w的博客 286
Hello_Wolves
博客等级 码龄7年 0粉丝 1原创
评论 1
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值