并行处理(二)、subprocess模块

本文介绍了Python中的subprocess模块,详细解释了如何使用subprocess模块执行外部命令,包括subprocess.call()、subprocess.check_call()、subprocess.check_output()和subprocess.Popen()等方法,并提供了多个示例。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

subprocess模块是python从2.4版本开始引入的模块。主要用来取代 一些旧的模块方法,如os.system、os.spawn*、os.popen*、commands.*等。subprocess通过子进程来执行外部指令,并通过input/output/error管道,获取子进程的执行的返回信息。

常用方法:

subprocess.call():

执行命令,并返回执行状态,其中shell参数为False时,命令需要通过列表的方式传入,当shell为True时,可直接传入命令

示例如下:

>>> a = subprocess.call(['df','-hT'],shell=False)
Filesystem    Type    Size  Used Avail Use% Mounted on
/dev/sda2     ext4     94G   64G   26G  72% /
tmpfs        tmpfs    2.8G     0  2.8G   0% /dev/shm
/dev/sda1     ext4    976M   56M  853M   7% /boot

>>> a = subprocess.call('df -hT',shell=True)
Filesystem    Type    Size  Used Avail Use% Mounted on
/dev/sda2     ext4     94G   64G   26G  72% /
tmpfs        tmpfs    2.8G     0  2.8G   0% /dev/shm
/dev/sda1     ext4    976M   56M  853M   7% /boot
>>> print a
0

subprocess.check_call():

用法与subprocess.call()类似,区别是,当返回值不为0时,直接抛出异常

示例:

>>> a = subprocess.check_call('df -hT',shell=True) 

Filesystem Type Size Used Avail Use% Mounted on 

/dev/sda2 ext4 94G 64G 26G 72% / 

tmpfs tmpfs 2.8G 0 2.8G 0% /dev/shm 

/dev/sda1 ext4 976M 56M 853M 7% /boot 

>>> print a 

0 

>>> a = subprocess.check_call('dfdsf',shell=True) 

/bin/sh: dfdsf: command not found 

Traceback (most recent call last): 

    File "<stdin>", line 1, in <module> 

    File "/usr/lib64/python2.6/subprocess.py", line 502, in check_call 

       raise CalledProcessError(retcode, cmd) 

subprocess.CalledProcessError: Command 'dfdsf' returned non-zero exit status 127

subprocess.check_output():

用法与上面两个方法类似,区别是,如果当返回值为0时,直接返回输出结果,如果返回值不为0,直接抛出异常。需要说明的是,该方法在python3.x中才有。

subprocess.Popen():

在一些复杂场景中,我们需要将一个进程的执行输出作为另一个进程的输入。在另一些场景中,我们需要先进入到某个输入环境,然后再执行一系列的指令等。这个时候我们就需要使用到suprocess的Popen()方法。该方法有以下参数:

args:shell命令,可以是字符串,或者序列类型,如list,tuple。

bufsize:缓冲区大小,可不用关心

stdin,stdout,stderr:分别表示程序的标准输入,标准输出及标准错误

shell:与上面方法中用法相同

cwd:用于设置子进程的当前目录

env:用于指定子进程的环境变量。如果env=None,则默认从父进程继承环境变量

universal_newlines:不同系统的的换行符不同,当该参数设定为true时,则表示使用\n作为换行符

示例1,在/root下创建一个suprocesstest的目录:

>>> a = subprocess.Popen('mkdir subprocesstest',shell=True,cwd='/root')

示例2,使用python执行几个命令:

import subprocess 

obj = subprocess.Popen(["python"], stdin=subprocess.PIPE, 

stdout=subprocess.PIPE, stderr=subprocess.PIPE) 

obj.stdin.write('print 1 \n') 

obj.stdin.write('print 2 \n') 

obj.stdin.write('print 3 \n') 

obj.stdin.write('print 4 \n') 

obj.stdin.close() 



cmd_out = obj.stdout.read() 

obj.stdout.close() 

cmd_error = obj.stderr.read() 

obj.stderr.close() 



print cmd_out 

print cmd_error

也可以使用如下方法:

import subprocess 

obj = subprocess.Popen(["python"], stdin=subprocess.PIPE, 

stdout=subprocess.PIPE, stderr=subprocess.PIPE) 

obj.stdin.write('print 1 \n') 

obj.stdin.write('print 2 \n') 

obj.stdin.write('print 3 \n') 

obj.stdin.write('print 4 \n') 

out_error_list = obj.communicate() 

print out_error_list

示例3,将一个子进程的输出,作为另一个子进程的输入:

import subprocess
child1 = subprocess.Popen(["cat","/etc/passwd"], stdout=subprocess.PIPE)
child2 = subprocess.Popen(["grep","0:0"],stdin=child1.stdout, stdout=subprocess.PIPE)
out = child2.communicate()

其他方法:

import subprocess

child = subprocess.Popen('sleep 60',shell=True,stdout=subprocess.PIPE)

child.poll() #检查子进程状态

child.kill() #终止子进程

child.send_signal() #向子进程发送信号

child.terminate() #终止子进程

### Python `subprocess` 模块与多线程配合使用的示例 在实际开发中,`subprocess` 和多线程可以很好地结合起来完成复杂的任务。例如,在一个主线程中启动多个子线程来并行执行不同的外部命令或程序。 以下是实现的一个具体例子: #### 示例代码 下面是一个简单的示例,展示如何使用 `threading` 模块创建多个线程,并让每个线程通过 `subprocess.run()` 或 `subprocess.Popen()` 执行独立的外部命令。 ```python import threading import subprocess import os def execute_command(command): """定义一个多线程函数用于执行单条命令""" result = subprocess.run( command, shell=True, stdout=subprocess.PIPE, stderr=subprocess.PIPE, text=True ) if result.returncode != 0: print(f"Error executing {command}: {result.stderr}") else: print(f"{command} executed successfully. Output:\n{result.stdout}") # 定义要并发执行的任务列表 commands = [ "echo 'Hello from thread 1'", "ls -l", "pwd" ] threads = [] for cmd in commands: # 创建一个新的线程对象 t = threading.Thread(target=execute_command, args=(cmd,)) threads.append(t) t.start() # 等待所有线程结束 for t in threads: t.join() ``` 在这个示例中: - 主线程会为每一个命令创建一个新线程。 - 每个线程都会调用 `execute_command` 函数去运行指定的命令。 - 使用了 `subprocess.run()` 来捕获输出和错误消息[^1]。 如果需要更灵活地控制进程间通信或者实时读取输出,则可以选择使用 `Popen` 替代 `run()` 方法。比如当希望逐行读取日志文件或其他长时间运行过程中的动态数据时,这种方法特别有用[^4]。 另外值得注意的是虽然这里展示了基本用法但是实际应用当中还需要考虑异常处理机制如超时设置等以确保系统的稳定性[^2]。 #### 注意事项 - 当涉及到大量并发操作时,请注意操作系统对最大打开文件数限制可能会影响性能甚至导致失败。 - 如果某些平台不支持 fork() 调用(Windows),则需调整 preexec_fn 参数的相关逻辑[^3]。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

Wanderer001

ROIAlign原理

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值