34、python并发编程之多进程（操作篇）

目录：

• 一 multiprocessing模块介绍
• 二 Process类的介绍
• 三 Process类的使用
• 四 守护进程
• 五 进程同步(锁)
• 六 队列（推荐使用）
• 七 管道
• 八 共享数据
• 九 信号量(了解）
• 十 事件(了解)
• 十一 进程池

1、multiprocessing模块介绍

python中的多线程无法利用多核优势，如果想要充分地使用多核CPU的资源（os.cpu_count()查看），在python中大部分需要使用多进程。Python提供了multiprocessing。

multiprocessing模块的功能众多：支持子进程、通信和共享数据、执行不同形式的同步，提供了Process、Queue、Pipe、Lock等组件。

需要再次强调一点的是：与线程不同。进程没有任何共享状态，进程修改的额数据没改动仅限于改进程内

2、Process类的介绍

创建进程的类：

Process([group [, target [, name [, args [, kwargs]]]]])，由该类实例化得到的对象，表示一个子进程中的任务（尚未启动）

强调：
1. 需要使用关键字的方式来指定参数
2. args指定的为传给target函数的位置参数，是一个元组形式，必须有逗号

参数介绍：

1 group参数未使用，值始终为None
2 
3 target表示调用对象，即子进程要执行的任务
4 
5 args表示调用对象的位置参数元组，args=(1,2,'egon',)
6 
7 kwargs表示调用对象的字典,kwargs={
   'name':'egon','age':18}
8 
9 name为子进程的名称

方法介绍：

1 p.start()：启动进程，并调用该子进程中的p.run() 
 2 p.run():进程启动时运行的方法，正是它去调用target指定的函数，我们自定义类的类中一定要实现该方法  
 3 
 4 p.terminate():强制终止进程p，不会进行任何清理操作，如果p创建了子进程，该子进程就成了僵尸进程，使用该方法需要特别小心这种情况。如果p还保存了一个锁那么也将不会被释放，进而导致死锁
 5 p.is_alive():如果p仍然运行，返回True
 6 
 7 p.join([timeout]):主线程等待p终止（强调：是主线程处于等的状态，而p是处于运行的状态）。timeout是可选的超时时间，需要强调的是，p.join只能join住start开启的进程，而不能join住run开启的进程

属性介绍：

1 p.daemon：默认值为False，如果设为True，代表p为后台运行的守护进程，当p的父进程终止时，p也随之终止，并且设定为True后，p不能创建自己的新进程，必须在p.start()之前设置
2 
3 p.name:进程的名称
4 
5 p.pid：进程的pid
6 
7 p.exitcode:进程在运行时为None、如果为–N，表示被信号N结束(了解即可)
8 
9 p.authkey:进程的身份验证键,默认是由os.urandom()随机生成的32字符的字符串。这个键的用途是为涉及网络连接的底层进程间通信提供安全性，这类连接只有在具有相同的身份验证键时才能成功（了解即可）

3、Process类的使用

注意：在windows中Process()必须放到# if name == ‘main’:下

详细解释

Since Windows has no fork, the multiprocessing module starts a new Python process and imports the calling module. 
If Process() gets called upon import, then this sets off an infinite succession of new processes (or until your machine runs out of resources). 
This is the reason for hiding calls to Process() inside

if __name__ == "__main__"
since statements inside this if-statement will not get called upon import.
由于Windows没有fork，多处理模块启动一个新的Python进程并导入调用模块。 
如果在导入时调用Process（），那么这将启动无限继承的新进程（或直到机器耗尽资源）。 
这是隐藏对Process（）内部调用的原，使用if __name__ == “__main __”，这个if语句中的语句将不会在导入时被调用。

创建并开启子进程的两种方式

方法一

#开进程的方法一:
import time
import random
from multiprocessing import Process
def piao(name):
    print('%s piaoing' %name)
    time.sleep(random.randrange(1,5))
    print('%s piao end' %name)



p1=Process(target=piao,args=('egon',)) #必须加,号
p2=Process(target=piao,args=('alex',))
p3=Process(target=piao,args=('wupeqi',))
p4=Process(target=piao,args=('yuanhao',))

p1.start()
p2.start()
p3.start()
p4.start()
print('主线程')

方法二

#开进程的方法二:
import time
import random
from multiprocessing import Process


class Piao(Process):
    def __init__(self,name):
        super().__init__()
        self.name=name
    def run(self):
        print('%s piaoing' %self.name)

        time.sleep(random.randrange(1,5))
        print('%s piao end' %self.name)

p1=Piao('egon')
p2=Piao('alex')
p3=Piao('wupeiqi')
p4=Piao('yuanhao')

p1.start() #start会自动调用run
p2.start()
p3.start()
p4.start()
print('主线程')

进程直接的内存空间是隔离的

from multiprocessing import Process
n=100 #在windows系统中应该把全局变量定义在if __name__ == '__main__'之上就可以了
def work():
    global n
    n=0
    print('子进程内: ',n)


if __name__ == '__main__':
    p=Process(target=work)
    p.start()
    print('主进程内: ',n)

练习1：把上周所学的socket通信变成并发的形式

server端

from socket import *from multiprocessing import Processserver=socket(AF_INET,SOCK_STREAM)server.setsockopt(SOL_SOCKET,SO_REUSEADDR,1)server.bind(('127.0.0.1',8080))server.listen(5)def talk(conn,client_addr):    while True:        try:            msg=conn.recv(1024)            if not msg:break            conn.send(msg.upper())        except Exception:            breakif __name__ == '__main__': #windows下start进程一定要写到这下面    while True:        conn,client_addr=server.accept()        p=Process(target=talk,args=(conn,client_addr))        p.start()

多个client端

from socket import *client=socket(AF_INET,SOCK_STREAM)client.connect(('127.0.0.1',8080))while True:    msg=input('>>: ').strip()    if not msg:continue    client.send(msg.encode('utf-8'))    msg=client.recv(1024)    print(msg.decode('utf-8'))

这么实现有没有问题？？？

每来一个客户端，都在服务端开启一个进程，如果并发来一个万个客户端，要开启一万个进程吗，你自己尝试着在你自己的机器上开启一万个，10万个进程试一试。解决方法：进程池

*Process对象的join方法*

join：主进程等，等待子进程结束

from multiprocessing import Processimport timeimport randomclass Piao(Process):    def __init__(self,name):        self.name=name        super().__init__()    def run(self):        print('%s is piaoing' %self.name)        time.sleep(random.randrange(1,3))        print('%s is piao end' %self.name)p=Piao('egon')p.start()p.join(0.0001) #等待p停止,等0.0001秒就不再等了print('开始')

有了join，程序不就是串行了吗？？？

from multiprocessing import Processimport timeimport randomdef piao(name):    print('%s is piaoing' %name)    time.sleep(random.randint(1,3))    print('%s is piao end' %name)p1=Process(target=piao,args=('egon',))p2=Process(target=piao,args=('alex',))p3=Process(target=piao,args=('yuanhao',))p4=Process(target=piao,args=('wupeiqi',))p1.start()p2.start()p3.start()p4.start()#有的同学会有疑问:既然join是等待进程结束,那么我像下面这样写,进程不就又变成串行的了吗?#当然不是了,必须明确：p.join()是让谁等？#很明显p.join()是让主线程等待p的结束，卡住的是主线程而绝非进程p，#详细解析如下：#进程只要start就会在开始运行了,所以p1-p4.start()时,系统中已经有四个并发的进程了#而我们p1.join()是在等p1结束,没错p1只要不结束主线程就会一直卡在原地,这也是问题的关键#join是让主线程等,而p1-p4仍然是并发执行的,p1.join的时候,其余p2,p3,p4仍然在运行,等#p1.join结束,可能p2,p3,p4早已经结束了,这样p2.join,p3.join.p4.join直接通过检测，无需等待# 所以4个join花费的总时间仍然是耗费时间最长的那个进程运行的时间p1.join()p2.join()p3.join()p4.join()print('主线程')#上述启动进程与join进程可以简写为# p_l=[p1,p2,p3,p4]# # for p in p_l:#     p.start()# # for p in p_l:#     p.join()

Process对象的其他方法或属性（了解）

terminate与is_alive

#进程对象的其他方法一:terminate,is_alivefrom multiprocessing import Processimport timeimport randomclass Piao(Process):    def __init__(self,name):        self.name=name        super().__init__()    def run(self):        print('%s is piaoing' %self.name)        time.sleep(random.randrange(1,5))        print('%s is piao end' %self.name)p1=Piao('egon1')p1.start()p1.terminate()#关闭进程,不会立即关闭,所以is_alive立刻查看的结果可能还是存活print(p1.is_alive()) #结果为Trueprint('开始')print(p1.is_alive()) #结果为False

name与pid

from multiprocessing import Processimport timeimport randomclass Piao(Process):    def __init__(self,name):        # self.name=name        # super().__init__() #Process的__init__方法会执行self.name=Piao-1,        #                    #所以加到这里,会覆盖我们的self.name=name        #为我们开启的进程设置名字的做法        super().__init__()        self.name=name    def run(self):        print('%s is piaoing' %self.name)        time.sleep(random.randrange(1,3))        print('%s is piao end' %self.name)p=Piao('egon')p.start()print('开始')print(p.pid) #查看pid

僵尸进程与孤儿进程（了解）

一：僵尸进程（有害）　　僵尸进程：一个进程使用fork创建子进程，如果子进程退出，而父进程并没有调用wait或waitpid获取子进程的状态信息，那么子进程的进程描述符仍然保存在系统中。这种进程称之为僵死进程。详解如下我们知道在unix/linux中，正常情况下子进程是通过父进程创建的，子进程在创建新的进程。子进程的结束和父进程的运行是一个异步过程,即父进程永远无法预测子进程到底什么时候结束，如果子进程一结束就立刻回收其全部资源，那么在父进程内将无法获取子进程的状态信息。因此，UNⅨ提供了一种机制可以保证父进程可以在任意时刻获取子进程结束时的状态信息：1、在每个进程退出的时候，内核释放该进程所有的资源，包括打开的文件，占用的内存等。但是仍然为其保留一定的信息（包括进程号th