Python 关于GIL

  • GIL是Cpython解释器中使用的一种机制
  • 当前运行的线程持有GIL,GIL保证解释器当前只有一个线程
  • 只要一进行I/O操作就释放掉GIL
  • 对于绑定CPU 并且从不进行I/O操作的线程当做特例对待
  • 实质是互斥锁,即将并行变成串行
  • 每次执行一个python脚本,就产生一个独立的进程,所有开的线程都运行在这一个进程内
  • 所有线程共享进程数据,所有线程的任务都需要将任务的代码当做参数传给解释器的代码去执行。对于多个线程访问解释器的代码,加锁处理-GIL
GIL.acquire()
解释器的代码
GIL.release()
  • GIL保护的是解释器级的数据,保护用户自己的数据则需要自己加锁处理。
  • CPU是用来完成计算的,多CPU意味着可以有多个核并行完成计算,所以多核提升的是计算性能,每个CPU一旦遇到I/O,扔需要等待,所以CPU对I/0操作没用。
  • 进程可以利用多核,但是开销大,线程开销小,可是无法利用多核的优势,因为同一个进程中只有一个线程被执行,GIL锁控制只有一个线程拿到Cpython代码。
  • 总结:
    1、 单核计算机无论是计算密集型还是I/O密集型都是开多线程合适
    2、多核计算机:计算密集型开多进程,I/O密集型开多线程合适
    3、计算密集型:eg 金融分析
    I/O密集型:比如socket,爬虫和web
  • 多核下,性能测试,本机四核
    对于计算密集型多进程
from multiprocessing import Process
#from threading import Thread

import os,time

def work():
    res=0
    for i in range(100000000):
        res*=i
        
    
if __name__=='__main__':
    l=[]
    print('本机CPU核数%s'%(os.cpu_count()))
    start=time.time()
    for i in range(4):
        p=Process(target=work)  #开多进程
        l.append(p)
        p.start()
        
    for i in l:
        p.join()
        
    stop=time.time()
    
    print('mutiprocesss run time is %s' %(stop-start))

结果:
 本机CPU核数4
mutiprocesss run time is 10.67342233657837

计算密集型多线程

from threading import Thread

import os,time

def work():
    res=0
    for i in range(100000000):
        res*=i
        
    
if __name__=='__main__':
    l=[]
    print('本机CPU核数%s'%(os.cpu_count()))
    start=time.time()
    for i in range(4):
        p=Thread(target=work)  #开多线程
        l.append(p)
        p.start()
        
    for i in l:
        p.join()
        
    stop=time.time()
    
    print('mutiprocesss run time is %s' %(stop-start))

结果:
本机CPU核数4
mutiprocesss run time is 21.925345182418823
    

I/O密集型多进程

from multiprocessing import Process
#from threading import Thread

import os,time

def work():
    time.sleep(2)
    print('====>')
        
    
if __name__=='__main__':
    l=[]
    print('本机CPU核数%s'%(os.cpu_count()))
    start=time.time()
    for i in range(400):
        p=Process(target=work)  #开多进程
        l.append(p)
        p.start()
        
    for i in l:
        p.join()
        
    stop=time.time()
    
    print('mutiprocesss run time is %s' %(stop-start))
结果:
...
====>
====>
====>
====>
====>
====>
====>
====>
====>
====>
====>
====>
mutiprocesss run time is 36.55142903327942  #时间都浪费在创建进程了

I/O密集型多线程

from threading import Thread

import os,time

def work():
    time.sleep(2)
    print('====>')
        
    
if __name__=='__main__':
    l=[]
    print('本机CPU核数%s'%(os.cpu_count()))
    start=time.time()
    for i in range(400):
        p=Thread(target=work)  #开多进程
        l.append(p)
        p.start()
        
    for i in l:
        p.join()
        
    stop=time.time()
    
    print('mutiprocesss run time is %s' %(stop-start))
结果:
====>
====>
====>
====>
====>
====>
====>
====>
====>
====>
====>
====>
====>
mutiprocesss run time is 2.2711379528045654
====>
====>

思考:
I/O密集型的操作即使开多进程,四个进程也只能有四个线程在运行,因为有GIL锁的控制,每个CPU 中只有一个线程拿到了Cpython解释器的代码,所以开多进程优化效果不明显,有时不如不开多进程;I/0密集型的操作开多线程,因为线程开销小,可以实现多任务并发执行I/0任务。在执行I/0操作时,任务是都释放掉GIL锁的。计算密集型任务开多进程是在多核中并发,并且CPU是用来完成计算的,因此对于计算密集型任务使用多进程优化效果肯定比多线程(一个进程一个核)中好得多。

MATLAB主动噪声和振动控制算法——对较大的次级路径变化具有鲁棒性内容概要:本文主要介绍了一种在MATLAB环境下实现的主动噪声和振动控制算法,该算法针对较大的次级路径变化具有较强的鲁棒性。文中详细阐述了算法的设计原理与实现方法,重点解决了传统控制系统中因次级路径动态变化导致性能下降的问题。通过引入自适应机制和鲁棒控制策略,提升了系统在复杂环境下的稳定性和控制精度,适用于需要高精度噪声与振动抑制的实际工程场景。此外,文档还列举了多个MATLAB仿真实例及相关科研技术服务内容,涵盖信号处理、智能优化、机器学习等多个交叉领域。; 适合人群:具备一定MATLAB编程基础和控制系统理论知识的科研人员及工程技术人员,尤其适合从事噪声与振动控制、信号处理、自动化等相关领域的研究生和工程师。; 使用场景及目标:①应用于汽车、航空航天、精密仪器等对噪声和振动敏感的工业领域;②用于提升现有主动控制系统对参数变化的适应能力;③为相关科研项目提供算法验证与仿真平台支持; 阅读建议:建议读者结合提供的MATLAB代码进行仿真实验,深入理解算法在不同次级路径条件下的响应特性,并可通过调整控制参数进一步探究其鲁棒性边界。同时可参考文档中列出的相关技术案例拓展应用场景。
### PythonGIL (全局解释器锁) 的详解 #### 1. 定义与作用 GIL 是 CPython 解释器中的一个重要特性,全称为 Global Interpreter Lock(全局解释器锁),它是一种互斥锁(Mutex)。它的主要功能是在多线程环境下控制对 Python 对象的访问,确保同一时刻只有一个线程能够执行 Python 字节码[^2]。 #### 2. 工作原理 CPython 解释器中,每个线程在执行前都需要获取 GIL 锁。一旦某个线程获得了该锁,其他线程就必须等待直到当前线程释放锁后才能继续运行[^3]。这种机制虽然简化了内存管理并提高了数据的一致性,但也带来了性能上的局限——特别是在 CPU 密集型任务中,因为即使有多个核心可用,也只允许单一线程真正运行于某一时刻[^5]。 #### 3. 历史背景 GIL 的引入可以追溯到 Python 的早期开发阶段。当时为了简化实现复杂度以及提高程序稳定性,设计者决定采用一种简单的方案来解决潜在的线程竞争问题。因此,GIL 成为了保障对象模型一致性和减少同步开销的有效工具之一[^4]。 #### 4. I/O 阻塞情况下的行为 对于 I/O 密集型应用来说,GIL 并不会成为瓶颈,因为在发生I/O操作时(如文件读写、网络请求),持有GIL锁的线程通常会主动将其释放以便让其它等待中的线程有机会被执行;待I/O完成后再重新尝试获取GIL从而恢复执行流. #### 5. 处理方式建议 针对受制于GIL影响较大的场景可考虑如下几种解决方案: - 使用多进程代替多线程: 每个独立进程拥有自己的地址空间及对应的GIL实例,这样就可以充分利用多核处理器的优势. - 利用C扩展模块编写计算密集部分代码:C语言本身不受限于Python层面的GIL约束. ```python import threading from multiprocessing import Process def cpu_bound_task(): result = sum(i * i for i in range(10 ** 7)) # Multi-threading example with potential GIL contention thread1 = threading.Thread(target=cpu_bound_task) thread2 = threading.Thread(target=cpu_bound_task) thread1.start() thread2.start() thread1.join() thread2.join() # Alternatively using multi-processing to bypass GIL limitations process1 = Process(target=cpu_bound_task) process2 = Process(target=cpu_bound_task) process1.start() process2.start() process1.join() process2.join() ``` #### 结论 尽管 GIL 存在一定的争议,但它确实帮助维护了一个相对简单且高效的解释器架构。理解如何合理规避其负面影响可以帮助开发者更有效地利用 Python 进行高性能编程。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值