python的协程简介

python的协程简介

协程,又称微线程,纤程。英文名Coroutine。

协程的概念很早就提出来了,但直到最近几年才在某些语言(如Lua)中得到广泛应用。

子程序,或者称为函数,在所有语言中都是层级调用,比如A调用B,B在执行过程中又调用了C,C执行完毕返回,B执行完毕返回,最后是A执行完毕。

所以子程序调用是通过栈实现的,一个线程就是执行一个子程序。

子程序调用总是一个入口,一次返回,调用顺序是明确的。而协程的调用和子程序不同。

协程看上去也是子程序,但执行过程中,在子程序内部可中断,然后转而执行别的子程序,在适当的时候再返回来接着执行。

注意,在一个子程序中中断,去执行其他子程序,不是函数调用,有点类似CPU的中断。比如子程序A、B:

def A():
    print '1'
    print '2'
    print '3'

def B():
    print 'x'
    print 'y'
    print 'z'

假设由协程执行,在执行A的过程中,可以随时中断,去执行B,B也可能在执行过程中中断再去执行A,结果可能是:

1
2
x
y
3
z

但是在A中是没有调用B的,所以协程的调用比函数调用理解起来要难一些。

看起来A、B的执行有点像多线程,但协程的特点在于是一个线程执行,那和多线程比,协程有何优势?

最大的优势就是协程极高的执行效率。因为子程序切换不是线程切换,而是由程序自身控制,因此,没有线程切换的开销,和多线程比,线程数量越多,协程的性能优势就越明显。

第二大优势就是不需要多线程的锁机制,因为只有一个线程,也不存在同时写变量冲突,在协程中控制共享资源不加锁,只需要判断状态就好了,所以执行效率比多线程高很多。

因为协程是一个线程执行,那怎么利用多核CPU呢?最简单的方法是多进程+协程,既充分利用多核,又充分发挥协程的高效率,可获得极高的性能。

Python对协程的支持还非常有限,用在generator中的yield可以一定程度上实现协程。虽然支持不完全,但已经可以发挥相当大的威力了。

来看例子:

传统的生产者-消费者模型是一个线程写消息,一个线程取消息,通过锁机制控制队列和等待,但一不小心就可能死锁。

如果改用协程,生产者生产消息后,直接通过yield跳转到消费者开始执行,待消费者执行完毕后,切换回生产者继续生产,效率极高:

import time

def consumer():
    r = ''
    while True:
        n = yield r
        if not n:
            return
        print('[CONSUMER] Consuming %s...' % n)
        time.sleep(1)
        r = '200 OK'

def produce(c):
    c.next()
    n = 0
    while n < 5:
        n = n + 1
        print('[PRODUCER] Producing %s...' % n)
        r = c.send(n)
        print('[PRODUCER] Consumer return: %s' % r)
    c.close()

if __name__=='__main__':
    c = consumer()
    produce(c)

执行结果:

[PRODUCER] Producing 1...
[CONSUMER] Consuming 1...
[PRODUCER] Consumer return: 200 OK
[PRODUCER] Producing 2...
[CONSUMER] Consuming 2...
[PRODUCER] Consumer return: 200 OK
[PRODUCER] Producing 3...
[CONSUMER] Consuming 3...
[PRODUCER] Consumer return: 200 OK
[PRODUCER] Producing 4...
[CONSUMER] Consuming 4...
[PRODUCER] Consumer return: 200 OK
[PRODUCER] Producing 5...
[CONSUMER] Consuming 5...
[PRODUCER] Consumer return: 200 OK

注意到consumer函数是一个generator(生成器),把一个consumer传入produce后:

  1. 首先调用c.next()启动生成器;

  2. 然后,一旦生产了东西,通过c.send(n)切换到consumer执行;

  3. consumer通过yield拿到消息,处理,又通过yield把结果传回;

  4. produce拿到consumer处理的结果,继续生产下一条消息;

  5. produce决定不生产了,通过c.close()关闭consumer,整个过程结束。

整个流程无锁,由一个线程执行,produce和consumer协作完成任务,所以称为“协程”,而非线程的抢占式多任务。

最后套用Donald Knuth的一句话总结协程的特点:

“子程序就是协程的一种特例。”


****第三方的gevent为Python提供了比较完善的协程支持
 gevent的源码分析请参见: http://blog.youkuaiyun.com/yueguanghaidao/article/details/24281751
### Python 协程的使用与实现 #### 1. Python 协程的基础概念 Python 中的协程是一种特殊的函数,它允许程序在执行过程中暂停并稍后恢复。这种机制使得异步编程成为可能,从而提高了 I/O 密集型应用的性能[^2]。 从语法上看,现代 Python 推荐使用 `async def` 定义协程,并通过 `await` 关键字调用其他协程或等待异步操作完成。这种方式取代了早期版本中的 `@coroutine` 装饰器定义方式,后者已被废弃[^2]。 --- #### 2. Python 协程的核心组件 Python协程依赖于以下几个核心组件: - **事件循环 (Event Loop)** 事件循环是协程运行的基础环境。它是负责调度和管理协程的任务中心。可以通过 `asyncio.get_event_loop()` 获取当前线程的默认事件循环实例[^3]。 - **Future 对象** Future 是一种表示尚未完成的操作的结果的对象。它可以用来跟踪任务的状态以及最终返回值。 - **Task 对象** Task 是 Future 的子类,用于封装协程对象以便由事件循环管理和调度。当创建一个 Task 实例时,会自动将其加入到事件循环中以供后续执行。 --- #### 3. Python 协程的工作流程 以下是 Python 协程的基本工作流程: 1. 用户编写基于 `async def` 的协程函数。 2. 将这些协程传递给事件循环进行注册。 3. 当某个协程遇到耗时操作(如网络请求、文件读写)时,它会主动释放控制权 (`await`) 并让出 CPU 时间片。 4. 一旦阻塞操作完成,事件循环重新激活相应的协程继续执行剩余逻辑。 下面是一个简单的例子展示如何利用 `asyncio` 库来运行多个并发任务: ```python import asyncio async def fetch_data(): print("Start fetching data...") await asyncio.sleep(2) # Simulate an IO-bound operation. print("Data fetched.") return {"data": "example"} async def main(): task1 = asyncio.create_task(fetch_data()) # Create a new coroutine as a task. task2 = asyncio.create_task(fetch_data()) result1 = await task1 # Wait until the first task completes. result2 = await task2 # Then wait for the second one. print(result1, result2) # Run the event loop with our main function. if __name__ == "__main__": asyncio.run(main()) ``` 在这个示例中,两个独立的 `fetch_data` 函数被作为任务提交给了事件循环。尽管它们共享相同的代码路径,但由于引入了 `await asyncio.sleep(2)` 这样的挂起点,因此可以交替推进各自进度而无需额外线程支持。 --- #### 4. Python 协程的底层实现细节 Python协程本质上是由生成器扩展而来的一种结构化形式。具体来说,在编译阶段,标记为 `async def` 的函数会被转换成特殊类型的生成器——即具备状态机特性的可迭代对象。 每当调用这样的协程时并不会立即执行其中的内容;相反,它仅会产生一个新的生成器实例。只有当我们显式地向该生成器发送消息或者启动它的下一步动作时才会触发实际计算过程。 为了简化开发者体验,标准库提供了诸如 `ensure_future`, `create_task` 等辅助工具帮助我们轻松处理复杂的嵌套场景下的资源分配问题。 此外值得注意的是,每一个新建立起来的任务都会绑定至特定的事件循环上下文中去运作。这意味着如果尝试脱离原有关联关系,则可能导致异常情况发生。 --- #### 5. 总结 综上所述,Python协程设计既考虑到了易用性也兼顾了一定程度上的灵活性。借助强大的 `asyncio` 生态体系,我们可以构建高效的高并发应用程序而不必担心传统多线程模型带来的复杂同步难题。 当然,随着技术的发展,不排除将来会有进一步改进空间存在。例如目前尚存的一些局限之处包括但不限于 GIL 锁制约下真正的并行能力不足等问题待解决。 ---
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值