关于异步的思考

云平台的工作流框架AWS Flow Framework给我带来的另一个有所感触的话题是“异步”：

这个框架把异步的行为划分为Workflow端执行的部分和Activity端执行的部分，Workflow控制工作流程，Activity执行具体的工作流task，二者都以poll的模式不断从中心SWF去获取任务。对于开发者来说，用类似这样简单的代码，就完成了整个工作流任务的部署，框架为开发人员隐藏了大部分实现细节：这只是其中利用异步的设计，给我印象很深刻的一个场景。对于减少资源占用，我们还经常接触到许多其它类似的场景，比如NIO Server，这是多路复用技术的一种。

NIO 服务器

传统服务器接收到请求以后，从request到response，整个过程占住一个线程不放，但是这种服务器可以在收到请求之后，将需要完成的工作用一个或若干个Command包装好，交给线程池中的工作线程去完成，对于收到请求和返回响应这样的过程，使用1~2个独立的线程去完成，在事件发生时，系统线程才通知这1~2个线程去完成和客户端的一次交互（或者用监控线程去轮询当前挂在Server上所有的连接，寻找需要响应的连接来完成交互）。当在线用户数量大大超出服务器的线程数时，使用NIO模式可以保证在收到请求和返回响应的用户接口层不成为瓶颈 。

Nginx的epoll模型

另外还有一个特别值得一提的场景，由于互联网的BS模式下，从Server实时或准实时地向Client推送一些东西是比较麻烦的（有同学说用pushlet来解决，但这个办法有很大的局限性），有一种解决这个问题的办法是客户端使用ajax去定期获取数据（比如现在的很多SNS网站都用了这种办法），在这种情况下服务端对请求处理的压力就陡然增大了。

Nginx是一款高性能的代理服务器，性能高的其中一个重要原因是，它基于epoll模型设计的。与之相对的是select模型，select采用的是轮询的办法，每次读写状态检测都检查FD_SET中所有的句柄，当句柄数量增大时，这个过程消耗的时间应该是线性增长的。另外，FD_SIZE也设定了整个可开启的句柄数，这造成了另一种局限。而epoll模型就没有这两个问题，它给每个活跃FD挂接一个异步回调函数，不需要第三方去遍历和调用这些句柄，而它的句柄限制是操作系统的限制 。

Continuation Server

这种模式下Client和Server会调过来，Continuation Server发送页面给客户端，作为function call，然后等待客户端返回执行结果，因此，在服务端收到响应的时候，要恢复之前方法调用的上下文环境，继续执行收到响应后的下一行语句 。这个过程就需要服务器端能够在发送页面前将上下文环境保存下来，在获得响应之后动态获取调用栈恢复上下文环境，这些工作都是异步事件驱动的。

总结

异步调用给传统软件编码的思维带来了新的挑战，无论是对现场的快照、异常的处理还是分支跳转的控制，但是带来了许多不可替代的优势，资源占用更少，效率更高，可扩展性更强。