线程安全lock-free对象池

对象池

对象池（object pool pattern）是一种设计模式。维基百科的解释：The object pool pattern uses a set of initialized objects kept ready to use – a "pool" – rather than allocating and destroying them on demand. 对象池的思想是准备好一堆初始化/实例化好的对象，等到使用的时候直接从“池子”里获取一个，从而避免对象的构造与初始化时间。

使用对象池的场景具有两个特点：这个对象初始化、实例化的代价高，使用频繁。

对象池在并发环境下的使用

一般来说，在串行环境下使用对象池的意义并没有那么大。它本身就是为了节省对象的构造初始化时间而存在的。但是当在高并发环境下使用对象池时，情况会变得有些复杂。因为对象池本身就是临界资源，线程间的并发访问必定会导致资源的访问竞争(Contention)。那么在并发环境下，对象池的使用方式有以下几种：

1、使用全局锁：当线程试图从对象池里获取一个对象时，它首先要获取对象池的锁，然后再Get一个对象（指针或引用），最后释放锁。等到使用完成，再将对象放回到对象池中时，同样要先获得锁，再Reclaim，再释放锁。

2、使用元素粒度锁：一个对象池很可能是由一个数组或vector来存储的。那就满足了Random Access的要求。于是，我们可以让每一个对象对应一把锁。等到线程获取对象时，首先获取一个random的index，然后再尝试获取此index对应的对象的锁。当其获取到锁时，就表明它获取到了对象，否则就重新获取一个random的index从头开始。若此线程使用完此对象后，直接解锁，就释放了对象。

此两种方式在高并发环境下都有一些不足。第一种方式全局一把锁，当一个线程刚获取到锁，而线程又被调度出去，那其他线程也不可能再获取对象池的对象。第二种方式每次获取对象失败就要重新获取一个random access值，这个计算过程比较耗时，当对象池中大部分对象都被占用的情况下，此方式效率会变得非常差。

基本lock-free的线程安全对象池的实现

提到lock-free不得不提的是CAS（Compare-And-Swap）技术。目前主流的cpu架构均有支持。如果想了解更多无锁技术的原理和使用，推荐大家可以拜读下Anthony Williams的《C++并发编程实践》这本书第7章。笔者就是在学习此书的过程中，觉得可以使用这个技术改进对象池的。

无锁线程安全的对象池技术的优点：保证并发线程中至少有一个可以成功获取一个对象。

笔者采用的是无锁的stack实现的对象池。原因有二：

其一曰stack的接口对于对象池获取十分契合。stack的基本操作有两个：入栈和出栈。对象池的操作也有两个：回收和获取。如果我们把stack的出栈看作对象池的获取，把入栈作为对象池对象的回收，那么就完美得将这两者结合起来了。所以可以选择使用lock-free stack实现对象池。

其二曰stack实现更简单。如果换作lock-free的队列实现，也是可以的，但是代码量会增加不少。

具体实现可以去我github repo上看。欢迎大家留下宝贵意见。