提高系统并发性的方法总结

1. 提高单机并发性的方法

1.1. 通过range lock，分片，分区的方法来减小锁冲突：

例如leveldb中的LRUCache。

1.2. 通过CAS原理实现lock free的数据结构：

例如下面给出了一个基于c11的atomic实现的lock free的skip-list。skip-list通常用来做存储引擎的内存索引。

10000个线程并发插入数据，通过测试发现lock free的skip-list性能是lock based的skip-list的大约3倍。

skip-list只需要在多个写线程的情况下需要做线程同步。如果只有1个写线程，多个读线程，无需做同步，因为读要么读到的是更新前的数据，要么读到的是更新后的数据，不会读到更新过程中的数据。

源代码链接如下：http://blog.youkuaiyun.com/microzzzf/article/details/78782123

1.3. 关于锁的选择：

对于lock很短的时间就会释放掉锁的场景，倾向于选择spinlock，因为spinlock类似于忙等待，如果lock时间较短，对cpu的消耗小于线程的阻塞和唤醒；

对于lock时间较长才会释放掉锁的场景，倾向于选择mutex，因为长时间的忙等待对cpu的消耗会大于线程的阻塞和唤醒；

读写锁的开销大于普通的独占锁；

可以通过c11的atomic_flag配合memory order实现spinlock。