ConcurrentHashMap介绍
ConcurrentHashMap是在Java并发包下的一个类,它的作用和HashMap类似,不过做了线程安全的防护,支持并发操作。
本文分析的也是基于JDK1.8的
数据存储结构
我们直接来看下源码会比较直观:
static class Node<K,V> implements Map.Entry<K,V> {
final int hash;
final K key;
volatile V val;
volatile Node<K,V> next;
Node(int hash, K key, V val, Node<K,V> next) {
this.hash = hash;
this.key = key;
this.val = val;
this.next = next;
}
public final K getKey() { return key; }
public final V getValue() { return val; }
public final int hashCode() { return key.hashCode() ^ val.hashCode(); }
public final String toString(){ return key + "=" + val; }
public final V setValue(V value) {
throw new UnsupportedOperationException();
}
public final boolean equals(Object o) {
Object k, v, u; Map.Entry<?,?> e;
return ((o instanceof Map.Entry) &&
(k = (e = (Map.Entry<?,?>)o).getKey()) != null &&
(v = e.getValue()) != null &&
(k == key || k.equals(key)) &&
(v == (u = val) || v.equals(u)));
}
/**
* Virtualized support for map.get(); overridden in subclasses.
*/
Node<K,V> find(int h, Object k) {
Node<K,V> e = this;
if (k != null) {
do {
K ek;
if (e.hash == h &&
((ek = e.key) == k || (ek != null && k.equals(ek))))
return e;
} while ((e = e.next) != null);
}
return null;
}
}
- 这里的结构和HashMap几乎一致,不过多了一个find方法。这个方法的作用是什么,我目前也不知道,看看之后能不能寻找出答案。先记录下这个问题即:在Node数据结构中的find方法作用
构造方法
这块刚开始我还以为是和HashMap一样的,看了之后才发现区别还是挺大的。这里我们来看下。
首先是无参构造器:
public ConcurrentHashMap() {
}
接下来是传入初始数据总量的构造器:
public ConcurrentHashMap(int initialCapacity) {
if (initialCapacity < 0)
throw new IllegalArgumentException();
int cap = ((initialCapacity >= (MAXIMUM_CAPACITY >>> 1)) ?
MAXIMUM_CAPACITY :
tableSizeFor(initialCapacity + (initialCapacity >>> 1) + 1));
this.sizeCtl = cap;
}
- 这里可和HashMap不太类似。回一下,HashMap设置初始容量时,会将容量设置会接近2的n次方的上边界。当时这里我也有一个疑问,在HashMap中,如果我们已经确定容器容量大小时,其实在添加过程中还是会触发一次resize操作进行扩容(至于为什么,大家应该都清楚),所以在ConcurrentHashMap时,如果放入固定容量,不会再触发扩容,这样性能会提高一些。
再来看其他的构造方法:
public ConcurrentHashMap(int initialCapacity, float loadFactor) {
this(initialCapacity, loadFactor, 1);
}
对应:
public ConcurrentHashMap(int initialCapacity,
float loadFactor, int concurrencyLevel) {
if (!(loadFactor > 0.0f) || initialCapacity < 0 || concurrencyLevel <= 0)
throw new IllegalArgumentException();
if (initialCapacity < concurrencyLevel) // Use at least as many bins
initialCapacity = concurrencyLevel; // as estimated threads
long size = (long)(1.0 + (long)initialCapacity / loadFactor);
int cap = (size >= (long)MAXIMUM_CAPACITY) ?
MAXIMUM_CAPACITY : tableSizeFor((int)size);
this.sizeCtl = cap;
}
- 这里的主题逻辑也和上述类似,而且代码也不难,这里不做赘述。
主要调用方法解析
这里我想从调用方法开始直接入手来了解整个设计。
get方法解析
public V get(Object key) {
Node<K,V>[] tab; Node<K,V> e, p; int n, eh; K ek;
int h = spread(key.hashCode());
if ((tab = table) != null && (n = tab.length) > 0 &&
(e = tabAt(tab, (n - 1) & h)) != null) {
if ((eh = e.hash) == h) {
if ((ek = e.key) == key || (ek != null && key.equals(ek)))
return e.val;
}
else if (eh < 0)
return (p = e.find(h, key)) != null ? p.val : null;
while ((e = e.next) != null) {
if (e.hash == h &&
((ek = e.key) == key || (ek != null && key.equals(ek))))
return e.val;
}
}
return null;
}
- 这里第一个涉及到的spread方法,后面进行分析,作用就是计算hash值
- 最外层if作用,三个判断条件,第一个是判断存储数据是否初始化,也就是table,第二步是判断其长度,第三步则是判断在Node数组中对应的索引位置是否有值。只要有一个不成立,说明我们查询的key不存在。
- 这里的变量e是指在Node数组中对应索引的头结点,下面又分为三个逻辑。
- 第一个逻辑是判断头结点是否为我们查询的节点,是就返回对应值
- 第二个逻辑目前能看懂,但是找不到逻辑,我们可以先放一下,这里看上去是如果头结点的hash小于0的话,我们就是用之前Node内部find方法链表单向查询,但是为什么可以这么用,我们目前肯定是无法得知的。这里也留下一个以为:为什么头结点的hash会小于0
- 最后一个逻辑,这里也就是遍历查询了,分析完又有点懵了,之前记得这里也使用了红黑树来保证链表查询速度呀,怎么get方法中没有?现在也看不出啥,我们只能先心里记下。
涉及到的方法是spread方法:
static final int spread(int h) {
// static final int HASH_BITS = 0x7fffffff
return (h ^ (h >>> 16)) & HASH_BITS;
}
- 这里怎么理解呢?其实就和我们之前计算HashMap的hash一样的方式,将散列的较高位散步降低(XOR),这里装了一下小逼,我也不太理解XOR,但我大致能理解这意思。只有就是截取有效位的行为。
put方法解析
public V put(K key, V value) {
return putVal(key, value, false);
}
继续:
final V putVal(K key, V value, boolean onlyIfAbsent) {
if (key == null || value == null) throw new NullPointerException();
int hash = spread(key.hashCode());
int binCount = 0;
for (Node<K,V>[] tab = table;;) {
Node<K,V> f; int n, i, fh;
if (tab == null || (n = tab.length) == 0)
//<1>
tab = initTable();
else if ((f = tabAt(tab, i = (n - 1) & hash)) == null) {
//<2>
if (casTabAt(tab, i, null,
new Node<K,V>(hash, key, value, null)))
break; // no lock when adding to empty bin
}
else if ((fh = f.hash) == MOVED)
<3>
tab = helpTransfer(tab, f);
else {
<4>
V oldVal = null;
synchronized (f) {
if (tabAt(tab, i) == f) {
if (fh >= 0) {
binCount = 1;
for (Node<K,V> e = f;; ++binCount) {
K ek;
if (e.hash == hash &&
((ek = e.key) == key ||
(ek != null && key.equals(ek)))) {
oldVal = e.val;
if (!onlyIfAbsent)
e.val = value;
break;
}
Node<K,V> pred = e;
if ((e = e.next) == null) {
pred.next = new Node<K,V>(hash, key,
value, null);
break;
}
}
}
else if (f instanceof TreeBin) {
Node<K,V> p;
binCount = 2;
if ((p = ((TreeBin<K,V>)f).putTreeVal(hash, key,
value)) != null) {
oldVal = p.val;
if (!onlyIfAbsent)
p.val = value;
}
}
}
}
if (binCount != 0) {
if (binCount >= TREEIFY_THRESHOLD)
treeifyBin(tab, i);
if (oldVal != null)
return oldVal;
break;
}
}
}
addCount(1L, binCount);
return null;
}
- 这个方法又比较的长,但是我们要耐住寂寞,继续干。
- 第一点我们可以看到,在ConcurrentHashMap中是不允许放入key或value为null的值的,不然会直接抛异常
- 在注释标签<1>中,如果table还未初始化,则调用initTable方法来进行初始化。这个方法后续讲解。
- 在注释标签<2>中,如果对应table索引下还未有头结点,直接通过unsafe本地方法的compareAndSwapObject进行CAS方式插入,casTabAt我们大致看下
U.compareAndSwapObject(tab, ((long)i << ASHIFT) + ABASE, c, v);
.再有兴趣,欢迎读者继续深入一起交流分享。 - 在注释标签<3>,会进行动态扩容,具体操作我们后续分析
- 最后一段注释标签<4>,也就是我们最基础的流程,如果存在对应的key进行替换,如果不存在则进行添加。首先我们可以看到它是对Node数组的首节点加了synchronized锁的,下面的逻辑就是分为在普通链表下和在树结构下的操作,这里希望大家自行理解,我一句句分解感觉也作用不大,如果有疑问我们可以一起交流。
这边把上面遗漏的方法进行补充,先来讲initTable方法:
private final Node<K,V>[] initTable() {
Node<K,V>[] tab; int sc;
while ((tab = table) == null || tab.length == 0) {
if ((sc = sizeCtl) < 0)
Thread.yield(); // lost initialization race; just spin
else if (U.compareAndSwapInt(this, SIZECTL, sc, -1)) {
try {
if ((tab = table) == null || tab.length == 0) {
int n = (sc > 0) ? sc : DEFAULT_CAPACITY;
@SuppressWarnings("unchecked")
Node<K,V>[] nt = (Node<K,V>[])new Node<?,?>[n];
table = tab = nt;
sc = n - (n >>> 2);
}
} finally {
sizeCtl = sc;
}
break;
}
}
return tab;
}
- 这里重点先要讲下sizeCtl参数,这个参数是表初始化大小控制,如果为负,则表示表正在初始化或调整大小。在有参构造时,把这个值设置成了容量大小。
- 之后
U.compareAndSwapInt(this, SIZECTL, sc, -1)
设置的就是对应sizeCtl的值。为什么呢?我们来看下SIZECTL = U.objectFieldOffset (k.getDeclaredField("sizeCtl"));
至于后面的sc = n - (n >>> 2);
是啥意思,我用n=16跑了下,结果是12,具体作用不知,继续下去看。
再来看下helpTransfer方法:
final Node<K,V>[] helpTransfer(Node<K,V>[] tab, Node<K,V> f) {
Node<K,V>[] nextTab; int sc;
if (tab != null && (f instanceof ForwardingNode) &&
(nextTab = ((ForwardingNode<K,V>)f).nextTable) != null) {
int rs = resizeStamp(tab.length);
while (nextTab == nextTable && table == tab &&
(sc = sizeCtl) < 0) {
if ((sc >>> RESIZE_STAMP_SHIFT) != rs || sc == rs + 1 ||
sc == rs + MAX_RESIZERS || transferIndex <= 0)
break;
if (U.compareAndSwapInt(this, SIZECTL, sc, sc + 1)) {
transfer(tab, nextTab);
break;
}
}
return nextTab;
}
return table;
}
- 这里我们看到引入了一个ForwardingNode类,这里我们直接来看一下这个类,可以让思路更加清楚一点,其他的还有一个transfer方法。
static final class ForwardingNode<K,V> extends Node<K,V> {
final Node<K,V>[] nextTable;
ForwardingNode(Node<K,V>[] tab) {
super(MOVED, null, null, null);
this.nextTable = tab;
}
Node<K,V> find(int h, Object k) {
// loop to avoid arbitrarily deep recursion on forwarding nodes
outer: for (Node<K,V>[] tab = nextTable;;) {
Node<K,V> e; int n;
if (k == null || tab == null || (n = tab.length) == 0 ||
(e = tabAt(tab, (n - 1) & h)) == null)
return null;
for (;;) {
int eh; K ek;
if ((eh = e.hash) == h &&
((ek = e.key) == k || (ek != null && k.equals(ek))))
return e;
if (eh < 0) {
if (e instanceof ForwardingNode) {
tab = ((ForwardingNode<K,V>)e).nextTable;
continue outer;
}
else
return e.find(h, k);
}
if ((e = e.next) == null)
return null;
}
}
}
}
- 这里首先在构造方法里我们看到了MOVED这个变量,和之前进行关联了起来。之后看到这个类是继承了Node方法,并且重写了find方法,find方法的逻辑就是递归的去查询。
之后我们继续来看之前的transfer方法,这个方法是干嘛的呢?我们来看下注释:
/**
* Moves and/or copies the nodes in each bin to new table. See
* above for explanation.
*/
这个意思就是把将老表中的节点都复制到新表中,这就和扩容差不多。这个类也比较长,我们继续看下:
private final void transfer(Node<K,V>[] tab, Node<K,V>[] nextTab) {
int n = tab.length, stride;
if ((stride = (NCPU > 1) ? (n >>> 3) / NCPU : n) < MIN_TRANSFER_STRIDE)
stride = MIN_TRANSFER_STRIDE; // subdivide range
//<1>
if (nextTab == null) { // initiating
try {
@SuppressWarnings("unchecked")
Node<K,V>[] nt = (Node<K,V>[])new Node<?,?>[n << 1];
nextTab = nt;
} catch (Throwable ex) { // try to cope with OOME
sizeCtl = Integer.MAX_VALUE;
return;
}
nextTable = nextTab;
transferIndex = n;
}
int nextn = nextTab.length;
//<2>
ForwardingNode<K,V> fwd = new ForwardingNode<K,V>(nextTab);
boolean advance = true;
boolean finishing = false; // to ensure sweep before committing nextTab
for (int i = 0, bound = 0;;) {
Node<K,V> f; int fh;
//<3>
while (advance) {
int nextIndex, nextBound;
if (--i >= bound || finishing)
advance = false;
else if ((nextIndex = transferIndex) <= 0) {
i = -1;
advance = false;
}
else if (U.compareAndSwapInt
(this, TRANSFERINDEX, nextIndex,
nextBound = (nextIndex > stride ?
nextIndex - stride : 0))) {
bound = nextBound;
i = nextIndex - 1;
advance = false;
}
}
if (i < 0 || i >= n || i + n >= nextn) {
int sc;
if (finishing) {
nextTable = null;
table = nextTab;
sizeCtl = (n << 1) - (n >>> 1);
return;
}
if (U.compareAndSwapInt(this, SIZECTL, sc = sizeCtl, sc - 1)) {
if ((sc - 2) != resizeStamp(n) << RESIZE_STAMP_SHIFT)
return;
finishing = advance = true;
i = n; // recheck before commit
}
}
else if ((f = tabAt(tab, i)) == null)
advance = casTabAt(tab, i, null, fwd);
else if ((fh = f.hash) == MOVED)
advance = true; // already processed
else {
//<4>
synchronized (f) {
if (tabAt(tab, i) == f) {
Node<K,V> ln, hn;
if (fh >= 0) {
int runBit = fh & n;
Node<K,V> lastRun = f;
for (Node<K,V> p = f.next; p != null; p = p.next) {
int b = p.hash & n;
if (b != runBit) {
runBit = b;
lastRun = p;
}
}
if (runBit == 0) {
ln = lastRun;
hn = null;
}
else {
hn = lastRun;
ln = null;
}
for (Node<K,V> p = f; p != lastRun; p = p.next) {
int ph = p.hash; K pk = p.key; V pv = p.val;
if ((ph & n) == 0)
ln = new Node<K,V>(ph, pk, pv, ln);
else
hn = new Node<K,V>(ph, pk, pv, hn);
}
setTabAt(nextTab, i, ln);
setTabAt(nextTab, i + n, hn);
setTabAt(tab, i, fwd);
advance = true;
}
else if (f instanceof TreeBin) {
TreeBin<K,V> t = (TreeBin<K,V>)f;
TreeNode<K,V> lo = null, loTail = null;
TreeNode<K,V> hi = null, hiTail = null;
int lc = 0, hc = 0;
for (Node<K,V> e = t.first; e != null; e = e.next) {
int h = e.hash;
TreeNode<K,V> p = new TreeNode<K,V>
(h, e.key, e.val, null, null);
if ((h & n) == 0) {
if ((p.prev = loTail) == null)
lo = p;
else
loTail.next = p;
loTail = p;
++lc;
}
else {
if ((p.prev = hiTail) == null)
hi = p;
else
hiTail.next = p;
hiTail = p;
++hc;
}
}
ln = (lc <= UNTREEIFY_THRESHOLD) ? untreeify(lo) :
(hc != 0) ? new TreeBin<K,V>(lo) : t;
hn = (hc <= UNTREEIFY_THRESHOLD) ? untreeify(hi) :
(lc != 0) ? new TreeBin<K,V>(hi) : t;
setTabAt(nextTab, i, ln);
setTabAt(nextTab, i + n, hn);
setTabAt(tab, i, fwd);
advance = true;
}
}
}
}
}
}
- <1> 代表了如果为空,会形成新的容器,容量会之前的两倍
- <2> 中我们看到了之前介绍的ForwardingNode,到这这个类的作用我感觉有点明白了,做下次扩容标记(这里只是个人理解,如有异议,欢迎交流)
- <3> 这一过程网上搜到结果是确立桶返回,但是目前水平有限,还不能很好的理解
- <4> 这里就是和HashMap一样来进行分组扩容
在putVal下还有一个重要方法addCount方法:
private final void addCount(long x, int check) {
//<1>
CounterCell[] as; long b, s;
if ((as = counterCells) != null ||
!U.compareAndSwapLong(this, BASECOUNT, b = baseCount, s = b + x)) {
CounterCell a; long v; int m;
boolean uncontended = true;
if (as == null || (m = as.length - 1) < 0 ||
(a = as[ThreadLocalRandom.getProbe() & m]) == null ||
!(uncontended =
U.compareAndSwapLong(a, CELLVALUE, v = a.value, v + x))) {
fullAddCount(x, uncontended);
return;
}
if (check <= 1)
return;
s = sumCount();
}
//<2>
if (check >= 0) {
Node<K,V>[] tab, nt; int n, sc;
while (s >= (long)(sc = sizeCtl) && (tab = table) != null &&
(n = tab.length) < MAXIMUM_CAPACITY) {
int rs = resizeStamp(n);
if (sc < 0) {
if ((sc >>> RESIZE_STAMP_SHIFT) != rs || sc == rs + 1 ||
sc == rs + MAX_RESIZERS || (nt = nextTable) == null ||
transferIndex <= 0)
break;
if (U.compareAndSwapInt(this, SIZECTL, sc, sc + 1))
transfer(tab, nt);
}
else if (U.compareAndSwapInt(this, SIZECTL, sc,
(rs << RESIZE_STAMP_SHIFT) + 2))
transfer(tab, null);
s = sumCount();
}
}
}
- <1> 中优先使用计数盒子counterCells变量(如果不是空,说明并发了),如果计数盒子是空,使用 baseCount 变量,对其加 X。这一步可能有点难理解,因为看上去都是在if同一个条件下,但是注意其中是||,如果前面条件成功则不会运行下一个条件。如果修改 baseCount 失败,使用计数盒子。如果此次修改失败,在另一个方法死循环插入。
- <2> 中就是判断sizeCtl变量,看是否进行transfer
今日总结
哇,受不了了,干货太多了。ConcurrentHashMap全身都是宝啊,要吃吐了。最后还是要消化为主,我们这里理一下之前的疑惑和知识点。
问题一:在Node数据结构中的find方法作用
这个问题在我看完了源码之后,我是这么理解的。其实这边可以说是用了策略模式,每种Node在根据头结点查询对应key时的策略是不一样的,在我看到的目前是由对应普通的Node类、还有在扩容时做转发的ForwardingNode,最后还是红黑树下的TreeBin。
问题二:为什么头结点的hash会小于0
这个问题其实在分析过程中会有点眉目,就是在添加ForwardingNode时,它的hash是MOVED=-1。
设计亮点一:并发下ConcurrentHashMap中容量的计算
这边会根据两个来计算,第一个是baseCount变量,第二个是counterCells变量。第一个就是存储正常情况下的容器中的值,第二个是在counterCells这个并发下的线程中的值,然后想加计算。具体的设计是根fullAddCount方法整体联系在一起的。
设计亮点二:sizeCtl变量的设计
这个变量设计成为32位,高16位作为标记,低16位作为线程数量。然后设计上U.compareAndSwapInt(this, SIZECTL, sc, (rs << RESIZE_STAMP_SHIFT) + 2
这里的加二 和后面if (U.compareAndSwapInt(this, SIZECTL, sc = sizeCtl, sc - 1)) { if ((sc - 2) != resizeStamp(n) << RESIZE_STAMP_SHIFT)
的减二,不过这里为什么取值为2,还没领悟到。
设计亮点三: @sun.misc.Contended 使用
可能大家看源码的时候看到过这个注解,不过我不太清楚怎么用。查阅了下,这个注解是用来替代之前使用字节填充方式解决伪共享性能慢的问题的。
目前就是这些,当然还有很多很多亮点,怪自己目前水平还比较有限,下次再有时间、不懂的再来阅读。