Map的底层结构及分析

1、Map接口的相关实现类:

2、HashMap的底层结构实际上是“链表散列”,即数组和链表的结合体。

从上图可以看出,HashMap底层就是一个数组结构(Entry<K,V>[] table),数组中的每一项又是一个链表。

源代码如下:

transient Entry<K,V>[] table; 

static class Entry<K,V> implements Map.Entry<K,V> {
        final K key;
        V value;
        Entry<K,V> next;</span>
        int hash;

        /**
         * Creates new entry.
         */
        Entry(int h, K k, V v, Entry<K,V> n) {
            value = v;
            next = n;
            key = k;
            hash = h;
        }

        public final K getKey() {
            return key;
        }

        public final V getValue() {
            return value;
        }
        .............
}
       可以看出,Entry就是数组中的元素,每个 Map.Entry其实就是一个key-value对,它持有一个指向下一个元素的引用,这就构成了链表。


3、HashMap中的性能参数:

//默认初始容量,必须是2的倍数;

static final int DEFAULT_INITIAL_CAPACITY = 16;

//最大容量

static final int MAXIMUM_CAPACITY = 1 << 30;

//默认负载因子(HashMap中元素达到这个比例时,进行扩容)

static final float DEFAULT_LOAD_FACTOR = 0.75f;

//capacity * load factor 当容器中元素个数到达这个值时,进行扩容resize

int threshold;

//用户设定的负载因子

final float loadFactor;

//For fast-fail机制:HashMap(非线程安全的)的修改次数,iterator遍历时,检测这个值,有变化,抛出//ConcurrentModificationException

transient int modCount;

//map中存储数据的数组,HashMap 在底层将 key-value 当成一个整体进行处理,这个整体就是一个 Entry对象。

transient Entry<K,V>[] table;


a、负载因子衡量的是一个散列表的空间的使用程度,负载因子越大表示散列表的装填程度越高,反之愈小。

b、因此如果负载因子越大,对空间的利用更充分,然而后果是查找效率的降低;如果负载因子太小,那么散列表的数据将过于稀疏,对空间造成严重浪费。

c、默认的的负载因子0.75是对空间和时间效率的一个平衡选择。当容量超出此最大容量时,resize后的HashMap容量是容量的两倍。


源代码解析:ConcurrentModificationException

private abstract class <span style="color:#FF0000;">HashIterator</span><E> implements <span style="color:#FF0000;">Iterator</span><E> {
        Entry<K,V> next;        // next entry to return
        int expectedModCount;   // For fast-fail
        int index;              // current slot
        Entry<K,V> current;     // current entry

        HashIterator() {
            expectedModCount = modCount;
            if (size > 0) { // advance to first entry
                Entry[] t = table;
                while (index < t.length && (next = t[index++]) == null)
                    ;
            }
        }

        public final boolean hasNext() {
            return next != null;
        }

        final Entry<K,V> <span style="color:#FF0000;">nextEntry</span>() {
            if (modCount != expectedModCount)
                throw new ConcurrentModificationException();
            Entry<K,V> e = next;
            if (e == null)
                throw new NoSuchElementException();

            if ((next = e.next) == null) {
                Entry[] t = table;
                while (index < t.length && (next = t[index++]) == null)
                    ;
            }
            current = e;
            return e;
        }
        ...........
}
HashMap扩容时的分析:

       当HashMap中的元素越来越多的时候,hash冲突的几率也就越来越高,因为数组的长度是固定的。所以为了提高查询的效率,就要对HashMap的数组进行扩容,数组扩容这个操作也会出现在ArrayList中,这是一个常用的操作,而在HashMap数组扩容之后,最消耗性能的点就出现了:原数组中的数据必须重新计算其在新数组中的位置,并放进去,这就是resize。

       那么HashMap什么时候进行扩容呢?当HashMap中的元素个数超过数组大小*loadFactor时,就会进行数组扩容,loadFactor的默认值为0.75,这是一个折中的取值。也就是说,默认情况下,数组大小为16,那么当HashMap中元素个数超过16*0.75=12的时候,就把数组的大小扩展为 2*16=32,即扩大一倍,然后重新计算每个元素在数组中的位置,而这是一个非常消耗性能的操作,所以如果我们已经预知HashMap中元素的个数,那么预设元素的个数能够有效的提高HashMap的性能。


4、HashMap的存取实现:

put方法:

    public V put(K key, V value) {  
        // HashMap允许存放null键和null值。  
        // 当key为null时,调用putForNullKey方法,将value放置在数组第一个位置。
        if (key == null)  
            return putForNullKey(value);  
        // 根据key的keyCode重新计算hash值。 
        int hash = hash(key.hashCode());  
        // 搜索指定hash值在对应table中的索引。
        int i = indexFor(hash, table.length);  
        // 如果 i 索引处的 Entry 不为 null,通过循环不断遍历 e 元素的下一个元素。  
        for (Entry<K,V> e = table[i]; e != null; e = e.next) {  
            Object k;  
            if (e.hash == hash && ((k = e.key) == key || key.equals(k))) {  
                V oldValue = e.value;  
                e.value = value;  
                e.recordAccess(this);  
                return oldValue;  
            }  
        }  
        // 如果i索引处的Entry为null,表明此处还没有Entry。 
        modCount++;  
        // 将key、value添加到i索引处。 
        addEntry(hash, key, value, i);  
        return null;  
    }  
       从上面的源代码中可以看出:当我们往HashMap中put元素的时候,先根据key的hashCode重新计算hash值,根据hash值得到这个元素在数组中的位置(即下标),如果数组该位置上已经存放有其他元素了,那么在这个位置上的元素将以链表的形式存放,新加入的放在链头,最先加入的放在链尾。如果数组该位置上没有元素,就直接将该元素放到此数组中的该位置上。


addEntry(hash, key, value, i)方法根据计算出的hash值,将key-value对放在数组table的i索引处。addEntry是 HashMap 提供的一个包访问权限的方法,代码如下:

    void addEntry(int hash, K key, V value, int bucketIndex) {  
        // 获取指定 bucketIndex 索引处的 Entry
        Entry<K,V> e = table[bucketIndex];  
        // 将新创建的 Entry 放入 bucketIndex 索引处,并让新的 Entry 指向原来的 Entry  
        table[bucketIndex] = new Entry<K,V>(hash, key, value, e);  
        // 如果 Map 中的 key-value 对的数量超过了极限  
        if (size++ >= threshold)  
        // 把 table 对象的长度扩充到原来的2倍。 
            resize(2 * table.length);  
    }  
       当系统决定存储HashMap中的key-value对时,完全没有考虑Entry中的value,仅仅只是根据key来计算并决定每个Entry的存储位置。我们完全可以把 Map 集合中的 value 当成 key 的附属,当系统决定了 key 的存储位置之后,value 随之保存在那里即可。


     hash(int h)方法根据key的hashCode重新计算一次散列。此算法加入了高位计算,防止低位不变,高位变化时,造成的hash冲突。

    

    final int hash(Object k) {
        int h = 0;
        if (useAltHashing) {
            if (k instanceof String) {
                return sun.misc.Hashing.stringHash32((String) k);
            }
            h = hashSeed;
        }

        h ^= k.hashCode();

        // This function ensures that hashCodes that differ only by
        // constant multiples at each bit position have a bounded
        // number of collisions (approximately 8 at default load factor).</span>
        h ^= (h >>> 20) ^ (h >>> 12);
        return h ^ (h >>> 7) ^ (h >>> 4);
    }</span>

      我们可以看到在HashMap中要找到某个元素,需要根据key的hash值来求得对应数组中的位置。如何计算这个位置就是hash算法。前面说过HashMap的数据结构是数组和链表的结合,所以我们当然希望这个HashMap里面的元素位置尽量的分布均匀些,尽量使得每个位置上的元素数量只有一个,那么当我们用hash算法求得这个位置的时候,马上就可以知道对应位置的元素就是我们要的,而不用再去遍历链表,这样就大大优化了查询的效率

        对于任意给定的对象,只要它的 hashCode()返回值相同,那么程序调用 hash(int h)方法所计算得到的hash码值总是相同的。我们首先想到的就是把hash值对数组长度取模运算,这样一来,元素的分布相对来说是比较均匀的。但是,“模”运算的消耗还是比较大的,在HashMap中是这样做的:调用 indexFor(int h, int length) 方法来计算该对象应该保存在 table 数组的哪个索引处。indexFor(int h, int length) 方法的代码如下:

<span style="font-size:18px;">    static int indexFor(int h, int length) {
        return h & (length-1);
    }</span>

这个方法非常巧妙,它通过 h & (table.length -1)来得到该对象的保存位,而HashMap底层数组的长度总是 2的 n 次方,这是HashMap在速度上的优化。在 HashMap构造器中有如下代码:

其他所有HashMap构造器最终都会调用这个构造器。

     public HashMap(int initialCapacity, float loadFactor) {
        if (initialCapacity < 0)
            throw new IllegalArgumentException("Illegal initial capacity: " +
                                               initialCapacity);
        if (initialCapacity > MAXIMUM_CAPACITY)
            initialCapacity = MAXIMUM_CAPACITY;
        if (loadFactor <= 0 || Float.isNaN(loadFactor))
            throw new IllegalArgumentException("Illegal load factor: " +
                                               loadFactor);

        // Find a power of 2 >= initialCapacity
        int capacity = 1;
        while (capacity < initialCapacity)
            capacity <<= 1;</span>

        this.loadFactor = loadFactor;
        threshold = (int)Math.min(capacity * loadFactor, MAXIMUM_CAPACITY + 1);
        table = new Entry[capacity];
        useAltHashing = sun.misc.VM.isBooted() &&
                (capacity >= Holder.ALTERNATIVE_HASHING_THRESHOLD);
        init();
    }
这段红色代码保证初始化时HashMap的容量总是2n次方,即底层数组的长度总是为2n次方。

当length总是 2的n次方时,h& (length-1)运算等价于对length取模,也就是h%length,但是&比%具有更高的效率


       根据上面 put方法的源代码可以看出,当程序试图将一个key-value对放入HashMap中时,程序首先根据该 key的 hashCode() 返回值决定该 Entry的存储位置:如果两个 Entry的 key的 hashCode()返回值相同,那它们的存储位置相同。如果这两个 Entry的 key通过equals比较返回 true,新添加 Entry的 value将覆盖集合中原有 Entry的 value,但key不会覆盖。如果这两个 Entry的 key通过equals比较返回 false,新添加的 Entry将与集合中原有 Entry形成 Entry,而且新添加的 Entry位于 Entry链的头部——具体说明继续看 addEntry()方法的说明。


get方法:

    public V get(Object key) {
        if (key == null)
            return getForNullKey();
        //Entry<K,V> entry = getEntry(key);
        //这是的具体方法    
        final Entry<K,V> getEntry(Object key) {
        int hash = (key == null) ? 0 : hash(key);
        for (Entry<K,V> e = table[indexFor(hash, table.length)];
             e != null;
             e = e.next) {
            Object k;
            if (e.hash == hash &&
                ((k = e.key) == key || (key != null && key.equals(k))))
                return e;
        }
        return null;
    }
       return null == entry ? null : entry.getValue();
    }
       有了上面存储时的hash算法作为基础,理解起来这段代码就很容易了。从上面的源代码中可以看出:从HashMap中get元素时,首先计算key的hashCode,找到数组中对应位置的某一元素,然后通过key的equals方法在对应位置的链表中找到需要的元素。

  

      归纳起来简单地说,HashMap 在底层将 key-value当成一个整体进行处理,这个整体就是一个 Entry对象。HashMap底层采用一个 Entry[]数组来保存所有的 key-value对,当需要存储一个 Entry对象时,会根据hash算法来决定其在数组中的存储位置,在根据equals方法决定其在该数组位置上的链表中的存储位置;当需要取出一个Entry时,也会根据hash算法找到其在数组中的存储位置,再根据equals方法从该位置上的链表中取出该Entry。

     HashMap容量为什么使用2的N次方的原因:indexFor(int h, int length) 方法,使用的是:

   h & (length-1)

     如果不使用2的n次方,会有一些位置永远索引不到。

     假设数组长度分别为15和16,优化后的hash码分别为8和9,那么&运算后的结果如下:

       h & (table.length-1)                    hash                            table.length-1

       8 & (15-1):                                0100                &              1110                  =               0100

       9 & (15-1):                                0101                  &              1110                   =               0100

       -----------------------------------------------------------------------------------------------------------------------

       8 & (16-1):                                0100                  &            1111                  =               0100

       9 & (16-1):                                0101                  &            1111                  =               0101

  

  从上面的例子中可以看出:当它们和15-1(1110)“与”的时候,产生了相同的结果,也就是说它们会定位到数组中的同一个位置上去,这就产生了碰撞,8和9会被放到数组中的同一个位置上形成链表,那么查询的时候就需要遍历这个链表,得到8或者9,这样就降低了查询的效率。同时,我们也可以发现,当数组长度为15的时候,hash值会与15-1(1110)进行“与”,那么最后一位永远是0,而0001,0011,0101,1001,1011,0111,1101这几个位置永远都不能存放元素了,空间浪费相当大,更糟的是这种情况中,数组可以使用的位置比数组长度小了很多,这意味着进一步增加了碰撞的几率,减慢了查询的效率!而当数组长度为16时,即为2的n次方时,2n-1得到的二进制数的每个位上的值都为1,这使得在低位上&时,得到的和原hash的低位相同,加之hash(int h)方法对key的hashCode的进一步优化,加入了高位计算,就使得只有相同的hash值的两个值才会被放到数组中的同一个位置上形成链表。

   

   所以说,当数组长度为2的n次幂的时候,不同的key算得得index相同的几率较小,那么数据在数组上分布就比较均匀,也就是说碰撞的几率小,相对的,查询的时候就不用遍历某个位置上的链表,这样查询效率也就较高了。


    








<think>好的,我现在需要详细分析用户的问题:“请使用中文回答我或者给我介绍一下: go map底层结构”。首先,用户之前已经询问过Go语言的GC触发条件,现在转向map底层结构,这说明用户可能在深入学习Go语言的核心数据结构和内存管理。 首先,我需要确定用户的知识水平。用户已经对GC有一定的了解,可能具备中等水平的Go语言知识,可能正在准备面试或优化代码性能。用户的需求不仅仅是表面的结构,而是更深入的实现细节,比如哈希表的设计、冲突解决、内存布局等。 接下来,我要回忆Go语言map的底层实现。Go的map是一个哈希表,但在不同版本中实现可能有所变化。需要确认当前主流的实现方式,例如使用hmap结构体和bmap(bucket)的结构。还要考虑扩容机制,比如增量扩容和等量扩容的区别,以及哈希种子、哈希函数的选择等细节。 用户可能想知道map如何高效地处理键值对,如何处理哈希冲突,以及扩容时如何保证性能。此外,可能对并发安全的问题感兴趣,因为Go的map在并发读写时是不安全的,需要sync.Map或其他机制。 需要组织回答的结构,确保逻辑清晰。可能分为以下几个部分: 1. 核心数据结构(hmap和bmap) 2. 哈希冲突处理(链表法,但具体实现是数组) 3. 扩容机制(触发条件、渐进式扩容) 4. 内存布局细节(tophash、键值存储方式) 5. 并发安全问题 6. 使用注意事项和最佳实践 需要验证一些细节,例如每个bucket存储的键值对数量(通常是8个),溢出桶的结构,tophash的作用(快速比较和定位)。还要确保术语准确,比如hmap中的B字段表示桶的数量是2^B个。 另外,用户可能对源码中的具体结构感兴趣,比如hmap的字段说明,但不需要逐行解释,而是重点字段如count、flags、B、buckets、oldbuckets等的作用。可能需要用图表或伪代码来辅助说明,但用户要求使用中文,所以需要用文字描述清楚。 还要注意版本差异,例如Go 1.17和之后的版本是否有变化,但通常底层结构保持稳定。最后,总结使用map时的注意事项,比如初始化大小、避免并发读写、扩容开销等。 需要确保回答正确性,例如在冲突处理上,Go使用的是数组而非链表,每个bucket存8个键值对,溢出时使用溢出桶。扩容时,旧桶数据逐渐迁移到新桶,避免一次性性能损耗。同时,哈希种子在map创建时生成,用于防止哈希碰撞攻击。 最后,考虑是否需要示例代码,比如如何查看hmap结构(虽然无法直接访问),或者使用反射和unsafe包来观察内部结构,但可能不建议用户这样做,而是专注于正确使用map的API。 总结回答的结构,确保覆盖用户的需求,同时提供足够深度的技术细节,帮助用户理解底层机制,从而写出更高效的代码或解决相关问题。</think>## Go语言map底层实现深度解析 ### 一、核心数据结构 Go map采用哈希表实现,核心结构由`hmap`和`bmap`组成: ```go // 哈希表头结构 (src/runtime/map.go) type hmap struct { count int // 当前元素个数 flags uint8 // 状态标记 B uint8 // buckets数量的对数(实际桶数=2^B) noverflow uint16 // 溢出桶近似数量 hash0 uint32 // 哈希种子 buckets unsafe.Pointer // 常规桶数组 oldbuckets unsafe.Pointer // 扩容时旧桶数据 nevacuate uintptr // 迁移进度计数器 extra *mapextra // 溢出桶信息 } // 桶结构(编译时动态生成) type bmap struct { tophash [8]uint8 // 哈希值高8位标记 // 后续内存布局:键值交替存储 // keys [8]keytype // values [8]valuetype // overflow指针(内存对齐后) } ``` #### 内存布局示例(以存储string/int为例): ``` +----------------------+ | tophash[0..7] | 8字节 +----------------------+ | key0 | key1 | ... | 8*string结构(每个16字节) +----------------------+ | value0 | value1| ... | 8*int(每个8字节) +----------------------+ | overflow指针 | 8字节 +----------------------+ ``` ### 二、哈希碰撞处理 采用开放地址法+溢出桶设计: 1. **主桶存储**:每个bmap最多存储8个键值对 2. **溢出处理**:当主桶填满时,链式追加溢出桶 3. **查找流程**: ```mermaid graph TD A[计算key哈希] --> B{定位主桶} B --> C[遍历tophash数组] C -->|匹配| D[对比完整key] C -->|不匹配| E[检查溢出桶] D --> F[返回value] E --> C ``` ### 三、扩容机制 #### 触发条件: - **装载因子**:元素数量 / (2^B * 8) > 6.5(默认阈值) - **溢出桶过多**:当溢出桶数量超过常规桶数量 #### 扩容类型: | 类型 | 触发条件 | 新桶数量 | |---------------|-------------------------|-----------| | 增量扩容 | 装载因子过高 | 2^(B+1) | | 等量扩容 | 溢出桶过多但装载因子不高 | 2^B | #### 渐进式迁移过程: ```go // 迁移伪代码示例 func growWork(t *maptype, h *hmap, bucket uintptr) { // 迁移当前处理的旧桶 evacuate(t, h, bucket&h.oldbucketmask()) // 如果还有未迁移的桶,继续迁移下一个 if h.growing() { evacuate(t, h, h.nevacuate) } } ``` 每次写入操作触发1-2个旧桶的迁移,直到完成所有数据迁移 ### 四、关键设计细节 #### 1. tophash优化: - 存储哈希值高8位,用于快速预判key是否存在 - 特殊标记位: - `emptyRest`(0): 当前位置及后续位置均为空 - `emptyOne`(1): 当前位置为空但后续可能有数据 #### 2. 内存对齐: ```text 示例:map[int64]string的内存布局 +--------+--------+--------+--------+ | tophash| int64 | string | ... | | [8]byte| (key) | (value)| | +--------+--------+--------+--------+ ``` 根据键值类型自动调整内存布局,确保CPU缓存友好 #### 3. 哈希种子机制: - 每个map创建时生成随机hash0 - 预防哈希碰撞攻击(HashDoS) - 实现代码片段: ```go func makemap(t *maptype, hint int, h *hmap) *hmap { // ... h.hash0 = fastrand() // ... } ``` ### 五、并发安全特性 | 操作类型 | 安全性 | 典型错误示例 | |---------------|-------------|-------------------------| | 并发读 | 安全 | `go read(m); go read(m)` | | 并发读写 | 引发panic | `go write(m); go read(m)`| | 同步读写 | 需加锁 | `mu.Lock(); m[k]=v; mu.Unlock()` | ### 六、性能优化实践 #### 1. 初始化优化 ```go // 劣化写法(触发多次扩容) m := make(map[string]int) for i := 0; i < 1000; i++ { m[fmt.Sprint(i)] = i } // 优化写法 m := make(map[string]int, 1000) ``` #### 2. 内存优化技巧 ```go // 存储指针减少GC压力 type BigStruct struct { /* 大字段 */ } m := make(map[int]*BigStruct) // 使用空结构体作为值 var exists = struct{}{} set := make(map[string]struct{}) ``` #### 3. 遍历优化 ```go // 低效写法(触发写屏障) for k := range m { delete(m, k) } // 优化方案 keys := make([]KeyType, 0, len(m)) for k := range m { keys = append(keys, k) } for _, k := range keys { delete(m, k) } ``` ### 最新演进(Go 1.21+) 1. **内存压缩优化**:对删除操作较多的map进行碎片整理 2. **更智能的溢出桶回收**:自动回收长期未使用的溢出桶 3. **原子计数器优化**:改进hmap.count的原子操作性能 通过`go tool compile -S`可观察map操作对应的汇编指令,实际运行时map操作对应`runtime.map*`系列函数(如`runtime.mapaccess1`)。理解底层实现有助于: - 合理选择初始容量 - 避免频繁扩容 - 优化键值类型设计 - 正确应对并发场景
评论 3
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值