一致性哈希

本文深入探讨了一致性哈希的概念及其解决传统哈希算法中节点动态变化带来的问题的方法。介绍了一致性哈希如何通过将节点映射到一个虚拟环上来减少数据迁移的成本,并讨论了虚节点的引入来提高负载均衡的策略。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

传统哈希的问题:

1.节点动态改变:
例如,原先的hash规则是key%4,增加节点后规则变为key%5,为保证存量数据可以背准确映射,需对其进行数据迁移(rebalance)
又例如,原先的hash规则是key%4,删除一个节点后规则变为key%3,导致缓存击穿缓存雪崩

一致性哈希:节点动态增加/改变造成的数据迁移/缓存穿透的成本最小
1.原理:我们将节点映射在0-2^32的环上,对请求进行hash运算,得到请求的hashcode,顺时针查找最近的节点,即为找到请求与节点的映射关系。

2.虚节点的引入:
2.2问题:如果节点数目较少,且分布不够离散,则会导致负载不均衡。
2.3解决:对于每个节点,会对应若干个虚节点,请求映射到虚节点上,虚节点在对应到真实节点,增加节点离散性。

3.实现:

package com.test.server;


import java.security.MessageDigest;
import java.security.NoSuchAlgorithmException;
import java.util.List;
import java.util.Objects;
import java.util.SortedMap;
import java.util.TreeMap;
import java.util.concurrent.CopyOnWriteArrayList;

/**
 * thread unsafe
 * copyright 
 */
public class HashServer {
    private static final int NODE_NUM = 3;
    private volatile int nodeNum;
    /**
     * thread unsafe
     */
    private TreeMap<Long, Node> serverNodes = new TreeMap<>();
    private List<Node> serverList = new CopyOnWriteArrayList<>();

    public Node findServer(String key) {
        long l = md5Digest(key);
        SortedMap<Long, Node> sortedMap = serverNodes.tailMap(l);
        Long k = null;
        if (sortedMap.isEmpty()) {
            k = serverNodes.firstKey();
        } else {
            k = sortedMap.firstKey();
        }
        Node node = serverNodes.get(k);
        System.out.println("find node by key,hash=" + l + " node key=" + k + " node=" + node.toString());
        return node;
    }

    public void remove(String name, String ip) {
        if (nodeNum <= 0) {
            return;
        }
        for (int i = 0; i < nodeNum; i++) {
            long l = md5Digest(keyKitWithVitralNode(name, ip, nodeNum));
            serverNodes.remove(l);
        }
        Node node = new Node();
        node.setIp(ip);
        node.setName(name);
        //array list with remove node accounting to equals() method;
        //the same ip and name node can be removed
        // because of implements equals method,
        serverList.remove(node);
    }

    public void createServer(String name, String ip) {
        createServer(name, ip, NODE_NUM);
    }

    private void createServer(String name, String ip, int nodeNum) {
        if (nodeNum <= 0) {
            nodeNum = 0;
        }
        this.nodeNum = nodeNum;
        if (nodeNum == 0) {
            return;
        }
        Node node = new Node();
        node.setName(name);
        node.setIp(ip);
        serverList.add(node);
        for (int i = 0; i < nodeNum; i++) {
            //生成n个虚拟节点
            long l = md5Digest(keyKitWithVitralNode(name, ip, i));
            serverNodes.put(l, node);
            System.out.println(node.toString() + "-" + "第 " + i + "个节点" + "hash=" + l);
        }

    }


    /**
     * 取Md5并散列到0~2^32-1上
     */
    private long md5Digest(String key) {
        MessageDigest md5 = null;
        try {
            md5 = MessageDigest.getInstance("MD5");
        } catch (NoSuchAlgorithmException e) {
            //不做处理。“MD5”是写死的,不可能抛异常
        }
        md5.reset();
        md5.update(key.getBytes());
        byte[] bKey = md5.digest();
        return ((long) (bKey[3] & 0xFF) << 24)
                | ((long) (bKey[2] & 0xFF) << 16)
                | ((long) (bKey[1] & 0xFF) << 8)
                | (long) (bKey[0] & 0xFF);
    }

    private String keyKit(String name, String ip) {
        return name + ":" + ip;
    }


    private String keyKitWithVitralNode(String name, String ip, int index) {
        return name + ":" + ip + ":" + index;
    }

    private static class Node {
        private String name;
        private String ip;

        public String getIp() {
            return ip;
        }

        public void setIp(String ip) {
            this.ip = ip;
        }

        public String getName() {
            return name;
        }

        public void setName(String name) {
            this.name = name;
        }

        @Override
        public boolean equals(Object o) {
            if (this == o) return true;
            if (o == null || getClass() != o.getClass()) return false;
            Node node = (Node) o;
            return Objects.equals(name, node.name) &&
                    Objects.equals(ip, node.ip);
        }

        @Override
        public int hashCode() {
            return Objects.hash(name, ip);
        }

        @Override
        public String toString() {
            return "Node{" +
                    "name='" + name + '\'' +
                    ", ip='" + ip + '\'' +
                    '}';
        }
    }

    public static void main(String[] args) {
        HashServer hashServer = new HashServer();
        hashServer.createServer("node1", "192.168.10.2");
        hashServer.createServer("node2", "192.168.10.1");
        hashServer.findServer("aaa");
    }
}

4.运行结果:

内容概要:该研究通过在黑龙江省某示范村进行24小时实地测试,比较了燃煤炉具与自动/手动进料生物质炉具的污染物排放特征。结果显示,生物质炉具相比燃煤炉具显著降低了PM2.5、CO和SO2的排放(自动进料分别降低41.2%、54.3%、40.0%;手动进料降低35.3%、22.1%、20.0%),但NOx排放未降低甚至有所增加。研究还发现,经济性和便利性是影响生物质炉具推广的重要因素。该研究不仅提供了实际排放数据支持,还通过Python代码详细复现了排放特征比较、减排效果计算和结果可视化,进一步探讨了燃料性质、动态排放特征、碳平衡计算以及政策建议。 适合人群:从事环境科学研究的学者、政府环保部门工作人员、能源政策制定者、关注农村能源转型的社会人士。 使用场景及目标:①评估生物质炉具在农村地区的推广潜力;②为政策制定者提供科学依据,优化补贴政策;③帮助研究人员深入了解生物质炉具的排放特征和技术改进方向;④为企业研发更高效的生物质炉具提供参考。 其他说明:该研究通过大量数据分析和模拟,揭示了生物质炉具在实际应用中的优点和挑战,特别是NOx排放增加的问题。研究还提出了多项具体的技术改进方向和政策建议,如优化进料方式、提高热效率、建设本地颗粒厂等,为生物质炉具的广泛推广提供了可行路径。此外,研究还开发了一个智能政策建议生成系统,可以根据不同地区的特征定制化生成政策建议,为农村能源转型提供了有力支持。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值