Ribbon负载均衡器,客户端负载均衡与服务端负载均衡

一.前言

SpringBoot项目启动,传参有哪些方式?

1.Spring级别的参数

直接在启动 Spring Boot 应用的命令行中使用 -- 后跟参数名和值的方式来传递参数。

记住:一般是对于Spring Boot应用特有的配置参数,确保它们遵循Spring Boot的配置属性命名规则,这样才能被正确解析。

2.程序(应用)参数Program arguments

在这里,arg1arg2 是直接传递给应用程序的简单参数,而 --spring.profile.active=dev--my.custom.param=value 则是Spring Boot应用特有的配置参数,它们会被Spring Boot解析并应用于相应的配置项。

而简单的命令行参数(非--开头的)通常需要你的应用代码通过 public static void main(String[] args) 方法中的 args 数组来手动处理。

3.JVM 系统属性 (-D)

JVM 系统属性 (-D) 在启动 Java 应用程序时设置 Java 虚拟机(JVM)系统级属性的方法。虽然通常用于设置 JVM 级别的属性,但在某些情况下,也可以用来传递应用程序需要的参数。这些属性可以在应用程序运行时通过 java.lang.System.getProperty(String key) 方法访问

二.Ribbon负载均衡器

1. 负载均衡器

目前主流的负载方案分为以下两种:(面试题

1.1 服务端负载均衡

在消费者和服务提供方中间使用独立的代理方式进行负载,有硬件的(比如 F5),也有软件的(比如 Nginx,OpenResty)

例如Nginx,通过Nginx进行负载均衡,先发送请求,然后通过负载均衡算法,在多个服务器之间选择一个进行访问;即在服务器端再进行负载均衡算法分配。

1.2 客户端负载均衡器

客户端根据自己的请求情况做负载均衡,Ribbon 就属于客户端自己做负载均衡。

2.Ribbon

Spring Cloud Ribbon是基于Netflix Ribbon 实现的一套客户端的负载均衡工具,Ribbon客户端组件提供一系列的完善的配置,如超时,重试等。通过LoadBalancer获取到服务提供的所有机器实例,Ribbon会自动基于某种规则(轮询,随机)去调用这些服务。Ribbon也可以实现我们自己的负载均衡算法。

3.常见的负载均衡算法

如果使用的RestTemplate进行服务调用,那么创建RestTemplate的方法上面加@LoadBalanced注解就会开启Ribbon的负载均衡,Ribbon负载均衡有以下7中规则,默认轮询

只需要记住这四个就行 : 轮询 随机 权重 响应时长

  1. RoundRobinRule(轮询规则): 最简单的负载均衡策略,按照顺序循环地将请求分发到每个服务实例。每个服务实例依次接收请求,实现基本的公平分配。

  2. AvailabilityFilteringRule(可用性过滤规则): 此规则会先从服务列表中过滤掉由于多次访问失败而标记为“短路”的服务实例,以及那些当前并发连接数过高的实例,然后采用轮询的方式选择一个可用的服务实例。它可以有效避免将请求分发到已知有问题的实例上。

  3. WeightedResponseTimeRule(加权响应时间规则): 根据每个服务实例的历史响应时间动态调整其权重,响应时间越快的服务实例被选中的概率越高。这种方式可以逐渐将更多流量导向性能更好的服务实例。

  4. RandomRule(随机规则): 随机选择一个服务实例来处理请求。虽然简单,但在某些场景下可以减少特定服务实例被连续击中的可能性。

  5. BestAvailableRule(最佳可用规则): 选择当前并发请求数最少的服务实例,如果有多个这样的实例,则随机选择一个。这个策略侧重于选择当前负载较低的服务。

  6. ZoneAvoidanceRule(区域避免规则): 这个规则不仅考虑实例的可用性,还会考虑网络延迟,倾向于选择同区域中表现最好的服务实例。特别适合部署在多区域环境中的服务,以减少跨区域的网络延迟。

这些规则通过实现 IRule 接口来定义,允许用户根据自己的业务需求选择合适的负载均衡策略。此外,Ribbon 还支持自定义规则,用户可以根据特定场景实现自己的负载均衡逻辑

4.Nacos中使用Rabbion

nacos-discovery已经包含Ribbon的依赖,不需要再单独引入Ribbon

4.1添加@LoadBalanced注解

@Configuration
public class RestConfig {

    @Bean
    @LoadBalanced      //注意需要添加@LoadBalanced注解
    //作用:RestTemplate 就会把url上面的一级目录最为服务名,去注册中心找到对应的ip列表,
    //根据算法使用其中一个ip+port
    public RestTemplate restTemplate() {
        return new RestTemplate();
    }
}

5.Ribbon负载均衡策略

IRule这是所有负载均衡策略的父接口,里边的核心方法就是choose方法,用来选择一个服务实例。

6.修改默认负载均衡策略

6.1使用其它规则

@Configuration
public class RibbonConfig {
    @Bean
    public IRule rule(){             //使用随机的策略
        return new RandomRule();
        //指定使用Nacos提供的负载均衡策略
        return new NacosRule();
    }
}

6.2自定义规则


public class MyRule extends AbstractLoadBalancerRule {

    @Autowired
    private NacosDiscoveryProperties nacosDiscoveryProperties;

    //JUC包下,线程安装的Integer
    private static AtomicInteger count = new AtomicInteger(0);
    private Server server = null;
    @Override
    @SneakyThrows
    public Server choose(Object key) {
        BaseLoadBalancer loadBalancer = (BaseLoadBalancer) this.getLoadBalancer();
        //获取服务名称
        String serverName = loadBalancer.getName();
        NamingService namingService = nacosDiscoveryProperties.namingServiceInstance();
        List<Instance> allInstances = namingService.getAllInstances(serverName, true);

        //6062
        Instance maxInstance = allInstances.stream().max(Comparator.comparing(Instance::getWeight)).get();
        //6061
        Instance minInstance = allInstances.stream().min(Comparator.comparing(Instance::getWeight)).get();

        int count2 = count.addAndGet(1);
        System.out.println(count2);
        int mod = count2 % 5; //取模运算  5,10,15,20,25 ...
        if(mod == 0){  //当次数是5的倍数的时候,mod就是0, 
            server = new Server(minInstance.getIp(),minInstance.getPort());
        } else  {
            //mod 是 1,2,3,4 的时候打到权重高的这个机器上  
            server = new Server(maxInstance.getIp(),maxInstance.getPort());
        }
        return server;
    }



}

6.3 使用自己的规则(两种配置方式)

6.3.1 使用注解配置

@Configuration

@RibbonClients(defaultConfiguration = MyRule.class) //全局设置负载规则,默认是轮询的
@RibbonClient(name = "nacos-a", configuration = MyRule.class) //针对某个服务,特殊配置
public class RibbonConfig {

    /**
     * 全局配置
     * 指定负载均衡策略

     */
    @Bean
    public IRule iRule() {        //使用自己的规则        return  new MyRule();
    }}

6.3.2 基于配置文件配置,调用指定微服务提供的服务时,使用对应的负载均衡算法


#配置具体某一个服务个性化规则
nacos-b.ribbon.NFLoadBalancerRuleClassName=com.beiyou.config.MyRule

##配置全局的负载均衡规则 (不生效)
default.ribbon.NFLoadBalancerRuleClassName=com.netflix.loadbalancer.RoundRobinRule

如果同时应用了以上两种方式去配置负载均衡,注解的优先级更高,则以注解为准.

因为配置文件的加载顺序在注解之前,后加载的配置会覆盖先前配置。

推荐使用配置文件,可以放进nacos,比较灵活。

7.超时时间

ribbon.ConnectTimeoutribbon.ReadTimeout。这两个属性分别控制连接建立的超时时间和从服务器读取数据的超时时间。

ribbon:
  ConnectTimeout: 2000
  ReadTimeout: 5000

然而,在 Spring Cloud 中针对特定的服务实例具象化配置。如果你有一个名为 my-service 的服务,你可能需要这样配置:

my-service:
  ribbon:
    ConnectTimeout: 2000
    ReadTimeout: 5000

Ribbon 的默认超时配置值可能会根据不同的 Ribbon 版本和集成方式有所不同。然而,在典型的 Spring Cloud 配置中,Ribbon 的默认超时时间通常如下:

ribbon.ConnectTimeout 默认值为 2000 毫秒(即2秒)。这是建立连接到后端服务的时间限制。

ribbon.ReadTimeout 默认值为 5000 毫秒(即5秒)。这是在建立连接之后,从后端服务读取响应的时间限制。

但是,请注意,这些默认值可能因具体的应用环境和集成框架(如 Spring Cloud 的版本)而有所不同。例如,在某些早期的 Spring Cloud 版本中,ribbon.ReadTimeout 的默认值可能是 1 秒,这取决于你的具体依赖版本。

8.饥饿加载 (面试题)

Ribbon第一次调用为什么会很慢?

Ribbon-饥饿加载.mp4(17.3 MB)- 0%

如果多个服务开启饥饿模式,使用逗号分隔。 clients: userservice,orderservice

9.内核原理

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

这孩子叫逆

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值