grpc系列：负载均衡及grpc负载均衡相关整理

最新推荐文章于 2025-09-11 02:22:48 发布

原创

最新推荐文章于 2025-09-11 02:22:48 发布 · 2.4k 阅读

5 ·

CC 4.0 BY-SA版权

文章标签：

#负载均衡 #服务器

本文详细探讨了负载均衡的三种技术方案，包括DNS、硬件和软件，以及gRPC中的负载均衡策略，着重讲解了轮询、响应速度和哈希策略。还介绍了如何在Kubernetes中定制gRPC负载均衡，以及NodePort、LoadBalancer和ipvs模式的区别。

一、负载均衡
负载均衡（LB）在微服务架构演进中具有非常重要的意义，负载均衡是高可用网络基础架构的关键组件，我们的期望是调用是平均分配在所有的服务器服务器上的，通常用于将工作负载分布到多个服务器来提高网站、应用、数据库或其他服务的性能和可靠性。
在这里插入图片描述

1.1 负载均衡三种技术方案
目前市面上最常见的负载均衡技术方案主要有三种：

基于DNS负载均衡
在这里插入图片描述
基于硬件负载均衡
硬件的负载均衡那就比较牛逼了，比如大名鼎鼎的 F5 Network Big-IP，也就是我们常说的 F5，它是一个网络设备，你可以简单的理解成类似于网络交换机的东西，完全通过硬件来抗压力，性能是非常的好，每秒能处理的请求数达到百万级，即几百万/秒的负载，当然价格也就非常非常贵了，十几万到上百万人民币都有。
因为这类设备一般用在大型互联网公司的流量入口最前端，以及政府、国企等不缺钱企业会去使用。一般的中小公司是不舍得用的。
采用 F5 这类硬件做负载均衡的话，主要就是省心省事，买一台就搞定，性能强大，一般的业务不在话下。而且在负载均衡的算法方面还支持很多灵活的策略，同时还具有一些防火墙等安全功能。但是缺点也很明显，一个字：贵。
基于软件负载均衡

软件负载均衡是指使用软件的方式来分发和均衡流量。软件负载均衡，分为7层协议和 4层协议。
网络协议有七层，基于第四层传输层来做流量分发的方案称为4层负载均衡，例如 LVS，而基于第七层应用层来做流量分发的称为7层负载均衡，例如 Nginx。这两种在性能和灵活性上是有些区别的。
基于4层的负载均衡性能要高一些，一般能达到几十万/秒的处理量，而基于7层的负载均衡处理量一般只在几万/秒。
基于软件的负载均衡的特点也很明显，便宜。在正常的服务器上部署即可，无需额外采购，就是投入一点技术去优化优化即可，因此这种方式是互联网公司中用得最多的一种方式。
主要有以下几种

HAProxy
Nginx

upstream apigateway {
server 127.0.0.1:8080 max_fails=1 fail_timeout=10s weight=100;
server localhost:8080 max_fails=1 fail_timeout=5s weight=20;
server in-prod-common-goserver-2 backup;
server in-prod-common-goserver-4 backup;
server in-prod-common-goserver-5 backup;
server in-prod-common-goserver-7 backup;
server in-prod-common-goserver-8 backup;
#server in-prod-common-goserver-2 max_fails=1 fail_timeout=2s weight=1;
#server in-prod-common-goserver-4 max_fails=1 fail_timeout=2s weight=1;
#server in-prod-common-goserver-5 max_fails=1 fail_timeout=2s weight=1;
#server in-prod-common-goserver-7 max_fails=1 fail_timeout=2s weight=1;
keepalive 1024; #保持连接
}

location / {
proxy_pass http://apigateway;
proxy_redirect default;
client_max_body_size 20M;
}