【成为架构师2-7】TCP负载均衡，长连接的负载均衡策略

最新推荐文章于 2025-09-21 18:54:23 发布
原创 最新推荐文章于 2025-09-21 18:54:23 发布 · 3.6k 阅读 · 7 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#分布式 #负载均衡 #服务器

本文探讨了TCP负载均衡在单体架构、客户端负载均衡和服务端负载均衡中的实现，强调了高可用性的重要性。客户端负载均衡通过DNS解析选择TCP服务器，但面临扩展性和安全性挑战。服务端负载均衡通过中间HTTP服务器动态提供TCP服务器IP，通过服务状态上报或拉取确保高可用。随着企业规模增长，接入层架构演进是关键。

系列文章是博主对沈剑的《架构师训练营》分享内容的个人笔记总结，原内容公众号“成为架构师”。

目录

1 单体架构TCP连接与HTTP的负载均衡

单机架构
在这里插入图片描述
使用简单的TCP直连

http负载均衡

http负载均衡通常使用反向代理来实现，这在前面的文章中已经进行了阐述

2 客户端负载均衡（内置集群）

客户端负载均衡就是在客户端维护一个域名列表，当要发起TCP连接的时候，使用选定的策略选择其中一个域名，通过dns-server的域名解析得到tcp服务器的ip
在这里插入图片描述
高可用如何保持

客户端需要自己制定重连机制，当发现选择域名的tcp-server

问题

  1. 多了一次dns解析，速度下降（手机端尤为明显）
  2. dns劫持的安全风险

上述问题可以通过ip直连来解决，也就是客户端保存的不是域名列表，而直接是tcp-server的外网ip

但这一方案的核心问题是：无法进行扩展，如果新增加了tcp-server需要修改客户端

所以将负载均衡策略会有诸多的问题

3 服务单负载均衡（静态IP列表）

每一次访问tcp-server之前先访问一个新增的http服务器来获取tcp-server的ip

最低0.47元/天 解锁文章
微服务架构的六大核心组件解析：服务通信+事件驱动+负载均衡+服务路由+API网关+配置管理
张彦峰的博客
01-03 170万+
本文介绍了微服务架构中的六大基础组件：服务通信、事件驱动、负载均衡、服务路由、API网关和配置管理。通过深入分析每个组件的功能和实现方式，本文阐述了这些组件如何协同工作，以提高系统的可扩展性、可靠性和灵活性。文章还强调了微服务架构在实际应用中的挑战，并提供了优化架构设计的建议，以帮助企业构建高效、可维护的分布式系统。
提示工程架构师进阶：动态权重负载均衡详解
最新发布
SuperAGI2025
10-05 951
在当今的分布式系统中，负载均衡是确保系统高可用性、高性能和可扩展性的关键组件。传统的负载均衡算法，如轮询、随机等，虽然简单易用，但在面对复杂多变的系统环境时，往往无法满足业务需求。动态权重负载均衡作为一种更为智能和灵活的负载均衡策略，能够根据服务器的实时状态动态调整请求分配权重，从而实现更高效的资源利用和更优的用户体验。对于提示工程架构师来说，深入理解和掌握动态权重负载均衡技术，对于构建高性能、可扩展的提示工程系统至关重要。
Nginx负载均衡之长连接负载均衡
wyx的博客
06-14 2431
当客户端通过浏览器访问 HTTP 服务器时，HTTP 请求会通过 TCP 协议与 HTTP 服务器建立一条访问通道，当本次访问数据传输完毕后，该 TCP 连接会立即被断开，由于这个连接存在的时间很短，所以 HTTP 连接也被称为短连接。默认配置下，Nginx 的工作进程与被代理服务器建立的连接都是短连接，所以获取请求响应后就会关闭连接并通知可用连接池回收此代理连接资源。当工作进程与被代理服务器有新的连接请求时，会先在长连接缓存池中查找符合需求的连接，如果存在则使用该连接，否则创建新连接。
Nginx的TCP负载均衡介绍
weixin_33883178的博客
04-21 818
Nginx Plus的商业授权版开始具有TCP负载均衡的功能。从Nginx 1.7.7版本开始加入的，现在变成了一个商业收费版本，想要试用，需要在官网申请。也就是说，Nginx除了以前常用的HTTP负载均衡外，Nginx增加基于TCP协议实现的负载均衡方法。HTTP负载均衡，也就是我们通常所有“七层负载均衡”，工作在第七层“应用层”。而TCP负载均衡，就是我们通常所说的“四层...
面试官：聊聊长连接下的负载均衡
mxt51220的博客
10-27 1673
本文介绍了长连接与短连接的特点，为什么需要做长连接负载均衡，以及几个长连接负载均衡的问题和解法，相对来说还是比较通俗易懂，希望对大家有所帮助。
基于netty框架的socket长连接负载均衡解决方案
热门推荐
喔易
09-14 1万+
前言 物联网如今是一个大的趋势，但是概念还比较新颖。大家对这一块的技术积累也比较匮乏，借此前段时间摩拜单车出现了大规模瘫痪的现象。我们今天来讨论一下物联网项目的开发方式。 关于tcp/ip 相关的知识点 tcp三次握手，四次挥手http://blog.youkuaiyun.com/whuslei/article/details/6667471 tcp Client/server 最大连接数http://...
TCP负载均衡方案
rongge2008的专栏
07-25 706
1.nginx+keepalived http://www.cnblogs.com/holbrook/archive/2012/10/25/2738475.html 2.Haproxy+Keepalived http://www.blogjava.net/xiaomage234/archive/2011/04/26/349039.html http://www.cnblogs.
提示工程架构师必备技能：负载均衡策略的源码分析
AI算力网络与通信的博客
08-02 842
负载均衡（Load Balancing）是分布式系统中将客户端请求或任务分配到多个服务节点提高系统吞吐量：避免单点过载，充分利用集群资源；保证高可用性：自动隔离故障节点，确保服务不中断；优化响应时间：将请求分发到“最合适”的节点，减少等待。负载均衡是LLM服务从“可用”到“高可用、高性能”的关键技术，而通用负载均衡算法在LLM场景下存在显著局限性。深入理解算法本质：不仅会用，更要通过源码剖析掌握轮询、最小连接、一致性哈希等算法的决策逻辑与适用场景；聚焦LLM场景特性。
论负载均衡设计技术(2025年系统架构设计师论文)
天涯雨的博客
09-21 128
论负载均衡设计技术(2025年系统架构设计师论文)
聊聊长连接下的负载均衡
浩浩的博客
12-27 933
聊聊长连接下的负载均衡
TCP 负载均衡
weixin_33770878的博客
12-19 1176
(1) 知识了解 TCP负载均衡用于多个服务器的TCP流量的负载均衡，主要是一个虚拟的IP地址和NAT转化实现的。 在服务器集群的前端是一个Router，用来提供NAT服务并且配置了TCP负载均衡。 网络拓扑图形 图形中虚拟IP:192.168.1.1 NAT表 ...
nginx tcp 负载均衡 长连接_TCP负载均衡 高可用 高扩展架构
weixin_39531834的博客
12-23 660
互联网架构中,web-server接入一般是用nginx来做反向代理,实施负载均衡,架构一般也就是三层:调用层,一般是浏览器或者app中间是反向代理,nginx下游是真实的接入集群,web-server,一般我们用的是tomcat,apache整个的访问过程是:(盗图了)1.浏览器发起请求2.DNS将地址解析为IP地址3.通过外网IP访问nginx4.nginx发起负载均衡策略,常见的轮...
【计算机网络】TCP负载均衡实验
m0_65787507的博客
07-26 1791
分别采用Telnet和远程桌面连接(设置方法是右击“计算机”图标，在弹出的快捷菜单中选择“属性”选项，在“系统属性”对话框中选择“远程”,选择“允许用户远程到此计算机”复选框)的方法代替(1),重做(2)～(4)的内容。1：采用prefix设置rotary存在问题，在主机A的浏览器上访问虚拟地址，该虚拟地址只会翻译到服务器1的地址，而不会翻译到服务器2的地址。然后，在主机A上尝试以远程连接的方式访问服务器2的主机。首先，配置服务器2主机的远程设置，变成允许其他主机远程连接到当前主机的状态。
TCP长连接短连接和负载均衡的关系
zero的运营与运维
05-09 703
TCP协议网络通信连接的建立3次握手；在建立连接和断开连接的过程中间进行数据的传输，在传输过程中是需要耗费资源和时间；2.Client或server通过keepalive刷新Load Balance 的TCP timeout时间保持连接。笔者想整理这个解析的原因是因为在负载运维工作这些年里发一个问题，思维上对于TCP长短连接行为存在些许误区；本次计划结合图形和负载均衡TCP超时的实例来说明一下TCP长短连接的区别。1.TCP长连接负载均衡通过调整TCP timeout保持连接；
TCP长连接在k8s中基于nginx负载均衡
wangxin123wangxin的博客
02-28 4581
TCP长连接在k8s中基于nginx负载均衡
解决k8s中的长连接负载均衡问题
qq_40159308的博客
02-04 8913
目录长连接与短连接：简介使用步骤适用场景当k8s遇上长连接：问题描述解决方案 长连接与短连接： 简介 长连接是指在一个TCP连接上可以连续发送多个数据包，在TCP连接保持期间，如果没有数据包发送，需要双方发检测包以维持此连接； 短连接则是指通信双方有数据交互时，就建立一个TCP连接，数据发送完成后，则断开此TCP连接， 其实长连接相较于通常的短连接，是长时间保持客户端与服务端的连接状态。 使用步骤 短连接的使用步骤： 建立连接→数据传输→关闭连接 长连接的使用步骤： 连接→数据传输→保持连接→数据传输→保持
负载均衡- TCP/ IP 基础知识
weixin_33705053的博客
02-18 185
负载均衡- TCP/ IP 基础知识 转载于:https://www.cnblogs.com/Tonyzczc/p/10395340.html
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值