服务的高可用、高并发、高性能

本文探讨了构建高可用、高并发和高性能系统的关键技术,如网关设计、服务拆分、限流降级、数据库和Redis集群、Nginx与Zuul在负载均衡和网关功能上的区别。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

一、高可用


1、前置: 引入网关,剔除故障节点,避免节点服务出现问题,导致交易失败,当多个节点出现故障,可以限流,
避免因为流量瞬间打到一台机器,导致所有服务不可用。

2、服务拆分:业务系统直接解耦,核心系统的多节点部署等。

请求限制:
1、降级(超过多长时间没有拿到结果,直接结束掉)、熔断(直接走兜底逻辑) 提供过载保护
3、限流(令牌桶,或者信号量,或则分布式redis)
4、排队(消息队列,或者本地用阻塞队列)
5、风控拦截等。
6、失败重试: 重试主要体现在远程的RPC调用,受网络抖动、线程资源阻塞等因素影响,请求无法及时响应
7、补偿:通过补偿,来实现数据的最终一致性, 注意:补偿操作有个重要前提,业务能接受短时间内的数据不一致
数据库(服务集群化):Mysql集群,主从复制的方式

redis集群部署:接入sentinel哨兵模式

二、高并发

提高QPS的架构策略
1、使用Redis,直接操作缓存,多级缓存。
2、节点集群化部署,来达到负载均衡目的 
3、池化技术,线程池

三、高性能:

高性能指程序处理速度非常快,所占内存少,且CPU占用率低
影响耗时:内部业务逻辑、下游系统的性能、业务链路的长度、请求/响应数据包大小

1、避免因为IO阻塞让CPU闲置,导致CPU的浪费。
2、避免使用太多的锁,导致并行系统串行化
3、避免创建、销毁、维护太多进程、线程,导致操作系统浪费资源在调度上
4、合理使用线程池、或者连接池的
5、或者消息队列,晓峰。
6、非核心业务异步拆分,提供服务的响应

跳转原文

四、Nginx 和 Zuul 的区别

不同点:
 1) 首先 , NginxC语言开发,ZuulJava语言开发
 2) 其次,Nginx负载均衡实现,采用服务器实现负载均衡,Zuul负载均衡的实现是采用Ribbon+Eureka 来实现本地负载均衡.
 3) Nginx适合于【服务器端】负载均衡,Zuul适合【微服务】中实现网关
 4) Nginx相比Zuul功能会更加强大,因为Nginx整合一些脚本语言( Nginx + lua )
 5) Nginx 是一个高性能的HTTP 和反向代理服务器, 也是一个IMAP/POP3 /SMIP 服务器. ZuulSpring Cloud
  Netflix 中的开源的一个API Gateway 服务器,本质上是一个web servlet 应用, 提供动态路由,监控,弹性,
  安全等边缘服务的框架. Zuul 相当于是设备和Netflix 流应用的Web 网站后端所有请求的前门

相同点: 
 1) 可以实现负载均衡 (Zuul使用的是Ribbon实现负载均衡)
 2) 可以实现反向代理 (即隐藏真实ip地址)
 3) 可以过滤请求,实现网关的效果。
 
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

信仰_273993243

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值