一、高可用
1、前置: 引入网关,剔除故障节点,避免节点服务出现问题,导致交易失败,当多个节点出现故障,可以限流,
避免因为流量瞬间打到一台机器,导致所有服务不可用。
2、服务拆分:业务系统直接解耦,核心系统的多节点部署等。
请求限制:
1、降级(超过多长时间没有拿到结果,直接结束掉)、熔断(直接走兜底逻辑) 提供过载保护
3、限流(令牌桶,或者信号量,或则分布式redis)
4、排队(消息队列,或者本地用阻塞队列)
5、风控拦截等。
6、失败重试: 重试主要体现在远程的RPC调用,受网络抖动、线程资源阻塞等因素影响,请求无法及时响应
7、补偿:通过补偿,来实现数据的最终一致性, 注意:补偿操作有个重要前提,业务能接受短时间内的数据不一致
数据库(服务集群化):Mysql集群,主从复制的方式
redis集群部署:接入sentinel哨兵模式
二、高并发
提高QPS的架构策略
1、使用Redis,直接操作缓存,多级缓存。
2、节点集群化部署,来达到负载均衡目的
3、池化技术,线程池
三、高性能:
高性能指程序处理速度非常快,所占内存少,且CPU占用率低
影响耗时:内部业务逻辑、下游系统的性能、业务链路的长度、请求/响应数据包大小
1、避免因为IO阻塞让CPU闲置,导致CPU的浪费。
2、避免使用太多的锁,导致并行系统串行化
3、避免创建、销毁、维护太多进程、线程,导致操作系统浪费资源在调度上
4、合理使用线程池、或者连接池的
5、或者消息队列,晓峰。
6、非核心业务异步拆分,提供服务的响应
跳转原文
四、Nginx 和 Zuul 的区别
不同点:
1) 首先 , Nginx是C语言开发,而 Zuul 是Java语言开发
2) 其次,Nginx负载均衡实现,采用服务器实现负载均衡,而Zuul负载均衡的实现是采用Ribbon+Eureka 来实现本地负载均衡.
3) Nginx适合于【服务器端】负载均衡,Zuul适合【微服务】中实现网关
4) Nginx相比Zuul功能会更加强大,因为Nginx整合一些脚本语言( Nginx + lua )
5) Nginx 是一个高性能的HTTP 和反向代理服务器, 也是一个IMAP/POP3 /SMIP 服务器. Zuul是 Spring Cloud
Netflix 中的开源的一个API Gateway 服务器,本质上是一个web servlet 应用, 提供动态路由,监控,弹性,
安全等边缘服务的框架. Zuul 相当于是设备和Netflix 流应用的Web 网站后端所有请求的前门
相同点:
1) 可以实现负载均衡 (Zuul使用的是Ribbon实现负载均衡)
2) 可以实现反向代理 (即隐藏真实ip地址)
3) 可以过滤请求,实现网关的效果。