如何提高系统的吞吐量（QPS/TPS）

2019独角兽企业重金招聘Python工程师标准>>>

https://mp.weixin.qq.com/s/_I2SNfcAF0kPsRkZLs0uZg

一．系统吞度量要素：

QPS（TPS）：每秒钟request/事务 数量

并发数： 系统同时处理的request/事务数

响应时间： 一般取平均响应时间

QPS（TPS）= 并发数/平均响应时间 或者 并发数 = QPS*平均响应时间

二．如何提高系统QPS？

2.1增加并发数

1.比如增加tomcat并发的线程数，开喝服务器性能匹配的线程数，可以更多满足服务请求。

2.增加数据库的连接数，预建立合适数量的TCP连接数

3.后端服务尽量无状态话，可以更好支持横向扩容，满足更大流量要求

4.调用链路上的各个系统和服务尽量不要单点，要从头到尾都是能力对等的，不能让其中某一点成为瓶颈。
5.RPC调用的尽量使用线程池，预先建立合适的连接数。

2.2减少平均响应时间

1.请求尽量越前结束，越好，这样压力就不要穿透到后面的系统上，可以在各个层上加上缓存

2.流量消峰。放行适当的流量，处理不了的请求直接返回错误或者其他提示。和水坝道理很类似

3.减少调用链

4.优化程序

5.减少网络开销，适当使用长连接

6.优化数据库，建立索引

转载于:https://my.oschina.net/yunjie/blog/1944075