性能测试-压测中服务器负载不均衡的处理方法

和大家分享下，这两天做压测，服务器资源仍有剩余，但是tps压不上去的情况。

1、模型和服务器的资源富余，tps上不去，发现是因为两台服务器，但是只有1个pod，浪费了一台资源。

处理方法：增加pod数量。

2、在服务器4台，8pod的情况下，可以看到负载不均衡实际只有两台机器在跑。

原因：发现k8s的pod，在伸缩到8个的时候，全部分布在了两台机器上。并没有均衡分布在4台上。

处理方法：联系运维对pod的节点进行手动调整

3、在pod均衡分布的情况下，负载仍然显示异常，只有一台在工作

原因：和开发讨论后，觉得是因为长链接导致的，压测的数据一万条一直请求到了同一台服务器上。

处理办法：在请求头header里，把Connection的值修改为close

在修改后，服务器的负载终于接近了均衡，tps值也顺利提高了很多。

但是注意，在内部调用接口的时候，通常开启的是http2，不支持设置为短链接，只能使用长连接，这种情况也可以通过一些方式优化：（改策略，把轮询策略改成最少连接数策略，让每个grpc服务的连接数均衡一点。）