QPS和并发数和平均耗时的关系以及压测思路

QPS是每秒钟处理的请求数。对于一个系统来说,这个值有一个上限,压测的一个目的是测出这个最大值,来评估我们系统的能力。

并发数是一个时刻能系统中有多少在处理中的请求。对于一个系统来说,当然这个值也有一个上限,压测也可以测出最大并发数。

平均耗时avg,即一个请求从被接收到,到处理完成所耗费的平均时间。

上述三者有一个关系即:并发数=QPS * avg。
这个公式可以这么理解:假设qps=1000,avg=50ms,设并发数为x。那么这x个请求是系统正在处理的,他们平均需要50ms处理完成。那么50ms内系统能处理多少请求呢?就是1000 * 50ms=1000 * 0.05s=50个。也就是当前的并发数x=50。

再比如,每秒钟能处理100个请求(qps)。每个请求处理2秒(avg)。那么每个时刻都有200个请求(并发量)在处理,并发数为200。

系统实时并发数低,并不代表系统的处理能力差。相反,在系统处理较快时,没有请求积压,并发数接近于0。

压测思路:(可以使用jmeter等进行压测)设定x个线程去同时请求接口(人为指定并发数为x),测得此时的qps、平均耗时等值。然后逐渐增大并发数进行测试,随着并发数的增大qps会逐渐增大直到达到一个最大值。这时我们就得到了系统的一个qps上限。这时如果并发数继续增大,因为qps已经到达上限了,那么为了满足并非=qps*avg的公式,只能增大耗时,也就是会看到耗时的增加,接口响应变慢。

此外,还可以不断增大并发数直到接口响应出现error,测得一个系统能承载的最大并发数。

参考文档
1.QPS和并发数的关系
这篇文章用生动的例子解释了qps和并发,值得一读。

2.性能测试工具 关于压力测试中 TPS 和并发数的疑惑
这里有对并发数、qps、tps的一些讨论,很有启发性,值得一读。

### 计算 ART(平均响应时间)的方法 ART 是衡量系统性能的重要指标之一,通常可以通过以下公式计算: #### 公式 \[ \text{ART} = \frac{\sum (\text{所有请求的响应时间})}{\text{总请求数}} \] 其中: - 所有请求的响应时间为每次请求完成所需的时间。 - 总请求数为统计周期内的实际请求数。 如果已知 QPS TPS 的关系,则可以间接推导出 ART。假设系统的吞吐量 \( TPS \) 已经稳定在一个固定值,并且在单位时间内完成了 \( N \) 个请求,则可以根据以下方法估算 ART[^1]: #### 推导过程 1. **QPS 定义** QPS 表示每秒查询数,即单位时间内服务器能够处理的最大请求数。可以用下述公式表示: \[ QPS = \frac{\text{总请求数}}{\text{总耗时}} \] 2. **ART 转换** 将上述公式变形可得: \[ \text{ART} = \frac{\text{总耗时}}{\text{总请求数}} \] 3. **结合 QPS ART** 如果知道 QPS 总请求数 \( N \),则可以通过如下方式计算 ART: \[ \text{ART} = \frac{N}{QPS} \] 需要注意的是,在高并发场景下,由于队列效应的存在,ART 可能会受到排队延迟的影响而变长。因此,实际量中的 ART 往往需要通过压力测试工具采集数据并分析得出[^3]。 --- ### 示例代码实现 以下是基于 Python 实现的一个简单 ART 计算函数: ```python def calculate_art(total_requests, total_time_seconds): """ 计算平均响应时间 (ART) 参数: total_requests (int): 总请求数 total_time_seconds (float): 总耗时(秒) 返回: float: 平均响应时间(秒) """ if total_requests == 0 or total_time_seconds <= 0: raise ValueError("总请求数总耗时必须大于零") art = total_time_seconds / total_requests return art # 示例调用 total_requests = 1000 # 总请求数 total_time_seconds = 50.0 # 试持续时间(秒) art = calculate_art(total_requests, total_time_seconds) print(f"Average Response Time (ART): {art:.4f} seconds") # 输出结果保留四位小数 ``` --- ### 注意事项 - 在分布式环境下,需确保各节点的数据一致性,避免因网络传输或其他因素导致误差。 - 对于某些特定业务逻辑复杂的系统,可能还需要考虑额外的因素,比如缓存命中率、TTL 设置等对整体性能的影响[^2]。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值