面试官:你了解 QPS、TPS、RT、吞吐量 这些高并发性能指标吗?

高并发场景QPS等专业指标揭秘大全与调优实战 最近经常有小伙伴问及高并发场景下QPS的一些问题,特意结合项目经验和网上技术贴做了一些整理和归纳,供大家参考交流。 阅读详情

点击上方“芋道源码”,选择“设为星标”

管她前浪,还是后浪?

能浪的浪,才是好浪!

每天 10:33 更新文章,每天掉亿点点头发...

源码精品专栏

 

来源:blog.youkuaiyun.com/u012562943/

article/details/103252375

88e6d4d345a042f07e6b02bf4d7ffbd7.jpeg


一、QPS,每秒查询

QPS:Queries Per Second意思是“每秒查询率”,是一台服务器每秒能够相应的查询次数,是对一个特定的查询服务器在规定时间内所处理流量多少的衡量标准。互联网中,作为域名系统服务器的机器的性能经常用每秒查询率来衡量。

基于 Spring Boot + MyBatis Plus + Vue & Element 实现的后台管理系统 + 用户小程序,支持 RBAC 动态权限、多租户、数据权限、工作流、三方登录、支付、短信、商城等功能

  • 项目地址:https://gitee.com/zhijiantianya/ruoyi-vue-pro

  • 视频教程:https://doc.iocoder.cn/video/

二、TPS,每秒事务

TPS:是TransactionsPerSecond的缩写,也就是事务数/秒。它是软件测试结果的测量单位。一个事务是指一个客户机向服务器发送请求然后服务器做出反应的过程。客户机在发送请求时开始计时,收到服务器响应后结束计时,以此来计算使用的时间和完成的事务个数。

QPS vs TPS:QPS基本类似于TPS,但是不同的是,对于一个页面的一次访问,形成一个TPS;但一次页面请求,可能产生多次对服务器的请求,服务器对这些请求,就可计入“QPS”之中。如,访问一个页面会请求服务器2次,一次访问,产生一个“T”,产生2个“Q”。

基于 Spring Cloud Alibaba + Gateway + Nacos + RocketMQ + Vue & Element 实现的后台管理系统 + 用户小程序,支持 RBAC 动态权限、多租户、数据权限、工作流、三方登录、支付、短信、商城等功能

  • 项目地址:https://gitee.com/zhijiantianya/yudao-cloud

  • 视频教程:https://doc.iocoder.cn/video/

三、RT,响应时间

响应时间:执行一个请求从开始到最后收到响应数据所花费的总体时间,即从客户端发起请求到收到服务器响应结果的时间。响应时间RT(Response-time),是一个系统最重要的指标之一,它的数值大小直接反应了系统的快慢。

四、并发数

并发数是指系统同时能处理的请求数量,这个也是反应了系统的负载能力。

五、吞吐量

系统的吞吐量(承压能力)与request对CPU的消耗、外部接口、IO等等紧密关联。单个request 对CPU消耗越高,外部系统接口、IO速度越慢,系统吞吐能力越低,反之越高。系统吞吐量几个重要参数:QPS(TPS)、并发数、响应时间。

  • QPS(TPS) :(Query Per Second)每秒钟request/事务 数量

  • 并发数 :系统同时处理的request/事务数

  • 响应时间 :一般取平均响应时间

理解了上面三个要素的意义之后,就能推算出它们之间的关系:

  • QPS(TPS)= 并发数/平均响应时间

  • 并发数 = QPS*平均响应时间

六、实际举例

我们通过一个实例来把上面几个概念串起来理解。按二八定律来看,如果每天 80% 的访问集中在 20% 的时间里,这 20% 时间就叫做峰值时间。

  • 公式:( 总PV数 * 80% ) / ( 每天秒数 * 20% ) = 峰值时间每秒请求数(QPS)

  • 机器:峰值时间每秒QPS / 单台机器的QPS = 需要的机器

1、每天300w PV 的在单台机器上,这台机器需要多少QPS?

( 3000000 * 0.8 ) / (86400 * 0.2 ) = 139 (QPS)

2、如果一台机器的QPS是58,需要几台机器来支持?

139 / 58 = 3

七、最佳线程数、QPS、RT

1、单线程QPS公式:QPS=1000ms/RT

对同一个系统而言,支持的线程数越多,QPS越高。假设一个RT是80ms,则可以很容易的计算出QPS,QPS = 1000/80 = 12.5

多线程场景,如果把服务端的线程数提升到2,那么整个系统的QPS则为 2*(1000/80) = 25, 可见QPS随着线程的增加而线性增长,那QPS上不去就加线程呗,听起来很有道理,公司也说的通,但是往往现实并非如此。

2、QPS和RT的真实关系

我们想象的QPS、RT关系如下

27ef2b20efbd837f3c6aeda52e881f75.png

实际的QPS、RT关系如下

084b7920242f0bc013def3a01498e457.png
3、最佳线程数量

刚好消耗完服务器的瓶颈资源的临界线程数,公式如下

最佳线程数量=((线程等待时间+线程cpu时间)/线程cpu时间)* cpu数量

特性:

  • 在达到最佳线程数的时候,线程数量继续递增,则QPS不变,而响应时间变长,持续递增线程数量,则QPS开始下降。

  • 每个系统都有其最佳线程数量,但是不同状态下,最佳线程数量是会变化的。

  • 瓶颈资源可以是CPU,可以是内存,可以是锁资源,IO资源:超过最佳线程数-导致资源的竞争,超过最佳线程数-响应时间递增。



欢迎加入我的知识星球,一起探讨架构,交流源码。加入方式,长按下方二维码噢:

e14a63d9e7b42134dcd56edbdc31cbbe.png

已在知识星球更新源码解析如下:

21738653c29cb20fcfcafe6167915904.jpeg

ae447102d72d1192cb56bd3b6f9fc72a.jpeg

4fb30ae416420c53b42f04e9571b751d.jpeg

680d9ead71647c61b1183bee3db57580.jpeg

最近更新《芋道 SpringBoot 2.X 入门》系列,已经 101 余篇,覆盖了 MyBatis、Redis、MongoDB、ES、分库分表、读写分离、SpringMVC、Webflux、权限、WebSocket、Dubbo、RabbitMQ、RocketMQ、Kafka、性能测试等等内容。

提供近 3W 行代码的 SpringBoot 示例,以及超 4W 行代码的电商微服务项目。

获取方式:点“在看”,关注公众号并回复 666 领取,更多内容陆续奉上。

5da9030a8b28394853002c00465612db.jpeg

文章有帮助的话,在看,转发吧。
谢谢支持哟 (*^__^*)
【全文背诵!面试必知必会】阿里面试官:你了解 QPS、TPS、RT、吞吐量 这些高并发性能指标吗? 这几项指标是高并发系统的核心指标,每一个程序员都应该理解它们的含义和重要性。在编写 Java 代码时,你会经常接触到这些指标,了解它们并能在实际项目中灵活应用,才能做出高效、可扩展的系统。 阅读详情

相关推荐

性能:吞吐量(TPS)、QPS、并发数与响应时间(RT)是个啥东西?高并发性能指标你了解多少?

通过对吞吐量(TPS)、QPS、并发数和响应时间(RT)的深入解析,我们可以更好地理解和优化系统性能。在数字化时代,高性能的系统和网络架构已成为各行业竞争力的关键因素。未来,随着技术的不断发展和应用场景的不断拓展,我们需要持续关注这些指标的变化,以应对更加复杂和多样化的性能挑战。

橙-极纪元-JJYCheng 9933

RabbitMQ 测试方案及结果

RabbitMQ测试方案 Qos:举例说明:Qos=2如果消费者A 有2个消息没有回应,则MQ不会再往消费者A中发消息,直到收到消息确认后才会再次发送。 Ack:消息确认。 方案1:启动一个生产者,无消费者。   测试结果:每秒生产大约6250条消息,磁盘写入是6250/s                      当消息的堆积量达到40W以上时,每秒进入队列的速率就会降到4500~5

Technology Share 9238

QPS、TPS、并发用户数、吞吐量关系

面试中,难免会被面试官问到,你们接触过的项目中QPS最高是多少?TPS呢?很多同学可能对以上这些专业“简写”术语不太清楚,如果真的在面试中被问到,那是非常尴尬的。

m0_74931226的博客 625

RocketMQ个人理解

RocketMQ中间件剖析项目MQ缺点解决消息ACK机制文件刷盘机制高可用消息主从复制消息重复问题 高并发系统: 系统拆分 2. 缓存 3. MQ 4. 分库分表 5. 读写分离 6. ElasticSearch MQ==》解耦、异步、削峰 通过MQ,Pub/Sub发布订阅消息的一个模型,系统之间就可以进行解耦合了 剖析项目 一个模块,调用了那些系统或模块,相互之间调用关系,维护起来很麻烦,只要这个调用不需要直接同步调用接口,用MQ进行异步化解耦===》MQ做解耦 MQ缺点解决 MQ缺点解决:如

qq_43324779的博客 814

matebookego win11 arm 系统安装安卓子系统

一般的x86电脑如果安装android子系统,运行安卓子系统,由于要将android arm代码转译为x86代码,所以效率不一定高,但是如果电脑是arm架构的,通过安卓子系统运行android的程序执行效率就会 高不少,本文参考,都是在win11 home版本下的。两者跑分在cpu上差不太多了,大约是枭龙855的水平了,这个水平的子系统就有一定的实用性了,玩个一般游戏,刷个抖音都很流畅的。启动子系统后,点击左上角的设置,启用 “开发人员模式”。然后就可以再通运运行华为应用商店来进行安装其它应用了。

babytiger的专栏 1万+

vivado实现SDI接口

XAPP1249,用来介绍UHD_SDI的实现。

Huskar_Liu的博客 7078

聊聊RocketMQ中的broker的TPS和QPS为何相差巨大,是如何统计的

总的来说一般一条消息会被多个业务方消费,所以QPS都是会大于TPS的。TPS主要是统计写消息量QPS主要是统计读(消费)消息量主要注意的是官方目前的统计是有一个小bug的统计的一些QPS、TPS改成统计的是TPM。所以如果要修复这个bug可以参考这个pr相关讨论可以参考这个issues。

念念不忘,必有回响 2005

linux 驱动 - pinctrl子系统

分析总结 pinctrl 子系统框架结构,平台 mtk6771 内核版本 kernel-4.4 , 本文所有的分析均基于此版本。

sty01z的博客 1557

RocketMQ学习总结

在网上看了一下关于rocketmq的面试题,在总结一下,算是一个阶段性学习吧 什么是解耦? 什么是异步? 什么是削峰填谷? RocketMQ 执行流程 怎么理解 Producer 的? 怎么理解 Consumer 的?消费者消费模式有哪几种?? RocketMQ 如何保证高可用的? 如何保证消息不被重复消费?或者说如何保证消息消费时的幂等性? 如何保证消息的可靠性传输?要是消息丢失了怎么办? 如何解决消息队列的延时以及过期失效问题?消息队列满了以后该怎么处理?有几百万消息持续积压几小时,

qq_40918324的博客 719

TSMC40nmLP版图实战:从Design Rule解读到Cadence高效布局布线

本文详细解析了TSMC40nmLP工艺的版图设计实战,从Design Rule解读到Cadence高效布局布线技巧。重点介绍了40nm工艺中的关键设计规则,如最小线宽、间距规则和深N阱规则,并分享了Cadence Virtuoso中的高效工作流和射频模块设计技巧,帮助工程师提升版图设计效率和质量。

weixin_29250403的博客 380

四阶龙格库塔法求解一次常微分方程组(python实现)

之前在博客发布了关于使用四阶龙格库塔方法求解一次常微分方程组的文章,由于代码缺少具体的验证,部分朋友可能存在疑问,因此这里打算再重新写一篇博客来验证一下程序的正确性,另外,这里是使用python语言来实现的。

HelloWorldTM的博客 8543

面试官:你了解 QPS、TPS、RT、吞吐量这些高并发性能指标吗?

本文以面试场景切入,系统解析高并发核心指标:QPS(每秒请求数)、TPS(每秒事务数)、RT(响应时间)、吞吐量与并发数。通过公式、案例与实战工具(如JMeter、Gatling)详解其定义、区别与计算方式,强调QPS/TPS在读写场景中的适用差异,揭示平均值掩盖长尾的陷阱,引入P95/P99分位数评估真实体验。重点阐明Little’s Law(并发数=QPS×RT)在容量规划与性能优化中的指导作用,并结合压测实践与限流降级策略,帮助开发者从“背概念”升级为“有实战思维”的系统性回答,全面提升应对高并发面试

油墨香^-^的博客 385

YOLOv8改进002:添加小目标检测头(小目标检测大量涨点)

YOLOv8 目标检测算法改进之添加小目标检测头,亲测在小目标检测的数据集上有大幅度的涨点效果(mAP直接涨了 0.04 左右)。

m0_46496775的博客 9879

你了解 QPS、TPS、RT、吞吐量 这些高并发性能指标吗?

QPS:Queries Per Second意思是“每秒查询率”,是一台服务器每秒能够相应的查询次数,是对一个特定的查询服务器在规定时间内所处理流量多少的衡量标准。互联网中,作为域名系统服务器的机器的性能经常用每秒查询率来衡量。TPS:是的缩写,也就是事务数/秒。它是软件测试结果的测量单位。一个事务是指一个客户机向服务器发送请求然后服务器做出反应的过程。客户机在发送请求时开始计时,收到服务器响应后结束计时,以此来计算使用的时间和完成的事务个数。

橙-极纪元-JJYCheng 345

Python入门之机器学习(非常详细)篇幅拉满,一般人看不完!

什么是机器学习?监督学习 supervised learning;非监督学习 unsupervised learning;半监督学习 semi-supervised learning;强化学习 reinforcement learning;监督学习是不断向计算机提供数据(特征),并告诉计算机对应的值(标签),最后通过大量的数据,让计算机自己学会判断和识别。例如Google Photo,你在APP中输入狗,这时就会弹出与狗相关的图片,这背后使用的算法就是监督学习。

xiaolinyui的博客 2万+

【PointNet++】使用Open3D将ShapeNet数据集txt文件保存为ply

ShapeNet数据集的txt格式为xyzrgb+label,为了可视化点云,将txt文件保存为pcd或ply。

纵马踏花向自由 752

面试被问了几百遍的 QPS、TPS、RT !你还傻傻搞不清楚?

点关注公众号,回复“1024”获取2TB学习资源!总有不少读者私下与我讨论,面试总被面试官问倒在 QPS、TPS、RT、吞吐量等这些高并发性能指标的理解上。所以,今天干脆来一个全面的科普详解。后面如果再有谁说搞不懂 QPS、TPS、RT、吞吐量!就直接把这个给他甩过去。QPS,每秒查询QPS:Queries Per Second意思是“每秒查询率”,是一台服务器每秒能够相应的查询次数,是对一个特定...

民工哥的博客 1389

怀旧版电脑GBC模拟器

再现原版GBC掌机的界面,电脑运行连游戏界面都一样大小,很怀旧,很真实,(英文版)强烈推荐,很小的文件,很难才找到的。

TPS、QPS、RPS

吞吐量是衡量系统单位时间内处理请求数量的核心指标,通常用于评价服务器或系统的性能能力。吞吐量单位根据具体业务不同而不同:网页请求:页面数/秒电商业务:订单数/小时数据库系统:事务数/秒(TPS)搜索服务或接口请求:查询数/秒(QPS)指标含义使用场景TPS每秒事务处理数数据库、支付系统QPS每秒查询处理数搜索服务、查询接口RPS每秒请求数综合服务接口RT单次请求的响应耗时衡量用户体验。

陈子青的博客 1039

IMSL CNL 7.0.0 (x86-64)Crack

IMSL CNL 7.0.0 (x86-64)Crack intel的算法库破解文件,这是C++版本的破解文件

C# WinForm 基于DirectShow.dll编写的程序,可边预览边保存视频,音频和图片

基于微软的DirectShow.dll的二次开发1.自动识别连接的摄像头跟麦克风且可以对其进行选择(默认选中第一个)2.可录制wmv和avi两种格式的视频并且都带有音频,avi可以录制的分辨率和帧数进行选择,wmv默认进行了淸晰度优化如不喜欢可去除代码中有相关提示3.可在预览点开之后进行拍照,也可边录制视频边拍照4.添加了视频和音频的压缩功能(酌情使用)这次二次开发发现C#对DirectShow的相关信息太少,这次做完也不敢藏私共享出来,还望大家指正

什么是TPS、QPS、并发数、RT

对于一个多用户的系统,如果只有一个用户使用时系统的平均响应时间是t,当有你n个用户使用时,每个用户看到的响应时间通常并不是n×t,而往往比n×t小很多(当然,在某些特殊情况下也可能比n×t大,甚至大很多)。需要指出的是,响应时间的绝对值并不能直接反映软件的性能的高低,软件性能的高低实际上取决于用户对该响应时间的接受程度。响应时间是指系统对请求作出响应的时间。前面已经说过,对于单用户的系统,响应时间(或者系统响应时间和应用延迟时间)可以很好地度量系统的性能,但对于并发系统,通常需要用吞吐量作为性能指标。

2401_85112269的博客 744

jdk-8u144-linux-x64.tar.gz.

该资源为搭建Linux系统Java环境用,资源的后缀为tar.gz格式的压缩包

PS/TPS/PV PV、TPS、QPS之间的关系

PV、TPS、QPS是怎么计算出来的? QPS/TPS/PV 之间的关系 一、一道面试题,引发的思考 面试官:你做过的系统中,用户量是多少?用了多少台服务器进行负载?怎么判断这个系统需要多少台服务器? 二、概念解读 QPS:(Queries Per Second),及每秒执行的查询总数(每秒有多少的请求响应--“每秒查询率”)。 客户端请求一个地址时,比如百度首页,其实会产生很多的请求,比如js、css、png等,像这样的每个单个请求都可以算作查询次数。若在一秒内,客户端请求服务端的首页,服

cao919的专栏Net 1165

Java实习模拟面试之高并发系统基石:深入理解QPS与性能评估核心指标

是的,面试官,一个全面的性能评估绝不能只看QPS和RT。还有几个关键指标至关重要,它们共同描绘了系统的健康状况。1. 错误率 (Error Rate)在测试期间,失败的请求(HTTP 4xx, 5xx)占总请求数的百分比。这是衡量系统稳定性和可靠性的核心指标。一个QPS很高但错误率也高的系统是不可用的。例如,5000 QPS但错误率20%,意味着每秒有1000个用户操作失败,这是灾难性的。理想情况下,随着QPS的提升,错误率应该保持稳定或缓慢上升。

吾为热爱计科,致力于知识分享的践行者,此博客是我在这条道路上留下的足迹。 670
上一篇: 5896G 内存,国产服务器,真的太强了!
下一篇: 深度剖析Redis持久化机制
公众号-芋道源码
博客等级 码龄10年 1639粉丝 377原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值