从QPS到吞吐量:解密高并发系统的核心性能指标

解密QPS、TPS、RPS与吞吐量:性能测试中的核心指标解析 本文深入解析性能测试中的核心指标QPS、TPS、RPS与吞吐量,揭示它们在系统性能评估中的不同作用和应用场景。通过实际案例和工具示例,帮助读者准确选择和使用这些指标,避免常见误区,提升性能测试的精准度和效率。 阅读详情

1. 从“快”到“多”:高并发系统的性能指标全景图

刚入行那会儿,我最怕的就是性能压测报告。看着上面密密麻麻的QPS、TPS、RT、吞吐量,感觉每个字母都认识,但组合在一起就让人头大。项目经理指着报告问:“咱们系统到底能抗住多少人?”我支支吾吾,只能回答“应该还行”。后来踩过不少坑,比如明明QPS看着挺高,但用户却反馈卡顿;或者压测时TPS达标了,一上线却直接宕机。我才明白,这些指标从来都不是孤立存在的数字,它们是一个立体网络,共同描绘了系统的“健康图谱”。今天,我就把这些年摸爬滚打总结出的经验,用最直白的话分享给你,帮你彻底理清从QPS到吞吐量这一系列核心性能指标的门道。

简单来说,你可以把高并发系统想象成一个繁忙的高速公路收费站。QPS(每秒查询数) 就像是一分钟内有多少辆车开到了收费窗口前,它只关心“来了多少辆车”这个动作。TPS(每秒事务数) 则更严格,它要求车辆完成“停车、交费、抬杆、离开”这一整套完整的流程,才算一次有效计数。而吞吐量,就是这条收费站在一段时间内,实际成功放行的所有车辆的总和,它综合了车流量和通行效率。至于响应时间(RT),就是每辆车从开始排队到完全离开所花费的时间,它直接决定了司机的体验。我们做性能优化,终极目标就是让这条“高速公路”在车流量巨大(高QPS)的情况下,还能让每辆车快速通过(低RT),并且确保绝大部分车辆都能完成缴费通行(高TPS与吞吐量),而不是堵在门口或者被劝返。

2. 拆解核心指标:它们到底在说什么?

2.1 QPS:系统门口的“人流量计数器”

QPS,全称是Query Per Second,中文叫“每秒查询率”。这个名字有点误导性,它其实不局限于数据库查询,任何一次对服务器的请求,比如打开一个网页、点击一个按钮、调用一个API,都可以算作一个“Query”。我更喜欢把它叫做 “请求吞吐率”。

它的计算方式很简单:QPS = 总请求数 / 耗时(秒)。比如,一个API在10秒内被调用了5000次,那么它的QPS就是500。这个指标非常直观,能快速告诉你系统的“热闹程度”。在压测时,我们通常会逐步增加并发请求数,观察QPS的变化曲线。一开始,QPS会随着并发数的增加而线性增长,这说明系统资源充足。但增长到某个点后,曲线会变得平缓甚至下降,这个拐点就是系统当前的处理极限。

这里有个常见的误区:QPS高不等于系统快。我遇到过这样一个案例:一个商品列表页的QPS能达到2000,看起来很高。但进一步分析发现,因为数据库查询没有优化,每个请求的RT高达2秒。这意味着虽然请求很多,但每个用户都要等很久,体验极差。同时,大量请求堆积在服务器线程池里,持续占用内存和连接,最终可能导致系统雪崩。所以,QPS必须结合RT来看。

2.2 TPS:衡量业务完整性的“质检员”

如果说QPS是数“人流量”,那么TPS就是数“成功办完事的人数”。TPS,Transactions Per Second,每秒事务数。事务是一个业务概念,指的是一系列不可分割的操作集合,要么全部成功,要么全部失败。比如一次“支付”事务,可能包含了扣减库存、生成订单、扣款、增加积分等多个步骤。

TPS的计算和QPS类似:TPS = 总事务数 / 耗时(秒)。关键在于,如何定义一个“事务”。在性能测试中,我们需要根据业务场景来定义。例如,对于一个用户登录场景,一个完整的事务可能包括:访问登录页面(一个GET请求)、提交登录表单(一个POST请求)、跳转到首页(另一个GET请求)。在压测脚本中,我们会把这几个请求绑定在一起,作为一个事务来统计成功率与耗时。

TPS和QPS的关系很微妙。在大多数情况下,TPS ≤ QPS。因为一次事务可能包含多个请求(Q),比如一次下单事务包含了加入购物车、填写地址、支付等多个页面请求。反过来,一个简单的HTTP健康检查请求,它是一个Q,但可能不构成任何业务事务。因此,在电商、金融等强业务系统中,TPS比QPS更能真实反映系统的业务处理能力。我习惯在压测报告中同时呈现这两个指标:QPS告诉我系统有多忙,TPS告诉我系统在忙的事情中有多少是真正有效的。

2.3 响应时间RT:用户体验的“温度计”

响应时间RT,就是用户从发起请求到收到完整响应所等待的时间。这是最直接影响用户感知的指标。我们通常关注平均响应时间、分位值响应时间(如P95、P99)和最大响应时间。

平均响应时间容易理解,但它容易被极端值拉高或拉低,掩盖问题。比如100个请求,99个都是100毫秒,1个是10秒,平均下来就成了199毫秒,这显然不能反映大多数用户的体验。因此,P95和P99响应时间更为关键。P95响应时间意味着95%的请求响应时间都低于这个值;P99则更为严格,只允许1%的请求慢于这个值。互联网大厂的核心接口,通常要求P99响应时间在200毫秒以内。

RT和QPS/TPS之间有一个经典公式:QPS(或TPS)≈ 并发数 / 平均RT。这个公式很好理解:假设系统稳定处理请求,有100个并发用户(即同时有100个请求在处理中),每个请求平均耗时0.5秒(RT=500ms),那么系统每秒能处理的请求数就是 100 / 0.5 = 200 QPS。这个公式是性能容量规划的基石。但要注意,它只在系统资源未饱和、请求处理均匀的理想状态下成立。当系统接近瓶颈时,RT会急剧上升,这个关系就不再是简单的线性反比了。

2.4 并发数:系统舞台上的“同时表演者”

并发数有两个常见但易混淆的概念:并发用户数和系统并发数。

  • 并发用户数:通常指在性能测试场景中,模拟的同时在线并操作的用户数量。比如,我们设置压测脚本有1000个虚拟用户,这些用户按照一定节奏(思考时间)循环执行操作。
  • 系统并发数:指系统在同一时刻真正在处理的请求数。这取决于服务器的线程池大小(对于线程模型而言)或连接数。它更贴近于系统的实时负载。

一个经典的误解是:有10000个在线用户,系统并发数就是10000。实际上,用户在线可能只是在浏览页面,并未发起请求。根据“二八原则”或更极端的场景,可能只有10%-20%的在线用户会在同一时刻发起请求。因此,系统需要支撑的并发数远小于在线用户数。在评估系统容量时,我们需要根据用户行为模型(如登录用户数、活跃用户比例、用户操作频率)来估算出峰值并发请求数。

2.5 吞吐量:系统的“综合运力”总成绩

吞吐量是一个更宏观、更综合的指标。在最广泛的定义里,它指单位时间内系统成功处理的数据量或请求量。在网络层面,吞吐量的单位可能是bps(比特每秒)或Bps(字节每秒),衡量网络设备的转发能力。在应用层面,吞吐量常常就用TPS或QPS来代表。

但严格来说,吞吐量强调的是“成功处理”和“总量”。它融合了处理速度和成功率的考量。一个系统即使QPS很高,但如果错误率也很高,那么其有效吞吐量是低的。我常用一个比喻:吞吐量就像一家餐厅一晚上的营业额。它不仅仅取决于翻台率(QPS/TPS),还取决于每桌的客单价(每次请求处理的数据量/复杂度)和顾客满意度(成功率)。优化吞吐量,需要从架构、代码、数据库、网络等各个层面协同优化。

3. 指标间的相爱相杀:理解它们的动态关系

这些指标不是孤立的,它们在一个动态平衡中相互影响、相互制约。理解它们的关系,是进行性能分析和调优的关键。

第一阶段:资源充足,线性增长期。 当并发用户数从零开始增加时,系统资源(CPU、内存、IO)充足。此时,QPS和TPS会随着并发数的增加而线性上升,平均RT则保持稳定,甚至因为可能存在预热效应而略有下降。这个阶段,系统吞吐量在健康增长。

第二阶段:资源竞争,性能拐点期。 当并发数增加到一定程度,系统关键资源(如CPU利用率达到70%-80%,或数据库连接池占满)开始出现竞争。此时,QPS和TPS的增长曲线会变缓,逐渐逼近一个峰值。平均RT开始显著上升,因为请求需要排队等待资源。这个峰值点,就是系统在当前配置下的最大吞吐量。

第三阶段:资源耗尽,性能衰退期。 如果继续增加并发数,系统资源被完全耗尽(如CPU 100%,内存溢出)。此时,大量的时间花在了上下文切换、内存交换、错误处理上。QPS和TPS不仅不增长,反而会急剧下降。平均RT则会飙升到不可接受的程度,错误率(如超时、5xx错误)大幅增加。系统吞吐量崩溃。

我们可以通过一个简单的表格来总结这个关系:

系统阶段并发数增加时,QPS/TPS变化并发数增加时,平均RT变化系统状态
线性增长期线性上升基本稳定健康,资源充足
拐点期增速放缓,达到峰值开始明显上升压力增大,资源出现瓶颈
衰退期下降急剧上升过载,可能雪崩

在实际工作中,我们通过压力测试,绘制出QPS-并发数和RT-并发数的曲线图,就能清晰地找到系统的性能拐点,从而确定最佳并发负载和需要扩容的阈值。

4. 实战:从指标到系统容量规划与优化

理论说再多,不如看实际怎么用。我们以一个典型的Web应用为例,假设它是一个电商平台。

第一步:根据业务目标推导性能需求。 产品经理说:“我们希望促销日能支撑1000万PV(页面浏览量)。” 根据二八原则,80%的流量(800万PV)可能集中在20%的时间(4.8小时)内。那么,峰值时间的每秒请求量(QPS)可以估算:

峰值QPS = (总PV * 80%) / (峰值时间 * 3600秒)
峰值QPS = (10,000,000 * 0.8) / (4.8 * 3600) ≈ 463

这463 QPS是应用层接收到的页面请求。一个页面可能包含多个静态资源(CSS、JS、图片)和API接口调用,这些都会产生额外的请求。假设一个页面平均产生10个请求,那么后端接口需要支撑的总QPS峰值约为4630。

第二步:评估单机能力,确定机器数量。 我们对单台服务机器进行压测。假设压测结果是:在RT(P95)满足200ms要求的前提下,单机最大能支撑800 QPS。那么,支撑4630 QPS需要的机器数是:

需要机器数 = 总峰值QPS / 单机QPS = 4630 / 800 ≈ 5.8

考虑到容灾和冗余,我们至少需要6-7台同规格的机器,并通过负载均衡进行分发。

第三步:定位瓶颈,针对性优化。 压测时,如果发现RT随着QPS上升而增长过快,就需要定位瓶颈。常用命令和工具有:

  • top/htop:查看CPU、内存使用情况。
  • vmstat 1:查看系统上下文切换、阻塞进程数。
  • iostat -x 1:查看磁盘IO等待。
  • sar -n DEV 1:查看网络流量。
  • 应用链路追踪(如SkyWalking, Jaeger):分析请求在微服务各环节的耗时。

假设我们发现RT高的原因是数据库查询慢。优化手段可能包括:

  1. SQL优化:为慢查询添加索引,避免SELECT *,优化JOIN语句。
  2. 缓存:引入Redis,将热点商品信息、用户会话等缓存起来。
  3. 数据库读写分离:将读请求路由到从库,减轻主库压力。
  4. 连接池优化:调整应用端数据库连接池的最大连接数,避免连接等待或耗尽。

第四步:关注非功能指标。 除了上述核心指标,还要监控:

  • 错误率:HTTP 5xx错误比例。理想情况应接近于0。
  • 资源利用率:CPU、内存、磁盘IO、网络带宽。长期维持在70%-80%以下是比较健康的。
  • 垃圾回收(GC)情况:对于Java应用,频繁的Full GC会导致RT毛刺。

容量规划不是一劳永逸的。业务在增长,代码在变更,我们需要定期进行压测,更新性能基线,确保系统始终有足够的余量应对未来的流量。记住,性能优化是一个持续的过程,而不是一次性的项目。每一次代码发布、每一次架构调整,都应该伴随着相应的性能评估。把这些指标当成你系统的“体检报告”,定期查看,你就能对它的健康状况了如指掌,在问题出现之前就将其扼杀在摇篮里。

QPS、TPS、RT与吞吐量:如何精准评估系统性能? 本文深入解析了QPS、TPS、RT与吞吐量四大核心性能指标的定义、计算方式及内在关联。通过实际案例与公式推导,阐述了如何利用这些指标精准评估系统处理能力、定位瓶颈,并指导容量规划与线程池调优,是进行系统性能评估与优化的必备指南。 阅读详情

相关推荐

从零开始理解QPS、并发连接数和吞吐量:系统性能指标入门指南

本文深入浅出地解析了系统性能三大核心指标:QPS、并发连接数与吞吐量。通过餐厅等生活化比喻,厘清三者的定义、区别与相互制约关系。文章提供了从理论辨析到实战监控的完整指南,并针对不同瓶颈给出具体优化方向,是后端开发和运维人员理解系统性能的入门必备。

weixin_29216049的博客 164

《性能指标解读:吞吐量》

工程师行动清单监控四联装:TPS曲线、错误率、资源饱和度、依赖延迟压测三阶梯:50%负载(验证)、100%负载(峰值)、120%负载(破坏性测试)调优四维度:缓存命中率 >95%、线程池效率 >80%、SQL耗时 <30ms、网络利用率 >60%架构三原则:无状态服务设计、故障自动转移、弹性伸缩能力终极洞见:真正的吞吐量极限不在技术而在架构。当你在设计阶段解决80%的瓶颈,其余20%的优化将带来指数级提升——这即是性能工程的奥义所在。

fengruxue的专栏 2009

计算机系统性能指标

整数测试程序Dhrystone,浮点测试程序Linpack,Whestone基准测试程序,SPEC基准测试程序和TPC基准程序.: 应用程序中用的最多,最频繁的那部分核心程序,作为评价计算机性能的标准程序.

wlq_567的博客 661

高并发系统安全与性能平衡实战策略

在分布式系统架构中,安全防护与性能优化是需要持续平衡的核心命题。从技术原理看,加密算法、身份认证等安全机制会引入额外计算开销,而性能优化往往需要简化处理流程。通过动态安全策略引擎和硬件加速方案,可以实现安全等级与系统吞吐量的智能调节。典型应用场景包括支付网关、秒杀系统等高并发业务,其中AES加密算法和TLS协议的性能调优尤为关键。本文基于五维安全评估模型和JMeter压测数据,详细分析了如何通过分层优化策略,在金融级安全要求下实现系统性能提升280%的实战经验。

weixin_28716443的博客 213

别再傻傻分不清TPS和QPS了!性能测试新手必看的5个核心指标实战解读

本文深入解析性能测试中的5个核心指标:TPS、QPS、RT、吞吐量和RPS,帮助新手彻底区分这些易混淆的概念。通过超市收银台、后厨炒菜等生动比喻,结合电商场景实战案例,详细说明各指标的应用场景和常见误区,并给出性能监控的告警配置建议,助力开发者精准评估系统性能。

weixin_28683065的博客 476

12306高并发架构解析:Redis分布式锁与消息队列实战

高并发系统设计是互联网架构的核心挑战,其原理在于通过分布式计算资源协同处理海量请求。在技术实现上,Redis作为高性能内存数据库,通过原子操作和分布式锁机制保障数据一致性;消息队列则承担异步处理和流量削峰的重要角色。这些技术的工程价值在于提升系统吞吐量、保证业务可靠性,广泛应用于电商秒杀、票务抢购等场景。以12306系统为例,其采用Redis实现库存缓存和分布式锁,结合消息队列进行订单异步处理,成功支撑百万级QPS的春运抢票高峰。本文深入剖析该架构的Redis应用细节和消息队列实践方案。

cuankuangzhong6373的博客 393

【高并发场景下的HMAC优化】:千万级请求验证性能提升300%的秘密

解决高并发下HMAC验证性能瓶颈,本文深入剖析hmac验证代码实现的优化策略,涵盖批量处理、缓存机制与轻量加密算法应用,适用于千万级请求场景。显著降低响应延迟,提升系统吞吐量300%,高性能架构实践值得收藏

Instrulink的博客 375

Python爬虫实战:如何高效抓取拼多多商品信息、销量与价格数据,破解反爬虫挑战

**摘要:**本文介绍利用Python爬虫技术抓取拼多多商品数据(价格、销量等)的方法与应用价值。通过分析拼多多商品页面的HTML结构,使用Requests和Selenium获取数据,并应对反爬虫机制(IP代理、请求头伪装等)。数据可存储于MongoDB或CSV用于市场监控、竞品分析等场景。文章涵盖技术选型、实战代码示例及反爬策略,为电商数据分析提供实用指导。

这里只有干货:从 Modbus 通信到 MES 对接,从 YOLO 训练到工控机部署,带你搞定工业软件开发全流程。 1674

brpc核心架构解密:为什么它是搜索与AI系统的首选RPC框架

在当今高并发、低延迟的分布式系统时代,选择一款高性能的RPC框架对于搜索、存储、机器学习、广告推荐等核心业务至关重要。brpc(better RPC)作为Apache开源基金会旗下的工业级C++ RPC框架,以其卓越的性能和灵活的架构设计,成为众多互联网公司的首选。本文将深入解析brpc的核心架构,揭示它为何能在搜索与AI系统中脱颖而出。 ## 🚀 brpc架构全景:事件驱动与线程池的完美结合

gitblog_00953的博客 609

【漏洞复现】7-Zip目录穿越漏洞(CVE-2025-11001)

摘要:CVE-2025-11001是7-Zip(v21.02-v24.09)Windows版处理ZIP包符号链接时的高危漏洞,攻击者可构造恶意ZIP文件实现目录穿越和任意文件写入。漏洞源于路径检查缺陷,当用户解压含特殊符号链接的压缩包时,可能将文件写入系统目录。复现利用GitHub公开的Python脚本(https://github.com/pacbypass/CVE-2025-11001)可生成攻击包,需注意该漏洞仅影响Windows且需要用户交互。

LongL_GuYu的博客 1610

GAMIT/GLOBK 10.71在Linux环境下的GNSS数据处理全流程解析(附实战案例)

本文详细解析了在Linux环境下部署和运行GAMIT/GLOBK 10.71进行GNSS数据处理的完整流程。从系统环境配置、软件编译安装、关键表格文件更新,到运行自带示例和实战案例,提供了清晰的步骤与避坑指南,帮助用户掌握这一高精度GNSS数据处理工具的核心使用方法。

kmeans3miner的博客 311

《万用引擎深度解密Tomcat高并发场景下的智能负载与性能突破》

在分布式系统与微服务架构蓬勃发展的当下,Apache Tomcat作为轻量级Web容器的标杆,其在金融、电商等领域的高并发场景应用面临严峻挑战。通过改造 CoyoteAdapter 的Session处理流程,设计Segmented Storage Scheme,将Session数据划分Key/Value存储段,与主堆隔离。面对Service Mesh架构的兴起,未来需将Tomcat定制改造为轻量化Sidecar模式,探索解耦式认证服务与弹性计算层的无缝衔接路径。

nYeuvMcs的博客 278

如何实现MCGS与S7-200SMART PLC以太网多台通信控制?

第九步:(设备工具箱—设备管理—鼠标依次点击通用TCP/IP父设备—西门子_ Smart200到设备窗口里面去)数据类型:第0位(指PLC地址变量小数点后面的位数,例如我地址是M0.0,那么在数据类型应填写通道的第00位)第十步:(鼠标双击打开通用TCPIP父设备0--[通用TCP/IP父设备]进入通信配置)通道地址:0(指小数点前面起始字节的地址,例如我地址是M0.0,那么应在通道地填写0)。第七步:(选择通用TCP/IP父设备,点击新增,右侧选定设备就会自动添加进去。

u010670857的博客 6720

Seastar 无共享架构解析:对比 3 种多核编程模型,吞吐量线性扩展至 32 核

本文深入解析Seastar无共享架构如何突破多核性能瓶颈,对比传统线程池、Actor模型与Seastar在多核环境下的表现。Seastar通过内存分片、显式消息传递和全异步编程模型,在32核服务器上实现吞吐量线性扩展,达到686万请求/秒的高性能表现,为C++服务器应用程序开发提供革命性解决方案。

weixin_30599769的博客 387

从“破解”到应用:三菱数控系统M80协议逆向分析与工业数据采集网关搭建指南

本文深入解析三菱数控系统M80协议的逆向分析方法与工业数据采集网关搭建技术。通过TCP协议实现跨平台通信,详细介绍了M80协议的数据包结构、多语言实现方案(C#、Java、C/C++)以及Linux数据采集网关的架构设计与容器化部署。为工业自动化领域的开发者提供从协议分析到企业级数据采集落地的完整解决方案。

weixin_29228781的博客 1214

Polyworks脚本开发学习笔记(十五)-用Python连接Polyworks的COM组件

Polyworks脚本开发学习笔记(十五)-利用Python连接Polyworks的COM组件

qq_43662503的博客 2509

Java高并发系统 + 安全监控 完整知识体系

本文系统梳理了Java高并发开发的全方位知识体系,涵盖单机并发基础、分布式架构、系统安全、监控体系和故障治理等核心模块。主要内容包括: 单机并发基础 CPU多级缓存与内存模型 JMM内存模型与happens-before原则 锁机制与CAS原子操作 并发容器与线程池原理 JVM调优与性能优化 分布式高并发架构 分布式锁与一致性算法 缓存体系与典型问题解决方案 消息队列的削峰填谷 负载均衡与分库分表 微服务通信与流量控制 生产级解决方案 高并发业务安全防护 全链路监控体系搭建 典型故障排查与治理 应急预案与性

专注 Java 后端开发,分享基础语法、JVM、并发、Spring 全家桶、微服务、分布式、性能优化等实战干货。坚持输出高质量技术笔记,用简单语言讲清复杂原理,助力每一位 Java 开发者稳步进阶。 576

基于IC617下Layout XL的使用

基于IC617下Layout XL的使用

weixin_43816759的博客 1万+

monkey-api-encrypt部署指南:生产环境配置与性能优化最佳实践

在当今前后端分离的开发模式中,API接口安全已成为每个开发者必须面对的重要课题。monkey-api-encrypt作为一款专业的API加密框架,为基于Servlet的Web应用提供了统一、高效的加解密解决方案,确保数据传输的安全性。本指南将为您详细介绍如何在生产环境中部署和优化monkey-api-encrypt,帮助您构建安全可靠的API服务。 ## 🚀 快速入门:环境准备与基础配置 #

gitblog_00659的博客 326

[Dify实战] 在 Dify 官网环境使用 File Translator 插件实现 Office 文档翻译(支持 DOCX/XLSX/PPTX)

摘要:Dify平台的FileTranslator插件可实现Office文档一键翻译,保留原格式和结构。该插件支持Word、Excel、PPT等文件格式,无需额外密钥,直接复用Dify配置的大模型。安装后,用户可在Workflow中调用插件,设置目标语言等参数完成翻译。输出文件自动命名,保留原格式。适用于跨国协作、海外营销等场景,显著提升多语言办公效率。该插件简化了文档翻译流程,是企业用户和开发者的实用工具。

技术小甜甜:传播可落地技术,帮助个人和企业降低解决真实场景问题的成本 544

OV9734 DATASHEET,完整规格书

OV9734完整规格书,包括电气参数,尺寸规格,寄存器配置表等

关于游戏陪玩系统开发中性能测试的一些常识

前言 谈起游戏陪玩系统开发中的性能测试,大家经常聊的是高并发、高可用、性能优化、全链路压测等Topic,听起来都挺高大上,但这些概念追本溯源,还是要落到性能测试基础的东西上。比如游戏陪玩系统开发的需求分析、场景建模、测试方案、性能分层、指标监控、结果评估和优化本身上面。这篇文章,整理了基础部分的一些知识和我自己的思考,供大家参考。 思维导图 知识体系 基础指标 简单来说,游戏陪玩系统开发中的性能测试实际上主要关注如下三点: 速度:TPS、RT ; 容量:吞吐量、PV、Hit; 资源:CPU、Memory

m0_58374018的博客 282

ET2012新版免狗免安装绿色软件

ET2012新版免狗免安祖昂绿色软件。,新界面,新视觉,

Java之开发 系统设计 分布式 高性能 高可用

SQL优化,JVM、DB,Tomcat参数调优 > 硬件性能优化(内存升级、CPU核心数增加、机械硬盘—>固态硬盘等等)> 业务逻辑优化/缓存 > 读写分离、集群等 > 分库分表。服务降级指的是当服务器压力剧增的情况下,根据当前业务情况及流量对一些服务和页面有策略的降级,以此释放服务器资源以保证核心任务的正常运行。降级的目的在于应对系统自身的故障,而熔断的目的在于应对当前系统依赖的外部系统或者第三方系统的故障。分发到多个不同的地方以实现就近访问,进而加快静态资源的访问速度,减轻服务器以及带宽的负担。

qq_49802050的博客 1301

廖雪峰Python教程[完整版]

廖雪峰的python教程整理的,已经排好版了,而且还是完整的,适合小白

计算机控制技术及应用

《计算机控制技术及应用》通过总结作者的科研成果和吸收国内外的先进理论、方法和技术,以计算机控制系统的网络化、开放化、智能化和集成化发展趋势为主线索,主要介绍计算机控制系统的基本概念和计算机控制系统的典型形式,计算机控制系统的数学描述与基本分析方法,以及数字PID控制器、最少拍控制系统、达林算法、状态变量设计法等设计方法及其各种改进算法。重点突出计算机控制系统输入输出通道接口的设计方法和典型控制系统的设计案例与实现方法等。

百度brpc框架终极指南:高性能RPC技术原理与实战应用

brpc是百度开发的一套高性能RPC框架,常用于搜索、存储、机器学习、广告、推荐等高性能系统。它以多协议支持、高并发处理和优秀的性能表现著称,已在百度内部广泛应用于各类核心业务,成为构建分布式系统的关键基础设施。 ## 🚀 什么是RPC?为什么选择brpc? RPC(远程过程调用)是分布式系统中不同服务间通信的核心技术,它允许程序像调用本地函数一样调用远程服务。想象你在电商平台购物时,下单流

gitblog_01171的博客 479

【Infra】大模型分布式训练:从并行策略到性能优化

大模型训练系统的核心可以归纳为三个层次: 第一层:并行策略。 DP/FSDP 解决数据与模型状态分片,TP/PP 解决模型规模,EP 解决 MoE 专家分布,CP 解决长上下文。 第二层:计算与通信优化。 通过高效 GEMM、Attention Kernel、通信计算重叠和拓扑感知调度,提升 MFU 与 Tokens/s。 第三层:训练系统工程。 面向 SFT、GRPO、多模态和百卡训练,解决资源调度、训推协同、性能监控及故障恢复。 总结:分布式训练的本质,就是在显存、计算、通信和稳定性之间寻找最优平衡。

发现问题,并解决问题,批判性思维 138
上一篇: 深入解析MOSFET关键参数及其在电源设计中的实际应用
下一篇: 深入解析MOS管、三极管与IGBT:电子开关元件的选型与应用指南
java5
博客等级 码龄22年 85粉丝 2103原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符  | 博主筛选后可见
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值