从零开始理解高并发:QPS、TPS、RT这些指标到底怎么算?

从零开始理解高并发:QPS、TPS、RT这些指标到底怎么用? 本文以通俗易懂的方式解析了高并发系统中的核心性能指标。通过类比咖啡店运营场景,详细阐述了QPS(每秒查询率)、TPS(每秒事务数)和RT(响应时间)的定义、区别与内在联系,并指导如何将这些指标应用于实际的系统容量规划、性能瓶颈分析与SLA制定中,是后端开发和运维人员理解系统性能的实用指南。 阅读详情

从零开始理解高并发:QPS、TPS、RT这些指标到底怎么算?

刚接触后端开发或者系统运维的朋友,可能经常被各种性能指标搞得晕头转向。产品经理说“我们要支撑百万并发”,老板问“系统QPS能到多少”,运维同事在群里发告警“RT飙升了”。这些词听起来高大上,但背后到底意味着什么?它们之间又有什么关系?更重要的是,我们该如何去计算和评估这些数字,而不是仅仅停留在概念层面。

这篇文章,我们就来把这些看似复杂的指标掰开揉碎,用最直白的方式讲清楚。我会尽量避免堆砌教科书定义,而是结合一些生活化的类比和实际的代码示例,让你不仅能看懂,还能自己动手算一算。毕竟,理解这些指标,不是为了应付面试,而是为了真正能评估你的系统能力,做好容量规划,在流量洪峰到来时心里有底。

1. 核心指标拆解:从生活场景到技术定义

在讨论具体计算之前,我们必须先统一语言。高并发领域的指标术语很多,但最核心、最常被提及的通常是QPS、TPS和RT。很多人容易把它们混淆,其实它们观察的是系统不同维度的表现。

想象一下你去银行办理业务。响应时间(RT) 就是你从取号到办完业务离开柜台所花费的总时间。这个时间越短,你的体验就越好。TPS(每秒事务数) 可以理解为整个银行大厅在某一秒内成功办完的业务笔数,比如一秒内有10个人办完了存取款。而QPS(每秒查询率) 则更细致一些,它统计的是所有发生的“交互”次数。你办一笔存款业务,可能需要柜员查询你的账户余额、录入存款金额、打印凭证等好几个步骤,这些步骤中的每一次后台查询或操作,都可能被计为一次QPS。

所以,一个简单的业务事务(TPS)可能包含多次查询(QPS)。在Web开发中,用户打开一个商品详情页(一次TPS),页面可能同时请求了用户信息、商品详情、库存状态、推荐列表等多个接口,这就产生了多次QPS。

注意:在实际的性能测试和监控中,对“事务”和“查询”的定义需要根据业务场景来明确,否则统计口径不一致会导致数据没有可比性。

除了这三个,还有两个重要的宏观指标:吞吐量和并发数。吞吐量是一个更宽泛的概念,它指系统在单位时间内成功处理的工作量。在网络层面,吞吐量常用“比特/秒”(bps)来衡量;在应用层面,则可以用TPS或QPS来代表吞吐能力。并发数则是指在某一时刻,系统同时正在处理的请求数量。它就像银行里正在等待叫号和正在办理业务的所有客户总数。

为了更清晰地对比这些核心指标,我们可以看下面这个表格:

指标全称核心含义常用单位生活化类比
RTResponse Time系统对请求作出响应所需的时间毫秒(ms)、秒(s)顾客从点餐到拿到食物的等待时间
QPSQueries Per Second每秒执行的查询/请求次数次/秒 (req/s)餐厅后厨每秒处理的配菜指令数
TPSTransactions Per Second每秒完成的事务数量次/秒 (tps)收银台每秒成功结算的订单数
吞吐量Throughput单位时间内系统处理的数据量或事务量bps, tps, req/s高速公路一小时通过的车流量
并发数Concurrency系统同时处理的请求数量个 (个)超市里同时正在购物和排队结账的顾客总数

理解了这个基本对应关系,我们就能明白,优化系统性能,本质上就是在保证RT稳定的前提下,尽可能地提升QPS/TPS(吞吐量),并支撑更高的并发数。它们之间并非独立,而是存在着深刻的相互影响,这个我们会在后续的公式部分详细展开。

2. 关键计算公式与推导逻辑

知道了指标是什么,下一步就是搞清楚它们怎么算,以及彼此之间如何相互影响。这是进行容量评估和性能瓶颈分析的基础。

最经典的公式揭示了QPS、并发数和RT之间的关系:

QPS = 并发数 / 平均响应时间(RT)

这个公式非常直观。假设我们的系统平均处理一个请求需要50毫秒(0.05秒),那么单个处理单元在一秒内理论上能处理 1 / 0.05 = 20 个请求。如果此时系统有100个并发请求(比如有100个用户同时在等待响应),那么要在一秒内处理完这些请求,系统需要的QPS能力就是 100 / 0.05 = 2000。这个公式也告诉我们,在并发数固定的情况下,降低RT是提升QPS最直接有效的方法。

另一个重要的概念是“二八原则”,它常被用来估算系统的峰值压力。即80%的流量往往集中在20%的时间段内。我们可以利用这个原则,从日访问量(PV)反推系统需要达到的峰值QPS。

假设一个电商系统,日均PV是1000万。我们想估算它在流量最高峰时需要达到的QPS能力。

  1. 计算峰值时间总秒数:一天有86400秒,取其中的20%作为峰值时段,即 86400 * 0.2 = 17280 秒。
  2. 计算峰值时段的总请求量:总PV的80%发生在峰值时段,即 10,000,000 * 0.8 = 8,000,000 次请求。
  3. 计算峰值QPS:峰值QPS = 峰值时段总请求量 / 峰值时段秒数 = 8,000,000 / 17280 ≈ 463。

这意味着,我们的系统需要至少具备每秒处理463个请求的能力,才能平稳度过每天最繁忙的时段。当然,这只是一个理论估算,实际中还需要考虑业务波动(如大促)、冗余系数等因素。

对于并发连接数,尤其是像聊天服务器、游戏服务器这类长连接服务,其理论上限与服务器内存紧密相关。一个简单的估算方法是:

理论最大连接数 ≈ 可用内存 (Bytes) / 单个连接内存开销 (Bytes)

例如,一台服务器拥有32GB内存(约 32 * 1024^3 ≈ 34,359,738,368 字节),假设每个TCP连接(包括内核socket结构、应用层会话信息等)平均占用20KB内存(20,480字节),那么理论最大连接数约为 34,359,738,368 / 20,480 ≈ 1,677,216,即约168万。但这只是理论值,实际中操作系统内核参数(如net.core.somaxconn, fs.file-max)、CPU处理能力、网络带宽都是重要的制约因素。

3. 动手实践:用Python模拟与计算指标

理论讲得再多,不如动手算一算、测一测。我们用Python来模拟一些简单的场景,让这些指标变得可感知。

首先,我们可以模拟计算给定RT和并发数下的QPS。假设我们通过监控得知,在某个并发级别下,系统的平均RT是120毫秒。

def calculate_qps(concurrency, avg_rt_seconds):
    """
    根据并发数和平均响应时间计算QPS
    :param concurrency: 并发用户数/请求数
    :param avg_rt_seconds: 平均响应时间(秒)
    :return: 估算的QPS
    """
    if avg_rt_seconds <= 0:
        return float('inf') # 响应时间为零理论上QPS无限大
    return concurrency / avg_rt_seconds

# 示例:100个并发,平均响应时间120ms (0.12s)
concurrent_users = 100
average_rt = 0.120 # 单位:秒
estimated_qps = calculate_qps(concurrent_users, average_rt)
print(f"在{concurrent_users}并发、平均RT为{average_rt*1000:.0f}ms时,估算QPS为: {estimated_qps:.2f}")

运行这段代码,你会得到结果约为833.33。这意味着系统需要每秒处理833个请求,才能让这100个并发用户在平均0.12秒内得到响应。

接下来,我们模拟一个更贴近实际的情景:估算系统所需的机器数量。假设经过单机压测,我们得到一台服务器的能力上限是800 QPS(即超过这个值,RT会急剧上升或错误率增加)。现在,结合二八原则,我们预估系统在促销日的峰值PV将达到5000万。

def estimate_servers_needed(daily_pv, peak_time_ratio=0.2, single_server_qps=800):
    """
    根据日PV和单机QPS,估算所需服务器数量
    :param daily_pv: 日均页面访问量
    :param peak_time_ratio: 流量集中比例(二八原则为0.2)
    :param single_server_qps: 单台服务器能稳定支撑的QPS
    :return: 需要的服务器数量(向上取整)
    """
    seconds_per_day = 24 * 3600
    peak_seconds = seconds_per_day * peak_time_ratio
    peak_requests = daily_pv * 0.8 # 80%的PV发生在峰值期

    peak_qps = peak_requests / peak_seconds
    import math
    servers_needed = math.ceil(peak_qps / single_server_qps)
    return peak_qps, servers_needed

daily_pv = 50_000_000
peak_qps, servers = estimate_servers_needed(daily_pv)
print(f"预估峰值QPS: {peak_qps:.2f}")
print(f"按单机800 QPS计算,至少需要 {servers} 台服务器。")

计算会发现,峰值QPS约为2315,需要至少3台(2315 / 800 ≈ 2.89)这样的服务器。在实际生产环境中,我们还需要考虑负载均衡的损耗、容灾冗余(通常N+1)、以及数据库等其他组件的瓶颈,最终部署的机器数往往会比这个理论值多。

4. 指标间的相互影响与系统瓶颈分析

性能指标从来不是孤立的,它们像一个精密的齿轮组,相互咬合,相互制约。理解它们之间的动态关系,是进行性能调优和瓶颈定位的关键。

最典型的相互制约关系体现在 “吞吐量(QPS/TPS)”、“并发数”和“响应时间(RT)” 这三者之间。在系统资源(CPU、内存、IO)充足的情况下,增加并发用户数,系统的QPS会线性增长,而RT保持稳定。这个阶段系统处于弹性区间。

但是,当并发数增加到某个临界点后,系统资源开始成为瓶颈(例如CPU使用率达到90%以上,或磁盘IO等待队列变长)。此时,继续增加并发数,QPS的增长会变得缓慢甚至停滞,而RT则会开始显著上升。这个临界点就是系统的最佳并发点,也是其最大吞吐能力点。

如果无视RT的恶化继续增加压力,系统可能会进入过载区间。此时,由于大量请求排队等待资源,RT急剧上升,实际成功处理的请求数(QPS)反而可能下降,错误率(如超时、5xx错误)飙升。这就好比一条拥堵的高速公路,车流(并发数)过大时,整体通过速度(吞吐量)下降,每辆车的通行时间(RT)变得不可预测地长。

那么,如何定位瓶颈呢?不同的指标异常指向不同的系统层面:

  • RT升高,但QPS和CPU使用率不高:可能瓶颈在外部依赖,比如数据库查询慢、第三方接口响应迟缓、或网络延迟高。需要检查下游服务的监控和慢查询日志。
  • RT升高,同时CPU使用率飙升:很可能瓶颈在应用代码本身。可能存在低效的算法(如多重循环)、频繁的序列化/反序列化、或不合理的锁竞争。需要使用性能剖析工具(如Profiler)定位热点代码。
  • QPS达到上限,RT尚可,但网络或磁盘IO使用率饱和:瓶颈在IO子系统。可能是磁盘读写速度跟不上,或者网络带宽被打满。需要考虑使用更快的SSD、优化数据读写模式(如批量操作)、或增加网络带宽。
  • 并发连接数(CPS)达到上限,新连接建立失败:瓶颈可能在服务器连接处理能力或操作系统参数。需要检查Web服务器(如Nginx、Tomcat)的worker_connections配置,以及系统的ulimit -n(文件描述符限制)和内核TCP相关参数(如net.core.somaxconn)。

在实际工作中,我习惯使用一个简单的检查清单来快速定位问题。当系统出现性能问题时,依次查看:

  1. 监控图表上,是RT先涨还是QPS先到顶?
  2. 服务器的基础资源(CPU、内存、磁盘IO、网络带宽)哪一项先达到瓶颈?
  3. 应用日志和中间件(如数据库、缓存)的监控是否有异常或慢查询?
  4. 错误日志中是否出现大量特定的错误码(如连接池耗尽、超时)?

通过这种联动分析,我们就能从纷繁复杂的指标中,快速找到问题的根源。

5. 从理论到实践:容量规划与性能测试要点

理解了指标和它们的关系,最终目的是为了指导我们的工程实践。容量规划和性能测试,就是把这些理论知识落地的两个关键环节。

容量规划的核心思路是“由业务量推导技术指标”。首先,你需要和业务方确认未来一段时间(例如半年)的业务目标,比如日均订单量、活跃用户数等。然后,将这些业务量转化为技术指标:

  • 用户行为建模:一个活跃用户每天产生多少次页面浏览(PV)?一次关键业务操作(如下单)背后对应多少次API调用(QPS)?
  • 流量模型估算:利用二八原则,计算出系统需要承载的峰值QPS。
  • 单机能力评估:通过性能测试,得到单台服务器在满足目标RT(例如,95%的请求在200ms内响应)的前提下,能支撑的最大QPS。
  • 计算机器数量:所需机器数 = 峰值QPS / 单机最大QPS * 冗余系数(通常为1.5~2)。这个系数用于应对流量波动、预留故障转移资源等。

性能测试则是验证容量规划、发现系统瓶颈的手段。一个完整的性能测试应该包含不同类型:

  • 基准测试:在低并发下,验证系统基本功能和RT,作为后续测试的对比基线。
  • 负载测试:逐步增加并发数,观察QPS和RT的变化曲线,找到系统的性能拐点和最大吞吐量。
  • 压力测试:在超过系统负载能力的压力下持续运行,观察系统是否会出现内存泄漏、连接池耗尽等问题,以及失败后的恢复能力。
  • 稳定性测试(耐力测试):在预期峰值压力下,长时间(如24小时)运行系统,检查是否有性能衰减或错误累积。

在进行性能测试时,有几点特别容易踩坑:

  • 测试环境要与生产环境尽可能一致:硬件配置、网络拓扑、软件版本、数据量级(特别是数据库的数据量)的差异,会导致测试结果严重失真。
  • 关注“尾部延迟”:平均RT往往具有欺骗性。更需要关注的是P95、P99甚至P999的RT。可能99%的请求都在100ms内返回,但剩下的1%却要2秒,这对用户体验是灾难性的。
  • 预热很重要:JVM应用需要预热来达到最佳性能(JIT编译),缓存需要预热来填充数据。不进行预热的测试结果通常不准确。
  • 监控要全面:压测时不仅要监控应用服务器的CPU、内存、QPS、RT,还必须监控所有下游依赖,如数据库的CPU、慢查询、锁等待,缓存的命中率、网络带宽等。

最后,我想分享一个真实的经验。曾经我们有一个服务,在压测时QPS始终上不去,RT却很高。查看CPU和内存都很空闲。后来排查发现,是数据库连接池配置过小,导致大量请求在等待获取数据库连接。调整连接池大小后,QPS立刻提升了数倍。这个故事告诉我们,系统的瓶颈往往不在最显眼的地方。性能优化是一个系统工程,需要我们对整个链路有清晰的认知,从客户端到网络,再到应用服务器、中间件和数据库,任何一个环节都可能成为短板。扎实地理解每一个核心指标,掌握它们之间的联动关系,是我们构建和运维高并发系统的必备基本功。

性能测试监控分析实战:从指标采集到根因定位的完整指南 性能测试是保障软件系统稳定性和可扩展性的关键环节,其核心在于通过系统化的监控与分析,将性能数据转化为可执行的优化洞见。其基本原理在于构建多层次、可观测的指标体系,覆盖从用户体验、应用服务、系统资源到下游依赖的完整链路。这一过程的技术价值在于,它使团队能够从被动响应故障转向主动预防性能风险,精准定位瓶颈而非仅感知压力。在实际应用场景中,例如高并发电商系统或微服务架构,结合**应用性能管理**和**链路追踪**等热词所代表的技术,可以实现从宏观指标异常到微观代码或配置问题的快速下钻分析。通过整合指标、日志与链路 阅读详情

相关推荐

API性能测试实战指南:从核心指标到k6工具全解析

在微服务与分布式架构成为主流的今天,API性能测试是保障系统稳定性的关键技术实践。其核心在于通过模拟真实负载,评估接口的响应时间、吞吐量、并发能力与错误率等关键指标,从而识别系统瓶颈,预防线上故障。从技术原理上看,性能测试涉及负载测试、压力测试、耐力测试等多种类型,旨在验证系统在不同压力场景下的表现。对于开发者与测试工程师而言,掌握一套高效的性能测试方法论,不仅能提升系统健壮性,更是进行容量规划与持续交付的重要依据。本文将以当前流行的开源工具k6为例,结合微服务架构下的常见挑战,深入讲解如何设计测试场景、编

weixin_42523670的博客 249

构建性能测试基础框架:从指标定义到瓶颈分析的全流程实践

性能测试是保障软件系统在高负载下稳定运行的关键工程实践。其核心原理在于通过模拟真实用户行为,对系统施加可控压力,以评估其处理能力、稳定性和资源消耗。这一过程的技术价值在于能够提前发现性能瓶颈,为容量规划、架构优化和风险控制提供数据支撑,从而保障用户体验和业务连续性。典型的应用场景包括电商大促、秒杀活动、新系统上线等高压场景。要确保测试结果的可信度,必须建立系统化的测试框架,其中清晰的性能指标体系(如TPS、响应时间、成功率)和真实的测试数据准备是两大基石。通过整合服务器资源监控、应用性能监控(APM)和全链

csxc65837的博客 355

从零掌握JMeter:开源性能测试工具安装、配置与HTTP接口压测实战

性能测试是保障软件系统在高并发场景下稳定性的关键环节,它通过模拟真实用户负载,评估系统的响应时间、吞吐量和错误率等核心指标。其原理在于利用工具生成虚拟流量,对目标系统施加压力,从而发现性能瓶颈和潜在风险。掌握性能测试技术对于后端开发、测试工程师及系统稳定性保障至关重要,能有效预防线上系统在大促等高峰时段出现页面加载缓慢或接口超时等问题。开源工具JMeter凭借其免费、可扩展性强及活跃社区支持,成为实施负载测试和压力测试的主流选择。本文聚焦于JMeter的实战应用,详细讲解其环境搭建、核心元件使用,并通过构建

weixin_30645617的博客 366

从零开始理解QPS、TPS和RT:如何用这些指标优化你的高并发系统?

本文深入解析了高并发系统的三大核心性能指标:QPS(每秒查询数)、TPS(每秒事务数)和RT(响应时间)。文章阐述了它们之间的相互影响关系,并提供了如何利用这些指标定位系统瓶颈、进行容量评估以及实施具体优化策略(如降低P99 RT、提升吞吐量)的实战指南,帮助开发者构建更稳定、高效的系统。

j7k8l的博客 415

跟着团子学SAP PS:项目计划成本与项目预算设计思路

​在做SAP PS模块概览培训的时候,很多时候都会用到下面的一页PPT片子讲到项目计划成本与预算的关系,但真正这幅片子想表达的具体内容甚至大部分PS顾问也是无法阐明清楚的。 而SAP PS的设计其实是在丰富的项目管理学的基础上而开展的,所以今天从业务上结合SAP中的功能点讲一下项目成本计划及预算的逻辑。 在项目管理的十大知识领域中,项目成本管理主要是包括为使项目在批准的预算内完成而对成本进行规划...

Lucas1211的博客 3万+

logisim实验——通过2个半加器实现1-bit全加器,通过4个一位全加器构成4-bit加法器(详解)

一、由异或门和与门所构成的半加器: 二、由两个半加器构成的1-bit全加器: ..

zep 1万+

从零开始理解QPS、TPS和RT:如何用Python模拟高并发场景下的性能指标?

本文通过Python代码实战,深入解析了QPS、TPS和RT等核心性能指标在高并发场景下的含义与计算方法。文章从零构建模拟器,演示了如何通过多线程和压力测试来探测系统性能拐点,并结合可视化图表分析响应时间分布与吞吐量变化,帮助开发者直观理解并评估服务容量。

meat5的博客 219

239号资源-simulink仿真:MATLAB/Simulink教程(PDF文档)-----已提供下载资源

电网论文源程序擅长文章解读,论文与完整源程序,等方面的知识,电网论文源程序关注python,机器学习,计算机视觉,深度学习,神经网络,数据挖掘领域.电网论文源程序擅长文章解读,论文与完整源程序,等方面的知识,电网论文源程序关注python,机器学习,计算机视觉,深度学习,神经网络,数据挖掘领域.《《《《《《《《更多资源还请持续关注本专栏》》》》》》》《《《《《《《《更多资源还请持续关注本专栏》》》》》》》论文与完整源程序_电网论文源程序的博客-优快云博客。电网论文源程序-优快云博客。

LIANG674027206的博客 1076

从零开始落地性能测试-下

看完本篇,各位测试同学可以参照本篇文章中的内容以及案例,尝试在工作中开展性能测试实践。我们学习必然是为了找到高薪的工作,下面这些面试题是来自阿里、腾讯、字节等一线互联网大厂最新的面试资料,并且有字节大佬给出了权威的解答,刷完这一套面试资料相信大家都能找到满意的工作。在性能测试实践过程中,完善的监控可以带来极大的便利。选错了就会痛苦不已。但在实际的项目和场景中,需要根据具体情况去监控分析更多的指标,切记不要生搬硬套。下面的表格,我列举了在考虑系统性能时,不同角色关注的一些常见的监控指标,仅供参考。

2401_88751289的博客 423

Metal ECO实战:如何在不修改底层掩模的情况下修复芯片时序问题

本文深入探讨了Metal ECO技术在芯片设计中的应用,这是一种在不修改底层晶体管掩模的前提下,仅通过调整金属连线和替换预置填充单元来修复时序问题的“微创手术”。文章详细解析了其原理、适用场景、关键操作流程与命令,并分享了实战中的高级技巧与常见陷阱,为面临流片前时序违例的工程师提供了宝贵的修复指南。

wdx0123456的博客 433

YOLOv11的物理信息神经网络(PINN):引入物理规律约束目标运动预测

本文介绍了YOLOv11目标检测与PINN物理信息神经网络的融合技术。YOLOv11采用增强特征提取和参数优化架构,在保持实时性的同时提升检测精度。PINN通过将物理方程嵌入损失函数,实现数据高效学习。两者的结合可显著提升运动预测准确性和遮挡处理鲁棒性。文章详细阐述了环境配置、YOLOv11模型验证方法,并提供了基础PINN框架代码实现,展示了物理约束如何通过自动微分整合到神经网络中。该融合技术适用于自动驾驶、无人机导航等需要物理规律建模的视觉感知场景。

本博客聚焦 YOLOv11 全流程落地,涵盖架构优化、数据集处理、训练技巧与多场景部署,兼及国产数据库、Java 开发与 AI 模型应用,内容兼顾理论与工程实践,为开发者提供系统干货,助力高效提升技术能力。 424

从零手写JMeter压力测试脚本:架构师实战指南与避坑

系统压力测试是保障高并发场景下应用稳定性的关键技术,其核心在于通过模拟真实用户负载,验证系统的性能极限与可靠性。性能基准测试与容量规划测试是压力测试的核心实践,旨在发现系统瓶颈,为架构优化提供数据支撑。在众多压力测试工具中,Apache JMeter以其开源、多协议支持和强大扩展性,成为工程师进行性能评估的首选。本文将以一个典型的Web服务登录接口为例,深入剖析如何从零构建一个可用于生产环境评估的JMeter测试脚本。内容涵盖测试场景建模、参数化数据驱动、事务与断言设计、以及如何通过分布式压测与资源监控精准

weixin_28826545的博客 322

吉林大学数据库期末考试试卷讲解

给出几套期末真题及解析,给出复习建议。

一杯水果茶!足矣~ 3145

我经历过的监控系统演进史

前言雅绿小说网 https://www.2957.info 最近刚离职,新公司还没去报道,就整天赋闲在家看看书写写技术文章。 下午和某个微信群的群友聊起互联网公司的监控系统,简短的描述了一些我的看法。 正好最近有空,这篇文章就来聊聊我自己在职业生涯里使用过以及了解过的一些监控系统,当做一篇小白扫盲或者个人漫谈就好。 基础必知 要对监控有个全面的了解,大体要了解三方面的知识,如下图所示: 常见监控类型 一般在企业级技术监控领域,大体分为五种类型的监控: 基础监控:包括带宽、CDN、服务器CPU、Me...

damimi00的博客 315

【知识分享】高速印刷电路板(PCB)寄生参数计算指南

对于高速PCB设计而言,寄生参数一直是令人讨厌的问题,它们会悄悄潜入PCB并在电路中造成严重的破坏,具体来说,它们是渗透到高速电路中的隐藏杂散电容器和电感器,包括由封装引线和长走线形成的电感器、PCB焊盘对金属平面形成的电容器、走线之间形成的电容器等等。

一只豌豆象的博客 1785

[VT虚拟化驱动]正式启动VT

文章目录前言一、vmlaunch正式开始虚拟化二、使用步骤1.引入库2.读入数据总结 前言 本章开始真正实现一个最简单的VT框架,当然,只是能跑起来一个VT驱动了,没有并包括EPT,EPT后面再讲 提示:以下是本篇文章正文内容,下面案例可供参考 一、vmlaunch正式开始虚拟化 执行VMLAUNCH指令执行后,就正式进入虚拟化了,再该指令执行之前,得先保存Guest当前的环境,执行完VMLAUNCH后,要恢复Guest的环境,让Guest就像什么都没发生一样,所以需要保存和恢复Guest的各种寄存器的值

吾无法无天的博客 3663

【Infra】大模型分布式训练:从并行策略到性能优化

大模型训练系统的核心可以归纳为三个层次: 第一层:并行策略。 DP/FSDP 解决数据与模型状态分片,TP/PP 解决模型规模,EP 解决 MoE 专家分布,CP 解决长上下文。 第二层:计算与通信优化。 通过高效 GEMM、Attention Kernel、通信计算重叠和拓扑感知调度,提升 MFU 与 Tokens/s。 第三层:训练系统工程。 面向 SFT、GRPO、多模态和百卡训练,解决资源调度、训推协同、性能监控及故障恢复。 总结:分布式训练的本质,就是在显存、计算、通信和稳定性之间寻找最优平衡。

发现问题,并解决问题,批判性思维 368

TMS_WebGMaps_1.9.8.0_Full_Source

TMS_WebGMaps_1.9.8.0_Full_Source 全源码 delphi cbuilder

Chrome 性能优化实战指南:2026 前端页面提速与内存优化全攻略

2026年Chrome已切换为双周更新节奏,页面性能优化规则也随之迭代。本文详解Chrome性能面板高级用法、内存泄漏排查、渲染路径优化与最新API落地技巧,帮助你把页面首屏速度提升50%以上。

Frag0ut的博客 372

复分析 阿尔福斯(Ahlfors) 第三版答案 英文

答案分为十章,有部分习题没有答案,全英文复分析阿尔福斯(Ahlfors) 第三版答案

精雕软件(JDpaint) 5.5 绿色版

精雕软件(JDpaint) 5.5 绿色版精雕软件(JDpaint) 5.5 绿色版精雕软件(JDpaint) 5.5 绿色版

成本与性能优化:让账单不再像心跳图

—而电话费按分钟计。

m0_62724751的博客 229

汉书HE8,好用的汇编代码编写工具

汉书HE8,好用的汇编代码编写工具早期编写汇编代码所用功能强大

UGUI 与 NGUI 使用及性能优化

本文解析 Lua 与 ToLua 在 Unity 中的运行机制及热更新原理。Lua 作为可嵌入语言,通过编译字节码由虚拟机执行,支持运行时加载新脚本;ToLua 实现 C# 与 Lua 的双向调用,通过生成 Wrap 代码注册类型接口;热更新依赖于宿主动态加载并执行新脚本,结合资源管理、版本控制与状态处理机制。关键点包括:table 共享引用、函数值不随重定义更新、闭包捕获状态、元表实现类逻辑,以及对象跨语言传递的生命周期管理。完整热更新需独立设计补丁分发与回滚策略。

2503_90324697的博客 377

低代码平台性能优化实战:从用户认证模块出发的基准测试与优化

整个系统由以下几个核心部分组成:- 前端:基于 React 构建的登录页面 - 后端:Node.js + Express 接口服务 - 数据库:MySQL 用户信息存储前端部分通过 fetch 请求后端/api/login接口,并在接口中处理身份验证、数据库查询与返回结果。// 示例:Node.js 后端 /api/login 接口逻辑(伪代码)return res.status(500).send({ error: '数据库查询失败' });} else {});});

后台模板 206

深入 MyBatis-Plus:避开常见陷阱与性能优化实践

本文结合日常后端开发经验,梳理 MyBatis-Plus 在现代 Spring Boot 环境中的核心用法与易踩坑点。重点讲解 Wrapper 链式调用、自动填充机制、分页插件序列化问题及批量操作的底层行为,分析动态 SQL 生成逻辑与索引失效场景,并提供可验证的代码示例与排查思路。内容聚焦工程落地,明确版本依赖差异,指出官方未强调的性能边界与替代方案。

2402_83344867的博客 447

Day103-RAG 性能优化:检索延迟/并发/批量与缓存分层

RAG 跑通不算完,扛住流量才是真本事。本文把 RAG 的端到端延迟拆成"检索—重排—生成"三段,逐段给出优化手段:Embedding 批量异步、检索并发合并、热点 Query 多级缓存、生成端流式输出,并附一张可直接照着抄的优化清单。

雨1986的博客 421

Caddy反向代理性能优化实战:基准测试到瓶颈定位的5大关

在数据统计报表与BI系统中,反向代理作为流量调度的关键节点,其性能直接影响到整体系统的响应效率。Caddy作为一种轻量级、高性能的Web服务器和反向代理工具,常被用于此类场景。然而,随着访问量的增长,若未进行适当的性能优化,系统可能会出现延迟高、吞吐低等问题。本文将结合真实业务场景,深入探讨如何通过基准测试、瓶颈定位以及优化手段提升Caddy在数据报表服务中的性能表现,并提供可复用的实践经验。

wuchangjian的专栏 206

Chrome性能优化实战:让老旧浏览器重获流畅体验

Chrome越用越卡、打开十几个标签页就占满内存、滚动页面掉帧?不用换电脑也不用重装系统,通过调整原生设置和清理冗余资源,就能让老旧设备上的Chrome重新变得流畅。本文从内存管理、后台限制、缓存优化到实验性功能开启,一步步帮你榨干浏览器性能潜力。

MyBili的博客 273

性能优化实战:常见性能问题定位与解决方案整理

性能优化那点事

sun_daming的博客 346
上一篇: ChatGLM-6B + Langchain实战:手把手教你搭建本地知识库问答系统(附避坑指南)
下一篇: VoLTE通话背后的秘密:无线侧信令流程全解析(附主被叫完整流程图)
sql99
博客等级 码龄19年 168粉丝 1905原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符  | 博主筛选后可见
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值