解决吞吐性能问题时的思路

原创

于 2021-07-05 14:26:00 发布 · 348 阅读

0 ·

CC 4.0 BY-SA版权

文章标签：

#java #数据库 #分布式 #redis #面试

本文探讨了提高应用吞吐性能的方法，包括理解Throughput、解决锁的争用和等待、降低锁的成本及使用更细粒度的锁。还介绍了缓冲请求、合并任务和批量处理的策略，以降低Wait Time并增强应用的并行处理能力。通过这些方法，可以有效提升系统的Scalability，应对业务需求的变化。

什么是Throughput

Throughput指的是应用处理任务的速率，它所描述的是应用在单位时间内能够处理多大数量的任务

如下，如果应用能够在1s中处理3个task，我们可以说它的throughput是3tps

值得注意的是，throughput这个指标所代表的是速率，它并不代表同时性(Concurrency)，比如图一中的3tps的应用，我们能说它可以在1s中处理3个task，但是并不意味着3个task是同时被处理的，而可能是顺序、线性地被处理

如果应用可以支持同时处理多个任务，比如应用(系统)中有2个worker，每个worker都可以并行地在1s中内处理3个task，它的throughput则是6tps

如何提高throughput呢？显然可以想到：

缩短每个任务处理的耗时
让更多的任务可以被同时处理 - 增加并行能力

下图中的应用(系统)可以支持同时处理3个任务，并且每个任务的处理耗时缩短到一半，其throughput是18tps

最低0.47元/天解锁文章

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

福禄网络研发团队

关注关注

0
点赞
踩
0

收藏

觉得还不错? 一键收藏
0
评论
分享

复制链接

分享到 QQ

分享到新浪微博

扫一扫
举报

举报

参与评论您还未登录，请先登录后发表或查看评论

博客

构建一个基于容器的开发环境

07-20

574

前言：GNU/Linux(以下简称Linux)是目前服务器使用广泛的系统，而开发人员使用的操作系统大多数却是Windows。虽然现在主流的语言几乎都支持跨平台的特性，但在开发过程中仍然会因为平台不一致导致一些莫名其妙的问题，最经典的当属CRLF(回车换行符)在Windows和Unix系统间造成的问题。而Windows糟糕的软件管理也一直被开发人员嫌弃，新机器装一个齐全的开发环境往往要重复经历打开...

博客

使用Flyway来管理数据库版本

07-13

503

使用Flyway来管理数据库版本Flyway是什么Flyway是一款数据库迁移(migration)工具。它可以帮助我们在不同环境保持数据库的同步，减少手工操作，避免数据导入的顺序错误，同时也减少了遗漏的机会。flyway可以集成在项目中，可以与Spring 框结合。在项目发版时，自动执行数据库脚本，无需人为执行数据库同步操作。就目前而言，我们部署应用的流程大概是这样的：开发人员将应...

博客

TypeScript 在开发应用中的实践总结

06-23

680

背景以前 hybrid app 的移动端开发模式下，H5 和客户端通信的 js sdk 代码使用 js 编写，sdk 方法的说明使用文档输出。对于开发的使用来说，在 IDE 中不能得到友好的参数类型提示。于是我们维护一个类型定义包进行 sdk 方法的类型定义。但这样对于维护 sdk 的同学来说，维护源码的同时需要同步更新类型定义，更新如果不及时，开发需要通过类型合并临时解决。加上以前的代码 a...

博客

java 8 - java 17 升级指北

01-11

2035

2014年发布的java SE 8和2017年发布的java EE 8，至今还是使用最广泛的java版本，大部分java开发者对于java 8之后的升级总是敬而远之，这跟java 9以后的破坏性升级和oracle的商用协议有关，但随着9月java 17的发布，我们有更多理由去升级和在新项目中使用更新的java了。为什么要升级？java 9之后的Java改变了更新策略，java 11是8之后...

博客

基于Kubernetes实现前后端应用的金丝雀发布

12-06

415

基于Kubernetes实现前后端应用的金丝雀发布公司的研发管理平台实现了Gitlab+Kubernetes的Devops，在ToB和ToC场景中，由于用户量大，且预发布环境和生产环境或多或少存在差异，使得生产环境发布版本的时候还是存在很多不确定性和很大的风险。于是需求方就提出了支持金丝雀发布的需求，金丝雀发布方案有很多，以下为两种常用的方案。1、Deployment滚动更新策略实现金丝雀发...

博客

质量体系建设之路---可视化的MockServer

12-03

417

一、背景福禄网络作为一家数字权益商品及服务提供商，覆盖了我们衣食住行的各种生活场景的权益内容，对接了如支付宝、京东、银行APP各种渠道，如何能够快速的响应渠道需求，提供稳定的接口服务，这就要求我们电商团队能够做到比渠道快一步的接口测试；同时作为一家集团化的公司，内部的信息化系统对接了众多银行的相关支付业务，涉及到查余额、下流水、支付、对账等日常资金业务，这要求信息化部门能够确保资金支付相关...

博客

超图GIS入门iserver搭建，前端调用iserver加载三维场景demo

11-30

4185

目录前言一.GIS介绍，为什么选择它？二.环境安装三.调用三维GIS场景设置地图风格添加地图iServer服务前言前段时间因为对3D制图感兴趣，学习了一下国内制作GIS的公司产品技术，并以一个demo为示例演示从制作一个三维场景地图——>安装iserver服务——>发布制作的地图——>最后通过前端加载地图显示操作等分为几个步骤来逐步讲解。GIS介绍，为什么选择它？...

博客

分布式事务解决方案

11-29

347

目录分布式事务解决方案分布式事务什么是分布式事务分布式产生的原因分布式事务的CAP理论分布式4种常见解决方案2PC提交3PC提交本地消息表(阿里Seata)mq的ack手动补偿事务(rabbitmq)分布式事务解决方案分布式事务什么是分布式事务指一次大的操作由不同的小操作组成的，这些小的操作分布在不同的服务器上，分布式事务需要保证这些小操作要么全部成功，要么全部失败。从本质上来说，分布式事...

博客

从零开始，使用Dapr简化微服务

11-26

1623

序言现有的微服务模式需要再业务代码中集成大量基础设施模块，比如注册中心，服务发现，服务调用链路追踪，请求熔断，重试限流等等，使得系统过于臃肿重量级。Dapr作为新一代微服务模式，使用sidecar模式，简化了现有微服务系统代码，将基础设施层以sidecar模式分离，使得开发人员更集中于业务逻辑编写。本文以net6和dapr1.5为基础，搭建一个dapr的简单使用示例。1、安装Docker...

博客

白嫖钉钉机器人-员工服务台

11-16

3925

目录白嫖钉钉机器人-员工服务台应用场景官方应用单聊服务群聊服务定时通知自助问答转人工服务NEW员工服务台特殊技巧采用官方api方式推送官方api跳转方式白嫖钉钉机器人-员工服务台前言：钉钉的出现为企业节约了大量人力成本，其中也有很多很好的功能。今天我们就来说说钉钉提供的一个免费机器人-员工服务台应用场景● 官方应用：服务助手已经与钉钉主要官方应用进行能力打通，钉钉官方应用流程提醒无须自行...

博客

lua入门之环境搭建、第一个demo

11-11

848

前言前段时间因为有些项目功能需要，自己研究了下lua，今天整理下，并以一个demo为示例演示手机上的运行效果分为几个步骤来逐步讲解。1.lua介绍，为什么选择它？2.环境安装3.撸一个简单demo一.lua介绍，为什么选择它？Lua 是一种轻量小巧的脚本语言，用标准C语言编写并以源代码形式开放，其设计目的是为了嵌入应用程序中，从而为应用程序提供灵活的扩展和定制功能。轻量级:...

博客

使用钉钉创建企业内部机器人

11-09

1722

目录玩转钉钉机器人创建钉钉机器人：如何创建钉钉机器人如何调用机器人api支持的消息格式text类型markdown类型整体跳转actionCard类型feedCard类型使用钉钉机器人推送消息机器人交互式卡片设计：如何发送交互式卡片配置消息模板修改机器人交互卡片回调地址发送机器人交互消息接受交互卡片回调消息玩转钉钉机器人前言：钉钉的出现为企业节约了大量人力成本，其中也开放了大量的外部api接...

博客

几十行js实现很炫的canvas交互特效

11-05

859

几十行js实现很炫的canvas交互特效废话不多说，先上效果图！本篇文章的示例代码都是抄的一个叫Franks的老外在yutube上的一个教学视频，他还出了很多关于canvas的视频，十分值得学习，而我对canvas也不太熟悉，跟着大神一起敲代码，做个学习笔记，还要说一下，本文示例的页面结构很简单(html只包含一个canvas)，后面代码部分就不贴了，毕竟js才是主角。1.画圆首先从画...

博客

Dataworks批量刷数优化方案探讨

11-04

959

Dataworks批量刷数优化方案探讨在数据仓库的日常使用中，经常会有批量补数据，或者逻辑调整后批量重跑数据的场景。批量刷数的实现方式，因调度工具差异而各有不同。Dataworks调度批量刷数局限我们的数据仓库构建在阿里云的dataworks+maxcompute产品上，dataworks的调度工具提供了补数据的功能，可以很方便的补整个任务流的数据，但是该功能有个局限，就是只能指定一个参...

博客

Flink入门-第一篇：Flink基础概念以及竞品对比

11-03

1166

Flink入门-第一篇：Flink基础概念以及竞品对比Flink介绍截止2021年10月Flink最新的稳定版本已经发展到1.14.0Flink起源于一个名为Stratosphere的研究项目主要是为了构建下一代大数据分析平台，在2014年成为Apache孵化器项目。2019 年 1 月，阿里巴巴实时计算团队宣布将经过双十一历练和集团内部业务打磨的 Blink 引擎进行开源并向 Apac...

博客

前端单元测试

11-02

760

前端单元测试背景一直以来，单元测试并不是前端工程师必须具备的一项技能，在国内的开发环境下，普遍都要求快，因此往往会忽略了项目的代码质量，从而影响了项目的可维护性，可扩展性。随着前端日趋工程化的发展，项目慢慢变得复杂，代码越来越追求高复用性，这更加促使我们提高代码质量，熟悉单元测试就显得愈发重要了，它是保证我们代码高质量运行的一个关键。本文旨在探索单元测试的编写思路，它对项目的影响，以及对...

博客

你知道怎么使用Google两步验证保护账户安全吗？

11-01

2287

目录为什么我们需要使用它？对有些人来说，盗取密码比您想象的更简单什么是Google两步验证？多一道安全防线什么是Google Authenticator ？使用Google两步验证的好处实际项目效果演示为什么我们需要使用它？互联网是一个极其危险的地方，有很多不怀好意的人想要访问我们的在线账户。通过使用双因素身份验证，可以为我们的账号提供额外的安全。用户名密码方式的登录变得越来越不安全，你肯定听...

博客

实现支持多公众号的微信公众号扫码登录服务

10-26

778

实现支持多公众号的微信公众号扫码登录服务最近，在公司的通行证项目开发过程中，需求方提出了支持微信公众号扫码登录，并且可以支持多公众号接入的需求。研究了一下微信公众号的开发文档，实现微信公众号扫码登录并不难，但是要支持多公众号接入就得好好斟酌一下了。理清思路，微信公众号扫码登录的实现关键就是appid、openid获取，appid用来识别公众号，openid用来识别用户，能理解这两点需求就应该...

博客

为Kubernetes集群添加用户认证

10-25

446

Kubernetes中的用户K8S中有两种用户(User)——服务账号(ServiceAccount)和普通意义上的用户(User)ServiceAccount是由K8S管理的，而User通常是在外部管理，K8S不存储用户列表——也就是说，添加/编辑/删除用户都是在外部进行，无需与K8S API交互，虽然K8S并不管理用户，但是在K8S接收API请求时，是可以认知到发出请求的用户的，实际上，...

博客

质量体系建设之路---从接口测试开始基建

10-18

639

引言中心内有大量的项目经过多年的迭代建设，无论是从体量、功能、复杂度都达到了一个无法完全依赖人工验证交付的点。我们和很多质量团队一样，随着公司业务迅速的增长，前期质量环节主要依赖人工把控，在质量自动化工程建设上没太多积累，面对如今的业务交付无论是从效率、质量上都逐渐暴露出明显的短板。开发及运维团队已在CI/CD上进行了提效建设，木桶效应逐渐明显，质量团队也希望尽快突破自己的交付瓶颈，并能逐...