RPC Benchmark 测试: 将开源RPC框架聚在一起是一种怎样的体验?

turbo-rpc:Turbo是一个超级快速的React性RPC框架 turbo-rpc turbo-rpc 是一款速度超凡的异步响应式RPC框架 功能特点 仅支持异步调用, Service 接口所有 public 方法返回值都必须为 CompletableFuture 配置定义在 Service 接口上, 而非实现类上, 方法实现者和调用者都不需要引入奇奇怪怪的注解 支持 REST 调用 支持失败回退, 支持熔断, 支持心跳, 支持自动重连 支持自定义 服务注册 负载均衡 序列化 支持 Filter, 可通过该机制实现 Tracing 限流限速 黑白名单 等功能 支持 spring boot Quick Start Maven依赖: <!-- 必须引入 --> <dependency> <groupId>com.turbo-rpc</groupId> <artifactId>turbo-rpc</artifactId> <versi 立即下载

本文转载自 RPC Benchmark 作者 鲁小憨 的简书博文 

https://www.jianshu.com/p/caf51f5cfbaa

测试说明

  • 仅限于 Java
  • 客户端使用 JMH 进行压测, 32 线程, 3 轮预热 3 轮测试, 每轮 10s
  • 每次运行前都会执行 killall java, 但没有在每轮测试时重启操作系统
  • 所有类库版本在发布时都是最新的, 除非存在 bug
  • 所有框架都尽量参考该项目自带的 Benchmark 实现
  • 将会一直持续, 不定期发布测试结果

测试用例

  1. boolean existUser(String email), 判断某个 email 是否存在
  2. boolean createUser(User user), 添加一个 User
  3. User getUser(long id), 根据 id 获取一个用户
  4. Page<User> listUser(int pageNo), 获取用户列表

运行结果

生成时间: 2018-05-12 21:15:11
硬件环境: 阿里云 ecs.hfc5.xlarge Intel Xeon Gold 6149, 4CPU 8GB RAM 两台
软件环境: Ubuntu x64 16.04.5, Java HotSpot(TM) 64-Bit Server VM 10+46
启动参数: java -server -Xmx1g -Xms1g -XX:MaxDirectMemorySize=1g -XX:+UseG1GC

existUser

frameworkthrpt (ops/ms)avgt (ms)p90 (ms)p99 (ms)p999 (ms)
turbo-rpc152.0120.210.3180.4470.669
servicecomb129.4130.2460.2940.3581.279
jupiter128.0150.2490.360.5433.826
thrift117.8270.2730.520.971.454
netty102.9390.3040.3350.3860.815
turbo-rest95.7740.3410.8451.5054.047
undertow92.9560.3420.881.5523.532
undertow-async82.5390.380.7731.6045.153
armeria-http75.7950.4110.7311.3056.054
dubbo74.7310.430.5320.73.361
dubbo-kryo74.7280.430.5320.7133.758
motan61.3240.5160.8132.01311.862
rapidoid58.350.5541.6343.2610.568
hprose45.9450.7350.4142.3940.239
springboot-undertow34.3740.9381.1358.76421.561
springwebflux32.0751.0081.5711.9958.249
grpc31.1341.0651.2941.5096.971
springboot26.8851.1851.5999.94523.298

createUser

frameworkthrpt (ops/ms)avgt (ms)p90 (ms)p99 (ms)p999 (ms)
servicecomb124.0150.2550.3060.3821.436
jupiter114.9960.2750.4120.6334.002
turbo-rpc114.8370.2820.3760.5430.823
thrift110.9520.2940.5631.0411.606
undertow93.5930.3460.8231.4793.903
turbo-rest88.5120.3530.8941.6185.087
netty85.7740.3880.4280.5110.791
undertow-async79.4750.4090.81.5285.235
armeria-http65.1090.4980.6881.987.922
motan56.7080.5610.8931.89211.289
dubbo-kryo54.7540.5830.7320.9385.169
hprose37.220.9330.48438.60143.451
dubbo31.8110.9881.2841.6427.471
springwebflux30.2121.0841.6942.136.824
grpc29.9921.0291.3211.5444.5
springboot-undertow28.1421.1392.0036.39813.976
springboot26.4111.1961.64710.99426.771
rapidoid22.4341.4380.91326.34546.137

getUser

frameworkthrpt (ops/ms)avgt (ms)p90 (ms)p99 (ms)p999 (ms)
turbo-rpc133.1210.2410.3640.5160.743
servicecomb122.8010.2620.3130.3912.651
jupiter111.6820.290.450.6894.301
thrift110.3680.2890.5531.021.573
undertow87.3820.3430.9811.7653.945
turbo-rest81.3730.3920.6961.3974.383
undertow-async81.1620.4050.7731.5343.777
netty73.9990.4210.4420.4720.886
armeria-http70.7760.4480.7531.3894.366
motan60.0620.5420.871.96411.813
dubbo-kryo55.3750.5640.7220.9515.317
rapidoid51.640.6252.0194.07611.72
hprose48.6590.6490.7011.35640.042
dubbo32.9240.9741.2451.6927.406
grpc30.9411.0421.2331.4623.453
springboot-undertow30.6941.0631.279.24121.463
springwebflux26.1731.2321.9152.3596.955
springboot24.9691.2971.74310.87927.329

listUser

frameworkthrpt (ops/ms)avgt (ms)p90 (ms)p99 (ms)p999 (ms)
jupiter46.890.6841.0571.89.273
turbo-rpc45.8520.7131.7452.1267.274
servicecomb45.2180.7070.9771.7186.94
thrift34.8130.911.783.7279.208
grpc34.1120.9161.21.4916.151
motan32.5840.9821.6322.99810.928
undertow32.0941.011.3522.1719.29
undertow-async32.0940.9941.2982.49410.943
armeria-http31.7011.0181.5792.99.945
netty26.6531.181.3351.7434.538
rapidoid23.5631.3681.12820.87338.076
turbo-rest21.2741.5161.8233.1669.929
dubbo-kryo20.6641.5532.0872.9828.716
hprose20.0171.6021.5972.04450.397
springwebflux19.6171.6312.563.0849.077
springboot-undertow18.4781.7452.90811.94421.758
springboot16.8251.9092.58513.2334.275
dubbo4.6836.9229.22412.53419.741

更新说明

  1. 硬件变化, 升级为 ecs.hfc5.xlarge Intel Xeon Gold 6149
  2. 添加 3 个新的测评项目:armeria servicecomb springboot-undertow
  3. 其他: 常规版本升级, 都升级到了最新版本 (dubbo 2.6.1 存在 bug,继续使用 2.6.0)

致谢

特别感谢下列人员对本项目的大力支持

  1. turbo: hank-whu
  2. jupiter: fengjiachun
  3. hprose: andot
  4. servicecomb: imlidian

免责声明

  • 能力所限错误在所难免, 本测试用例及测试结果仅供参考
  • 如果你认为 xxx 框架的代码或配置存在问题,那么欢迎发起 Pull Request
  • 利益相关: 本测试用例作者同时为 turbo undertow-async 的作者

快速链接

往期评测:
RPC Benchmark Round 2
RPC Benchmark Round 1

测试说明:
rpc-benchmark 测试说明
rpc-benchmark 项目代码


http-benchmark-netty:基于Java Netty的HTTP客户端工具 & HTTP高性能测试工具。参数灵活定制、支持邮件报表等。Python Tornado版 http-benchmark-netty 基于java netty的http客户端工具&http高性能测试工具,web性能测试首选。解决业界web测试工具压力不足、压力不均匀、统计输出不完备、扩展不灵活等所有缺陷。 测试工具参数配置灵活,可满足一般性能测试、延迟测试、最大连接数测试、吞吐量测试、压力测试、长时间稳定性测试、内存泄漏测试等场景。测试工具基于频繁的业务测试不断优化改进,稳定可靠、实用性强。 简介: 基于netty异步库开发,one epoll per thread模型,性能强悍。 支持随机请求、支持配置线程数、客户端个数、支持压力山大发送模式。 支持返回结果验证。 支持qps、延迟、最大连接数等统计。 支持测试报告邮件自动发送。 使用: 详见README。 测试报告截图: 立即下载

相关推荐

《UE4游戏开发》之 《音效系统的实现》

音效系统需要负责管理什么事情: 1.1 确定声音控制的分类:如背景音乐、技能音效、界面音效、角色配音等,不同游戏对声音有不同的分类 1.2 控制每个分类的声音的开启与关闭,以及调节每个分类声音的大小 解决如何分类: 2.1 首先需要知道ue4为声音分类提供了什么:SoundClass通常需要一个根分类【SC_RPG_Master】,便于总体控制音效,以及指定引擎默认启动的音效 打开SoundClass资产【SC_RPG_Master】,对根控制的设置,将逐级传递并按比例进行设置,以此达到控制一类声音的目的.

qq_21919621的博客 2127

grpc benchmark

1、Benchmarking — REST vs. gRPC 2、Evaluating Performance of REST vs. gRPC 3、gRPC vs. REST: How Does gRPC Compare with Traditional REST APIs?

wecode666 528

systrace分析 之 问题初步定位

如下surfaceflinger空缺点,上面对应的bufferTX 中有buffer,但VSYNC-SF 过来后,SurfaceFlinger却没有去取,检查测试app “android.settings”, 也没有GPU completion 时间长的问题,所以该部分可以请SurfaceFlinger的owner 进一步确认为何不取buffer。. GPU拿的是acquireFence HWC拿的是releaseFence, GPU是绘图,HWC是合成显示,这两个是互相等待的关系,

yangzex的专栏 3197

RPC Benchmark Round 3,ServiceComb 一鸣惊人

测试说明 仅限于 Java 客户端使用 JMH 进行压测, 32 线程, 3 轮预热 3 轮测试, 每轮 10s 每次运行前都会执行 killall java, 但没有在每轮测试时重启操作系统 所有类库版本在发布时都是最新的, 除非存在 bug 所有框架都尽量参考该项目自带的 Benchma...

chuhong4648的博客 442

【AI Infra】Perfetto性能分析工具指南

Perfetto是一款开源性能分析工具,提供系统级和应用级的活动数据追踪功能。其界面分为四个区域:左侧操作区(包含Trace查看、SQL查询、预置分析等功能)、上方信息区、中间图形化展示区以及下方详细信息区。工具支持快捷键操作(w/s缩放、a/d移动、m标记等),并能高效处理大体积Trace文件。通过Timeline分析可发现性能瓶颈,如案例中update_actor耗时过高的问题,最终定位到CPU offloading导致的MemcpyH2D操作耗时过长,提出了优化方案。Perfetto相比Systrac

baiweizeng的博客 1511

避坑指南:Qgis等时圈分析中ORS插件Key申请与参数设置的常见错误

本文详细解析了QGIS等时圈分析中ORS插件从API密钥申请到参数优化的全流程避坑指南。针对密钥激活、出行模式选择、时空参数设置等七个高频故障点,提供了实用的调试方案和优化技巧,帮助用户高效完成空间可达性分析。

weixin_42546508的博客 304

RPC Benchmark Round 4,TurboRPC 重回巅峰

测试说明 仅限于 Java 客户端使用 JMH 进行压测, 32 线程, 3 轮预热 3 轮测试, 每轮 10s 每次运行前都会执行 killall java, 但没有在每轮测试时重启操作系统 所有类库版本在发布时都是最新的, 除非存在 bug 所有框架都尽量参考该项目自带的 Benchma...

chuhong4648的博客 306

自动驾驶预测决策规划八股

预测规划八股个人总结。

dawushixiange的博客 479

如何编写高性能的 RPC 框架

在RPC Benchmark Round 1中,Turbo性能炸裂表现强悍,并且在 listUser 这一项目中,取得了 10x dubbo 性能的好成绩。本文将介绍Turbo强悍性能背后的原理,并探讨如何编写高性能的 RPC 框架。 过早的优化是万恶之源? 这句话是The Art of Computer Programming作者,图领奖得主 Donald Knut...

HelloWorld搬运工 3109

RAGFlow 系列教程 第14课:GraphRAG -- 知识图谱增强检索

RAGFlow v0.25.0深度解读了GraphRAG技术,通过构建知识图谱解决传统RAG在多跳推理问题上的局限。系统支持General GraphRAG和Light GraphRAG两种实现,包含四阶段构建流程:实体关系抽取、实体消解、社区检测和图持久化。核心代码位于rag/graphrag目录,采用LLM驱动的抽取机制,结合编辑距离和LLM确认的实体消解策略,以及Leiden社区检测算法。KGSearch模块通过多信号融合检索(实体+关系+N-hop+社区)实现高效查询。该系统将非结构化文本转化为可推

weixin_43674738的博客 101

姿态传感器/陀螺仪之SC7A20HTR是应用驱动程序设计

define SC7A20_CTRL1_PM_100HZ (0x5 << 4) // 正常模式,100Hz输出数据速率(ODR)// 用于存储6字节的原始数据(X_L, X_H, Y_L, Y_H, Z_L, Z_H)#define SC7A20_WHO_AM_I_VALUE 0x11 // 读取WHO_AM_I寄存器应该返回的值。// 但HAL_I2C_Mem_Read按顺序读,data[0]是X_L(低8位),data[1]是X_H(高8位)MX_I2C1_Init();

corlin6688的博客 763

【性能测试】Jmeter性能测试工具的实际应用

作为软件测试人员,掌握性能是必不可少的技能。介绍一款开源性能测试工具使用教学Jmeter还有一款性能测试工具loadrunner比较笨重收费高昂并不被大众喜爱。技术应用场景:主要涉及的技术点有参数化、断言、自定义变量、接口关联、测试片段、打印测试报告整体思路: 本文档详细介绍了JMeter测试工具在日常工作中常用的测试技巧。

积极小鸭的博客 1059

15 媒体存储的封装3

CMediaDisk类真正实现了录像文件的存储、查询和点播。存储录像文件时,需要满足以下的几个基本需求:1、异常断电不能丢失数据。2、录像既支持普通文件的查询方式,也支持时间轴的查询方式。3、修改设备时间时,不能够丢失已有录像和数据。向后修改时间时,如果当前时间已有录像,则不覆盖老数据;直到有未录像的时间段时,才再次写入新数据。4、支持删除媒体文件,也支持按时间段删除。5、支持标记录像文件、抓拍文件,也支持按时间段标记。6、支持自动覆盖最老的文件。7、支持多个设备、多路视频的录像存储。

hope_wisdom的技术博客 1124

虚函数和纯虚函数的作用与区别!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!1

http://blog.youkuaiyun.com/xwpc702/article/details/8670025 虚函数为了重载和多态的需要,在基类中是有定义的,即便定义是空,所以子类中可以重写也可以不写基类中的此函数! 纯虚函数在基类中是没有定义的,必须在子类中加以实现,很像java中的接口函数! 虚函数 引入原因:为了方便使用多态特性,我们常常需要在基类中定义虚函数。 class Cman

Gabby 624

WINCC7.3破解文件

WINCC7.3硬件够破解文件,有需要的下载!WINCC7.3硬件够破解文件,有需要的下载!

老版QQ原生表情gif动态

这是老版的QQ表情,不过全是动态的的,Windows照片查看器是不会动的,可以右击用浏览器打开查看,再说一遍是老版的,只是分享给宁愿用老版也要动态的人。

OpenMP 编译器

  1   2         PROGRAM test_select_sort   3 !!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!   4 ! Purpose: To test the subroutine or function select_sort                       !   5 ! Record of revisions:            

月色撩人 633

计算机控制技术及应用

《计算机控制技术及应用》通过总结作者的科研成果和吸收国内外的先进理论、方法和技术,以计算机控制系统的网络化、开放化、智能化和集成化发展趋势为主线索,主要介绍计算机控制系统的基本概念和计算机控制系统的典型形式,计算机控制系统的数学描述与基本分析方法,以及数字PID控制器、最少拍控制系统、达林算法、状态变量设计法等设计方法及其各种改进算法。重点突出计算机控制系统输入输出通道接口的设计方法和典型控制系统的设计案例与实现方法等。

RuntimeError: Ninja is required to load C++ extensions

因服务器文件无sudo权限,暂时还未解决。

RRRUAAA的博客 5881

Outlook Express 6 (OE6) for Win7/Win8/Win10

英文版 Outlook Express6.0, 兼容Win7/Win10/WinXP,解压就可用。

C++ cin.get与cin.getline记录错误

三参数cin.get(ch,10,',');最后面的 '' 代表结束的位置,同时取消了enter的结束。cin.get 不舍弃输入中的enter,cin.getline则会。二参数cin.get(ch,10);后面的数字指定输入多少位。如果需要cin.get遇到enter不停止。cin.get遇到enter马上结束输入。一参数 cin.get(ch);而cin.getline则不会。以下必须得是char[]类型。

蒟蒻的博客 843

python setup.py install 出错_安装到 python setup.py install 的时候出错了, 前面的步骤一切正常...

which: no nvcc in (/app/anaconda3/envs/chineseocr/bin:/app/anaconda3/condabin:/usr/bin:/bin:/usr/sbin:/sbin:/usr/local/sbin:/home/mcbadm/.local/bin:/home/mcbadm/bin)Torch was not built with CUDA suppo...

weixin_39738380的博客 1639

Benchmark-Thrift 教程:安装与使用指南

Benchmark-Thrift 教程:安装与使用指南 1. 项目目录结构及介绍 Benchmark-Thrift 的目录结构如下: . ├── output # 存放测试结果的目录 └── src # 源代码目录 ├── gitignore # .gitignore 文件,定义忽略的文件或...

gitblog_00659的博客 495

项目性能优化—使用JMeter压测SpringBoot项目

本文介绍了使用JMeter压测SpringBoot项目,介绍了如何配置Jmeter,Jmeter输出结果的解析等。

随机的未知——用已知去面对未知 4563

探索超高速异步RPC框架:turbo-rpc

探索超高速异步RPC框架:turbo-rpc 在高并发、低延迟的分布式系统中,选择一个合适的RPC框架至关重要。今天,我们要介绍的turbo-rpc是一款专为性能而生的异步响应式RPC框架,它将带给你前所未有的开发体验。 项目介绍 turbo-rpc是一个专注于速度与效率的框架,其设计理念是仅支持异步调用,使得应用程序能够更好地利用硬件资源,提高整体系统的吞吐量。不仅如此,它还提供了丰富的功能特性...

gitblog_00067的博客 532

Webiny GraphQL Playground 重构实录:注释保留 Prettifier、可注入客户端工厂与三层架构打磨

> 本文基于仓库内 [docs/.bruno/handoff/2026-07-03-handoff-graphql-playground-polish.md](https://link.gitcode.com/i/5785cee2773228322ecf31343ece43d8) 交接文档,并结合 `packages/app-graphql-playground` 的真实源码展开。该交接文档记录了

gitblog_00051的博客 421

探索高效网络性能测试工具:HTTP Benchmark Netty

探索高效网络性能测试工具:HTTP Benchmark Netty 去发现同类优质开源项目:https://gitcode.com/ 在现代互联网应用开发中,对服务端性能的评估和优化是至关重要的。这里向大家推荐一个开源项目——,这是一个基于Netty框架的HTTP性能基准测试工具。本文将详细介绍该项目的功能、技术实现、应用场景及特点,帮助开发者更好地理解和利用它。 项目简介 HTTP Benchm...

gitblog_00086的博客 795

Undertow、Vert.x 和 Netty 的压力测试比较

转自http://www.oschina.net/news/49158/undertow_vert_x_and_netty_benchmarks Undertow、Vert.x 和 Netty 的压力测试比较 Tech Empower 对 90 个框架进行了性能方面的比较测试,这些测试主要是设计一些基础的任务,例如 JSON 序列化、数据库访问、服务端模板生成等等。你可以从in

马万明的专栏 1万+

benchmark-thrift: 性能测试利器

benchmark-thrift: 性能测试利器 一、项目介绍 benchmark-thrift 是一款专为测试Thrift应用程序而设计的性能检测工具,它被设计成开箱即用,功能强大且使用简便。该工具支持多个Thrift版本以及各种TProtocol和TTransport类型,提供并发和吞吐量两种压力模式供选择。 特点包括: 一键下载:无需繁琐配置,下载最新版本即可在命令行下立即运行。 多版本兼...

gitblog_00811的博客 1590

微服务 + Spring AI 全栈实战避坑笔记

方法里,不要直接返回 List 或对象,一定要用 StringBuilder 或 JSON 工具转成可读文本再返回。:Nacos 和 Gateway 的配置缓存极深,改完配置不彻底 Stop 再 Start,等于没改。如果真实端口通了,绝对不要在微服务里找代码问题,死死盯住网关配置。:Spring AI 里程碑版本包不在阿里云镜像中,或者 IDEA 拦截了 HTTPS 证书。端口(绕过网关),如果通了,说明 100% 是网关配置或没重启的问题。:完全不用管,这是浏览器请求网页图标,不影响任何业务逻辑。

2503_93626619的博客 251
上一篇: Apache ServiceComb 的微服务数据最终一致性解决方案 Saga 演进
下一篇: LC3大会微服务Workshop来袭 | 深入解读ServiceComb
评论 1
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值