【性能测试】压榨一下ServiceComb

【教程】ServiceComb安装和配置 Apache ServiceComb 提供了融合开源生态的一站式微服务开源解决方案,致力于帮助企业、用户和开发者将应用轻松微服务化上云,实现对微服务应用的高效运维管理。 阅读详情

ServiceComb性能测试

  1. 前言

本文以一个最简单的单consumer->单producer的测试场景为例,说明了如何在指定测试环境中,通过观察metrics统计数据,不断调整参数压榨出最大性能,。

基本测试过程:

  • 测试驱动加大压力,TPS逐渐上升
  • 驱动压力达到一定程度后,TPS不再上升,或是缓慢上升,甚至是下降,此时伴随着时延明显上升,称之为性能拐点
  • 调整consumer/producer各种参数(网络线程/业务线程等等),提升处理能力
  • 重新调整测试驱动压力(加大或减小),重复前面步骤
  • 输出最终性能拐点时的各项参数,包括TPS/时延/CPU/带宽等等
  1. 环境确认
    1. 使用华为云c3.2xlarge.2 VM

Node1     192.168.26.44

Node2     192.168.29.195

 

Node1 ping Node2:平均0.171ms

基准带宽:2 Gbit/s      (指弹性云服务器能稳定达到的保证带宽)

最大带宽:5 Gbit/s      (指弹性云服务器能够达到的最大带宽)

内网收发包:900,000 pps (指弹性云服务器能达到的最大收发包能力)

    1. 网络

打开网卡的RSS特性,执行ethtool -l eth0,得到类似下图的数据

        如果Pre-set的Combined不等于Current的Combined,则执行ethtool -L eth0 combined {Pre-Set Combined}改为相等,在这里应该是ethtool -L eth0 combined 4

        打开网络队列的自动负载均衡:service irqbalance start

    1. CPU

cat /proc/cpuinfo | grep name

8  Intel(R) Xeon(R) Gold 6151 CPU @ 3.00GHz

    1. 内存

dmidecode -t memory

16GB

  1. 部署
    1. service center
  • 下载service center

http://mirror.bit.edu.cn/apache/servicecomb/servicecomb-service-center/1.1.0/apache-servicecomb-service-center-1.1.0-linux-amd64.tar.gz

  • 上传到Node2,解压
  • 修改conf/app.conf,监听地址设为Node2小网IP

Httpaddr = 192.168.29.195

  • 启动service center
    1. 编译用例工程
  • 下载源码

git clone https://github.com/apache/servicecomb-java-chassis.git

  • 编译

mvn clean install -Dmaven.test.skip=true

cd demo/perf

mvn install -Pdemo-run-release -Dmaven.test.skip=true

 

编译时增加maven.test.skip仅仅是为了加快编译速度

    1. Producer

在Node2的demo/target/perf目录中新建microservice.yaml:

service_description:

  name: perf1

servicecomb:

  service:

    registry:

      address: http://192.168.29.195:30100

  highway:

    address: 192.168.29.195:7070

    server:

      thread-count: 1

  rest:

    address: 192.168.29.195:8080

    server:

      thread-count: 1

response-size: 1024

启动:java –jar perf*

    1. 测试驱动:Consumer

在Node1的demo/target/perf目录中新建microservice.yaml:

service_description:

  name: consumer

servicecomb:

  service:

    registry:

      address: http://192.168.29.195:30100

  highway:

    address: 192.168.26.44:7070

    client:

      thread-count: 1

  rest:

    address: 192.168.26.44:8080

    client:

      thread-count: 1

      connection:

        maxPoolSize: 5

  references:

    transport: highway

  metrics:

    window_time: 1000

    publisher.defaultLog:

      enabled: true

      endpoints.client.detail.enabled: true

启动:java –jar perf* -c

  1. Highway
    1. 同步调优

Consumer的microservice.yaml中配置

sync-count: 1

sync: true

      1. TPS/时延/CPU/带宽消耗都很低

此时驱动并发度才1,太低,加大驱动压力到500

sync-count: 500

      1. Producer CPU很低

TPS上升到了10多万

时延3+ms,偏高

Producer本身时延并不太大,8C才用了不到2C,并且默认的2组业务线程中只有1组在工作(默认线程池,每1组与一个网络线程绑定)

为充分使用网络带宽,提升网络连接数

Consumer:

servicecomb:

  highway:

    client:

      thread-count: 8

Producer:

servicecomb:

  highway:

    server:

      thread-count: 8

      1. Producer 线程池排队

        TPS进一步提升到36万左右

        Consumer时延从3+ms降低到1+ms

        Producer线程池有排队现象,考虑扩展线程池,有2种思路,1是加大每个池中的线程数,1是加大线程组数

        因为这个性能测试场景,业务非常轻量,tps已经达到了几十万级别,线程池入队的竞争/唤醒会比较激烈,加大线程数,效果并不会太好

        实际验证也确实如此,加大线程数,TPS基本不变;所以这里加大线程组,减小竞争概率,并且减小每组线程数,减少线程切换,Producer:

servicecomb:

  executor:

    default:

      group: 4

      thread-per-group: 2

      1. 最终效果

        TPS提升到45万左右,时延少量下降

        尝试调整驱动并发数sync-count,从当前的500并发往下调,TPS下降,往上调,TPS基本不变,而时延上升,处于性能拐点。

    1. Reactive调优

Consumer的microservice.yaml中配置

async-count: 1

sync: false

      1. TPS/时延/CPU/带宽消耗都很低

此时驱动并发度才1,太低,加大驱动压力到500

1个并发驱动,有2条连接,是因为开始压测前,独立调用了一次,用于打印调用结果;从非eventloop线程发起reactive调用,会随机选择一个网络线程去建立连接。

async-count: 500

      1. Consumer最大时延偏高,Producer CPU消耗偏低

        该环境中RSS网络队列只有4个,与CPU数不对等,限制了并发能力,所以Producer CPU偏低

在reactive场景下,网络线程即业务线程,有任何的波动,都会导致最大时延变大

  1. RESTful

ServiceComb中不同transport切换,只需要修改配置,不需要修改业务代码

Consumer的microservice.yaml中配置

Servicecomb:

  references:

transport: rest

sync-count: 500

sync: true

    1. 同步调优
      1. CPU占用极少,时延超大

        因为默认网络线程只有1,调大网络线程

Consumer:

servicecomb:

  rest:

    client:

      thread-count: 8

Producer:

servicecomb:

  rest:

    server:

      thread-count: 8

      1. 连接池耗时较大

        CPU消耗正常了,TPS提升到15万多,时延仍然较大

主要消耗在从连接池获取连接,默认每个网络线程对每个ip:port建立5个连接,所以共建立了40条连接,而有500个并发请求,考虑扩展连接池。

      1. 调用连接池,TPS不变,时延少量降低

servicecomb:

  rest:

    client:

      connection:

        maxPoolSize: 15

深度每个池连接数为15/30/60等等,TPS在18万左右已经达到上限

降低驱动压力,调整为80时已经可以达到极限TPS

servicecomb:

  rest:

    client:

      connection:

        maxPoolSize: 10

sync-count: 80

    1. Reactive调优

直接调大连接池

servicecomb:

  rest:

    client:

      connection:

        maxPoolSize: 30

async-count: 500

sync: false

        CPU基本耗尽,时延偏大,考虑降低驱动压力到100

servicecomb:

  rest:

    client:

      connection:

        maxPoolSize: 15

async-count: 100

  1. 测试结果汇总

注:

从metrics数据中可以看到,有时os级别的cpu占用反而小于进程级的占用

通过在linux中直接观察top/htop的输出,也有相同的现象,虚机中尤其容易出现,物理机会好一些。

查看top/htop源码,发现htop的算法与top还不一样,htop的计算更容易导致诡异的计算结果。

最新版本的ServiceComb中调整了输出格式,跟top保持一致,进程级的cpu占用按Irix模式展示,os级的cpu占用按Solaris模式展示。

注册中心Service-Center同步搭建 1. Service-Center注册中心 1.1 SC的下载 下载地址: https://github.com/apache/servicecomb-service-center/releases 下载最新的 2.1.0 版本(根据自身OS选择合适的软件包),下载后可直接运行。 # 第一步 start-service-center.sh (Linux/Mac) / start-service-center.bat(Windows) # 第二步 start-frontend.sh(Linux/Mac) / 阅读详情

相关推荐

微服务框架ServiceComb

Service Center是ServiceComb生态系统中的一个服务注册与发现中心,它基于Apache ServiceComb提供可靠的服务管理。Service Center存储有关每个服务实例的详细信息,包括其状态、位置和可用性信息。服务消费者可以使用这些信息来找到并调用这些服务。如果你已经集成了ServiceComb和Spring Boot,可以使用Spring MVC的注解来创建RESTful API。在这个例子中,和是Spring MVC提供的注解,用于定义一个REST服务端点。

www_tlj的专栏 2531

网卡多队列设置

一、网卡多队列的出现 通常情况下,一张网卡会有一个队列用来接发收网络数据包,我们所说的一个队列你也可以理解成一个处理数据包的进程。 但是随着时代的发展,网卡支持的流量带宽越来越大,如果还是使用一个队列来接收网络数据包,必然容易造成数据包阻塞和单cpu处理不过来。于是出现了一批高端的智能网卡,这些网卡可以支持使用多个队列来接发收数据包。比如1822网卡 队列个数也可以根据情况设置,一个队列可以理解是一个处理数据包的进程,多个队列对应多个进程,这些进程可以分散到不同的cpu去处理,这样就缓解了单cpu的执

qiongtianliuyun的博客 1万+

servicecomb-mesher:用go编写的高性能服务网格实现

网格器 一种基于服务网格实现。 为什么要使用网格器 任何基础架构:如果将ServiceComb用作控制平面,则可以在任何基础架构(docker,kubernetes,VM,裸机)上运行。 服务网格和框架:您可以使用Java框架开发微服务,也可以使用框架框架并使用Mesher使其他服务加入同一系统。 灵活:您可以开发和定制自己的服务网格 操作系统:支持linux和Windows操作系统,这意味着您可以使用Java,go等管理在.net中编写的服务。 API网关:Mesher能够作为独立的边缘服务运行并管理入口流量。 特征 建立在go微服务框架之上:mesher具有所有功能,一个高度灵活的go微服务框架。 您可以通过扩展许多组件来自定义自己的服务网格和API网关。 管理员API:在隔离的端口上监听,公开有用的运行时信息和指标。 支持协议:http和grpc 没有IP表转发:Mes

Docker安装service-center,littlecui/scfrontend

【代码】Docker安装service-center,littlecui/scfrontend。

m0_56048123的博客 759

蓝牙HCI Dongle实战:从芯片选型到协议栈集成的完整指南

本文详细介绍了蓝牙HCI Dongle的实战应用,从芯片选型到协议栈集成的完整指南。通过对比CSR8510、nRF52840等主流芯片的性能和价格,提供选型建议和避坑技巧。同时,深入解析Zephyr协议栈移植和常见问题排查,帮助开发者高效完成蓝牙项目开发。

weixin_30786657的博客 322

因时机器人-灵巧手配置方案(Ubuntu18.04)

因时机器人-灵巧手配置方案(Ubuntu18.04)

CH_monsy的博客 3856

ServiceComb Java Chassis 快速入门和复杂系统实践经验总结

快速搭建一个典型的微服务应用 项目介绍 示例微服务应用由 4 个微服务组成。 应用网关:负责接收前端的请求,并将请求转发给后端服务处理。应用网关还负责简单的认证功能。 文件服务: 提供一个上传文件接口,和删除文件接口。 用户管理: 提供登录认证逻辑实现。 静态页面托管 HTML/JS/CSS等。 本地微服务引擎本是CSE 微服务引擎的简化版本,用于本地开发调试。它包含3个服务。 服务中心:负责服务注册和发现。 配置中心:负责集中配置管理。 控制台:提供前端管理界面。 安装...

微服务技术与实践专栏 2581

Bochs源码分析 - 4: 使用ida来调试bochs

前言 bochs内部提供了一个调试器,但是这个命令行调试器相当难用,想找一个gui的debugger。第一次是在百度百科的bochs词条中介绍的peter-bochs-debugger调试器(java编写),但是后来发现ida也有一个bochs调试器,因为对ida比较熟悉,就选用此作为bochs调试器。 在配置过程中参考博客 https://blog.youkuaiyun.com/cssxn/article/details/90738498 中的配置,但是这是直接发布版本,拿源码编译...

WriteAnything_的博客 2758

合理设置servicecomb.rest.server.thread-count的值

很对开发者测试的时候,发现CSE SDK的CPU占用率很多时候只能够到1CPU,这是因为servicecomb.rest.server.thread-count默认值为1。 官网文档将这个配置项含义解释为“服务端线程数”(参考: https://docs.servicecomb.io/java-chassis/zh_CN/build-provider/protocol/rest-over-vert...

微服务技术与实践专栏 1088

JMeter 中实现 100 个用户在 3 秒内并发登录

通过以上配置,你可以在 JMeter 中实现 100 个用户在 3 秒内并发登录

南开大学 | 10 年 + 软件研发与测试实战 | 现任企业质控负责人 | 专注端到端交付质量 1684

如何构建一个 AI 驱动的数据分析系统

在现代数据分析中,将 AI 引入数据分析系统中可以极大提升效率和自动化程度。本文将从架构设计、工具选择、实现步骤等多个方面进行详细说明,帮助你构建一个 AI 驱动的数据分析系统。

晴天彩虹雨的博客 706

ServiceComb/CSE JAVA SDK开发常见问题、误区及建议

系统性问题: 1.      整体服务架构和规模摸底 a.       对服务规模(微服务数量,每个微服务的实例数,每个微服务的schema个数等)需要进行一定的评估,如果微服务总接口数非常多,并且所有服务的请求都经过Edge Service转发,建议Edge Service等需要调用大量其他服务的消费者设置较大的的JAVA metaspace空间, -XX:MaxMetaspaceSize=...

微服务技术与实践专栏 1457

全景相机APP

以下是一款**全景相机APP**的完整源码,支持全景照片拍摄(多帧拼接)、全景预览、鱼眼矫正、图片保存/分享、360°全景查看等核心功能,基于Android原生Camera2 API(替代过时的Camera API) + OpenCV(图像拼接) + GLSurfaceView(全景预览)实现,适配Android 8.0+设备,可直接编译运行。runOnUiThread(() -> tvFrameCount.setText("已拍摄:" + frameCount + "帧"));// X轴旋转(上下)

寒寒豆豆软件公司的博客 182

Spring Cloud Gateway, Zuul, Edge Service 性能对比

关键字:网关,Zuul,Gateway,ServiceComb,性能测试,微服务 摘要 本文对几种流行的 API 网关以关键指标 RPS 为依据,利用 wrk 做了性能测评并且给出结论。本文所有使用的软件、命令、以及代码均在文中注明,读者可以很方便地在自己的环境中做出相同的测试。另外性能测试...

churan9071的博客 1461

030、自动白平衡AWB实战:灰度世界、完美反射与色温估计的工程实现与局限

本文深入探讨了自动白平衡(AWB)算法在工程实践中的实现与局限性。作者结合实际项目经验,分析了灰度世界算法、完美反射算法和色温估计三种主流方法的优缺点和适用场景,并分享了调试过程中的关键技巧和常见陷阱。文章指出,纯色背景、多光源环境等特殊场景容易导致算法失效,需要通过混合策略和场景检测来优化。作者强调AWB调试需要大量实际场景测试,建议保留手动调节功能,并针对不同硬件配置进行参数标定。最后提出,AWB优化是一个持续迭代的过程,需要工程化的测试方法和数据处理能力。

zzfmlxs的博客 284

在 SAP S/4HANA Public Cloud 中做产品扩展:从 Key User 到 ABAP Cloud 与 BTP 的三轨实践指南

摘要:SAP S/4HANA Public Cloud 提供三种扩展方式(key user、developer extensibility 和 side-by-side),遵循 clean core 原则确保升级稳定。key user 扩展适合无代码轻量改良,developer extensibility 用于受控 ABAP 开发,side-by-side 则适用于云原生独立应用。文章通过销售订单优先级字段、退货审批微服务和采购校验等案例,说明不同扩展路径的适用场景与实现方法,帮助开发者在三系统景观中合理选

2007 年 ~ 2025 年,深耕 SAP 技术 18 年 294

弹性云服务器(Elastic Cloud Server,ECS)

弹性云服务器(Elastic Cloud Server,ECS) https://support.huaweicloud.com/ecs/index.html ...

coco3600的博客 4469

OV9734 DATASHEET,完整规格书

OV9734完整规格书,包括电气参数,尺寸规格,寄存器配置表等

ServiceComb场景及其原理

ServiceComb中是实现RPC的框架类似Dubbo,又称Java底座。通过的方式导入ServiceComb的核心Bean定义文件,注入如下Bean定义。ConfigurationSpringInitializerCseApplicationListener,ContextRefreshedEvent事件监听器初始化相关的连接 ContextRefreshedEvent Bean实例化完事件触达,初始化ServiceComb引擎SCBEngine org.apache.servicecom

一个菜鸟的博客 2375

android 蓝牙通讯demo

android 下蓝牙通讯demo,实现了发现蓝牙,使能蓝牙,通过蓝牙发送消息。

精雕软件(JDpaint) 5.5 绿色版

精雕软件(JDpaint) 5.5 绿色版精雕软件(JDpaint) 5.5 绿色版精雕软件(JDpaint) 5.5 绿色版

ServiceComb微服务框架

华为提供的微服务解决方案:Service Comb

学习记录和总结 1万+

廖雪峰Python教程[完整版]

廖雪峰的python教程整理的,已经排好版了,而且还是完整的,适合小白

RPC框架性能PK,ServiceComb表现亮眼

我们通常看到每个RPC框架介绍时都宣称“高性能”,到底哪个框架性能更好,很难得到明确答案。因为不同框架一般都有特别适合自己的测试场景,在特定场景下性能表现突出,其实说明不了问题。 为了相对准确评估不同框架性能,有网友做了一个性能基准测试,测试结果表明ServiceComb比大多主流服务框架有明显性能优势。 测试说明 仅限于 Java 客户端使用 JMH 进行压测, 32 线程, 3 轮预热 3 轮测试, 每轮 10s 每次运行前都会执行killall java, 但没有在每轮.

微服务技术与实践专栏 1119

如何基于ServiceComb做微服务能力开放

大量的微服务能力需要通过网关开放给用户、其他外部系统访问。网关一方面扮演着汇集用户请求的作用,同时还会扮演认证、鉴权、流量控制、防攻击的用途。同时,由于网关是一个汇聚点,容易形成业务的瓶颈,通常还会采用多级网关机制,最外层的网关提供主备以及简单的请求转发功能,中间层的实现鉴权等功能,多实例部署。常见的可以用于网关的技术和服务包括LVS、Nginx、Zuul等。 ServiceComb 也提供了自...

微服务技术与实践专栏 3799

ServiceComb 新版本发布了,赶紧体验吧

10月18日,ServiceComb 发布了 Java-chassis 0.3.0 版本和 service-center 0.2.0 版本,感谢社区小伙伴们的持续关注及贡...

微服务技术与实践专栏 273

完整微服务化示例:使用 Apache ServiceComb (incubating) 进行微服务开发、容器化、弹性伸缩...

2019独角兽企业重金招聘Python工程师标准>>> ...

weixin_34232363的博客 663

RPC Benchmark Round 3,ServiceComb 一鸣惊人

测试说明 仅限于 Java 客户端使用 JMH 进行压测, 32 线程, 3 轮预热 3 轮测试, 每轮 10s 每次运行前都会执行 killall java, 但没有在每轮测试时重启操作系统 所有类库版本在发布时都是最新的, 除非存在 bug 所有框架都尽量参考该项目自带的 Benchma...

chuhong4648的博客 442

Apache ServiceComb 社区4月动态精选

你好,四月我说 你是人间的四月天;笑响点亮了四面风;轻灵在春的光艳中交舞着变你是四月早天里的云烟;黄昏吹着风的软,星子在无意中闪;细雨点洒在花前......你是一树一树的...

微服务技术与实践专栏 296

ServiceComb/CSE常见问题处理(1812)

一、什么时机可以使用DynamicPropertyFactory.getInstance()读取配置 如果用spring,在place holder加载之后就可以使用,加载bean的过程中就可以读。 CSE初始化,是使用place holder来初始化的。 果要在更加之前读取, 只能使用local configuration, 具体可以参考java-chassis的config-cc代码实现: ...

微服务技术与实践专栏 2万+
上一篇: 基于CSE的微服务工程实践-多微服务框架演进
下一篇: ServiceComb微服务升级实践
looook
博客等级 码龄20年 145粉丝 195原创
评论 2
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值