ServiceComb通信处理详解 1 整体介绍
- 各种安全加固的组件,只提供了同步工作模式,比如redis、zookeeper等等
- 一些存量代码工作于同步模式,需要低成本迁移
- 开发人员技能不足以控制reactive逻辑
2 同步模式下的整体线程模型
- 一个微服务进程中,为transport创建了一个独立的vertx实例
- Eventloop是vertx中的网络、任务线程
- 一个vertx实例默认的Eventloop数为:2 * Runtime.getRuntime().availableProcessors()
3.1 单连接模型 最简单的单连接模型
- Connection.send内部直接调用Vertx的socket.write(buf),是必然加锁互斥的。
- Socket.write内部会调用netty的channel.write,此时会判断出执行线程不是eventloop线程,所以会创建出一个任务并加入到eventloop任务队列中,如果eventloop线程当前在睡眠态,则立即唤醒eventloop线程,异步执行任务。
- 每个TcpClientConnection额外配备一个CAS消息队列
- Connection.send不再直接调用vertx的write方法,而是:
- io.servicecomb.foundation.vertx.client.tcp.TcpClientConnection.packageQueue
- io.servicecomb.foundation.vertx.client.tcp.TcpClientConnection.send(AbstractTcpClientPackage,long, TcpResponseCallback)
- io.servicecomb.foundation.vertx.tcp.TcpConnection.write(ByteBuf)
- io.servicecomb.foundation.vertx.tcp.TcpConnection.writeInContext()
| |
TPS
|
Latency(ms)
|
CPU
|
TPS
提升比例
|
时延提升比例
| |
|
Consumer
|
Producer
|
(
新-
旧)/
旧
|
(
旧-
新)/
新
| |||
|
优化前
|
81986
|
1.22
|
290%
|
290%
|
77.31%
|
43.61%
|
|
优化后
|
145369
|
0.688
|
270%
|
270%
| ||
- 允许配置多个eventloop线程
- cse:
- highway:
- client:
- thread-count: 线程数
- server:
- thread-count: 线程数
- Consumer线程与eventloop线程建立均衡的绑定关系,进一步降低consumer线程的竞争概率。
- io.servicecomb.foundation.vertx.client.ClientPoolManager.findThreadBindClientPool()
- 所有的eventloop向同一个BlockingQueue中提交任务
- 线程池中所有线程从同一个BlockingQueue中抢任务执行
- Eventloop线程与线程池建立均衡的绑定关系,降低锁冲突概率
- 相当于将线程分组,不同线程从不同Queue中抢任务,降低冲突概率
- servicecomb:
- executor:
- default:
- group: 内部真正线程池的数目
- thread-per-group: 每个线程池中的线程数
451



被折叠的 条评论
为什么被折叠?



