Netty中遇到的问题:ctx.writeAndFlush造成非连续的请求

本文探讨了在Netty框架中,多线程环境下客户端如何保证请求顺序发送到服务端的问题。通过分析EventLoop线程特性和sendRequest方法的同步控制,揭示了非连续请求的成因,并提出了解决方案,即将所有业务线程的请求统一提交至队列,确保按序执行。

目的

为了保证客户端的请求是顺序发送到服务端的。

实现方法(初版)

ctx.writeAndFlush被包装在用synchronized修饰的send方法中,客户端统一调用sendRequest方法。
在这里插入图片描述

有多个线程使用sendRequest方法

1.eventLoop处理channelRead的结果,并调用sendRequest发送到服务端。
2.业务线程(如心跳线程,http请求对应的线程)去调用ctx.writeAndFlush
在这里插入图片描述

造成的后果

从客户端看日志是顺序的,但是服务端总是收到非连续的请求。

代码

服务端
检测客户端的请求cmdCnt,如果小于当前服务端的值,那么就认为是过期的命令
在这里插入图片描述

客户端
同步的sendRequest方法,保证不同线程都是顺序执行,cmdCnt顺序增长。
除了EventLoop线程,业务线程也会调用到sendRequest
在这里插入图片描述
EventLoop线程执行sendRequest
在这里插入图片描述

EventLoop处理任务流程

在这里插入图片描述

原因

这是EventLoop的一个特性:【非EventLoop线程A】调用ctx.writeAndFlush时,不会直接执行,而是放入taskQueue队列中(等待之后eventLoop线程去执行)。
当【非EventLoop线程A】执行同步的sendRequest并调用ctx.writeAndFlush的同时。 EventLoop线程此时如果正“忙”,也调用到sendRequest,但被synchronized阻塞了。 一旦 A线程将本次发送的内容打包为taskB到taskQueue(EventLoop->SingleThreadEventExecutor里面的taskQueue)。那EventLoop会在A线程offerTask完成,并释放synchronized对应的对象锁后。先执行本次sendRequest从taskQueue取出

代码请求流程

由于EventLoop即处理了channelRead(读) 以及后面的sendRequest(业务操作),
又处理writeAndFlush(写)。
在这里插入图片描述
在这里插入图片描述

解决方法

全部改为非业务线程去执行同步的sendRequest方法,去执行ctx.writeAndFlush,最终都提交给队列。那么顺序提交到队列,就顺序取出发送到服务端。避免了EventLoop线程直接执行writeAndFlush。

解决问题的代码
注意,内部的sendRequest才是同步方法。
在这里插入图片描述

[main] INFO client.TcpClient - 客户端连接成功,目标地址:127.0.0.1:8080 [main] INFO client.TcpClient - 客户端已关闭 Exception in thread "main" java.lang.UnsupportedOperationException: unsupported message type: GreetRequest (expected: ByteBuf, FileRegion) at io.netty.channel.nio.AbstractNioByteChannel.filterOutboundMessage(AbstractNioByteChannel.java:287) at io.netty.channel.AbstractChannel$AbstractUnsafe.write(AbstractChannel.java:739) at io.netty.channel.DefaultChannelPipeline$HeadContext.write(DefaultChannelPipeline.java:1386) at io.netty.channel.AbstractChannelHandlerContext.write(AbstractChannelHandlerContext.java:823) at io.netty.channel.AbstractChannelHandlerContext.write(AbstractChannelHandlerContext.java:752) at io.netty.handler.codec.MessageToByteEncoder.write(MessageToByteEncoder.java:120) at io.netty.channel.AbstractChannelHandlerContext.write(AbstractChannelHandlerContext.java:827) at io.netty.channel.AbstractChannelHandlerContext.write(AbstractChannelHandlerContext.java:752) at io.netty.handler.codec.MessageToMessageEncoder.write(MessageToMessageEncoder.java:102) at io.netty.channel.AbstractChannelHandlerContext.write(AbstractChannelHandlerContext.java:827) at io.netty.channel.AbstractChannelHandlerContext$WriteTask.run(AbstractChannelHandlerContext.java:1136) at io.netty.util.concurrent.AbstractEventExecutor.runTask(AbstractEventExecutor.java:148) at io.netty.util.concurrent.AbstractEventExecutor.safeExecute(AbstractEventExecutor.java:141) at io.netty.util.concurrent.SingleThreadEventExecutor.runAllTasks(SingleThreadEventExecutor.java:507) at io.netty.channel.SingleThreadIoEventLoop.run(SingleThreadIoEventLoop.java:183) at io.netty.util.concurrent.SingleThreadEventExecutor$5.run(SingleThreadEventExecutor.java:1073) at io.netty.util.internal.ThreadExecutorMap$2.run(ThreadExecutorMap.java:74) at io.netty.util.concurrent.FastThreadLocalRunnable.run(FastThreadLocalRunnable.java:30) at java.lang.Thread.run(Thread.java:750) Suppressed: java.util.concurrent.CompletionException: Rethrowing promise failure cause at io.netty.util.concurrent.DefaultPromise.rethrowIfFailed(DefaultPromise.java:685) at io.netty.util.concurrent.DefaultPromise.sync(DefaultPromise.java:419) at io.netty.channel.DefaultChannelPromise.sync(DefaultChannelPromise.java:119) at io.netty.channel.DefaultChannelPromise.sync(DefaultChannelPromise.java:30) at client.TcpClient.sendRequest(TcpClient.java:130) at client.TcpClient.main(TcpClient.java:173)
08-23
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值