Netty进阶——粘包/半包

文章深入探讨了TCP协议中的粘包和半包问题,这些问题源于TCP的滑动窗口机制。Netty通过设置滑动窗口大小、使用解码器如FixedLengthFrameDecoder和LengthFieldBasedFrameDecoder来解决这类问题,确保数据的正确传输和解析。

前言:

TCP(Transmission Control Protocol)是一种面向连接的可靠传输协议,广泛应用于网络通信领域。在TCP协议中,数据被分割成一个一个的报文段进行传输。然而,由于网络传输的不可靠性,TCP协议会面临一些数据传输问题,如粘包和半包问题。在网络通信中,当发送方连续发送多个小数据包时,接收方可能会将它们合并成一个大的数据包,这就是粘包问题;而当发送方发送的数据包长度大于接收方的缓冲区长度时,接收方无法完整接收数据包,导致数据的接收不完整,这就是半包问题。本文将深入探讨TCP协议中的粘包和半包问题,分析他们出现的根本原因,并提供一些解决方案,以便更好地应对这些问题。

粘包和半包产生原因

粘包就是多个数据混淆在一起了,而且多个数据包之间没有明确的分隔,导致无法对这些数据包进行正确的读取。

半包就是一个大的数据包被拆分成了多个数据包发送,读取的时候没有把多个包合成一个原本的大包,导致读取的数据不完整。

这种问题产生的原因可能有多种因素,从应用层到链路层中都有可能引起这个问题。

1.TCP协议中的滑动窗口

TCP协议是一种可靠性传输协议,所以在传输数据的时候必须要等到对方的应答之后才能发送下一条数据,这种显然效率不高。

TCP协议为了解决这个传输效率的问题,引入了滑动窗口。滑动窗口就是在发送方和接收方都有一个缓冲区,这个缓冲区就是"窗口",假设发送方的窗口大小是 0~100KB,那么发送数据的时候前100KB的数据不需要等到对方ACK应答即可全部发送。

如果发送的过程中收到了对方返回某个数据包的ACK,那么这个窗口会对应的向后滑动。比如刚开始的窗口大小是0~100KB,收到前20KB数据包的ACK之后,这个窗口就会滑动到20~120KB的位置,以此类推。这里还有一个小问题,如果发送方一直未接收到前20KB的ACK消息,那么在发送完0~100KB的数据之后,窗口就会卡在那里,这就是经典的队头阻塞问题,后续会讲解,本文重点不是这个,先有个印象。

接收方那里也有这么一个窗口,只会读取窗口内的数据并返回ACK,返回ACK后,接收窗口往后滑动。

对于TCP的滑动窗口,发送方的窗口起到了优化传输效率的作用,接收方的窗口起到了流量控制的作用。
 

Netty中具体实现

1、设置滑动窗口大小

  • .option(ChannelOption.SO_RCVBUF,10) 调整系统的接收缓冲区(TCP滑动窗口)
  • .childOption(ChannelOption.RCVBUF_ALLOCATOR,new AdaptiveRecvByteBufAllocator(16,16,16)) 调整netty的接收缓冲区

2、使用解码器,设置消息发送的长度,按指定长度进行发送

  • ch.pipeline().addLast(new FixedLengthFrameDecoder(16));

📢 将接收到的bytebuf按固定字节数拆分的解码器。

例如,如果收到以下4个分片报文:

+---+----+------+----+

| a | BC | defg | hi |

+---+----+------+----+

FixedLengthFrameDecoder(3)将它们解码成以下三个固定长度的数据包:

+-----+-----+-----+

| ABC | def | ghi |

+-----+-----+-----+

3、按指定字符进行拆分发送

  • LineBasedFrameDecoder 使用换行符进行分割,“\n”和“\r\n
  • DelimiterBasedFrameDecoder 使用指定字符作为分隔符。

 🔔 代码示例

        服务器

public static void main(String[] args) {
        NioEventLoopGroup boss = new NioEventLoopGroup();
        NioEventLoopGroup worker = new NioEventLoopGroup();
        try {
            ServerBootstrap serverBootstrap = new ServerBootstrap();
            serverBootstrap
                    .group(boss, worker)
                    .channel(NioServerSocketChannel.class)
//                    1、调整系统的接收缓冲区(TCP滑动窗口)
//                    .option(ChannelOption.SO_RCVBUF,10)
//                    调整netty的接收缓冲区(byteBuf)
//                    .childOption(ChannelOption.RCVBUF_ALLOCATOR,new AdaptiveRecvByteBufAllocator(16,16,16))
                    .childHandler(new ChannelInitializer<SocketChannel>() {
                        @Override
                        protected void initChannel(SocketChannel ch) throws Exception {
//                            2、解码器,把消息按指定长度进行发送()
//                            ch.pipeline().addLast(new FixedLengthFrameDecoder(16));
//                            3、通过指定换行符进行拆分接收
//                            ch.pipeline().addLast(new LineBasedFrameDecoder(1024));
//                            ch.pipeline().addLast(new DelimiterBasedFrameDecoder(1024));
//                            4、使用动态解码器
                            ch.pipeline().addLast(new LengthFieldBasedFrameDecoder(1024,0,0,0,0));
                            ch.pipeline().addLast(new LoggingHandler(LogLevel.DEBUG));
                        }
                    });
            ChannelFuture channelFuture = serverBootstrap.bind(8080).sync();
            channelFuture.channel().closeFuture().sync();

        } catch (InterruptedException e) {
            e.printStackTrace();
        }finally {
            boss.shutdownGracefully();
            worker.shutdownGracefully();
        }
    }

        客户端

public static void main(String[] args) {
        for (int i = 0; i < 10; i++) {
            start();
        }
    }
    private static void start() {
        NioEventLoopGroup group = new NioEventLoopGroup();
        try {
            Bootstrap bootstrap = new Bootstrap();
            bootstrap
                    .group(group)
                    .channel(NioSocketChannel.class)
//                    .option(ChannelOption.SO_RCVBUF,10)
                    .handler(new ChannelInitializer<SocketChannel>() {
                        @Override
                        protected void initChannel(SocketChannel ch) throws Exception {
                            ch.pipeline().addLast(new ChannelInboundHandlerAdapter(){
    //                            会在连接Channel 建立成功后,会触发active事件
                                @Override
                                public void channelActive(ChannelHandlerContext ctx) throws Exception {
                                        ByteBuf buf = ctx.alloc().buffer(16);
                                    for (int i = 0; i < 10; i++) {
                                        buf.writeBytes(new byte[]{0,1,2,3,4,5,6,7,8,9,10,11,12,13,14,15,16,17,18});
                                    }
                                    ctx.writeAndFlush(buf);
                                }
                            });
                        }
                    });
            ChannelFuture channelFuture = bootstrap.connect("127.0.0.1", 8080).sync();
            channelFuture.channel().closeFuture().sync();
        } catch (InterruptedException e) {
            e.printStackTrace();
        }finally {
            group.shutdownGracefully();
        }
    }

4、使用LengthFieldBasedFrameDecoder 使用动态解码器进行

 

测试代码

public static void main(String[] args) {
        EmbeddedChannel channel = new EmbeddedChannel(
                new LengthFieldBasedFrameDecoder(1024,0,4,1,4),
                new LoggingHandler(LogLevel.DEBUG)
        );
        ByteBuf buffer = ByteBufAllocator.DEFAULT.buffer();
        send(buffer,"Hello,world");
        send(buffer,"Hi");
        send(buffer,"zhangsan");
        channel.writeOneInbound(buffer);
    }

    private static void send(ByteBuf buffer, String content) {
        byte[] bytes = content.getBytes();
        int length = bytes.length;
        buffer.writeInt(length);
        buffer.writeByte(1);
        buffer.writeBytes(bytes);
    }
### Java Netty 中处理半包问题的解决方案 在 Java Netty 中,半包问题是由于 TCP 协议的特性导致的。TCP 是一种面向字节流的协议,它并不关心上层应用发送的数据的实际边界[^3]。因此,接收方可能会接收到不完整的消息(半包)或多条消息的组合()。为了解决这一问题,Netty 提供了多种解码器来处理这些情况。 #### 1. 使用 `LengthFieldBasedFrameDecoder` `LengthFieldBasedFrameDecoder` 是 Netty 提供的一个基于长度字段的解码器。它可以解析含长度字段的消息帧,并确保接收到完整的消息。以下是一个示例代码: ```java package com.example.netty.nian; import io.netty.buffer.ByteBuf; import io.netty.buffer.ByteBufAllocator; import io.netty.channel.embedded.EmbeddedChannel; import io.netty.handler.codec.LengthFieldBasedFrameDecoder; import io.netty.handler.logging.LogLevel; import io.netty.handler.logging.LoggingHandler; public class TestLengthFieldDecoder { public static void main(String[] args) { EmbeddedChannel channel = new EmbeddedChannel( new LengthFieldBasedFrameDecoder(1024, 0, 4, 1, 0), new LoggingHandler(LogLevel.INFO) ); ByteBuf buf = ByteBufAllocator.DEFAULT.buffer(); send(buf, "abc"); send(buf, "www"); channel.writeInbound(buf); } public static void send(ByteBuf buf, String content) { byte[] bytes = content.getBytes(); int length = bytes.length; buf.writeInt(length); // 写入消息长度 buf.writeByte(1); // 写入额外标志位(可选) buf.writeBytes(bytes); // 写入消息内容 } } ``` 在这个例子中,`LengthFieldBasedFrameDecoder` 的参数解释如下: - `1024`:表示最大帧长度。 - `0`:表示长度字段在消息中的起始位置。 - `4`:表示长度字段占用的字节数。 - `1`:表示长度字段之后的偏移量。 - `0`:表示调整值(通常为 0)。 通过这种方式,接收方可以准确地解析出每一条消息[^2]。 #### 2. 使用分隔符解码器 `DelimiterBasedFrameDecoder` 如果每条消息都以特定的分隔符结尾(例如换行符 `\n`),可以使用 `DelimiterBasedFrameDecoder` 来解析消息。以下是示例代码: ```java import io.netty.buffer.Unpooled; import io.netty.channel.ChannelPipeline; import io.netty.handler.codec.DelimiterBasedFrameDecoder; import io.netty.handler.codec.string.StringDecoder; public class DelimiterExample { public static void configurePipeline(ChannelPipeline pipeline) { ByteBuf delimiter = Unpooled.copiedBuffer("\n".getBytes()); // 定义分隔符 pipeline.addLast(new DelimiterBasedFrameDecoder(1024, delimiter)); // 添加分隔符解码器 pipeline.addLast(new StringDecoder()); // 将 ByteBuf 转换为字符串 pipeline.addLast(new YourBusinessHandler()); // 自定义业务处理器 } } ``` 这种方案的优点是实现简单,但缺点是需要为每条消息附加分隔符,增加了通信开销[^4]。 #### 3. 自定义解码器 对于更复杂的消息格式,可以实现自定义解码器。继承 `ByteToMessageDecoder` 类并重写其 `decode` 方法,根据具体需求解析消息。以下是一个简单的自定义解码器示例: ```java import io.netty.buffer.ByteBuf; import io.netty.channel.ChannelHandlerContext; import io.netty.handler.codec.ByteToMessageDecoder; import java.util.List; public class CustomDecoder extends ByteToMessageDecoder { @Override protected void decode(ChannelHandlerContext ctx, ByteBuf in, List<Object> out) throws Exception { if (in.readableBytes() < 4) { // 检查是否有足够的数据读取长度字段 return; } in.markReaderIndex(); // 标记当前读取位置 int length = in.readInt(); // 读取消息长度 if (in.readableBytes() < length) { // 如果剩余数据不足以组成完整消息 in.resetReaderIndex(); // 回滚读取位置 return; } ByteBuf frame = in.readBytes(length); // 读取消息内容 out.add(frame); // 将解析后的消息添加到输出列表 } } ``` 通过自定义解码器,可以灵活地处理各种复杂的协议[^3]。 --- #### 总结 在 Netty 中,半包问题可以通过以下几种方式解决: - 使用 `LengthFieldBasedFrameDecoder` 解析带有长度字段的消息。 - 使用 `DelimiterBasedFrameDecoder` 解析带有分隔符的消息。 - 实现自定义解码器以适应复杂的协议需求。 每种方法都有其适用场景,选择时需根据实际消息格式和性能要求进行权衡。 ---
评论 1
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值