Kafka服务端NIO操作原理解析(一)

Kafka系列文章

基于Kafka2.1解读Producer原理
基于Kafka2.1解读Consumer原理



前言

相信对于nio,写java的同志背起八股文一定是一套又一套的;
但是实际自己业务代码进行使用应该很少,当然常见的是netty、Redis、Kafka。
今天咱们就Kafka3.7的源码,解读下Kafka的server端是怎么进行nio来进行non-blocking IO 操作的


1、nio是什么?

下面是我问豆包,它给我的回答:
NIO(Non-blocking I/O,非阻塞 I/O)是 Java 中用于高效处理 I/O 操作的 API,从 JDK 1.4 开始引入,主要用于解决传统 IO(BIO,Blocking I/O)在高并发场景下的性能瓶颈。

NIO 的核心特点包括:
非阻塞模式:传统 BIO 中,I/O 操作(如读取数据)会阻塞线程直到操作完成,而 NIO 允许线程在等待 I/O 操作时执行其他任务,大幅提高了线程利用率。
缓冲区(Buffer):NIO 以缓冲区为数据处理的中心,所有数据读写都必须通过缓冲区进行。缓冲区是一个固定大小的内存块,可更高效地管理数据。
通道(Channel):通道是数据传输的双向通道,不同于传统 IO 的单向流(InputStream/OutputStream),可以同时进行读写操作,支持文件、网络套接字等多种数据源。
选择器(Selector):这是 NIO 的关键组件,一个选择器可以监听多个通道的事件(如连接就绪、数据可读等),使单一线程能高效管理多个通道,非常适合高并发场景。
NIO 的典型应用场景包括:

  • 高并发网络服务器(如 Web 服务器、即时通讯系统)
  • 需要高效处理大量 I/O 操作的应用
  • 对性能要求较高的分布式系统

与传统 BIO 相比,NIO 的编程模型更为复杂,但在处理大量并发连接时能显著提升系统吞吐量和响应性能,是 Java 高性能 I/O 编程的重要基础。Java NIO 后来发展为 NIO.2(在 JDK 7 中引入),增加了更多特性如异步 I/O 支持。

2、原生的nio,服务端代码如何实现

以下代码demo都是通过豆包实现的

2.1 一个Selector的demo

public class NioServer {
   
   
    // 缓冲区大小
    private static final int BUFFER_SIZE = 1024;
    // 端口号
    private static final int PORT = 8888;

    public static void main(String[] args) {
   
   
        try {
   
   
            // 创建Selector
            Selector selector = Selector.open();
            
            // 创建ServerSocketChannel
            ServerSocketChannel serverSocketChannel = ServerSocketChannel.open();
            // 绑定端口
            serverSocketChannel.socket().bind(new InetSocketAddress(PORT));
            // 设置为非阻塞模式
            serverSocketChannel.configureBlocking(false);
            // 注册到Selector,关注连接事件
            serverSocketChannel.register(selector, SelectionKey.OP_ACCEPT);
            
            System.out.println("NIO服务器已启动,监听端口: " + PORT);
            
            while (true) {
   
   
                // 阻塞等待就绪的事件,返回就绪的通道数量
                int readyChannels = selector.select();
                
                // 如果没有就绪的通道,继续等待
                if (readyChannels == 0) {
   
   
                    continue;
                }
                
                // 获取所有就绪的事件
                Set<SelectionKey> selectedKeys = selector.selectedKeys();
                Iterator<SelectionKey> keyIterator = selectedKeys.iterator();
                
                while (keyIterator.hasNext()) {
   
   
                    SelectionKey key = keyIterator.next();
                    
                    // 处理连接事件
                    if (key.isAcceptable()) {
   
   
                        handleAccept(key, selector);
                    }
                    
                    // 处理读事件
                    if (key.isReadable()) {
   
   
                        handleRead(key);
                    }
                    
                    // 移除已处理的事件,避免重复处理
                    keyIterator.remove();
                }
            }
        } catch (IOException e) {
   
   
            e.printStackTrace();
        }
    }
    
    // 处理连接事件
    private static void handleAccept(SelectionKey key, Selector selector) throws IOException {
   
   
        // 获取ServerSocketChannel
        ServerSocketChannel serverSocketChannel = (ServerSocketChannel) key.channel();
        
        // 接受客户端连接
        SocketChannel socketChannel = serverSocketChannel.accept();
        if (socketChannel != null) {
   
   
            System.out.println("新客户端连接: " + socketChannel.getRemoteAddress());
            
            // 设置为非阻塞模式
            socketChannel.configureBlocking(false);
            
            // 注册到Selector,关注读事件
            socketChannel.register(selector, SelectionKey.OP_READ);
            
            // 向客户端发送欢迎消息
            String welcomeMsg = "欢迎连接NIO服务器!\n";
            ByteBuffer buffer = ByteBuffer.wrap(welcomeMsg.getBytes());
            socketChannel.write(buffer);
        }
    }
    
    // 处理读事件
    private static void handleRead(SelectionKey key) throws IOException {
   
   
        // 获取SocketChannel
        SocketChannel socketChannel = (SocketChannel) key.channel();
        
        // 创建缓冲区
        ByteBuffer buffer = ByteBuffer.allocate(BUFFER_SIZE);
        
        // 读取数据
        int bytesRead = socketChannel.read(buffer);
        
        if (bytesRead == -1) {
   
   
            // 客户端关闭连接
            System.out.println("客户端断开连接: " + socketChannel.getRemoteAddress());
            socketChannel.close();
            key.cancel();
            return;
        }
        
        // 切换到读模式
        buffer.flip();
        
        // 转换为字符串
        byte[] bytes = new byte[buffer.remain
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值