Kafka源码解析之SocketServer

文章详细解析了Kafka中的Controlplane和Dataplane概念,讨论了它们的处理方式、监听器配置、线程池策略以及资源分配。重点在于Java面试中可能会涉及的这些技术点,提供了面试题解析和学习资源链接。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

《一线大厂Java面试题解析+核心总结学习笔记+最新讲解视频+实战项目源码》点击传送门,即可获取!

  • StopReplicaRequest

  • UpdateMetadataRequest

都属控制类请求,通常应该被赋予高优先级,比如PRODUCE和FETCH请求。

SocketServer负责对这两大类请求区分处理。

1.2 监听器(Listener)


区分数据类请求和控制类请求不同处理方式的主要途径。即创建多组监听器分别执行数据类和控制类请求的处理。

  • Kafka Broker端如下参数用以配置监听器

监听器定义为

EndPoint类


属性

  • host

Broker主机名。

  • port

Broker端口号。

  • listenerName

监听器名称。目前预定义的名称包括

  • PLAINTEXT

  • SSL

  • SASL_PLAINTEXT

  • SASL_SSL

Kafka允许自定义其他监听器名称,比如CONTROLLER、INTERNAL。

  • securityProtocol:监听器使用的安全协议。Kafka支持4种安全协议

  • PLAINTEXT

  • SSL

  • SASL_PLAINTEXT

  • SASL_SSL

Broker端参数

比如若Broker端参数配置如下:

配置3个监听器,分别是CONTROLLER、INTERNAL和EXTERNAL,使用的安全协议分别是PLAINTEXT、PLAINTEXT和SSL。

那SocketServer如何实现Data plane与Control plane分离的呢?

SocketServer

===========================================================================

属性


  • 实现请求优先级相关的字段

对于Data plane,线程池的说法没有问题,因为Processor线程确实有很多,而Acceptor也可能多个,因为SocketServer会为每个EndPoint(每套监听器)创建一个对应的Acceptor线程。

但Control plane不同。

Control plane那组属性变量都是以Opt结尾的,即Option类型,完全可以不使用Control plane,即你可让Kafka不区分请求类型,2.2.0之前设计就是这样。

但一旦开启Control plane设置,其Processor线程和Acceptor线程都是1个。

它对应的RequestChannel里面的请求队列长度被硬编码成20,即控制类请求的数量应该远小于数据类请求,因而不需要为它创建线程池和较深的请求队列。

创建Data plane所需资源

===============================================================================

  • 负责为Data plane创建所需资源

  • 执行流程

  • 最大连接数计数器将被用来确保没有配额超限的情形发生

  • 创建Processor线程池。对于Data plane而言,线程池的数量由Broker端参数num.network.threads决定

  • 将<监听器,Acceptor线程>对加入到Acceptor线程池统一管理

比如配置listeners=PLAINTEXT://localhost:9092, SSL://localhost:9093,默认会为PLAINTEXT和SSL监听器分别创建一个Acceptor线程和一个Processor线程池。

具体为哪些监听器创建依据配置而定,Kafka只会为Data plane所使的监听器创建这些资源。

创建Control plane所需资源

==================================================================================

基于控制类请求远小于数据类请求假设,Control plane的配套资源只有1个Acceptor线程 + 1个Processor线程 + 1个深度是20的请求队列而已。和Data plane相比,这些配置稍显寒酸,够用就行。

和createDataPlaneAcceptorsAndProcessors类似,只是需判断是否配置用于Control plane的监听器。

目前,Kafka规定只能有1套监听器用于Control plane,而不能像Data plane那样可以配置多套。

  • 以上都没听提到启动Acceptor和Processor线程。那这些线程到底是在什么时候启动?

在启动SocketServer组件之后启动的,具体代码在KafkaServer.scala文件的startup方法

Broker端参数control.plane.listener.name用于设置Control plane所用的监听器。

在默认情况下,这个参数的值是空(Null)。Null的意思就是告诉Kafka不要启用请求优先级区分机制,但如果你设置了这个参数,Kafka就会利用它去listeners中寻找对应的监听器了。

假设Broker端配置:

listener.security.protocol.map=CONTROLLER:PLAINTEXT,INTERNAL:PLAINTEXT,EXTERNAL:SSL

listeners=CONTROLLER://192.1.1.8:9091,INTERNAL://192.1.1.8:9092,EXTERNAL://10.1.1.5:9093

control.plane.listener.name=CONTROLLER

名字是CONTROLLER的那套监听器将被用于Control plane。

名字是INTERNAL和EXTERNAL的这两组监听器用于Data plane。

Kafka如何知道CONTROLLER这套监听器给Control plane使用?

KafkaConfig类封装了Broker端所有参数信息和便捷的工具方法。

确认Control plane监听器完整的查找逻辑:

  • 先获取Broker端参数control.plane.listener.name值。该实例中,值是字符串CONTROLLER

  • 读取Broker端参数listener.security.protocol.map值,并找出CONTROLLER对应的安全认证协议。该例中,CONTROLLER对应安全认证协议PLAINTEX

最后

针对最近很多人都在面试,我这边也整理了相当多的面试专题资料,也有其他大厂的面经。希望可以帮助到大家。

最新整理面试题
在这里插入图片描述

上述的面试题答案都整理成文档笔记。也还整理了一些面试资料&最新2021收集的一些大厂的面试真题

最新整理电子书

在这里插入图片描述

最新整理大厂面试文档

在这里插入图片描述

以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持。
《一线大厂Java面试题解析+核心总结学习笔记+最新讲解视频+实战项目源码》点击传送门,即可获取!

最新整理电子书

[外链图片转存中…(img-AmNb9x8Z-1714508362337)]

最新整理大厂面试文档

[外链图片转存中…(img-vLSOLDJH-1714508362337)]

以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持。
《一线大厂Java面试题解析+核心总结学习笔记+最新讲解视频+实战项目源码》点击传送门,即可获取!

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值