kafka生产者发送

package com.anyec.kafka;

import java.util.Map;
import java.util.Properties;
import java.util.concurrent.ExecutionException;

import org.apache.kafka.clients.KafkaClient;
import org.apache.kafka.clients.producer.Callback;
import org.apache.kafka.clients.producer.KafkaProducer;
import org.apache.kafka.clients.producer.Partitioner;
import org.apache.kafka.clients.producer.ProducerConfig;
import org.apache.kafka.clients.producer.ProducerRecord;
import org.apache.kafka.clients.producer.RecordMetadata;
import org.apache.kafka.common.Cluster;
import org.apache.kafka.common.serialization.StringSerializer;

public class SyncSend {
	public static void main(String[] args) {
		sendSync();
	}

	public static void sendSync() {
		KafkaClient client;
		Properties prop = new Properties();

		prop.put(ProducerConfig.BOOTSTRAP_SERVERS_CONFIG, "localhost:9092,localhost:9092,");
		prop.put(ProducerConfig.KEY_SERIALIZER_CLASS_CONFIG, StringSerializer.class.getName());
		prop.put(ProducerConfig.VALUE_SERIALIZER_CLASS_CONFIG, StringSerializer.class.getName());
		KafkaProducer<String, String> producer = new KafkaProducer<>(prop);
		for (int i = 0; i < 10; i++) {
			producer.send(new ProducerRecord<String, String>("first", "hello"));
		}
		producer.close();
	}

	public static void sendSyncWithParam() {
		KafkaClient client;
		Properties prop = new Properties();
		// 设置连接服务器地址,地址可以多个
		prop.put(ProducerConfig.BOOTSTRAP_SERVERS_CONFIG, "localhost:9092,localhost:9092,");
		// 设置key系列化类
		prop.put(ProducerConfig.KEY_SERIALIZER_CLASS_CONFIG, StringSerializer.class.getName());
		// 设置value系列化类
		prop.put(ProducerConfig.VALUE_SERIALIZER_CLASS_CONFIG, StringSerializer.class.getName());
		// 设置缓冲区大小 默认32M
		prop.put(ProducerConfig.BUFFER_MEMORY_CONFIG, 32 * 1024 * 1024);
		// 设置批次数量 16k
		prop.put(ProducerConfig.BATCH_SIZE_CONFIG, 16 * 1024);
		// 设置发送超时时间 默认100ms
		prop.put(ProducerConfig.LINGER_MS_CONFIG, 100);

		// 设置消息压缩类型 默认为none <code>none</code>, <code>gzip</code>, <code>snappy</code>,
		// <code>lz4</code>, or <code>zstd</code>
		prop.put(ProducerConfig.COMPRESSION_TYPE_CONFIG, "gzip");

		KafkaProducer<String, String> producer = new KafkaProducer<>(prop);
		for (int i = 0; i < 10; i++) {
			producer.send(new ProducerRecord<String, String>("first", "hello"));
		}
		producer.close();
	}

	public static void sendSyncWithParamAcks() {
		KafkaClient client;
		Properties prop = new Properties();
		// 设置连接服务器地址,地址可以多个
		prop.put(ProducerConfig.BOOTSTRAP_SERVERS_CONFIG, "localhost:9092,localhost:9092,");
		// 设置key系列化类
		prop.put(ProducerConfig.KEY_SERIALIZER_CLASS_CONFIG, StringSerializer.class.getName());
		// 设置value系列化类
		prop.put(ProducerConfig.VALUE_SERIALIZER_CLASS_CONFIG, StringSerializer.class.getName());
		// 设置缓冲区大小 默认32M
		prop.put(ProducerConfig.BUFFER_MEMORY_CONFIG, 32 * 1024 * 1024);
		// 设置批次数量 16k
		prop.put(ProducerConfig.BATCH_SIZE_CONFIG, 16 * 1024);
		// 设置发送超时时间 默认100ms
		prop.put(ProducerConfig.LINGER_MS_CONFIG, 100);
//		acks有3个值可选  0、1和-1(或者all),默认值为1,值为字符串类型,不是整数类型
//
//		0:producer发送后即为成功,无需分区partition的leader确认写入成功
//
//		1:producer发送后需要接收到partition的leader发送确认收到的回复
//
//		-1:producer发送后,需要ISR中所有副本都成功写入成功才能收到成功响应
		prop.put(ProducerConfig.ACKS_CONFIG, "1");
		// 设置重试次数 默认为整数最大值
		prop.put(ProducerConfig.RETRIES_CONFIG, 3);

		// 设置消息压缩类型 默认为none  <code>none</code>, <code>gzip</code>, <code>snappy</code>,
		// <code>lz4</code>, or <code>zstd</code>
		prop.put(ProducerConfig.COMPRESSION_TYPE_CONFIG, "gzip");

		KafkaProducer<String, String> producer = new KafkaProducer<>(prop);
		for (int i = 0; i < 10; i++) {
			producer.send(new ProducerRecord<String, String>("first", "hello"));
		}
		producer.close();
	}

	public static void sendSyncWithParamAcksTranaction() {
		KafkaClient client;
		Properties prop = new Properties();
		// 设置连接服务器地址,地址可以多个
		prop.put(ProducerConfig.BOOTSTRAP_SERVERS_CONFIG, "localhost:9092,localhost:9092,");
		// 设置key系列化类
		prop.put(ProducerConfig.KEY_SERIALIZER_CLASS_CONFIG, StringSerializer.class.getName());
		// 设置value系列化类
		prop.put(ProducerConfig.VALUE_SERIALIZER_CLASS_CONFIG, StringSerializer.class.getName());
		// 设置缓冲区大小 默认32M
		prop.put(ProducerConfig.BUFFER_MEMORY_CONFIG, 32 * 1024 * 1024);
		// 设置批次数量 16k
		prop.put(ProducerConfig.BATCH_SIZE_CONFIG, 16 * 1024);
		// 设置发送超时时间 默认100ms
		prop.put(ProducerConfig.LINGER_MS_CONFIG, 100);
//		acks有3个值可选  0、1和-1(或者all),默认值为1,值为字符串类型,不是整数类型
//
//		0:producer发送后即为成功,无需分区partition的leader确认写入成功
//
//		1:producer发送后需要接收到partition的leader发送确认收到的回复
//
//		-1:producer发送后,需要ISR中所有副本都成功写入成功才能收到成功响应
		prop.put(ProducerConfig.ACKS_CONFIG, "1");
		// 设置重试次数 默认为整数最大值
		prop.put(ProducerConfig.RETRIES_CONFIG, 3);

		// 设置消息压缩类型 默认为none <code>none</code>, <code>gzip</code>, <code>snappy</code>,
		// <code>lz4</code>, or <code>zstd</code>
		prop.put(ProducerConfig.COMPRESSION_TYPE_CONFIG, "gzip");
		
		//设置事务id,开启事务必须设置事务id
		prop.put(ProducerConfig.TRANSACTIONAL_ID_CONFIG, "TX1");

		KafkaProducer<String, String> producer = new KafkaProducer<>(prop);

		producer.initTransactions();

		try {

			producer.beginTransaction();
			for (int i = 0; i < 10; i++) {
				producer.send(new ProducerRecord<String, String>("first", "hello"));
			}
			producer.commitTransaction();
		} catch (Exception e) {
			producer.abortTransaction();
		} finally {
			producer.close();
		}

	}

	public static void sendSyncCallBack() {
		KafkaClient client;
		Properties prop = new Properties();

		prop.put(ProducerConfig.BOOTSTRAP_SERVERS_CONFIG, "localhost:9092,localhost:9092,");
		prop.put(ProducerConfig.KEY_SERIALIZER_CLASS_CONFIG, StringSerializer.class.getName());
		prop.put(ProducerConfig.VALUE_SERIALIZER_CLASS_CONFIG, StringSerializer.class.getName());
		prop.put(ProducerConfig.PARTITIONER_CLASS_CONFIG, MyPartitioner.class.getName());
		KafkaProducer<String, String> producer = new KafkaProducer<>(prop);
		producer.send(new ProducerRecord<String, String>("first", "hello"), new Callback() {

			@Override
			public void onCompletion(RecordMetadata metadata, Exception exception) {
				System.out.println(metadata.partition() + "  " + metadata.topic() + "  " + metadata.offset());

			}

		});
	}

	public static void sendGet() throws InterruptedException, ExecutionException {
		KafkaClient client;
		Properties prop = new Properties();

		prop.put(ProducerConfig.BOOTSTRAP_SERVERS_CONFIG, "localhost:9092,localhost:9092,");
		prop.put(ProducerConfig.KEY_SERIALIZER_CLASS_CONFIG, StringSerializer.class.getName());
		prop.put(ProducerConfig.VALUE_SERIALIZER_CLASS_CONFIG, StringSerializer.class.getName());
		KafkaProducer<String, String> producer = new KafkaProducer<>(prop);
		for (int i = 0; i < 10; i++) {
			producer.send(new ProducerRecord<String, String>("first", "hello")).get();
		}
		producer.close();
	}

	class MyPartitioner implements Partitioner {

		@Override
		public void configure(Map<String, ?> configs) {

		}

		@Override
		public int partition(String topic, Object key, byte[] keyBytes, Object value, byte[] valueBytes,
				Cluster cluster) {
			int partition = 0;
			if ("a".equals(key.toString())) {
				partition = 0;
			} else {
				partition = 1;
			}
			return partition;
		}

		@Override
		public void close() {

		}

	}

}


 

Kafka 生产者发送消息出现超时(`TimeoutException`)的情况下,需要从多个维度排查问题,包括网络、生产者的配置、Kafka 集群的健康状态以及负载情况等。以下是一些可能的原因及对应的解决方案: ### 1. **检查网络延迟与连接问题** - 如果 Kafka Producer 与 Broker 之间的网络存在高延迟或不稳定性,会导致请求超时[^1]。 - 可以通过 `traceroute` 或 `ping` 检查 Producer 到 Kafka Broker 的网络延迟是否正常。 - 如果使用的是云服务(如 AWS、Azure),确保 VPC 或子网之间的连接是稳定的。 ### 2. **调整关键配置参数** - `request.timeout.ms`:该参数设置 Producer 发送请求后等待响应的最大时间。如果 Broker 因为负载过高无法及时响应,可能会导致超时。虽然已经将该值从 `1000ms` 增加到 `15000ms`,但如果仍然出现超时,可以尝试进一步增加该值。 - `enable.idempotence`:启用幂等性可以防止因重试导致的数据重复问题,同时也能提升容错能力。 - `max.in.flight.requests.per.connection`:控制 Producer 在单个连接上允许未确认的请求数量,建议设置为 `5` 左右,避免过多积压导致超时。 - 示例代码: ```java Properties props = new Properties(); props.put("bootstrap.servers", "localhost:9092"); props.put("key.serializer", "org.apache.kafka.common.serialization.StringSerializer"); props.put("value.serializer", "org.apache.kafka.common.serialization.StringSerializer"); props.put("request.timeout.ms", "30000"); props.put("enable.idempotence", "true"); props.put("max.in.flight.requests.per.connection", "5"); ``` ### 3. **检查 Kafka Broker 的性能与负载** - 如果 Kafka Broker 处理请求的速度较慢,可能是由于磁盘 IO 瓶颈、CPU 负载过高或者分区数量不足。 - 使用 Kafka 自带的监控工具(如 `kafka-topics.sh --describe`)查看主题的分区分布情况。 - 如果某个分区的写入压力过大,可以通过增加分区数来分担负载。 ### 4. **优化 Producer 的批次处理行为** - `batch.size` 和 `linger.ms` 是影响 Producer 性能的重要参数: - `batch.size`:设置 Producer 批次的大小(单位为字节),适当增大批次可以提高吞吐量,但会增加内存占用。 - `linger.ms`:设置 Producer 在发送批次前等待更多数据的时间,适当增加该值可以减少网络请求次数。 - 示例配置: ```java props.put("batch.size", "16384"); // 默认为 16KB props.put("linger.ms", "10"); // 默认为 0ms,即立即发送 ``` ### 5. **检查 Kafka Topic 的副本同步状态** - 如果 Kafka Topic 的副本同步出现问题(例如 ISR 缩减),可能导致 Producer 写入失败或超时。 - 使用 `kafka-topics.sh --describe` 检查每个分区的 ISR(In-Sync Replicas)状态,确保副本同步正常。 - 如果发现某些副本处于非同步状态,可以检查 Broker 的日志,查找同步失败的具体原因。 ### 6. **启用 SSL/TLS 加密时的性能影响** - 如果启用了 SSL/TLS 加密,可能会导致额外的性能开销,进而引发超时问题。 - 可以通过优化 SSL 配置(如选择更高效的加密算法)来降低性能损耗。 - 示例配置: ```java props.put("security.protocol", "SSL"); props.put("ssl.truststore.location", "/path/to/truststore.jks"); props.put("ssl.truststore.password", "password"); ``` ### 7. **使用异步发送并结合回调机制** - 如果使用的是同步发送(`send()` 方法直接阻塞等待结果),可能会因为单次发送耗时过长而导致整体性能下降。 - 改用异步发送并结合回调机制可以显著提升性能,并且更容易处理异常情况。 - 示例代码: ```java producer.send(new ProducerRecord<>("topic", "message"), (metadata, exception) -> { if (exception != null) { exception.printStackTrace(); } else { System.out.println("Message sent to partition " + metadata.partition()); } }); ``` ### 8. **监控 Kafka Producer 的指标** - Kafka 提供了丰富的内置指标(如 `record-send-rate`、`request-latency-avg` 等),可以通过 JMX 或 Prometheus 等工具进行监控。 - 如果发现某些指标异常(如平均请求延迟过高),可以进一步定位问题根源。 ### 9. **检查 Kafka Consumer 的消费速度** - 如果 Kafka Consumer 的消费速度跟不上 Producer 的发送速度,可能会导致 Kafka 集群内部积压大量未消费的消息,从而影响 Producer 的写入性能。 - 可以通过增加消费者数量或优化消费者的处理逻辑来提升消费速度。 ### 10. **考虑使用多线程或多实例部署** - 如果单个 Kafka Producer 实例的负载过高,可以考虑使用多线程或多实例部署来分散压力。 - 多线程示例: ```java ExecutorService executor = Executors.newFixedThreadPool(5); for (int i = 0; i < 5; i++) { executor.submit(() -> { KafkaProducer<String, String> producer = new KafkaProducer<>(props); producer.send(new ProducerRecord<>("topic", "message")); }); } ``` ---
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值