Flume和Kafka集成错误:Error reading field 'throttle_time_ms'

 

Flume和Kafka集成错误

1.问题描述：

flume向kafka写入数据的时候报错：

1. 2018-09-15 00:10:08,502 (kafka-producer-network-thread | producer-1) [ERROR - org.apache.kafka.clients.producer.internals.Sender.run(Sender.java:130)] Uncaught error in kafka producer I/O thread: 

2. org.apache.kafka.common.protocol.types.SchemaException: Error reading field 'throttle_time_ms': java.nio.BufferUnderflowException

3.         at org.apache.kafka.common.protocol.types.Schema.read(Schema.java:71)

4.         at org.apache.kafka.clients.NetworkClient.handleCompletedReceives(NetworkClient.java:439)

5.         at org.apache.kafka.clients.NetworkClient.poll(NetworkClient.java:265)

6.         at org.apache.kafka.clients.producer.internals.Sender.run(Sender.java:216)

7.         at org.apache.kafka.clients.producer.internals.Sender.run(Sender.java:128)

8.         at java.lang.Thread.run(Thread.java:748)

 

2.原因：版本不兼容，使用flume1.7.0而kafka时0.8.2.1，flume的conf配置文件适合0.9+的版本的kafka，所以报错。

 

3.解决：

(1)flume1.7.0和kafka_2.11-0.10.2.1是可以合成的。

(2)flume1.6.0和kafka_2.10-0.8.2.1是可以合成的。