kafka——Producer

本文介绍了一个使用Apache Flink与Kafka进行数据流处理的实战案例。通过Scala编程,详细展示了如何配置Kafka生产者,从本地文件读取数据并将其发送到Kafka主题的过程。代码中涉及了Kafka生产者的属性设置、序列化方式及错误处理机制。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

package com.ourhome.flink.test

import java.text.SimpleDateFormat
import java.util.{Date, Properties}

import org.apache.kafka.clients.producer.{Callback, KafkaProducer, ProducerRecord, RecordMetadata}
import org.apache.kafka.common.serialization.StringSerializer
import org.apache.log4j.Logger

import scala.io.Source

object kafkaProducer {
  private val KAFKA_BROKERS = "host1:port1,host2:port2,post3:port3"
  private val logger = Logger.getLogger(this.getClass)

  def main(args: Array[String]): Unit = {
    val kfkProperties: Properties = new Properties()

    kfkProperties.setProperty("bootstrap.servers", KAFKA_BROKERS)
    kfkProperties.setProperty("key.serializer", classOf[StringSerializer].getName)
    kfkProperties.setProperty("value.serializer", classOf[StringSerializer].getName)
    kfkProperties.setProperty("acks", "1")
    kfkProperties.setProperty("retries", "3")
    kfkProperties.setProperty("batch.size", "16384")

    val producer: KafkaProducer[String, String] = new KafkaProducer[String, String](kfkProperties)
    val lines: Iterator[String] = Source.fromFile("C:\\Users\\Desktop\\hardcodecscan\\file.txt").getLines()
    lines.foreach(
      line => {
        println(line)
        val record: ProducerRecord[String, String] = new ProducerRecord[String, String]("kafka_producer_test", line)
        producer.send(record, new Callback {
          override def onCompletion(metadata: RecordMetadata, exception: Exception): Unit = {
            if (metadata != null) {
              println("发送成功")
            }
            if (exception != null) {
              println("消息发送失败")
            }
          }
        })
      }
    )
    producer.close()
  }
}
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值