kafka单机安装

kafka单机安装

下载地址

  1. 官网:https://kafka.apache.org/
  2. 最新版本下载页面:https://kafka.apache.org/downloads

说明

  1. 版本选择:3.0.0,kafka_2.12-3.0.0.tgz
  2. 下载地址:https://archive.apache.org/dist/kafka/3.0.0/kafka_2.12-3.0.0.tgz

安装前准备

  1. 安装环境:linux,centos7
  2. 安装java环境,参考:linux安装java -centos安装java -linux配置java环境变量
  3. 安装zookeeper集群,参考:zookeeper集群安装

单机安装

  1. 复制下载的安装包到Linux服务器,安装包名:kafka_2.12-3.0.0.tgz

  2. 进入到安装包所在路径,将安装包解压到指定目录

    tar -zxvf kafka_2.12-3.0.0.tgz -C /opt/module/
    
  3. 重命名,将kafka_2.12-3.0.0重命名为kafka

    cd /opt/module
    mv kafka_2.12-3.0.0/ kafka
    
  4. 修改配置文件config/server.properties

    1. broker.id是唯一标识,如果是集群安装,集群内不能重复

      broker.id=0
      
    2. log.dirs是kafka存储数据路径,默认路径为:/tmp/kafka-logs,调整到kafka根目录下

      log.dirs=/opt/module/kafka/datas
      
    3. zookeeper.connect是zookeeper连接地址,调整为集群模式

      zookeeper.connect=192.168.145.132:2181,192.168.145.133:2181,192.168.145.134:2181/kafka
      

      连接地址后面拼接/kafka节点,用来存储kafka相关的信息,避免zookeeper信息混乱

      安装zookeeper集群,参考:zookeeper集群安装

    4. listeners默认不需要配置,有缺省配置,必要时应手动指定,下面的描述信息

      # The address the socket server listens on. It will get the value returned from 
      # java.net.InetAddress.getCanonicalHostName() if not configured.
      #   FORMAT:
      #     listeners = listener_name://host_name:port
      #   EXAMPLE:
      #     listeners = PLAINTEXT://your.host.name:9092
      #listeners=PLAINTEXT://:9092
      

      java.net.InetAddress.getCanonicalHostName()获取的信息可能不是我们想要的,需要手动配置

      listeners=PLAINTEXT://192.168.145.132:9092
      
    5. advertised.listeners默认不需要配置,有缺省配置,必要时应手动指定,下面的描述信息

      # Hostname and port the broker will advertise to producers and consumers. If not set, 
      # it uses the value for "listeners" if configured.  Otherwise, it will use the value
      # returned from java.net.InetAddress.getCanonicalHostName().
      #advertised.listeners=PLAINTEXT://your.host.name:9092
      
  5. 配置环境变量/etc/profile.d/my_env.sh

    KAFKA_HOME=/opt/module/kafka
    PATH=$PATH:$KAFKA_HOME/bin
    export KAFKA_HOME PATH
    

    使配置生效

    source /etc/profile
    

启动kafka服务端

  1. 先启动zookeeper集群,在每个服务器中,分别启动zookeeper

    cd /opt/module/zookeeper-3.5.7/bin
    ./zkServer.sh start
    

    安装zookeeper集群,参考:zookeeper集群安装

  2. 启动kafka

    cd /opt/module/kafka/bin
    ./kafka-server-start.sh -daemon ../config/server.properties
    

    启动kafka需要指定配置文件

  3. 停止kafka

    cd /opt/module/kafka/bin
    ./kafka-server-stop.sh
    

    注意:先停止kafka,再停止zookeeper

Kafka是一个分布式流处理平台,用于构建实时数据管道和数据流应用。单机安装Kafka后,你可以按照以下步骤进行基本操作: 1. **启动服务**: - 安装完成后,通常可以在`bin/kafka-server-start.sh`文件所在的目录运行命令启动Kafka服务器。例如: ``` $ cd /path/to/kafka/installation $ ./bin/kafka-server-start.sh config/server.properties ``` 确保配置了合适的端口和日志路径。 2. **创建主题**: 在生产者准备好数据后,需要先在Kafka集群中创建一个或多个主题。你可以通过Kafka的命令行工具`kafka-topics.sh`创建,比如创建一个名为`my-topic`的主题: ``` $ bin/kafka-topics.sh --create --topic my-topic --partitions 1 --replication-factor 1 --if-not-exists ``` 3. **生产者发送消息**: 使用`kafka-console-producer.sh`工具将消息发送到主题: ``` $ bin/kafka-console-producer.sh --broker-list localhost:9092 --topic my-topic ``` 这里`localhost:9092`替换为你本地Kafka的端口号。 4. **消费者消费消息**: 使用`kafka-console-consumer.sh`工具从主题接收消息: ``` $ bin/kafka-console-consumer.sh --bootstrap-server localhost:9092 --topic my-topic --from-beginning ``` 5. **监控和管理**: Kafka提供了一个Web界面,可以访问`http://localhost:9092/admin/`查看集群状态、主题详情等信息。 **相关问题--:** 1. 如何在Kafka生产者中设置acks(确认模式)? 2. Kafka如何保证消息的顺序性? 3. 在Kafka中,如何优雅地关闭消费者?
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值