kafka的安装和简单使用

kafka依赖于zookeeper，是一个分布式的消息缓存系统，其集群中的服务器都叫做broker。kafka有两类客户端，一类叫producer（消息生产者），一类叫做consumer（消息消费者），客户端和broker服务器之间采用tcp协议连接kafka中不同业务系统的消息可以通过topic进行区分，而且每一个消息topic都会被分区，以分担消息读写的负载每一个分区都可以有多个副本，以防止数据的丢失某一个分区中的数据如果需要更新，都必须通过该分区所有副本中的leader来更新。消费者可以分组，比如有两个消费者组A和B，共同消费一个topic：test_info,A和B所消费的消息不会重复，比如 test_info 中有100个消息，每个消息有一个id,编号从0-99，那么，如果A组消费0-49号，B组就消费50-99号。消费者在具体消费某个topic中的消息时，可以指定起始偏移量

集群安装

0、首先需在各节点安装zookeeper（解压安装+配置，略）
1、官网下载，解压
2、配置server.properties文件
        broker.id=1
        zookeeper.connect=myspark:2181,myspark1:2181,myspark2:2181

3、启动zookeeper集群

4、在每一台节点上启动broker
bin/kafka-server-start.sh config/server.properties

5、在kafka集群中创建一个topic
bin/kafka-topics.sh --create --zookeeper myspark:2181 --replication-factor 3 --partitions 1 --topic test

6、用一个producer向某一个topic中写入消息
bin/kafka-console-producer.sh --broker-list myspark:9092 --topic test

7、用一个comsumer从某一个topic中读取信息
bin/kafka-console-consumer.sh --zookeeper myspark:2181 --from-beginning --topic test

8、查看一个topic的分区及副本状态信息
bin/kafka-topics.sh --describe --zookeeper myspark:2181 --topic test

9、查看有哪些主题
bin/kafka-topics.sh --list --zookeeper myspark:2181

10、删除主题
bin/kafka-topics.sh --zookeeper myspark:2181 --delete --topic test