kafka(一)----应用场景分析及名词解释

一.什么是Kafka

Kafka是一款分布式消息发布和订阅系统.他的特点是高性能,高吞吐量,最早设计的目的是作为LinkedIn的活动流和运营数据的处理管道。这些数据主要是用来对用户做用户画像分析以及服务器性能数据的一些监控,所以kafka一开始设计的目标就是作为一个分布式、高吞吐量的消息系统，所以适合运用在大数据传输场景

二.Kafka的应用场景

由于Kafka具有更好的吞吐量,内置分区,冗余及容错性的优点(Kafka每秒可以处理十几万的消息),让Kafka成为了一个很好的大规模消息处理应用的解决方案,所以在企业级应用上,主要会应用于如下几个方面:

1.行为追踪:

kafka可以用于跟踪用户浏览页面、搜索及其他行为。通过发布-订阅模式实时记录到对应的
topic中，通过后端大数据平台接入处理分析，并做更进一步的实时处理和监控

2.日志收集:

日志收集方面，有很多比较优秀的产品，比如Apache Flume，很多公司使用kafka代理日志聚合。日志聚合表示从服务器上收集日志文件，然后放到一个集中的平台（文件服务器）进行处理。在实际应用开发中，我们应用程序的log都会输出到本地的磁盘上，排查问题的话通过linux命令来搞定，如果应用程序组成了负载均衡集群，并且集群的机器有几十台以上，那么想通过日志快速定位到问题，就是很麻烦的事情了。所以一般都会做一个日志统一收集平台管理log日志用来快速查询重要应用的问题。所以很多公司的套路都是把应用日志集中到kafka上，然后分别导入到es和hdfs上，用来做实时检索分析和离线统计数据备份等。而另一方面，kafka本身又提供了很好的api来集成日志并且做日志收集

三.Kafka本身的架构

一个典型的kafka集群包含若干Producer,若干个Broker,若干个Consumer Group,以及一个zookeeper集群,kafka通过zookeeper管理集群配置及服务协同,producer使用push模式将消息发布到broker,consumer通过监听使用pull模式从broker订阅并消费消息.
多个broker协同工作，producer和consumer部署在各个业务逻辑中。三者通过zookeeper管理协调请
求和转发。这样就组成了一个高性能的分布式消息发布和订阅系统。

图上有一个细节是和其他mq中间件不同的点，producer 发送消息到broker的过程是push，而
consumer从broker消费消息的过程是pull，主动去拉数据。而不是broker把数据主动发送给consumer

四.名词解释

1.broker

kafka集群包含一个或多个服务器,这种服务器被称为broker,broker端不维护数据的消费状态,提升了性能,直接使用磁盘进行存储,线性读写,速度快:避免了数据在jvm内存和系统内存之间的复制,减少耗性能的创建对象和垃圾回收

2.producer

负责发布消息到kafka broker

3.consumer

消息消费者,向kafka broker读取消息的客户端,consumer从broker拉取数据并进行处理

4.Topic

每条发布到kafka集群的消息都有一个类别,这个类别被称为topic,（物理上不同Topic的消息分开存
储，逻辑上一个Topic的消息虽然保存于一个或多个broker上但用户只需指定消息的Topic即可生产或消
费数据而不必关心数据存于何处）

5.partition

是物理上的概念,每个topic包含一个或者多个partition

6.Consumer Group

每个Consumer属于一个特定的Consumer Group（可为每个Consumer指定group name，若不指定
group name则属于默认的group

7.Topic & Partition

Topic在逻辑上可以被认为是一个queue，每条消费都必须指定它的Topic，可以简单理解为必须指明把
这条消息放进哪个queue里。为了使得Kafka的吞吐率可以线性提高，物理上把Topic分成一个或多个
Partition，每个Partition在物理上对应一个文件夹，该文件夹下存储这个Partition的所有消息和索引文
件。若创建topic1和topic2两个topic，且分别有13个和19个分区，则整个集群上会相应会生成共32个
文件夹（本文所用集群共8个节点，此处topic1和topic2 replication-factor均为1）。