kafka安装

本文探讨了Kafka 0.10.2.0版本的高可用机制,包括节点间的心跳信号维持、主从节点同步策略、ISR机制及消息持久化策略。通过深入分析这些机制的工作原理和技术细节,帮助读者理解如何确保Kafka集群的稳定运行。

此次安装的kafka版本为0.10.2.0

节点”存活”
节点必须能够和zookeeper机器建立心跳信号
如果是个备份节点, 必须在主节点写的时候进行复制, 不能落下太远.
主节点保持跟踪同步中的节点, 如果一个备份节点宕机, 卡住, 或跟不上, 主几点将会把它从已经同步的复制集中删除, 用于判定卡住或者落后延迟, 使用 replica.lag.time.max.ms 这个配置参数
生产者中的反馈配置项是什么
kafka分区机制的核心是复制日志. 复制日志是分布式系统中最基础的最原始的东西, 要实现这一的功能有很多方式, 复制日志可以被其他系统用作分布式系统的基础措施.
个复制算法必须提供,”如果我们告诉客户端消息已经提交了, 这个时候主节点宕机, 新的主节点被选举出来时必须保证也有拥有这条消息”, 这里有一个权衡, 主节点必须等待多个从节点反馈消息已经提交, 这样才能有更多备节点能用来做为主节点的候选节点.
多数投票策略需要3个副本和一次反馈, isr策略需要2个副本和一次反馈 ISR策略是什么


所有副本都宕机的情况的
等待ISR中一个副本起来, 然后选择这个副本作为主节点(期望数据不会丢失)

选择第一个存活的副本(不一定在ISR副本 集中)直接作为主节点

unclean.leader.election.enable状态含义


如何保证消息的持久性大于可用性
禁止无主选举, 如果所有的副本都不可用, 这个分区就要等到最近一个主分区可以用时才可用, 这比较可能导致不可用, 而不是数据丢失
指定一个最小的ISR集合, 分区只有在ISR集合的个数大于指定值时, 才能进行读写, 这样可以阻止消息只写入到一个副本的 这个参数提供了一致性和可用性之前的权衡the producer uses acks=all


参数min.compaction.lag.ms 可以控制消息必须经过质指定的时间间隔后才能被压缩
有的删除标志的记录会在消费者到达头部之前, 小于主题设置的 delete.retention.ms(默认是24小时)时间之内被处理

日志分段是什么,如何工作 如何组成完整的日志


 发送消息方式如果要kafka自己保证幂等,不重复发送消息,需要满足
     * 1, enable.idempotence必须为true
     * 2,acks为all
     * 3,max.in .flight.requests.per.connection 小于等于5
     * 4,retries 大于0


log.cleanup.policy=compact
log.cleaner.min.compaction.lag.ms 日志压缩延迟时间参数

kafka quota如何配置 作用

http://ifeve.com/kafka-design/

零拷贝

https://www.ibm.com/developerworks/linux/library/j-zerocopy/

### 安装 Apache Kafka 在不同操作系统上的步骤 Apache Kafka 是一个分布式流处理平台,可以在多种操作系统上安装和运行,包括 Windows、macOS 和 Linux。以下是针对不同操作系统的安装步骤: #### 在 Linux 上安装 Kafka 1. **安装 Java 环境**:Kafka 是基于 Java 的应用程序,因此需要先安装 Java 运行环境。可以选择安装 JRE 或者 JDK[^2]。 2. **安装 Zookeeper**:Kafka 使用 Zookeeper 来保存集群的元数据信息。Kafka 发行版自带了 Zookeeper,可以直接从脚本启动[^2]。 3. **下载 Kafka**:可以从 Kafka 官方网站下载最新版本的 Kafka[^1]。 4. **解压 Kafka 压缩包**:使用 tar 或者 unzip 命令解压下载的 Kafka 压缩包。 5. **启动 Zookeeper**:使用 Kafka 自带的脚本启动 Zookeeper 服务。 6. **启动 Kafka Broker**:配置好 Java 和 Zookeeper 之后,可以启动 Kafka 服务[^4]。 #### 在 Windows 上安装 Kafka 1. **安装 Java 环境**:确保 Windows 系统上已经安装了 Java 环境[^2]。 2. **安装 Zookeeper**:可以使用 Kafka 自带的 Zookeeper 或者安装一个完整版的 Zookeeper[^2]。 3. **下载 Kafka**:从 Kafka 官方网站下载适用于 Windows 的 Kafka 版本[^1]。 4. **解压 Kafka 压缩包**:使用解压工具解压下载的 Kafka 压缩包。 5. **启动 Zookeeper**:通过 Windows 命令行工具启动 Zookeeper 服务。 6. **启动 Kafka Broker**:使用命令行工具启动 Kafka 服务[^4]。 #### 在 macOS 上安装 Kafka 1. **安装 Java 环境**:确保 macOS 系统上已经安装了 Java 环境。 2. **安装 Zookeeper**:可以使用 Kafka 自带的 Zookeeper 或者通过 Homebrew 安装一个完整版的 Zookeeper[^2]。 3. **下载 Kafka**:从 Kafka 官方网站下载适用于 macOS 的 Kafka 版本[^1]。 4. **解压 Kafka 压缩包**:使用终端命令解压下载的 Kafka 压缩包。 5. **启动 Zookeeper**:通过终端启动 Zookeeper 服务。 6. **启动 Kafka Broker**:使用终端命令启动 Kafka 服务。 在完成安装后,可以通过 Kafka 自带的工具来创建主题、发送和消费消息,从而直观地感受 Kafka 的运转过程[^3]。 ```bash # 创建一个名为 test 的主题 bin/kafka-topics.sh --create --zookeeper localhost:2181 --replication-factor 1 --partitions 1 --topic test ``` 以上步骤可以帮助您在不同的操作系统上安装 Apache Kafka,并根据需要启动单机版或集群版的 Kafka 服务。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值