
kafka
云哥Y
技术源于实践,技术改变世界!
展开
-
kafka的安装及基本命令(单机版)
单机安装下载官方下载地址:http://kafka.apache.org/downloads我这里下载的版本为: kafka_2.11-2.2.0.tgz解压将下载好的 kafka_2.11-2.2.0.tgz 解压到自己指定的目录(我这里指定 /user/local/kafka),命令:tar -zxvf kafka_2.11-2.2.0.tgz -C /user/local/ka...原创 2019-08-18 21:27:25 · 277 阅读 · 0 评论 -
Kafka报错:Configured broker.id 2 doesn't match stored broker.id 0 in meta.properties.
原因之前服务器ip地址是动态的,后来改为静态ip地址后,kafka的一些配置都做了调整,导致我原来server.properties里的broker.id跟kafka日志目录下的meta.properties里的broker.id不一致。解决办法将meta.properties里的broker.id改为跟server.properties里的一致。因为kakfa产生日志会记录broker.i...原创 2019-08-28 10:48:16 · 1745 阅读 · 0 评论 -
kafka分区和副本机制验证
1.三台机器对应一个分区目前使用kafka集群,但是由于数据量还行,就不想使用太多的分区,所以只想弄一个分区,网上资料看了一大堆,基本都是些理论和啰嗦,于是乎自己手动来验证下这个情况的好坏。① 假设是三台机器的kafka集群,创建一个主题one_fb1_fq1,指定副本数1和分区数1,命令:bin/kafka-topics.sh --create --zookeeper kafka_zk00...原创 2019-08-29 13:42:54 · 405 阅读 · 0 评论 -
kafka自动创建主题
需求kafka集群环境搭建完成后,整合到项目开发中,我需要给某个topic发送消息,以及监听消费该topic中的消息,难道我需要事先用kafka命令先去服务器创建一个topic,然后再供项目使用吗?有没有我在项目配置文件里指定kafka的topic=xxx,然后启动服务的时候,kafka就可以自动帮我创建好呢?解决其实,在配置文件里指定好kafka的topic之后,调用send方法会自动帮...原创 2019-08-29 18:58:37 · 16788 阅读 · 0 评论 -
kafka的通俗理解
消息中间件是基于什么需求设计的?既然是消息中间件,那么一定会有发送消息和接收消息应用程序往消息中间件发送消息,那么一定会通过网络请求,为了保证中间件的性能,网络请求应该需要用到NIO牛逼一点的中间件,应该会支持跨语言,不应该只为Java而设计消息是通过什么形式发送的呢,目前比较流行的应该还是序列化和反序列化吧生产者发送完消息后如何知道自己是否发送成功了,消费者消费完消息后,中间件如何知...原创 2019-08-29 20:10:59 · 1175 阅读 · 1 评论 -
kafka的集群安装(结合zookeeper集群)
准备工作这里只是介绍了kafka的集群安装,但是我是配合zookeeper集群一起的。相当于就是kafka+zookeeper的集群搭建。关于zookeeper集群点击此处关于kafka单机安装点击此处搭建三台机器的kafka集群,机器的ip地址分别为:192.168.223.130、192.168.223.130、192.168.223.130。确保这三台机器 kafka 的单机版已经...原创 2019-08-22 19:08:18 · 285 阅读 · 0 评论