
Kafka
文章平均质量分 74
Souvenirser
劳逸结合!
展开
-
Canal数据格式及写入Kafka数据样例
canal中ts,es区别具体insert/update/delete的变更数据,可为多条,1个binlog event事件可对应多条变更,如批处理.操作类型(INSERT,UPDATE,DELETE,QUERY,TRUNCATE)时间戳(13位),canal收到这个binlog,构造自己协议对象的时间.是否是ddl变更操作,比如create table/drop table。mysql binlog里原始的时间戳,也就是数据原始变更的时间。修改前的字段数据(id变更前的值)data中每个字段对应的格式类型原创 2022-12-28 10:36:40 · 2041 阅读 · 0 评论 -
Kafka组件、安装、常用操作命令、分区计算及负载均衡等干货说明
Kafka是什么,集群核心组件,优点,Topic,Broker,Partition,Offset,Zookeeper(ZK),Producer,Consumer(Group),Kafka的安装,Kafka配置环境变量,Kafka常用操作命令,启动命令,查看服务器中所有topic,创建topic、删除topic、shell命令发送、消费信息,对分区数进行修改,Logs日志查看,Segment,数据存储机制,解决负载均衡,分区数计算,数据分区,保证数据不丢失,Receiver和Direct方式,存储和实时处理原创 2018-11-28 11:07:06 · 1991 阅读 · 1 评论