
Kafka
文章平均质量分 81
hzp666
这个作者很懒,什么都没留下…
展开
-
flink kafka offset配置
1.2、如果分区中offset没有找到,则使用kafka properties中的auto.offset.reset配置(比如:latest、earliest)配置:enable.auto.commit / auto.commit.interval.ms。从最早的记录开始,使用此配置,在kafka中已经提交的offset将被忽略,不会被使用。从最新的开始,使用此配置,在kafka中已经提交的offset将被忽略,不会被使用。flink kafka消费依赖于内部kafka客户端自动定期的offset提交。转载 2022-12-22 10:51:10 · 1558 阅读 · 0 评论 -
flink接入Kafka报错:timeout expired while fetching topic metadata
简单的flink接入kafka结果报错:---------------------------————————————————————————————————————————//create envval env = StreamExecutionEnvironment.getExecutionEnvironment//set parallelismenv.setParallelism(1)//set process timeenv.setStreamTimeCharacteristic(Tim原创 2022-12-08 14:53:32 · 2257 阅读 · 0 评论 -
Kafka-Eagle 安装到使用全教程
KafkaEagle监控系统是一款用来监控Kafka集群的工具,目前更新的版本是v1.2.3,支持管理多个Kafka集群、管理Kafka主题(包含查看、删除、创建等)、消费者组合消费者实例监控、消息阻塞告警、Kafka集群健康状态查看等。官方安装包下载:http://download.kafka-eagle.org/ 个人使用版本为1.4.4最新下载好之后指定目录解压压缩包,接下来开始环境变量得配置。由于源代码核心实现采用的是Java语言,所以需要配置JDK环境,建议采用JDK8以上。配置内容如下:增加变转载 2022-12-08 13:42:55 · 3247 阅读 · 0 评论 -
kafka安装和简单测试
Kafka的安装和简单实例测试_厦大数据库实验室博客Kafka是一种高吞吐量的分布式发布订阅消息系统,它可以处理消费者规模的网站中的所有动作流数据。Kafka的目的是通过Hadoop的并行加载机制来统一线上和离线的消息处理,也是为了通过集群机来提供实时的消费。下面介绍有关Kafka的简单安装和使用,想全面了解Kafka,请访问Kafka的官方博客安装Kafka的使用依赖于zookeeper,安装Kafka前必须先安装zookeeper.Mac OSX 系统安装KafkaMac 系原创 2022-05-23 13:31:43 · 578 阅读 · 0 评论 -
spark学习9.1:sparkStreaming接kafka
1.kafka介绍kafka可以作为传输的中间件。即生产者和消费者中间的代理商。1.1 kafka中broker 介绍即kafka中集群的每个服务器,每个服务器就是一个broker1.2 topic某类数据的主题。比如,订单数据都丢给订单topic,物流数据都丢给物流topic。生产者把数据丢给某个topic,消费者订阅某个topic,拉取数据。每条发布到Kafka集群的消息都有一个类别,这个类别被称为Topic。(物理上不同Topic的消息分开存储,逻辑原创 2022-05-20 14:03:55 · 267 阅读 · 2 评论 -
Kafka一文懂
初识 Kafka什么是 KafkaKafka 是由Linkedin公司开发的,它是一个分布式的,支持多分区、多副本,基于 Zookeeper 的分布式消息流平台,它同时也是一款开源的基于发布订阅模式的消息引擎系统。Kafka 的基本术语消息:Kafka 中的数据单元被称为消息,也被称为记录,可以把它看作数据库表中某一行的记录。批次:为了提高效率, 消息会分批次写入 Kafka,批次就代指的是一组消息。主题:消息的种类称为主题(Topic),可以说一个主题代表了一类消息。相当...转载 2021-04-22 09:58:02 · 2516 阅读 · 0 评论