
kafka
Smile to everyday
这个作者很懒,什么都没留下…
展开
-
Kafka常用命令
注释: 后面所有的代码ip地址是小编自己的,使用者请输入自己的ip地址。 端口号是一样的不要去改动 启动Kafka 正常启动方式: kafka-server-start.sh ./config/server.properties 后台启动方式: kafka-server-start.sh -daemon ./config/server.properties 创建topic 设定分区为1,副本数为1 kafka-topics.sh --create --zookeeper 192.168.222.原创 2020-08-29 14:43:33 · 359 阅读 · 0 评论 -
Kafka Streaming【用kafkaStreaming进行数据过滤,然后再放入kafka中】
确保kafka的有相应的topic 案例所需要的表格 这里topic数据是从flume中获取的。 下面是将数据从本地文件夹中传入Kafka中指定的topic消息队列中。 #定义source、channel、sink user_friends.sources = userFriendSource user_friends.channels = userFriendChannel user_friends.sinks = userFriendSink # 指定source的类型 user_friends.so原创 2020-08-27 15:23:20 · 1603 阅读 · 0 评论 -
Kafka-API【Producer API、Consumer API】
kafka重要API 创建maven工程导入kafka依赖 <dependency> <groupId>org.apache.kafka</groupId> <artifactId>kafka-clients</artifactId> <version>0.11.0.2</version> </dependency> Producer AP原创 2020-08-19 23:18:46 · 687 阅读 · 0 评论 -
kafka原理分析
kafka的产生(为什么会有kafka的诞生) 一般的网站开发是MVC分层开发,从网页前段获取信息,通过中间层控制,再到业务层。一般来说正常的数据传输是可以完成一定任务的,但是存在一些情况,并且随着时代的发展这种情况也会越来越多的地方出现,例如:淘宝的双11以及京东的618购物节,在平常,可能每日订单量保持在平稳的状态,但是到了摸个特定的点,就会出现,一下子从前端传入后端数据量猛增,这是直接写入的话会造成后端服务器的崩溃。为了解决这样类似的问题,就会有消息队列的出现,而kafka正是消息队列的一种,也是目前原创 2020-08-19 00:19:48 · 983 阅读 · 0 评论 -
kafka安装【案例测试,新手即上手】
安装包 链接: kafka安装包 提取码: bu8b kafka解压安装 解压kafka安装包到指定目录tar -zvxf kafka_2.11-0.11.0.2.tgz -C /opt/install 进入解压目录cd /opt/install 创建软连接ln -s kafka_2.11-0.11.0.2/ kafka(这步可以没有) 进入kafkacd kafka 启动服务 kafka内部自带zookeeper服务,一般不用,用我们自己装好的zookeeper最好。 如果之前没有安装zookeep原创 2020-08-18 19:32:00 · 560 阅读 · 0 评论