
kafka
gssgch
更多视频,欢迎访问:https://space.bilibili.com/383891492
展开
-
kafka踩到的坑:kafka.common.FailedToSendMessageException: Failed to send messages after 3 tries.
转自:https://blog.youkuaiyun.com/bornzhu/article/details/78680964kafka.common.FailedToSendMessageException: Failed to send messages after 3 tries.遇到该错误主要有以下几种原因1.服务器的zookeeper和kafka未开启2.配置文件中,没有配置advertised.h...转载 2018-05-20 23:35:20 · 3014 阅读 · 0 评论 -
kafka性能调优
转载自:http://blog.51cto.com/xujpxm/1934572 Kafka的配置详尽、复杂,想要进行全面的性能调优需要掌握大量信息,这里只记录一下我在日常工作使用中走过的坑和经验来对kafka集群进行优化常用的几点。1.JVM的优化 java相关系统自然离不开JVM的优化。首先想到的肯定是Heap Size的调整。12vim bin/kafka-server-start.sh ...转载 2018-05-21 11:38:25 · 2942 阅读 · 0 评论 -
kafka各版本新特性介绍(0.8.2-1.0.0版本)--kafka1.0新特性介绍
kafka-0.8.2 新特性producer不再区分同步(sync)和异步方式(async),所有的请求以异步方式发送,这样提升了客户端效率。producer请求会返回一个应答对象,包括偏移量或者错误信。这种异步方地批量的发送消息到kafka broker节点,因而可以减少server端资源的开销。新的producer和所有的服务器网络通信都是异步地,在ack=-1模式下需要等待所有的repl...原创 2018-05-21 19:48:42 · 11976 阅读 · 2 评论 -
Kafka架构和原理深度剖析
背景介绍Kafka简介Kafka是一种分布式的,基于发布/订阅的消息系统。主要设计目标如下:以时间复杂度为O(1)的方式提供消息持久化能力,并保证即使对TB级以上数据也能保证常数时间的访问性能高吞吐率。即使在非常廉价的商用机器上也能做到单机支持每秒100K条消息的传输支持Kafka Server间的消息分区,及分布式消息消费,同时保证每个partition内的消息顺序传输同时支持离线数据处理和实时...转载 2018-05-22 22:01:09 · 2044 阅读 · 0 评论 -
java.util.ConcurrentModificationException: KafkaConsumer is not safe for multi-threaded access
版权声明:本文为博主原创文章,未经博主允许不得转载!!欢迎访问:https://blog.youkuaiyun.com/qq_21439395/article/details/80412688交流QQ: 824203453欢迎关注B站,收看更多视频内容:https://space.bilibili.com/383891492spark streaming 2.2 整合 kafk...原创 2018-05-22 22:07:40 · 12573 阅读 · 0 评论 -
sparkstreaming多consumer消费kafka报错问题
版权声明:本文为博主原创文章,未经博主允许不得转载!!欢迎访问:https://blog.youkuaiyun.com/qq_21439395/article/details/80428047交流QQ: 824203453 版本: sparkstreaming 2.2 kafka 0.10sparkstreaming 集成kafka后(Direct模式),同一个groupi...原创 2018-05-23 23:36:04 · 6823 阅读 · 0 评论 -
kafka自动化脚本一键启动
版权声明:本文为博主原创文章,未经博主允许不得转载!!欢迎访问:https://blog.youkuaiyun.com/qq_21439395/article/details/80871449交流QQ: 824203453欢迎关注B站,收看更多视频内容:https://space.bilibili.com/383891492kafka 版本 kafka_2.11-0.10.2.1...原创 2018-07-01 00:42:33 · 8320 阅读 · 1 评论