
Kafka
lcl_bigdata
这个作者很懒,什么都没留下…
展开
专栏收录文章
- 默认排序
- 最新发布
- 最早发布
- 最多阅读
- 最少阅读
-
kafka客户端内存缓冲GC处理机制--客户端内存
1、Kafka的客户端缓冲机制首先,先得给大家明确一个事情,那就是在客户端发送消息给kafka服务器的时候,一定是有一个内存缓冲机制的。也就是说,消息会先写入一个内存缓冲中,然后直到多条消息组成了一个Batch,才会一次网络通信把Batch发送过去。整个过程如下图所示:2、内存缓冲造成的频繁GC问题那么这种内存缓冲机制的本意,其实就是把多条消息组成一个Batch,一次网络请求就是一个Batch或者多个Batch。这样每次网络请求都可以发送很多数据过去,避免了一条消息一次网络请.转载 2020-07-14 09:56:36 · 487 阅读 · 0 评论 -
NoSuchElementException: next on empty iterator
首先保存位置应该有try catch 抓取代码,否则错误原因不容易找出来,谨记!迭代中不能有多个next这样写导致数据跳跃性丢失和最后一项数据获取时报错。修改:错误原因找到的来源:https://blog.youkuaiyun.com/a503921892/article/details/23061341...原创 2020-04-07 16:22:08 · 1898 阅读 · 0 评论 -
SparkStreaming整合kafka时pom问题
<小白日常整理新手问题><!-- https://mvnrepository.com/artifact/org.apache.spark/spark-streaming-kafka-0-8 --><dependency> <groupId>org.apache.spark</groupId> <artifactI...原创 2020-04-01 15:43:01 · 956 阅读 · 0 评论 -
flume读取kafka写入hive异常解决-Unable to deliver event. Exception follows.
用flume访问kafka,写入hive数据库时,启动命令:bin/flume-ng agent -n agent -c conf -f conf/flume.properties -Dflume.root.logger=DEBUG,console配置文件是安装flume官方文档配置的,很全,地址:http://flume.apache.org/FlumeUserGuide.html#kafka-sink启动flume之后,报错:ERROR flume.SinkRunner: Unable t原创 2020-05-18 15:18:44 · 2606 阅读 · 0 评论 -
Kafka远程服务器部署
Kafka远程服务器部署原创 2019-12-23 15:56:54 · 224 阅读 · 0 评论