
flink
文章平均质量分 79
一旦
思想速度从来都很快...
展开
专栏收录文章
- 默认排序
- 最新发布
- 最早发布
- 最多阅读
- 最少阅读
-
KafkaClient源码修改用于支持Flink提供的文件协议S3、HDFS、OSS、FILE等
1 背景 Flink的配置文件以及代码中会涉及到各种文件位置类配置,比如默认的检查点/保存点路径,高可用路径等。代码中,最常用的Flink数据源应该是KafkaSource。而使用Kafka,就需要用到鉴权,即需要在Kafka的连接属性中指定证书文件。 2 问题 然而,KafkaClient的配置中,证书文件的路径配置仅支持File协议,这让很多实际应用场景下变得非常不方便。比如:基于Yarn部署任务时需要确认任务部署到的机器的指定目录A下存在证书,同时配置的KafkaSource的配置中将证书路径设置为目原创 2020-08-03 14:30:36 · 1130 阅读 · 0 评论 -
Flink1.10内存模型
Flink1.10的内存管理发生部分变化,笔者基于官方文档对主要变更做了分析,将Flink1.10中内存设置等总结出本文。 Flink1.10内存模型 如上图,最外层是Flink进程内存,即Flink相关进程的JVM内存,通常容器部署设置这个参数即可。内层的 Total Flink Memory是去除部分JVM元数据区等内存后的部分,通常独立集群设置这个参数即可。其次,Flink总内存分为堆上内...原创 2020-04-17 16:44:00 · 521 阅读 · 0 评论