- 博客(4)
- 收藏
- 关注
原创 hive读取paimon表zstd问题, Could not initialize class com.github.luben.zstd.ZstdInputStreamNoFinalize
使用cdh6.3的hive操作paimon 0.9需要替换zstd新版本jar,一个是在hive的lib包里,另外一个是在MapReduce的时候,需要在hdfs里进行替换。
2024-11-22 10:46:58
434
原创 python上传文件到hdfs报错getaddrinfo failed
试了查询和创建目录都是可以的,就是无法上传文件(hosts配了namenode和ip的映射),百思不得其解,后经debug发现上传文件会去请求datanode,使用的是hostname,但是我本地只配置了namenode的映射,随即把datanode节点映射也配到本机hosts文件,上传成功。
2024-03-28 09:47:29
336
1
原创 flink1.13读kafka写入hive
flink1.13读kafka写入hive第一次写博客,flink自学了一下,网上查找案例,群里问大神,勉强把kafka写hive的流程走通了,在此记录一下,给后来者做个参考 ,其中有考虑不周或者错误的地方,请大家多多包涵和指正,嘻嘻。代码package cn.bywinimport org.apache.flink.streaming.api.{CheckpointingMode, TimeCharacteristic}import org.apache.flink.streaming.api
2021-07-29 09:40:51
3628
6
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人