
大数据
hhkun0120
这个作者很懒,什么都没留下…
展开
-
jenkins 流水线脚本详细解析Pipeline
jenkins 流水线脚本详细解析Pipeline。原创 2022-08-09 14:55:47 · 814 阅读 · 0 评论 -
apache dolphin scheduler 文件dolphinscheduler-daemon.sh详解
apache dolphin scheduler 的dolphinscheduler-daemon.sh详解原创 2022-08-02 15:21:44 · 1015 阅读 · 0 评论 -
【基于elasticsearch+kibana】 filebeat 读取kafka topic
前言:在上面一节中,通过modules.d/kafka.yml的配置,完成了固定path下面日志文件读取到elasticsearch中并用kibana进行了搜索展示。而实际的应用过程中,流程是某个微服务应用程序把日志吐到kafka的某个topic中,filebeat以kafka的topic中数据作为输入,elasticsearch作为输出。这一节,我们就来实现这个过程。...原创 2021-08-23 14:03:42 · 483 阅读 · 0 评论 -
filebeat的使用(一) 从kafka log中读取数据
# Module: kafka# Docs: https://www.elastic.co/guide/en/beats/filebeat/7.x/filebeat-module-kafka.html- module: kafka # All logs log: enabled: true # Set custom paths for Kafka. If left empty, # Filebeat will look under /opt. #var.ka.原创 2021-08-18 18:40:15 · 326 阅读 · 0 评论 -
三分钟搭建elasticsearch+logstash+kibana实现日志检索系统
前言:搭建一套elk用于日志的检索,版本选择的是7.0.0。搭建过程快速、简便。注意最好在虚拟机中搭建,不要在docker容器中搭建,要有服务器的root权限,遇到问题的时候有权限可以很好的缩短搭建时间。1、官方下载链接:kibanaelasticsearch logstash2、这个版本中的kibana还可以直接用root权限运行,只用新建一个es用户就行3、主要思路:logstash从文件和kafka 的topic读取数据进入到elasticsearch中,kibana做图形化检索。...原创 2021-08-06 11:40:40 · 523 阅读 · 0 评论 -
[sqoop][mysql导入到hadoop]ipc.Client: Retrying connect to server: spark002/10.211.55.12:60587. Already
ipc.Client: Retrying connect to serverERROR [Thread-68] org.apache.hadoop.mapreduce.v2.app.rm.RMContainerAllocator: Exception while unregistering java.lang.NullPointerException原创 2017-03-29 11:44:36 · 1128 阅读 · 1 评论