spark中如何使用logback日志系统写数据到es中

最新推荐文章于 2024-10-10 07:22:37 发布

原创

最新推荐文章于 2024-10-10 07:22:37 发布 · 2k 阅读

1 ·

CC 4.0 BY-SA版权

文章标签：

#spark #log #logback #es

在YARN环境下，Spark依赖log4j日志系统，但实际应用中使用logback。为避免冲突，本文介绍了如何配置logback将日志写入Elasticsearch。通过引入相关Maven依赖，添加logback配置代码，可以实现使用特定日志记录到ES的目标。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

spark运行环境在yarn上，环境依赖log4j的日志系统，但是我们上线的应用采用logback日志，与log4j冲突，我们又不可能动环境中的jar包，那改怎么办呢？看如下代码

第一步：引入相关jar的maven依赖

<project xmlns="http://maven.apache.org/POM/4.0.0" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
  xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 http://maven.apache.org/xsd/maven-4.0.0.xsd">
  <modelVersion>4.0.0</modelVersion>

  <groupId>com.suncreate</groupId>
  <artifactId>logback-adapter</artifactId>
  <version>1.0.0-SNAPSHOT</version>
  <packaging>jar</packaging>

  <name>logback-adapter</name>
  <url>http://maven.apache.org</url>

  <properties>
    <project.build.sourceEncoding>UTF-8</project.build.sourceEncoding>
  </properties>

  <dependencies>
    	<dependency>
		   <groupId>net.logstash.logback</groupId>
		   <artifactId>logstash-logback-encoder</artifa