关于flink的日志文件设置

1)yarn的启动脚本

exec /bin/bash -c "$JAVA_HOME/bin/java -Xms580m -Xmx580m -XX:MaxDirectMemorySize=320m -Daaa=1  -XX:NativeMemoryTracking=detail -XX:+UseParNewGC -XX:+UseConcMarkSweepGC -XX:CMSInitiatingOccupancyFraction=70  -XX:+UseCompressedClassPointers -XX:CompressedClassSpaceSize=512M -XX:MetaspaceSize=128m -XX:MaxMetaspaceSize=512m -Dlog.file=/data/yarn/container-logs/application_1542184485247_0212/container_e17_1542184485247_0212_01_000003/taskmanager.log -Dlog4j.configuration=file:./log4j.properties org.apache.flink.yarn.YarnTaskManager --configDir . 1> /data/yarn/container-logs/application_1542184485247_0212/container_e17_1542184485247_0212_01_000003/taskmanager.out 2> /data/yarn/container-logs/application_1542184485247_0212/container_e17_1542184485247_0212_01_000003/taskmanager.err"

2)log4j.properties

log4j.rootLogger=INFO, file

log4j.appender.stdout=org.apache.log4j.ConsoleAppender
log4j.appender.stdout.layout=org.apache.log4j.PatternLayout
log4j.appender.stdout.layout.ConversionPattern=[%d] %p %m (%c) %l %n

log4j.appender.file=org.apache.log4j.DailyRollingFileAppender
log4j.appender.file.DatePattern='.'yyyy-MM-dd-HH
log4j.appender.file.File=${log.file}
log4j.appender.file.layout=org.apache.log4j.PatternLayout
log4j.appender.file.layout.ConversionPattern=[%d] %p %m (%c)%n

3)flink-conf.yaml

env.java.opts.taskmanager: -Daaa=1  -XX:NativeMemoryTracking=detail -XX:+UseParNewGC -XX:+UseConcMarkSweepGC -XX:CMSInitiatingOccupancyFraction=70  -XX:+UseCompressedClassPointers -XX:CompressedClassSpaceSize=512M -XX:MetaspaceSize=128m -XX:MaxMetaspaceSize=512m -XX:+PrintGCDetails -Xloggc:${LOG_DIRS}/taskmanager.out

就可以了!

转载于:https://my.oschina.net/qiangzigege/blog/2878074

### 日志配置概述 在 Apache Flink 中,日志记录对于监控应用程序行为、调试问题和性能调优至关重要。默认情况下,Flink 使用 Log4j 作为其日志框架,并提供了灵活的日志配置选项来满足不同场景的需求[^3]。 ### 配置文件位置 为了自定义日志设置,通常需要编辑位于 `$FLINK_HOME/conf` 目录下的 `log4j.properties` 文件。此文件控制着整个 Flink 环境中的日志级别、输出格式及目标等属性[^2]。 ### 主要配置项说明 - **根日志器 (Root Logger)**: 定义全局最低日志等级,默认通常是 INFO 或 WARN。 ```properties log4j.rootLogger=INFO, console ``` - **附加设备 (Appenders)**: 指定日志消息发送到哪里,比如控制台(console)或者文件(file)。 控制台输出样例: ```properties log4j.appender.console=org.apache.log4j.ConsoleAppender log4j.appender.console.target=System.err log4j.appender.console.layout=org.apache.log4j.PatternLayout log4j.appender.console.layout.ConversionPattern=%d{yyyy-MM-dd HH:mm:ss,SSS} %-5p %c{2}: %m%n ``` - **特定包或类别的日志级别**: 可以为某些组件单独设定更详细的日志级别以便于排查问题。 设置 JobManager 的 DEBUG 级别日志为例: ```properties log4j.logger.org.apache.flink.runtime.jobmanager=DEBUG ``` 通过调整上述参数可以实现对生产环境中 Flink 应用程序的有效管理和维护。 ### 实践建议 当修改任何日志配置时,请务必重启 Flink 集群以使更改生效;另外,在高并发环境下应谨慎选择合适的日志级别以免影响系统性能[^4]。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值