Airflow 中文文档:写日志

本文详细介绍如何在Airflow中配置日志系统,包括本地和远程日志的设置方法。用户可以通过base_log_folder参数在airflow.cfg中指定日志文件夹,同时也可以设定远程日志位置,如Amazon S3,实现日志的云端存储与备份。文章还介绍了远程日志的读写依赖于Airflow连接,以及日志文件的命名和存储规则。

在本地编写日志

用户可以使用base_log_folder设置在airflow.cfg指定日志文件夹。 默认情况下,它位于AIRFLOW_HOME目录中。

此外,用户可以提供远程位置,以便在云存储中存储日志和日志备份。

在Airflow Web UI中,本地日志优先于远程日志。 如果找不到或访问本地日志,将显示远程日志。 请注意,只有在任务完成(包括失败)后才会将日志发送到远程存储。 换句话说,运行任务的远程日志不可用。 日志作为{dag_id}/{task_id}/{execution_date}/{try_number}.log存储在日志文件夹中。

将日志写入Amazon S3

在你开始之前

远程日志记录使用现有的Airflow连接来读取/写入日志。 如果没有正确设置连接,则会失败。

启用远程日志记录

要启用此功能,必须按照此示例配置airflow.cfg :

阅读全文/改进本文

转载于:https://www.cnblogs.com/wizardforcel/p/10039821.html

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值