StreamSets实战之路(九)-基础篇- StreamSets-Executor类组件使用

本文详细介绍了StreamSets中Executor类组件的功能与使用方法,包括如何响应事件触发任务,如文件元数据修改、邮件发送、数据库查询等。并演示了如何配置PipelineFinisher组件在数据流读取完毕后自动停止。

主要介绍StreamSets-Executor类组件有哪些、分类、主要用途以及使用方法。

    Executor类组件主要在收到事件时会触发任务。

Executor类组件主要包含以下:

ADLS Gen1 File Metadata // 收到事件后,更改文件元数据,创建一个空文件或删除Azure Data Lake Storage Gen1中的文件或目录。

ADLS Gen2 File Metadata // 收到事件后,更改文件元数据,创建一个空文件或删除Azure Data Lake Storage Gen2中的文件或目录。

Amazon S3 // 为指定的内容创建新的Amazon S3对象,复制存储桶中的对象,或将标签添加到现有的Amazon S3对象。

Databricks Job Launcher // 收到事件记录后启动指定的Databricks作业。

Databricks Query // 收到事件后在Databricks上运行Spark SQL查询。

Email // 在收到事件后向配置的收件人发送自定义电子邮件。

HDFS

评论 3
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值