
ETL
hblicy
这个作者很懒,什么都没留下…
展开
-
Nifi配置HTTP请求
主要利用ReplaceText和InvokeHTTP,针对某一个业务数据处理服务,去获取数据或者发送数据。本实例是通过HTTP接口获取数据,最后写入Clickhouse。截取部分流程如下:原创 2021-07-15 16:15:40 · 1957 阅读 · 1 评论 -
Nifi集成ldap之后如何使用Remote Process Group组件
1、Nifi安装略,见安装手册2、Nifi配置1、修改nifi.propertiesnifi@NIFI-001:~/nifi-1.11.4-bin$ vim conf/nifi.properties# 各节点Site2Site协议接口配置nifi.remote.input.host=10.54.35.170nifi.remote.input.socket.port=10443# web ui配置。http.port留空,启用httpsnifi.web.http.port=原创 2020-11-25 11:35:18 · 700 阅读 · 0 评论 -
Nifi单机安装并集成ldap配置
1. 准备软件安装包nifi-1.11.4-bin.zip2. 解压安装unzipnifi-1.11.4-bin.zip3. Nifi配置3.1 修改bootstrap.confnifi@NIFI-001:~$ cd ~/nifi-1.11.4-binnifi@NIFI-001:~/nifi-1.11.4-bin$ vim conf/bootstrap.conf修改如下配置:# JVM memory settingsjava.arg.2=-Xms10240m.原创 2020-11-25 11:09:56 · 1407 阅读 · 0 评论 -
nifi新节点加入集群操作
原有三个节点组成的Nifi集群,其中一个节点损坏,待修复完成之后,新节点要加入到现有集群中,主要修改的配置文件有:conf/bootstrap.confconf/zookeeper.propertiesconf/state-management.xmlconf/nifi.propertiesconf/authorizers.xmlconf/login-identity-providers.xml还需要重新生成密钥文件:./tls-toolkit.sh standalone -原创 2020-06-08 12:13:55 · 1350 阅读 · 0 评论 -
Apache NiFi用户指南
Apache NiFi用户指南介绍Apache NiFi是基于流程编程概念的数据流系统。它支持强大且可扩展的数据路由,转换和系统中介逻辑的有向图。NiFi具有基于Web的用户界面,用于设计,控制,反馈和监控数据流。它在服务质量的几个方面具有高度可配置性,例如容错与保证交付,低延迟与高吞吐量以及基于优先级的排队。NiFi为所有接收,分叉,加入克隆,修改,发送和最终在达到其配置的最终状态时丢弃的数据提供细粒度数据来源。...转载 2020-05-18 09:53:39 · 1470 阅读 · 0 评论 -
Apache NiFi入门(翻译官网)
目录谁是本指南? 本指南中使用的术语 下载和安装NiFi 启动NiFi 对于Windows用户 适用于Linux / Mac OS X用户 作为服务安装 我开始使用NiFi。怎么办? 添加处理器 配置处理器 连接处理器 启动和停止处理器 获取处理器的更多信息 其他组件 什么处理器可用 数据转换 路由和调解 数据库访问 属性提取 ...翻译 2019-06-26 10:12:29 · 1993 阅读 · 0 评论 -
nifi-oracle to kafka(new api)
最近在项目中对接华为FusionInsight的kafka_0.11版本,对方是用kafka新api,在使用nifi发送数据时,就不能使用putkafka这个处理器了,改用Publishkafka_0_11,配置如下:附上完整的流程:...原创 2019-06-26 11:05:13 · 610 阅读 · 0 评论 -
nifi-hive to oracle
最近在项目中需要用nifi抽取hive数据到oracle中,hive是配置了kerberos认证的,使用SelectHiveQL处理器,配置如下:另外需要配置这2个控制服务:最后在写数据到oracle中,采用putsql处理大数据量的时候会很慢,后决定采用PutDatabaseRecord,配置如下:附上完整的流程:...原创 2019-06-26 11:14:05 · 1087 阅读 · 2 评论