NiFi安装及部署流程

本文详细介绍了如何在Linux环境下安装NiFi,包括下载安装包、配置文件、修改端口、启动服务等步骤,并通过三个实例展示了NiFi在文件移动、MySQL间数据迁移及MySQL到PostgreSQL数据复制的应用。

一、Linux安装Nifi

首先,Linux中得安装jdk,因为NiFi就是Java写的。

1.官网下载NiFi压缩包( 例如:nifi-1.9.2-bin.tar )

2.通过Xftp把压缩包放到Linux上 ( 我的默认位置:/usr/local/nifi/ )

3.进入到压缩包位置,

cd /usr/local/nifi

4.解压

tar -zxvf nifi-1.9.2-bin.tar

5.打开解压后nifi-1.9.2目录下的 /conf/ nifi.properties文件,并修改ip及端口

vim nifi.properties

nifi.web.http.host=192.168.XXX.XXX      #设置成本机的 ip

nifi.web.http.port=端口号                #设置不冲突的端口号

6.打开解压后nifi-1.9.2目录下的 /conf/ bootstrap.conf文件,并修改/conf/ bootstrap.conf

vim bootstrap.conf

java.arg.2=-Xms2048m

java.arg.3=-Xmx2048m

7.关闭防火墙

添加防火墙:

firewall-cmd --zone=public --add-port=端口号/tcp --permanent    

(--permanent永久生效,没有此参数重启后失效)

重新载入:

firewall-cmd --reload

8.进入bin目录,启动nifi

查看nifi状态

sh nifi.sh status

启动nifi   

sh nifi.sh start

9.使用浏览器启动192.168.XXX.XXX:8082/nifi

启动后的页面如下:(启动nifi需要时间,如果打不开,可能是还没启动起来,耐性等待一会)

二、使用Nifi

例子1:在Linux下移动文件

把usr/local/test下的文件,移动到/usr/local/test/test2

创建一个GetFile

双击修改get路径

创建一个PutFile

打对勾后,PutFile自身终结流,流到PutFile这里会自动停止

修改put路径

两个相互连接,然后start

这时候Linux中/usr/local/test下的文件移动到了/usr/local/test/test2里了

例子2:Mysql—Mysql

把mysql数据库demo的test表中数据,复制到mysql数据库demo2的test2表内

创建ExecuteSQL

创建ConvertAvroToJSON

创建ConvertJSONToSQL

创建PutSQL

最终框架

注意:配置数据库连接池,修改连接池的时候,需要关闭state; 使用连接池的时候,需要打开state

 

例子3:Mysql—Postgresql

把mysql数据库demo的test表中数据,复制到postgresql数据库demo3的test3表内

类似于Mysql—Mysql,只需要修改目标数据库连接池即可

 

 

### Apache NiFi 安装教程 #### 系统需求 在安装 Apache NiFi 之前,请确认您的系统满足以下最低要求: - **Java 版本**: 至少需要 Java 21 或更高版本[^1]。 - **内存**: 至少分配 2GB 的可用内存给 NiFi。 可以通过以下命令检查当前系统的 Java 版本是否符合要求: ```bash java -version ``` 如果未安装 Java 或者版本不符合要求,则需先完成 Java 的安装。 --- #### 下载与解压 NiFi 可以从官方下载页面获取最新版的 Apache NiFi。对于 Linux 平台,推荐使用 `.tar.gz` 格式的压缩包。假设目标版本为 `2.0.0-M4`,可以执行如下命令来下载并解压: ```bash wget https://downloads.apache.org/nifi/2.0.0-M4/nifi-2.0.0-M4-bin.tar.gz tar -xzvf nifi-2.0.0-M4-bin.tar.gz cd nifi-2.0.0-M4/ ``` 这一步完成后,会看到 NiFi 的基本目录结构[^3]: - `bin/`: 包含启动和停止服务的相关脚本。 - `conf/`: 主要配置文件所在位置,例如 `nifi.properties` 和 `flow.xml.gz`。 - `lib/`: 存放 NiFi 运行所需的核心库文件。 - `logs/`: 应用程序的日志记录路径。 - `web/`: Web 用户界面 (UI) 资源所在的目录。 - `work/`: 处理过程中产生的临时数据存储区域。 --- #### 配置环境变量 为了方便管理 NiFi,建议设置一些必要的环境变量。编辑用户的 shell 配置文件(如 `.bashrc`),添加以下内容: ```bash export NIFI_HOME=/path/to/nifi-2.0.0-M4 export PATH=$NIFI_HOME/bin:$PATH ``` 随后重新加载该配置文件以使更改生效: ```bash source ~/.bashrc ``` --- #### 修改配置文件 进入 `conf/` 目录,调整主要配置项以适配实际部署场景。以下是几个常见的修改选项[^3]: - 编辑 `nifi.properties` 文件,指定日志级别或其他性能参数。 - 如果需要自定义数据流逻辑,可更新 `flow.xml.gz` 中的内容。 注意:首次运行时,默认情况下无需手动干预这些文件即可正常启动。 --- #### 启动与验证 通过调用位于 `bin/` 目录下的脚本来控制 NiFi 实例的状态。具体操作方法如下所示: ##### 启动服务 ```bash ./bin/start-nifi.sh ``` 等待几秒钟后打开浏览器访问地址 http://localhost:8080/nifi ,应该能够看到图形化的用户界面[^3]。 ##### 查看状态 利用下面这条指令查询进程是否成功开启以及监听端口详情: ```bash ps aux | grep nifi netstat -tulnp | grep java ``` ##### 关闭服务 当不再需要继续测试的时候,随时都可以安全地关闭实例: ```bash ./bin/stop-nifi.sh ``` --- #### 总结 以上就是关于如何基于 Linux 操作系统快速搭建起一套完整的 Apache NiFi 开发环境的具体步骤说明。按照上述指引逐一实施每部分任务之后,相信很快就能掌握整个流程要点,并顺利开展后续数据分析等相关工作。
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

学弟不想努力了

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值