Apache NIFI ConvertJSONToAvro

Apache NIFI的ConvertJSONToAvro处理器能够根据Avro schema将JSON数据转换成Avro格式。本文详细介绍了配置属性、连接关系、状态管理和应用场景,并提供了使用示例。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

 


编辑人(全网同名):酷酷的诚 邮箱:zhangchengk@foxmail.com


描述

该处理器根据Avro schema将JSON转换为Avro。

属性配置

在下面的列表中,必需属性的名称以粗体显示。任何其他属性(不是粗体)都被认为是可选的,并且指出属性默认值(如果有默认值),以及属性是否支持表达式语言。

属性名称默认值可选值描述
Hadoop configuration Resources  (Kite)一个文件或逗号分隔的文件列表,其中包含Hadoop文件系统配置。如果没有这个,Hadoop将在类路径中搜索“core-site.xml”和“hdfs-site.xml"或将其恢复到默认配置。
支持表达式语言:true
Record schema  输出从JSON对象创建的每个记录的Avro Schema
支持表达式语言:true
Compression typeSNAPPY
  • BZIP2
  • DEFLATE
  • NONE
  • SNAPPY
  • LZO
压缩类型。默认是SNAPPY。

连接关系

名称描述
success从JSON成功转换的Avro内容
failure无法处理的JSON内容
incompatible无法转换的JSON内容

读取属性

没有指定。

写属性

没有指定。

状态管理

此组件不存储状态。

限制

此组件不受限制。

输入要求

此组件需要传入关系。

系统资源方面的考虑

资源描述
内存此组件的实例可能会导致系统资源的大量使用。多个实例或高并发性设置可能导致性能下降。

应用场景

该处理器根据Avro schema将JSON转换为Avro。
在使用 Kite 获取 avro schema时,需要配置Hadoop配置文件;

示例说明

1:每次只 接收一个json数据 ,无法处理json数组 。

输入json:

 

配置:手动配置schema 或者上下文attribute传递schema

 

结果为:

 

公众号

关注公众号 得到第一手文章/文档更新推送。

 

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值