datax把text转mysql_datax字段转换

由于工作中需要对mysql数据做同步,最终选用阿里的datax。在同步过程中需要对某些列做定制处理。

通用转换

针对通用的转换,如加密等很多表同步都使用到的,可以加入插件。可以参考com.alibaba.datax.core.transport.transformer下面的插件,自己加入插件。继承Transformer类。

2.非通用转换

对于某些列特殊的转换,比如一个json格式的字段,转为多个字段。可以使用dx_groovy插件,写groove代码实现。

"transformer": [{

"name": "dx_groovy",

"parameter": {

"code": "Column column = record.getColumn(2);

String oriValue = column.asString();

def jsonSlurper = new JsonSlurper();

def object = jsonSlurper.parseText(oriValue);

boolean isWatched = object.isMatched;

long paidNum = 0;

long noPaidNum = 0;

def list = object.details;

list.each {

boolean settlement = it.settlement;

if(settlement){

paidNum++;

}else{

noPaidNum++;

}

};

record.setColumn(2, new BoolColumn(isWatched));

record.setColumn(3, new LongColumn(paidNum));

record.setColumn(4, new LongColumn(noPaidNum));

return record;",

"extraPackage": ["import groovy.json.JsonSlurper;"]

}

}]

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值