Kettle
文章平均质量分 56
Deng_7788
努力把复杂的语句简单化
展开
专栏收录文章
- 默认排序
- 最新发布
- 最早发布
- 最多阅读
- 最少阅读
-
kettle信息发送钉钉
由于其他的作业比较多,想要在job中加入一个转化发送消息到钉钉,其他的配置说明直接获取系统的信息。这样也避免直接修改其他的转换和大量的工作量。步骤:1、新建一个转换拉取获取系统信息、获取变量、JavaScript代码、获取access_token组件。2、获取系统信息设置拿到需要的信息,比如作业的读写更新删除行数,job的日志内容这个日志内容同在作业执行页面下输出的日志,所以可以在执行作业时选择是详细日志、基本日志还是错误日志。3、获取变量获取变量主要是想要去拿到job的名称,文件名。按原创 2021-01-27 18:28:42 · 1365 阅读 · 1 评论 -
kettle当转化出错时发送邮件
kettle不管是在job还是转换时出错之后如果没有做错误处理那么所有的程序都会停止,所以在设置发送邮件时只设置一个在运行出错时就不会收到邮件。作业设置作业的设置如下:当转换正常时程序会执行发送邮件3不执行错误时发送邮件,报错时执行的是错误时发送邮件。正常和错误的发送邮件设置一样,节点链接方式改为错误时执行即可。[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-1ueq3gYv-1598436367210)(https://imgblog.csdnimg.cn/2020原创 2020-08-26 18:07:42 · 2110 阅读 · 0 评论 -
kettle设置邮件发送
1、job中拖一个start–发送邮件控件2、发送邮件控件填写端口一般默认是253、设置邮件消息,不需要可以不用设置原创 2020-08-26 18:03:53 · 1182 阅读 · 0 评论 -
kettle默认情况下把空字符串当作NULL处理
kettle默认情况下把空字符串当作NULL处理,这个问题在sqlserver会存在,最终只好找到修改配置的办法:在C:\Users\用户名.kettle目录中找到kettle.properties文件,增加:KETTLE_EMPTY_STRING_DIFFERS_FROM_NULL=Y重启Kettle,就可以了。...原创 2020-08-26 16:09:27 · 1214 阅读 · 0 评论 -
kettle动态SQL写法--上一个流程获取值做为下一个流程的条件
不同表数据作为过滤条件过滤查询想要实现逻辑是通过上一个流程获取条件放入到下一个流程中抽取数据。表一:tab1表二:tab2根据表一aa字段值过滤表二。select * from tab2 where aa in (select aa from tab1);流程表一数据输入表二数据输入过滤过滤条件用的是用"?"占位符表示传入的变量备注:一、如果传过来的变量不止一行数据必须勾选上执行每一行,不然执行会失败。因为勾选执行每一行,那么执行SQL的次数就是前一个流程输出的值的总行数,原创 2020-08-10 15:17:45 · 5035 阅读 · 0 评论 -
kellte定时任务-后台运行配置方式bat (下)
初步的配置查看:kellte定时任务-后台运行配置方式bat (上)日志按日期生成在windows上时间参数获取set "ymd=%date:~,4%-%date:~5,2%-%date:~8,2%"echo %ymd% cmd上运行的效果如果日志需要按天分可以修改bat内容在里面添加set “ymd=%date:,4%-%date:5,2%-%date:~8,2%”,并且在日志...原创 2019-11-15 18:14:31 · 548 阅读 · 0 评论 -
kellte定时任务-后台运行配置方式bat (上)
在数据仓库环节ETL定时任务是一个必不可少的一个环节,因为定时任务取决与你的ETL程序抽取业务数据的频率程度(日、周、季、月、年),一般情况下都采用T+1方式来抽取数据。关于Kettle定时任务需要调用脚本来执行“作业”与“转换”对应脚本名“Kitchen”与“Pan”,如果是NT系统则找.bat结尾,Linux系统则找.sh结尾相应脚本。默认情况下采用T+1方式抽取数据到目标表,也可以通过...原创 2019-11-15 18:12:53 · 1000 阅读 · 0 评论 -
kettle取昨天时间&设置任意时间变量案例
参考: https://blog.youkuaiyun.com/xiaohai798/article/details/418678351、新建转换-核心对象-输入-获取系统信息拖动到右边的面板中-双击编辑获取系统信息-写入名称-选择类型,可以选择系统日期2、核心对象 - 脚本-JavaScript代码 拖到右边面板中- 点击获取系统信息 按住shift拖向JavaScript代码-双击编辑JavaScr...翻译 2019-10-29 12:13:41 · 1932 阅读 · 0 评论 -
Kettle输入流(表输入、CSV)
Kettle表输入,简单从CSV表将数据插入/更新到数据准备CSV文件,具体字段如下namesexago店小二男19阿花女19阿妹女20花花女31、新建一个转换,命名为name_test_csv,保存到任意一个地方2、选择核心对象,打开输入,从输入里面找到CSV文件输入拖动到右边的面板中3、双击编辑CSV文件输入选择文件,获取字...原创 2019-10-29 12:00:08 · 1703 阅读 · 0 评论 -
kettle列转行
kettle上的列转化的控件名称叫行转列,翻译错误导致的。行转列的设置举一个简单的例子原数据为aabbccdd11b1c1d22bunll2d33b3cnull需要转换成的样式aabb11b22b33b1c1d3cnull1、kettle流程2、列转化的设置(行转列...原创 2019-10-29 11:32:56 · 842 阅读 · 0 评论 -
Kettle创建一个简单的转换文件
新建转换1、右击转换 -> 新建DB连接建立数据库连接的过程与其他数据库管理软件连接数据库类似。例子:连接SQLServer服务器右击DB连接 -> 新建->填写设置和连接名称->点击测试查看是否连接成功->点击确认保存连接SQLServer服务有两种方式MS SQL Server和MS SQL Server(Native)这两种方式连接有些差异...原创 2019-10-16 14:35:25 · 1127 阅读 · 0 评论 -
kettle基本信息介绍
Kettle介绍Kettle是一款国外开源的ETL工具,纯java编写,可以在Window、Linux、Unix上运行,数据抽取高效稳定。Kettle 中文名称叫水壶,该项目的主程序员MATT 希望把各种数据放到一个壶里,然后以一种指定的格式流出。Kettle目前包含五个产品:Spoon、Pan、Chef、Kitchen、Encr。SPOON: 是一个图形用户界面,允许你通过图形界面来设计...翻译 2019-10-16 11:14:46 · 623 阅读 · 0 评论 -
kettle实现SQL中的union合并数据(追加流)
以前项目稍微比较复杂,需要在多个不同的数据库中抽取数据,然后实现数据合并,因为数据不在同一个库中,实现合并只能利用多个表输入控件先拿到数据,然后再在Kettle中合并,使用过kettle的数据合并控件,一言难尽,当初踩了很多坑,已经忘记了,后来终于找到一个不错的方式实现了想要达到的SQL中的union功能。下面举一个简单的例子TB_Aaabb111TB_B...原创 2019-10-15 17:49:17 · 9243 阅读 · 1 评论 -
kettle安装部署
kettle安装部署kettle是绿色版本的不需要安装1、最新版本的下载地址为:http://community.pentaho.com/projects/data-integration/2、打开kettle。首先解压下载下来的压缩包如:pdi-ce-7.1.0.0-12.zip,解压之后打开文件夹找到Spoon.bat 然后打开3、在数据库链接的过程中,可能会报某个数据库连接找不...原创 2019-10-15 17:17:58 · 273 阅读 · 0 评论
分享