
数据库
文章平均质量分 57
wumingwuxin
这个作者很懒,什么都没留下…
展开
-
用Kettle的一套流程完成对整个数据库迁移
需求: 1.你是否遇到了需要将mysql数据库中的所有表与数据迁移到Oracle。 2.你是否还在使用kettle重复的画着:表输入-表输出、创建表,而烦恼。 下面为你实现了一套通用的数据库迁移流程。 技术引导: 实现之初,在kettle提供的例子中找到了一个类似的(samples\jobs\process all tables)。 通过相关改造,终于达到目标。转载 2017-07-12 16:24:38 · 748 阅读 · 0 评论 -
数据对接—kettle使用知识8
摘要: 之前由于一些事情耽误了,博客一直没有更新,今天开始继续完善kettle的学习,这一节开始了解转换控件的使用,首先从值映射控件开始。 值映射: 这个步骤是简单的映射字符串,从一个值映射到另一个值。 例子如下: 1、输入或者读取数据库某列值 2、值映射控件设置如下: 3、输出到日志 4、成功转换,日志输出结果: 总结: 目前此控件还不能支持数据库操作,如果需要支持数据库我们可以在转载 2017-07-13 11:48:08 · 579 阅读 · 0 评论 -
数据对接—kettle使用知识9
摘要: 上一篇介绍了值映射插件,并通过实例介绍插件的简单使用,类似值映射控件,它也是改变值得一个控件。这一篇我们介绍另一个处理字符串的控件(替换字段)的使用。 Replacein string:(替换字段值为其他值) 1、数据库获取还使用上一节的DataGrid,使用一样的数据 2、控件配置如下,检索上一篇介绍了值映射插件,并通过实例介绍插件的简单使用,类似值映射控件,它也是改变值得一转载 2017-07-13 11:48:59 · 537 阅读 · 0 评论 -
数据对接—kettle使用知识10
摘要: 上一篇介绍了字符串处理插件替换字段,并通过实例介绍插件的简单使用。这一篇我们介绍另外五个字符串处理插件的使用,它们分别是:Setfield value替换值控件、Setfield value to a constant替换为固定值,如果是日期类型还可以配置日期格式、Splitfield to rows(分隔控件)、String operations(字符串操作控件)、Strings cut转载 2017-07-18 14:02:11 · 702 阅读 · 0 评论 -
Kettle Spoon
前言现在的数据库种类越来越多,数据库备份的格式也越来越复杂,所以数据格式化一直是一个老生常谈的问题。据库备份文件格式那么多,既有SQL的,也有BAK的,还有TXT的等。数据库种类也有很多,MySQL,Oracle,SQL server等,怎么对这些数据库进行管理?昨天泄露access格式的数据库,今天泄露了excel格式的数据库,明天又泄露了SQL格式的数据库。要格式化那么多种类的数据库,转载 2017-07-13 16:54:22 · 937 阅读 · 0 评论 -
数据对接—kettle使用知识11
摘要: 这一篇我们继续介绍字符串处理插件的使用,增加常量控件和增加序列字段。 增加常量控件 这个步骤很简单,主要是添加常量到流中。它的使用也很容易:用字符串形式指定名称,类型和值。利用选择的数据类型指定转换格式。这一篇我们继续介绍字符串处理插件的使用,增加常量控件和增加序列字段。增加常量控件这个步骤很简单,主要是添加常量到流中。它的使用也很容易:用字符串形式指定转载 2017-07-13 11:23:10 · 500 阅读 · 0 评论 -
数据对接—kettle使用知识12
摘要: 这一篇我们介绍转换插件的使用,去除重复记录和Unique rows (HashSet)。 去除重复记录控件 该步骤从流中移除重复的记录,根据指定的字段进行排除重复记录,还可以统计出重复的数量,下面是控件截图: 1、增加计数器到输出:如果你想知道多少重复行被去掉,就选择此选项。这一篇我们介绍转换插件的使用,去除重复记录和Unique rows (HashSet)。去除重复转载 2017-07-18 14:02:50 · 657 阅读 · 0 评论 -
数据对接—kettle使用知识13
摘要: 这一篇我们继续介绍转换插件的使用,Row Normaliser、行转列和字段选择。 Row Normaliser控件 这个步骤转动表,标准化数据格式。 行转列 这个插件也是转动表,标准化数据格式,但是相关设置比上面的插件要多一些,例如你想更新一个实际的物理表,这种形式的数据是更容易掌握的。这一篇我们继续介绍转换插件的使用,Row Normaliser、行转列和字段选择。转载 2017-07-13 11:27:05 · 551 阅读 · 0 评论 -
数据对接—kettle使用知识14
摘要: 这一篇我们继续介绍转换插件的使用,行扁平化。 行扁平化控件 这个步骤允许你扁平化预备的数据。 示例:1、定义字段 2、加入几条数据 3、设置扁平处理者 4、结果输出 总结: 通过这个例子可以清楚的看出这个插件的功能,这个插件我用的不多,所以通过通过一个例子来说明它的作用,如果脚本中需要用到这样的转换,我们知道就ok了。这一篇我们继续介绍转换插件的使用,行扁平化。转载 2017-07-13 11:02:35 · 630 阅读 · 0 评论 -
数据对接—kettle使用知识15
摘要: 这一篇我们介绍几个Flow插件,Switch / Case、空操作、过滤记录、Blocking Step和中止。 Switch / Case控件 这个插件式对于多种类型的值进行不同的选择路径,截图如下: 注意事项: 1、一定得有个默认的路径 2、先产生目标步骤,再进行路径连接 3、注意命名规范,最好见名知意 空操作 不做任何处理,一般作为流程的终点,截图下图: 过滤记录 通过使用一个表达式转载 2017-07-13 11:22:20 · 1264 阅读 · 0 评论 -
SQL获取所有数据库名、表名、储存过程以及参数列表
(b)syscolumns表中只含有数据类型编号,要获取完整的名字需要从systypes表中找,一般用户使用的数据类型用xusertype对应比较好,不会出现一对多的情况。 (c)syscolumns.length得到的是物理内存的长度,所以nvarchar和varchar等类型在数据库中的显转载 2017-07-18 12:03:11 · 532 阅读 · 0 评论 -
sqlserver完整备份一个新库的方法
一:选择bak,输入新数据库名称,不需要新建好数据库2:修改一下还原的mdf与日志文件,否则会把以前有的数据库并为正在还原3:可以在选项中把正在还原去掉如果出现正在还原可以使用如果不需要还原,则使用: restore database test with recovery如果只需要还原,则使用: restore d转载 2017-06-27 17:28:29 · 802 阅读 · 0 评论 -
数据对接—kettle使用知识1
摘要: 需求: 你有没有遇到过不同数据库之间数据对接的需求,比如:mysql数据库里的数据要保存到oracle数据库里,或者是excel里的数据要保存到数据库里,或者是数据库的数据要定时的保存到文件中等等数据对接的问题。需求: 你有没有遇到过不同数据库之间数据对接的需求,比如:mysql数据库里的数据要保存到oracle数据库里,或者是excel里的数据要转载 2017-07-13 11:30:31 · 587 阅读 · 0 评论 -
数据对接—kettle使用知识2
摘要: 这一篇开始进入kettle的一些常用插件的使用介绍,通过实例介绍不同插件的功能。这一篇说(Data Grid和文本文件输出)的使用。 文本文件输出介绍(可以略过,一般用不着): 1、Run this as a command instead:把结果输出到命令行或者脚本 2、文件名里包含步骤数:如果你在多个拷贝中运行步骤,拷贝的数量将包含到文件名中。这一篇转载 2017-07-13 11:29:14 · 521 阅读 · 0 评论 -
数据对接—kettle使用知识3
摘要: 上一篇介绍了Data Grid和文本文件输出两个插件,并通过实例介绍插件的简单使用,如果有这样的需求大家可以参考一下并深入研究插件的其它细节设置。这一篇我们介绍(表输出)的使用。 表输出 1、 Target Schema:目标模式。 上一篇介绍了Data Grid和文本文件输出两个插件,并通过实例介绍插件的简单使用,如果有这样的需求大家可以参考一下并深入研究插件的其它细节设转载 2017-07-13 11:31:27 · 934 阅读 · 0 评论 -
数据对接—kettle使用知识4
摘要: 上一篇介绍了表输出插件,并通过实例介绍插件的简单使用,如果有这样的需求大家可以参考一下并深入研究插件的其它细节设置。这一篇我们介绍和表输出对应的插件(表输入)的使用。 表输入: 1、 从步骤插入数据:指定我们期待读取数据的步骤名称,这些信息能被插入到sql语句。上一篇介绍了表输出插件,并通过实例介绍插件的简单使用,如果有这样的需求大家可以参考一下并深入研究插件的其它细节设置。这转载 2017-07-13 11:32:00 · 366 阅读 · 0 评论 -
数据对接—kettle使用知识5
摘要: 介绍完表输入插件,这一篇我们继续介绍kettle中的获取系统信息插件,并将结合表输入插件演示它的其中的一种用途。首先熟悉一下获取系统信息插件的一些功能: 获取系统信息 1、系统日期(可变):系统时间,每次访问都在改变。介绍完表输入插件,这一篇我们继续介绍kettle中的获取系统信息插件,并将结合表输入插件演示它的其中的一种用途。首先熟悉一下获取系统信息插件的一些功能:转载 2017-07-14 12:25:09 · 974 阅读 · 0 评论 -
数据对接—kettle使用知识6
摘要: 前面介绍了表输入的插件,我们可以用它来查询数据库表里的数据,那如果数据不在数据库里我们是不是没没有办法获取了呢?答案是否定的,这个软件还提供了其它的插件可以让我们轻松的获取excel、xml、文本文件等文件里的数据 ,下面我们就一起来简单的了解一下这些插件: 文本文件输入: 1、 没有空行:不往下一步骤发送空行 2、 输出包括文件名:输出包含文件名字段 3、 输出包含行数:输出字段包含行号转载 2017-07-13 11:42:34 · 658 阅读 · 0 评论 -
数据对接—kettle使用知识7
摘要: 上一篇介绍了数据输入的插件,这一篇介绍一下数据输出的插件,类似数据输入,输出的插件也有很多,可以将数据输出到文本文件,excel文件,xml文件,还可以根据sql语句删除数据库表里的数据,也可以使用插入/更新插件insert或update数据库表里的指定字段,下面先来看几个输出的插件: 插入/更新 1、 步骤名称:要写入数据的表的schema名称。上一篇介绍了数据输入的插件,转载 2017-07-13 11:38:30 · 1401 阅读 · 0 评论 -
数据库还原失败System.Data.SqlClient.SqlError: 无法执行 BACKUP LOG,因为当前没有数据库备份
结尾日志的问题还原选择中去掉结尾日志就可以了结尾日志的问题还原选择中去掉结尾日志就可以了转载 2017-06-27 16:20:47 · 846 阅读 · 0 评论 -
SQL 中的 TRIM 函数
SQL 中的 TRIM 函数是用来移除掉一个字串中的字头或字尾。最常见的用途是移除字首或字尾的空白。这个函数在不同的资料库中有不同的名称:MySQL: TRIM( ), RTRIM( ), LTRIM( )Oracle: RTRIM( ), LTRIM( )SQL Server: RTRIM( ), LTRIM( )各种 trim 函数的语法如下:TRIM ( [ [位置]转载 2017-07-25 17:06:10 · 1267 阅读 · 0 评论