
datax
文章平均质量分 75
布偶猫爸爸
这个作者很懒,什么都没留下…
展开
-
docker运行datax实现数据同步方案 --docker commit方式测试
公司的归档库正式提出要搭建了,于是纪录搭建归档库的方案和过程。 需要备份的库是生产Oracle主库,由于没有归档机制,公司经过8年时间的运行,对于多个表的数据查询已经累积到十亿级别,查询效率已经很低下了,鉴于数据库的IO压力,我提出了建立归档机制,把长时间不经常使用的数据转移到独立的数据库,保证生产的高效率。 归档方案是吧两年前的数据转移到归档库上,每天定时执行一次。归档库的设...原创 2018-12-29 17:25:34 · 4693 阅读 · 0 评论 -
docker运行datax实现数据同步方案 -- docker build 篇
上一篇纪录了datax及其docker commit测试方法,这里我推荐使用自动构建docker build构建一个带jdk+maven+python的docker镜像。docker build基础理论就是先获得一个基础镜像,然后对镜像做的每一步骤操作都封装,一步一步的得到一个多重操作封装过的功能镜像。其中在封装的过程中有几个指定的命令参数,具体可以自行百度,这里分享下用docker buil...原创 2019-01-03 10:03:57 · 3501 阅读 · 1 评论 -
docker运行datax实现数据同步方案 -- datax/Oracle-Oracle/MySQL篇
之前已经构建好了datax镜像,只差最后一步,datax运行 datax的使用很简单:python datax.py 配置文件.json以上命令就可以直接使用datax了,本次就来分解以上命令 首先python打头执行命令,datax.py是datax自带的,该可执行文件再datax的bin目录下,最后加上执行的配置文件配置文件大体结构是:读数据库+各种读取信息...原创 2019-01-03 11:12:29 · 1733 阅读 · 3 评论