DataX二次开发——(8)rdbms的达梦8数据库的支持

DM8(达梦8)数据库安装和使用 达梦数据库入门及使用 介绍 武汉达梦数据库有限公司成立于2000年,为中国电子信息产业集团(CEC)旗下基础软件企业,专业从事数据库管理系统的研发、销售与服务,同时可为用户提供大数据平台架构咨询、数据技术方案规划、产品部署与实施等服务。多年来,达梦公司始终坚持原始创新、独立研发,目前已掌握数据管理与数据分析领域的核心前沿技术,拥有全部源代码,具有完全自主知识产权。达梦公司是国家规划布局内重点软件企业,同时也是获得国家“双软”认证和国家自主原创产品认证的高新技术企业,拥有国内数据库研发精英团队,多次与国际数 阅读详情
AI摘要

目前GitHub上DataX3.0开源版本,rdbms默认是达梦7驱动,若要连接达梦8需替换驱动。介绍了驱动替换步骤,包括下载驱动、修改maven依赖、重新打包编译,还给出读写达梦8的任务模板json,如达梦8与MySQL5.7间的数据同步模板。

1 前言

目前GitHub上的DataX3.0开源版本,rdbms里面默认是达梦7的驱动,因此,如果像链接达梦8需要替换驱动。

2 驱动替换

1、下载Dm8JdbcDriver18-xxxx.jar,放到libs下面(rdbmsreader和rdbmswriter同理)
在这里插入图片描述
2、修改maven依赖,注释dm7的驱动,改成达梦8

        <dependency>
            <groupId>com.dameng</groupId>
            <artifactId>Dm8JdbcDriver18</artifactId>
            <version>8.1.1.49</version>
            <scope>system</scope>
            <systemPath>${basedir}/src/main/libs/Dm8JdbcDriver18-8.1.1.49.jar</systemPath>
        </dependency>

        <!--		<dependency>-->
        <!--			<groupId>com.dm</groupId>-->
        <!--			<artifactId>dm</artifactId>-->
        <!--			<scope>system</scope>-->
        <!--			<systemPath>${basedir}/src/main/libs/Dm7JdbcDriver16.jar</systemPath>-->
        <!--		</dependency>-->
    <dependencyManagement>
        <dependencies>
            <dependency>
                <groupId>com.dameng</groupId>
                <artifactId>Dm8JdbcDriver18</artifactId>
                <version>8.1.1.49</version>
            </dependency>
        </dependencies>
    </dependencyManagement>

3、重新打包编译

mvn -U clean package assembly:assembly -Dmaven.test.skip=true

3 读写达梦8的任务模板json

1、从达梦8读取写入到MySQL5.7模板

{
    "job": {
        "setting": {
            "speed": {
                 "channel": 3
            },
            "errorLimit": {
                "record": 0,
                "percentage": 0.02
            }
        },
        "content": [
            {

                "reader": {
                    "name": "rdbmsreader",
                     "parameter": {
                        "column": ["ID","USERNAME","PASSWORD"],
                        "connection": [
                            {
                                "jdbcUrl": ["jdbc:dm://10.252.xx.xxx:15236?schema=SYSDBA"],
                                "table": ["TEST_DATAX"]
                            }
                        ], 
                        "password": "", 
                        "username": "SYSDBA"
                    }
                },
               "writer": {
                    "name": "mysqlwriter",
                    "parameter": {
                        "print":true,   
                        "column": [
                            "id",
                            "username",
                            "password"
                        ], 
                        "connection": [
                            {
                                "jdbcUrl": "jdbc:mysql://10.252.xxx.xx:30006/test_datax_dm?useSSL=false&allowPublicKeyRetrieval=true&useUnicode=true&characterEncoding=UTF-8&serverTimezone=Asia/Shanghai",      
                                "table": ["test_datax"]    
                            }
                        ], 
                        "password": "", 
                        "username": "root"
                    }
                }
            }
        ]
    }
}

2、从MySQL5.7读取写入到达梦8模板

{
    "job": {
        "setting": {
            "speed": {
                 "channel": 3
            },
            "errorLimit": {
                "record": 0,
                "percentage": 0.02
            }
        },
        "content": [
            {

                "reader": {
                    "name": "mysqlreader",
                    "parameter": {
                        "username": "root",
                        "password": "",
                        "column": [
                            "id",
                            "username",
                            "password"
                        ],
                        "connection": [
                            {
                                "table": [
                                    "test_datax"    
                                ],
                                "jdbcUrl": [
                                    "jdbc:mysql://10.252.xxx.xx:30006/test_datax_dm?useSSL=false&allowPublicKeyRetrieval=true&useUnicode=true&characterEncoding=UTF-8&serverTimezone=Asia/Shanghai"
                                ]
                            }
                        ]
                    }
                },
               "writer": {
                    "name": "rdbmswriter", 
                    "parameter": {
                        "column": ["ID","USERNAME","PASSWORD"], 
                        "connection": [
                            {
                                "jdbcUrl": "jdbc:dm://10.252.xx.xxx:15236?schema=SYSDBA", 
                                "table": ["TEST_DATAX"]
                            }
                        ], 
                        "password": "", 
                        "username": "SYSDBA",
                        "preSql": [], 
                        "session": []
                    }
                }
            }
        ]
    }
}
Datax-web 添加达梦数据库 1、添加达梦JDBC jdbc包放到 datax-admin/src/mian/lib下。9、datax-admin项目DbTypePlugin插件类新增达梦枚举。10、datax-admin项目新增DMDatabaseMeta类。后端项目 分支使用2.1.3-alpha-release。前端项目 分支使用2.1.3-alpha-release。7、datax-core项目新增Datasource类。8、datax-core项目DbType新增达梦枚举。6、在Constants类中添加达梦支持。 阅读详情

相关推荐

DataX二次开发实战:为rdbms插件适配达梦8数据库驱动

本文详细介绍了如何对DataX进行二次开发,为rdbms插件适配达梦8数据库驱动。从驱动获取、Maven依赖配置到编译打包,逐步解析适配过程中的关键步骤和常见问题,帮助开发者高效完成达梦8驱动的集成与优化,提升数据同步效率。

weixin_30325487的博客 428

DataX同步达梦数据到HDFS

● 如果报下面错误则需要自己下载Microsoft Visual C++ 14.0。达梦数据库的安装路径,并重新装载dmPython。DataX同步达梦数据到HDFS。4、启动DataX进行数据传输。● 如果报错在PATH中加入。导入dmPython流程。3、 通过命令生成Job。2、 生成Job脚本。

m0_57722871的博客 2182

DataX二次开发实战:手把手教你为rdbms插件添加达梦8支持(含完整JSON示例)

本文详细解析了如何为DataX的rdbms插件添加达梦8数据库支持,涵盖驱动集成、代码适配、配置模板优化等全流程。通过实战示例和性能调优建议,帮助开发者掌握DataX二次开发的核心技术,实现高效的数据集成解决方案。

weixin_30520015的博客 337

大数据同步工具之DataX

DataX是一个异构数据源离线同步工具,致力于实现包括关系型数据库(MySQL、Oracle等)、HDFS、Hive、ODPS、HBase、FTP等各种异构数据源之间稳定高效的数据同步功能。

积跬步,至千里。 2266

DataX实战:手把手教你替换达梦8驱动,搞定国产数据库迁移

本文详细介绍了在DataX中替换达梦8驱动的实战步骤,解决国产数据库迁移中的驱动兼容性问题。从驱动获取、环境配置到DataX核心改造,提供了完整的操作指南和性能优化技巧,助力企业高效完成数据库国产化替代。

weixin_30480075的博客 556

DataX迁移数据到国产达梦8,手把手教你替换驱动和配置任务JSON

本文详细介绍了如何使用DataX将数据迁移到国产达梦8数据库,包括驱动替换、任务JSON配置和源码改造等关键步骤。通过实战案例和优化策略,帮助开发者解决兼容性问题,提升迁移效率,适用于金融、政务等领域的数据库国产化替代场景。

weixin_33695082的博客 447

datax达梦数据库

datax,Oracle,达梦数据库

2402_84724623的博客 1377

DataX(用于不同数据源的导入导出)

一、DataX概述 1.1 DataX简介 DataX 是一个异构数据源离线同步工具,致力于实现包括关系型数据库(MySQL、Oracle等)、HDFS、Hive、ODPS、HBase、FTP等各种异构数据源之间稳定高效的数据同步功能。 设计理念 为了解决异构数据源同步问题,DataX将复杂的网状的同步链路变成了星型数据链路,DataX作为中间传输载体负责连接各种数据源。当需要接入一个新的数据源的时候,只需要将此数据源对接到DataX,便能跟已有的数据源做到无缝数据同步。 当前使用现状 Dat

默主归沙的博客 4139

用阿里datax从达梦同步数据到MemFireDB时踩过的坑

背景 在构建数据仓库时,部分业务系统使用达梦数据库存储原始数据,现在需要通过datax把数据同步到云数据库MemFireDb中进行分析。MemFireDB是一款NewSQL数据库系统的代表,具备高并发和弹性扩展的特点,用来作为数据仓库的存储系统。过程中遇到了不少问题,在此记录一下。 下载datax工具包 wget http://datax-opensource.oss-cn-hangzhou.aliyuncs.com/datax.tar.gz 下载后解压,进入bin目录 cd /opt/datax/bin

oscube的博客 3243

ETL可视化工具 DataX -- 简介( 一)

DataX 是阿里云DataWorks数据集成的开源版本,在阿里巴巴集团内被广泛使用的离线数据同步工具/平台。DataX 实现了包括 MySQL、Oracle、OceanBase、SqlServer、Postgre、HDFS、Hive、ADS、HBase、TableStore(OTS)、MaxCompute(ODPS)、Hologres、DRDS 等各种异构数据源之间高效的数据同步功能。

dazhong2012的专栏 2586

DataX3.0+DataX-Web部署分布式可视化ETL系统

设置单机串行时应该注意合理设置重试次数(失败重试的次数* 每次执行时间< 任务的调度周期),重试的次数如果设置的过多会导致数据重复,例如任务30秒执行一次,每次执行时间需要20秒,设置重试三次,如果任务失败了,第一个重试的时间段为1577755680-1577756680,重试任务没结束,新任务又开启,那新任务的时间段会是1577755680-1577758680。DataX完成单个数据同步的作业,我们称为 Job,DataX 接收到一个 Job 后,将启动一个进程来完成整个作业同步过程。

m0_74825488的博客 1799

【Datax-Web】配置datax-web接口免鉴权及扩展支持其他数据库

配置位置com.wugui.datax.admin.config.SecurityConfig SecurityConfig类中有个重写的方法configure() 在此处,根据需要配置你需要免鉴权的接口,目前网上提供的通过配置文件来配置的,我试过没用的!!需要基于datax-web-ui和datax-web这两个项目二次开发,目前本人已经开发完成,流程已打通,但是还有一些可优化的地方,因为是定制开发,所以不够通用,后期优化后上传github再贴链接,如果需要这部分代码,可以留言,我看到了会给您回复,谢谢

N0nsense的博客 1096

达梦数据同步

达梦数据同步软件(Heterogeneous database Synchronization for DM,缩写为DMHS)是达梦公 司推出的新一代支持异构环境的高性能、高可靠、高可扩展数据库实时同步系统。该产品基于成熟 的关系数据模型和标准接口,跨越多种软硬件平台,支持强大而灵活的拓扑结构,能以极少的系统 开支实现秒级数据实时同步,可广泛应用于应急系统、容灾备份、负载均衡、数据移植、联机维 护、订阅分发、多业务中心等业务领域

数据库迁移工具DataX-Migration

DataX-MigrationDataX-Migration is Yxt (Yunxuetang) Full Database Migration Tool based on Alibaba DataX 3.0. Support Database Migration among Mysql, Oracle, SqlServer, PostgreSql. And support where cond

攀升·Jawf 5993

C#上位机与MES系统数据对接:从协议选型到安全传输的实战解析

本文详细解析了C#上位机与MES系统数据对接的全过程,从协议选型到安全传输的实战技巧。针对工业互联网场景下的数据对接挑战,提供了RESTful API、MQTT和OPC UA等协议的选型建议,并分享了健壮性设计、异常处理和安全传输的实用代码示例,帮助开发者高效实现数据上传与系统集成。

weixin_30566063的博客 105

PaddleOCR实战:给图片‘加个框’,轻松搞定小图和长图文字识别不准的难题

本文探讨了PaddleOCR在处理小图和长图时识别精度下降的问题,并提出通过图像边框预处理技术显著提升OCR识别效果。详细介绍了使用OpenCV实现智能边框添加的方法,包括核心原理、工程实践中的关键细节以及性能优化策略,帮助开发者轻松解决非常规尺寸图像的文本检测难题。

weixin_29313547的博客 188

DataX RDBMSWriter 通用关系数据库写插件实战指南:配置、原理与扩展

RDBMSWriter 是 DataX 中面向任意关系型数据库(RDBMS)的通用写插件,它通过 JDBC 执行 `insert into ...` 将 Reader 产出的数据写入目标库,并支持通过注册驱动的方式扩展到达梦、DB2、Sybase、PPAS 等多样数据库。本文以 [rdbmswriter/doc/rdbmswriter.md](https://link.gitcode.com/i/

gitblog_00862的博客 1001

Windows 11安装realtek audio control

Windows 11安装realtek audio control,解决无法链接RPC问题

m0_46144825的博客 8万+

DataX添加Hives数据同步支持

datax简介 DataX 是阿里巴巴集团内被广泛使用的离线数据同步工具/平台,实现包括 MySQL、Oracle、SqlServer、Postgre、HDFS、Hive、ADS、HBase、TableStore(OTS)、MaxCompute(ODPS)、DRDS 等各种异构数据源之间高效的数据同步功能。 RDBMSReader介绍 RDBMSReader插件实现了从RDBMS读取数据。在底层实现上,RDBMSReader通过JDBC连接远程RDBMS数据库,并执行相应的sql语句将数据从RDBMS库中S

weixin_42494243的博客 1999

LabView实战:精准实现float到十六进制的转换与高低位拆分

本文详细讲解了在LabVIEW中实现单精度浮点数(float)到十六进制字符串转换,并进行高低16位拆分的实战方法。针对工业通信中设备协议要求,核心使用强制类型转换(Type Cast)获取内存原始数据,避免数值转换错误,并提供了完整的VI构建步骤、交叉验证技巧及常见踩坑经验(如字节序、字符串格式),确保数据通信的准确性。

assembly8low的博客 1767

实测避坑:用SGM61720做BUCK电路,SW引脚电压尖峰怎么压下去?

本文针对SGM61720在BUCK电路中SW引脚电压尖峰问题,提供实测避坑指南。通过分析电压尖峰、过冲等核心问题,详细讲解自举电阻调整、RC缓冲电路计算和PCB走线优化三大解决方案,帮助工程师有效降低SW引脚电压尖峰,提升系统稳定性和EMI性能。

weixin_42634811的博客 214

DataX配置及使用

点击查看全文 一. DataX3.0概览 ​ DataX 是一个异构数据源离线同步工具,致力于实现包括关系型数据库(MySQL、Oracle等)、HDFS、Hive、ODPS、HBase、FTP等各种异构数据源之间稳定高效的数据同步功能。 设计理念 为了解决异构数据源同步问题,DataX将复杂的网状的同步链路变成了星型数据链路,DataX作为

DONGYUXIA15810857916的博客 4705

Linux 音频驱动(六) ALSA音频驱动之PCM Write数据传递过程

目录1. 前言2. PCM Data Flow3. 总结 1. 前言 本文,我们将以回放(Playback,播放音频)为例,讲解PCM Data是如何从用户空间到内核空间,最后传递到Codec。 在Linux 音频驱动(一) ASoC音频框架简介中,我们给出了回放(Playback)PCM数据流示意图: 对于Linux来说,由于分为 user space 和kernel space,而且两者之间不能随便互相访问。因此用户如果播放音频,则需要调用copy_from_user()将用户数据从user spa

_Modest_的博客 1万+
上一篇: DataX二次开发——(7)kingbaseesreader86、kingbaseeswriter86的开发
下一篇: DataX二次开发——(9)新增s3reader和s3writer模块
CarsonBigData
博客等级 码龄9年 8316粉丝 166原创
评论 12
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值