使用datax将hive表同步到mysql表

  • datax不能直接将从hive同步到mysql,所以从hdfs同步到mysql。
{

  "job": {

    "setting": {

      "speed": {

        "channel": 3

      }

    },

    "content": [

      {

        "reader": {

          "name": "hdfsreader",

          "parameter": {

            "path": "/data/nshop/ads/actlog/ads_nshop_actlog_launch_gsets/bdp_day=20230711/000000_0",

            "defaultFS": "hdfs://caiji:8020",

            "column": [

              { "index": 0, "type": "string" },

              { "index": 1, "type": "string" },

              { "index": 2, "type": "string" },

              { "index": 3, "type": "string" },

              { "index": 4, "type": "string" },

              { "index": 5, "type": "long" },

              { "index": 6, "type": "long" },



              { "value": "20230711", "type": "string" }

            ],

            "fileType": "text",

            "encoding": "UTF-8",

            "filedDelimiter": ","

          }

        },

        "writer": {

          "name": "mysqlwriter",

          "parameter": {

            "writeMode": "insert",

            "username": "root",

            "password": "123456",

            "column": [

              "os",

              "manufacturer",

              "carrier",

              "network_type",

              "area_code",

              "user_count",

              "launch_count",

              "bdp_day"

            ],

            "connection": [

              {

                "jdbcUrl": "jdbc:mysql://192.168.184.129:3306/ads_nshop",

                "table": ["ads_nshop_actlog_launch_gsets"]

              }

            ]

          }

        }

      }

    ]

  }

}
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

1王占占

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值