flink批处理访问mysql_Flink批处理读取Hive写入MySql

该博客演示了如何使用Flink进行批处理,从Hive的test库中读取stu77表的数据,并通过自定义逻辑处理后,将结果插入到MySQL的test_stu表中。主要涉及Flink的Blink Planner,HiveCatalog的配置以及JDBC连接MySQL的设置。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

把hive 表stu77 的数据写入 mysql 表test_stu 中.

中间可以加自己的逻辑.

import org.apache.flink.table.api.EnvironmentSettings;

import org.apache.flink.table.api.StatementSet;

import org.apache.flink.table.api.Table;

import org.apache.flink.table.api.TableEnvironment;

import org.apache.flink.table.catalog.hive.HiveCatalog;

/**

* @Auther WeiJiQian

* @描述 可行

*/

public class FlinkReadHiveAndWriteMysql {

public static void main(String[] args) throws Exception {

EnvironmentSettings settings = EnvironmentSettings

.newInstance()

.useBlinkPlanner()

.inBatchMode()

.build();

TableEnvironment tableEnv = TableEnvironment.create(settings);

String name = "myhive"; // Catalog名称,定义一个唯一的名称表示

String defaultDatabase = "test"; // 默认数据库名称

String hiveConfDir = "/data/apache-hive-2.3.6-bin/conf"; // hive-site.xml路径

String version = "2.3.6"; // Hive版本号

HiveCatalog hive = new HiveCatalog(name, defaultDatabase, hiveConfDir, version);

StatementSet statementSet = tableEnv.createStatementSet();

tableEnv.registerCatalog(name, hive);

tableEnv.useCatalog(name);

Table sqlResult = tableEnv.sqlQuery("select name,age from test.stu77");

String sql =

"create table testOut ( " +

"name varchar(20) not null, "+

"age varchar(20) not null "+

") with ( "+

"'connector.type' = 'jdbc',"+

"'connector.url' = 'jdbc:mysql://192.168.1.1:3306/jeecg_boot?characterEncoding=UTF-8',"+

"'connector.table' = 'test_stu',"+

"'connector.driver' = 'com.mysql.jdbc.Driver',"+

"'connector.username' = 'root',"+

"'connector.password' = '123456')";

tableEnv.executeSql(sql);

statementSet.addInsert("testOut",sqlResult);

statementSet.execute();

}

}

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值