java通过zookeeper 高可用方式连接hiveserver2

本文介绍了如何在CDH环境中配置HiveServer2的高可用(HA),包括修改HiveMetastore令牌存储、配置Zookeeper服务发现、调整JDBC URL,并详细步骤演示了通过CM进行配置和验证。确保任务在节点故障时仍能继续执行。

场景 :

  • 使用jdbc hive2 模式访问hive 大量任务导致单节点down 掉 从而导致任务调度失败

分析问题:

  • jdbc hive2 使用的 单节点hiveserver2的 服务 ,从公司CDH资源中可以发现 hiveserver2 分别部署在了3个节点上 ,由调度失败日志来看 失败时 其它两个节点正常 。这种情况典型的没有用到 hiveserver2的HA

解决问题:

  • CDH 配置hiveserver2 HA
    1 :进入CM 后台管理界面 将hive.cluster.delegation.token.store.class (HiveMetastore 代理令牌桶存储) 修改 为DBTokenStore
    2:hive-site.xml 的 HiveServer2 高级配置代码段(安全阀)
    添加相关的配置:
hive.server2.support.dynamic.service.discovery=true
hive.server2.zookeeper.namespace=hiveserver2
hive.zookeeper.quorum=zookeeper_host:port
hive.zookeeper.client.port=2181

3: 修改jdbc url 连接串
JDBC连接的URL格式为:

  • zk_cluster_addr :形如:host1:2181,host2:2181,host3:2181
  • hive_db 默认为default
  • 集群中如有使用kerberos 需要在url 中添加principal 类似 mysql jdbc 中多个参数一样
  jdbc:hive2://zk_cluster_addr/hive_db;serviceDiscoveryMode=zookeeper;zooKeeperNamespace=hiveserver2;

通过CM重启Hive

使用beeline 连接hive

  beeline -u "jdbc:hive2://zk_cluster_addr/hive_db;serviceDiscoveryMode=zookeeper;zooKeeperNamespace=hiveserver2" --color=true

通过将某个节点的hiveserver2 服务停止 任务仍然能够执行

java.sql.SQLSyntaxErrorException: ORA-00933: SQL 命令未正确结束 是一个常见的SQL语法错误,通常发生在使用JDBC连接Oracle数据库时。这个错误的具体含义是SQL语句的语法不正确,导致命令无法正常结束。以下是一些可能的原因和解决方法: ### 可能的原因 1. **SQL语句末尾有多余的分号**:在JDBC中执行SQL语句时,语句末尾不需要加分号。 2. **使用了不支持的SQL语法**:某些SQL语法在JDBC中可能不被支持。 3. **SQL语句中存在拼写错误或语法错误**。 4. **使用了不正确的占位符**:在预编译语句(PreparedStatement)中使用了不正确的占位符。 ### 解决方法 1. **检查SQL语句末尾是否有多余的分号**: ```java String sql = "SELECT * FROM users"; // 正确 // String sql = "SELECT * FROM users;"; // 错误 ``` 2. **确保SQL语法正确**: ```java String sql = "SELECT * FROM users WHERE id = ?"; // 正确 ``` 3. **使用预编译语句(PreparedStatement)时,确保占位符使用正确**: ```java String sql = "SELECT * FROM users WHERE id = ?"; PreparedStatement pstmt = connection.prepareStatement(sql); pstmt.setInt(1, userId); ResultSet rs = pstmt.executeQuery(); ``` 4. **检查SQL语句中是否有拼写错误或语法错误**。 ### 示例代码 ```java import java.sql.Connection; import java.sql.DriverManager; import java.sql.PreparedStatement; import java.sql.ResultSet; import java.sql.SQLException; public class OracleJDBCExample { public static void main(String[] args) { String url = "jdbc:oracle:thin:@localhost:1521:xe"; String user = "username"; String password = "password"; String sql = "SELECT * FROM users WHERE id = ?"; try (Connection connection = DriverManager.getConnection(url, user, password); PreparedStatement pstmt = connection.prepareStatement(sql)) { pstmt.setInt(1, 1); ResultSet rs = pstmt.executeQuery(); while (rs.next()) { System.out.println("ID: " + rs.getInt("id")); System.out.println("Name: " + rs.getString("name")); } } catch (SQLException e) { e.printStackTrace(); } } } ``` ###
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值