【Spark报错】CDH的spark无法读取字段中含有特殊字符“-“的orc表mismatched input ‘-‘ expecting ‘:‘

博客讲述了在CDH的Spark 2.4.0-cdh6.1.1版本中,由于字段名包含特殊字符'-'导致的mismatched input错误。解决方案是升级到更高版本。文章分析了报错原因,指出在低版本Spark中,类在解析字段名时未添加反引号,导致词法分析失败。建议使用支持特殊字符的Spark版本来解决此问题。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

背景故事

先看报错信息:
mismatched input ‘-’ expecting ‘:’
在这里插入图片描述
报错的意思就是说,在这个表里面,字段名中存在特殊符号“-”,无法解析报错。
这个问题会发生在CDHspark中。如果不是CDHspark版本的程序,可以跳过此文章

解决方案:

不要使用CDH版本的spark就好了。比如我这里出现报错的时候,使用的版本是2.4.0-cdh6.1.1 那么把这个版本修改为2.4.0就好了。

过程分析

过程早就分析完了,下面写一篇结果:

环境版本
  • spark-sql_2.11
    2.4.0-cdh6.1.1
  • spark-hive_2.11
    2.4.0-cdh6.1.1

测试数据准备

        SparkSession spark = SparkSession.builder().master("local").getOrCreate();
        ArrayList<Row> rows = new ArrayList<>();
        for (int i = 0; i < 4; i++) {
            rows.add(RowFactory.create(1, "张三", 18,"12345678"));
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值