doris & StarRocks 错题本

最新推荐文章于 2025-03-21 11:00:41 发布

小手追梦

最新推荐文章于 2025-03-21 11:00:41 发布

阅读量4.5k

点赞数

分类专栏： hadoop实战文章标签： hadoop rpc hdfs

本文链接：https://blog.youkuaiyun.com/epitomizelu/article/details/121591995

版权

hadoop实战专栏收录该内容

137 篇文章

订阅专栏

本文介绍了在使用Spark Streaming过程中遇到的数据写入失败问题，问题源于列分隔符设置不当，解决方案是使用转义字符。另外，讨论了SQL建表时的错误，指出UNIQUE KEY应作为所有字段的前缀并保持有序。最后，文章揭示了在StarRocks中因数据类型不匹配导致的写入错误，特别是tinyint与int类型的冲突，解决方法是调整列的类型为int。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

一，spark streaming load写入失败

Reason: column count mismatch, expect=25 real=1. src line: [demo-masking	1	2018-02-17	1	B35C300672_1	B600FA855B	72d2b68c1f79fd73d8910ff388685ab0	9cac8970477ec95540ec64a1b2450ee3	2	0.0070	3	0.0076	1.0000	0	0	0.0000	0.0000		0.00	0.00	0	0	0	2018-02-21 21:38:05	2018-02-21 21:38:05]; 
Reason: column count mismatch, expect=25 real=1. src line: [demo-masking	1	2018-02-19	1	B35C300672_1	B600FA855B	72d2b68c1f79fd73d8910ff388685ab0	9cac8970477ec95540ec64a1b2450ee3	2	0.0038	2	0.0030	1.0000	0	0	0.0000	0.0000		0.00	0.00	0	0	0	2018-02-21 21:36:17	2018-02-21 21:36:17];

在这里插入图片描述

原因是分隔符设置为"\t"，没有加转义字符，改为"\\t"即正常。

二，SQL 错误 [1064] [42000]: Key columns should be a ordered prefix of the schema.

建表时UNIQUE KEY必须放在所有字段前面声明且保证有序

三，Reason: column(type)) value is null while columns is not nullable. src line: [[‘finance’, ‘15’, ‘100001’, ‘152’, ‘0’, ‘2021-11-03T11:55:57’, ‘2021-11-03T11:55:57’, ‘0’]];

写入StarRocks时报错，但对应的数据并不为空。

Reason: column(type)) value is null while columns is not nullable. src line: [['finance', '16', '100001', '153', '0', '2021-11-03T11:55:57', '2021-11-03T11:55:57', '0']]; 
Reason: column(type)) value is null while columns is not nullable. src line: [['finance', '3', '1', '152', '0', '2021-10-20T18:03:12', '2021-10-20T18:03:12', '0']];