
sqoop
Lvbey
Lvbey Never Give Up/。
展开
-
Sqoop到Oracle 一次查询/执行多个命令
sqoop eval \ --connect ${CONN_VAR} \ --username ${USERNAME} \ --password ${PASSWORD} --verbose \ --query " DECLARE BEGIN ${BATCH_SQL} END; "# ${BATCH_SQL} 中的语句用逗号隔...原创 2021-08-30 16:52:34 · 498 阅读 · 0 评论 -
解决Sqoop导出数据报错 Can’t export data, please check failed map task logs
完美解决方案:正确定位到sqoop导数失败原因(可定位到具体数据)原创 2021-08-23 15:35:04 · 2469 阅读 · 0 评论 -
正确定位到sqoop导数失败原因(可定位到具体数据)
1、sqoop导数时,添加额外的配置参数sqoop export -Dorg.apache.sqoop.export.text.dump_data_on_error=true \ --username ${USERNAME} \ ......#其他的配置-Dorg.apache.sqoop.export.text.dump_data_on_error=true该配置可以让你在导数出错的时候将导致错误的具体数据展示出来2、进入正确的log目录 进入失败的...原创 2021-08-23 15:10:47 · 3639 阅读 · 0 评论 -
解决Sqoop导出数据报错Can‘t parse input data 和 NoSuchElementException
原因:多为分隔符导致的字段错位造成数据无法转换问题解决方案在确保hive端的分隔符和sqoop导出指定的分隔符(比如--input-fields-terminated-by=‘\011’)一致之后(建表和sqoop语句都没问题)——在hive的表最后加一个字段,比如可以为day_id,month_id,这类长度固定且不易变化的值,重新insert into overwrite之后查询这个字段,如果有异常,一般可以排查出来。比如我今天遇到的这个情况就是,我在最后加了一个字段month_id,进原创 2021-08-05 17:31:31 · 2345 阅读 · 0 评论