
Hive
Hive
吴成伟0122
开源爱好者,聚焦于大语言模型,NLP等领域,欢迎交流
展开
-
FAILED: RuntimeException org.apache.hadoop.hive.ql.security.authorization.plugin.HiveAuthzPluginExce
完整报错信息FAILED: RuntimeException org.apache.hadoop.hive.ql.security.authorization.plugin.HiveAuthzPluginException: SQL standards based authorization should not be enabled from hive cliInstead the use o...原创 2020-05-05 16:20:40 · 1276 阅读 · 0 评论 -
.sh: line 15: syntax error: unexpected end of fi
报错如下:/root/test/1reduce_clientlog.sh: line 15: syntax error: unexpected end of fi错误的结尾,打开检查没有什么错误结尾显示unix文本:e ++ff=unix %windows>liunx直接粘贴会出现格式转换问题,删除^M即可...原创 2020-04-24 10:24:39 · 541 阅读 · 0 评论 -
azkaban调度任务直接失败?
问题描述:azkaban调度任务直接失败?如下图,并且没有日志产生解决过程:查看服务器中executor日志[root@node4 logs]# lsazkaban-execserver.log[root@node4 logs]# pwd/opt/azkaban/azkaban-exec/bin/logs[root@node4 logs]# 找出错误原因:azkaban....原创 2020-04-22 22:01:26 · 1917 阅读 · 0 评论 -
java.net.UnknownHostException: mycluster
spark本地操作hive时,报错究其原因是,不能发现hadoop集群解决方法:故将hadoop的conf目录下的core-site.xml和hdfs-site.xml放到resource目录下此外需要注意的是本地运行的路径需要改为file:///+绝对路径不然,spark会去配置文件中寻找数据路径...原创 2020-04-21 00:07:38 · 4990 阅读 · 5 评论 -
yarn查看日志
1.命令行:yarn logs -applicationId 应用id2.yarn界面访问 http://ip:8080原创 2020-04-20 21:12:47 · 1743 阅读 · 0 评论 -
ERROR tool.ImportTool: Encountered IOException running import job: java.io.IOException: Hive exited
报错信息ERROR tool.ImportTool: Encountered IOException running import job: java.io.IOException: Hive exited with status 1场景:当sqoop从mysql向hive中导入数据时报错经检查是sqoop的版本和hadoop不一致导致,更换sqoop版本问题得到解决...原创 2020-04-20 21:07:52 · 1556 阅读 · 0 评论 -
一文读懂之数据仓库与维度建模
1.数据仓库(Data Warehouse)在日益激烈的商业竞争中,企业迫切需要更加准确的战略决策信息。在以往的关系型数据库系统中,企业拥有海量的数据,这些数据对于企业的运作是非常有用的,但是对于商业战略决策和目标制定的作用甚微,不是战略决策要使用的信息。关系型数据库很难将这些数据转换成企业真正需要的决策信息,原因如下:1.一个企业中可能有很多管理系统平台,企业数据分散在多种互不兼容的系统...原创 2020-04-17 13:45:58 · 1242 阅读 · 0 评论 -
Hive优化
Hive优化核心思想把HiveSQL当作MapReduce程序去优化注:以下SQL不会转化为MapReduce来执行select仅查询本表字段where仅对本表字段做条件过滤Explain显示执行计划-EXPLAIN[EXTENDED] query:extended会更加详细的展示查询过程1.Hive抓取策略hive对某些情况的查询不需要使用MapReduce计算抓取策略...原创 2020-03-04 22:49:49 · 178 阅读 · 0 评论