
hadoop
昕玫
求知而无欲
展开
-
程序中执行hive sql出错[FAILED: Execution Error, return code 1 from org.apache.hadoop.hive.ql.exec.MoveTask]
运行SQL时出了个错:SQL: INSERT OVERWRITE DIRECTORY 'result/testConsole' select count(1) from nutable; 错误信息:Failed with exception Unable to rename: hdfs://indigo:8020/tmp/hive-root/hive_2013-08-22_转载 2015-01-12 09:17:30 · 28229 阅读 · 4 评论 -
hadoop本地任务运行过程报临时文件找不到问题排查
10个节点的Hadoop集群在使用mahout做大量的数据分析一段时间后,开始报如下错误:[2015-12-31 10:07:31,440] [INFO ] pool-5-thread-3 SparseVectorsFromSequenceFiles - Maximum n-gram size is: 1[2015-12-31 10:07:31,440] [INFO ] pool-5-thr原创 2016-01-11 18:12:17 · 10122 阅读 · 0 评论 -
Mahout解决异常Not implemented by the DistributedFileSystem FileSystem implementation
今天在项目中使用mahout的过程中,遇到了这个异常:[14:43:13.059] [2015-11-24 14:43:13,058] [INFO ] resin-port-8080-23 AbstractJob - Command line arguments: {--charset=[UTF-8], --chunkSize=[64], --endPhase=[2147483647], --原创 2015-11-24 14:56:26 · 1841 阅读 · 0 评论 -
大数据时代的技术hive:hive的数据类型和数据模型
http://www.cnblogs.com/sharpxiajun/archive/2013/06/03/3114560.html 在上篇文章里,我列举了一个简单的hive操作实例,创建了一张表test,并且向这张表加载了数据,这些操作和关系数据库操作类似,我们常把hive和关系数据库进行比较,也正是因为hive很多知识点和关系数据库类似。 关系数据库里有表(table),分区,hi转载 2014-12-29 09:24:14 · 852 阅读 · 0 评论 -
hive常用函数
1.内置运算符1.1关系运算符运算符类型说明A = B所有原始类型如果A与B相等,返回TRUE,否则返回FALSEA == B无失败,因为无效的语法。 SQL使用”=”,不使用”==”。A 所有原始类型如果A不等于B返回TRUE,否则返回FALSE。如果A或B值为”NULL”,结果返回”NULL”。转载 2014-12-26 16:14:12 · 858 阅读 · 0 评论 -
导入文本数据(oracle表)到hive
1. 在hive 中建表:create table if not exists dim_api ( id tinyint comment 'apiid', api string comment 'api name')ROW FORMAT DELIMITED FIELDS TERMINATED BY ',' STORED AS TEXTFILE ; 注意最后一原创 2014-12-26 15:21:32 · 1613 阅读 · 0 评论 -
Hive常用语句
创建表hive> CREATE TABLE pokes (foo INT, bar STRING); 创建表并创建索引字段dshive> CREATE TABLE invites (foo INT, bar STRING) PARTITIONED BY (ds STRING); 显示所有表hive> SHOW TABLES;按正条件(正则表达式)显示转载 2014-12-25 18:40:13 · 1374 阅读 · 0 评论 -
Hive文件格式(表STORE AS 的四种类型)
hive文件存储格式包括以下几类:1、TEXTFILE2、SEQUENCEFILE3、RCFILE4、ORCFILE(0.11以后出现)其中TEXTFILE为默认格式,建表时不指定默认为这个格式,导入数据时会直接把数据文件拷贝到hdfs上不进行处理;SEQUENCEFILE,RCFILE,ORCFILE格式的表不能直接从本地文件导入数据,数据要先导入到textfile格式的转载 2014-12-26 14:24:17 · 48626 阅读 · 3 评论 -
Hive jdbc执行insert语句时报 code=1 ,code=2 错误解决方法
FAILED: Execution Error, return code 1 from org.apache.hadoop.hive.ql.exec.MoveTask FAILED: Execution Error, return code 2 from org.apache.hadoop.hive.ql.exec.mr.MapRedTask;Hive在执行insert o原创 2015-01-12 18:44:30 · 10539 阅读 · 1 评论 -
windows环境编译mahout0.11
1. 下载mahout0.11 (在apache官网下载或用git下载)git clone https://github.com/apache/mahout.git2. 解压进入目录,因为我的hadoop环境版本为2.6.0所以使用以下语句编译:mvn clean package -Dhadoop2 -Dhadoop2.version=2.6.0 -DskipTests=true原创 2016-01-11 14:08:56 · 1024 阅读 · 0 评论