
大数据
文章平均质量分 51
凤鸣86
这个作者很懒,什么都没留下…
展开
-
java.io.IOException: Could not locate executable null\bin\winutils.exe in the Hadoop binaries.
解决方法1:配置HADOOP_HOME环境变量,复制winutils.exe 到${HADOOP_HOME}/bin目录下解决方法2:在MapReduce程序里加上System.setProperty("hadoop.home.dir", "...");原创 2016-03-03 18:30:21 · 2215 阅读 · 0 评论 -
scala学习笔记(高级特性1)
一、一切皆为对象 对于基础篇中写道的在scala中一切皆为对象或许大家理解还是不很清楚,举个例子: 在scala中没有运算符的概念,相应的是方法的概念。 1+2 被看成是调用1的带有2变量的+方法,即1.+(2),for(i<- 1 to 3) print(i)等价于for(i<- 1.to(3)) print(i)二、伴生对象 在scala中没有static变量,而为原创 2016-02-01 10:45:08 · 358 阅读 · 0 评论 -
hbase 更改表名
因为hbase中没有rename命令,所以更改表名比较复杂。重命名主要通过hbase的快照功能。1.停止表继续插入 hbase shell>disable 'tableName'2。制作快照hbase shell> snapshot 'tableName', 'tableSnapshot'3.克隆快照为新的名字hbase shell> clone_snapshot 'tab原创 2015-08-13 09:21:16 · 11181 阅读 · 1 评论 -
hive安装备注
1。下载解压apache-hive-1.0.0-bin.tar.gz2。复制hive-default.xml 为hive-site.xml3。/opt/apache-hive-1.0.0-bin/bin/hive-config.sh添加export HIVE_HOME=/home/h1/hiveexport PATH=$PATH:/home/h1/hive/binexport原创 2015-08-03 22:26:43 · 506 阅读 · 0 评论 -
hive cli启动报错
环境:hadoop2.4.1+hive1.4.6Logging initialized using configuration in file:/home/hadoop/hive1.2.1/conf/hive-log4j.properties[ERROR] Terminal initialization failed; falling back to unsupportedjava.l原创 2015-08-13 09:12:26 · 668 阅读 · 0 评论 -
hive安装配置及连接JDBC基本操作
1.下载hive http://36.250.74.55/ws.cdn.baidupcs.com/file/10e3283a3c9368b097f5a7f3c19d9a73?bkt=p2-nj-3&xcode=355529f5d8d02bac3cd174e84dc03e4b685eba8f91f4baabae97ca166f54709c&fid=487907638-250528-513621830原创 2016-02-18 17:02:38 · 4509 阅读 · 0 评论 -
hive常用命令
1.建表create table user(username string,id int) partitioned by(ds int);2.展示表show tables;3.显示表内容desc user;4.删除表drop table user;5.显示分区show partitions user;6.添加分区alter table user add原创 2016-03-03 18:16:21 · 278 阅读 · 0 评论 -
hadoop 之初接触
总结一些hadoop基础操作:prepare:系统:centos 6.5hadoop版本:hadoop2.6.0jdk:1.7.0operation:1.环境布置: 将hadoop解压到/usr/hadoop中 安装ssh $yum install ssh 安装rsync $yum install rsync2.布置 1)原创 2015-01-01 09:31:13 · 354 阅读 · 0 评论 -
hadoop资源
hadoop:http://hadoop.apache.org/releases.html#18+November%2C+2014%3A+Release+2.6.0+availablehadoop-eclipse-plugin:https://github.com/winghc/hadoop2x-eclipse-plugin/tree/v2.6.0/release原创 2015-01-11 14:54:54 · 407 阅读 · 0 评论 -
java.lang.IllegalArgumentException: Wrong FS: hdfs://localhost:9000/out, expected: file:///
转自http://www.blogjava.net/frankjinhao888/archive/2013/07/17/401676.html错误信息:Wrong FS: hdfs://localhost:9000/user/... expected: file:///问题描述:在本地运行hadoop Map/Reduce程序时,在涉及到hdfs文件操作的时候转载 2015-03-28 21:50:04 · 1534 阅读 · 0 评论 -
hadoop-eclipse插件编译备注
1。下载hadoop2x-eclipse-plugin-master.ziphttps://codeload.github.com/winghc/hadoop2x-eclipse-plugin/zip/master2。解压tar -zxvf hadoop2x-eclipse-plugin-master拷贝htrace-core-3.0.4.jar到/opt/hadoop-2.5.2/s原创 2015-08-03 22:22:32 · 569 阅读 · 0 评论 -
Hadoop温故(一)基础篇
一.基本结构Map,Reduce,combine,Map: import java.io.IOException; import org.apache.hadoop.io.IntWritable; import org.apache.hadoop.io.LongWritable; import org.apache.hadoop.io.Text;原创 2016-01-27 15:46:21 · 394 阅读 · 0 评论 -
Haoop常用命令整理
启动历史服务器mr-jobhistory-daemon.sh start historyserver #默认端口19888和8088状态查看 /hdfs dfsadmin -report添加节点 1./hdfs dfsadmin -safemode get #保证退出文件安全模式 2.在slave文件里添加节点ip 3.复制hadoop目录到节点,启动该节点,运行sb原创 2016-02-18 16:20:08 · 681 阅读 · 0 评论 -
hadoop源码编译
1.下载源码 2.安装必要软件,并将下述软件的bin添加到path环境变量里 a).apache-maven-3.3.9 b).protobuf-2.5.0 c).winsdk7.1 d).getGnuWin32或cygwin(必装软件net下openssl、openssh) e).cmake(非必须) f).jdk1.6+ 3.设置环境变量 JAVA_HOME, M2_HOME原创 2016-02-23 17:49:57 · 1161 阅读 · 0 评论 -
scala学习笔记(基础知识)
一、 基本类型 名称 位数 范围或备注 Byte 8bit的有符号数字 -128 – 127 Short 16 bit有符号数字 -32768 – 32767 Int 32 bit 有符号数字 -2147483648 到 2147483647 Long 64 bit 有符号数字 -9223372036854775808 到 922337203原创 2016-01-27 15:42:45 · 349 阅读 · 0 评论