自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+
  • 博客(6)
  • 资源 (4)
  • 收藏
  • 关注

原创 SQuirrel SQL Client 连接Hive2

一、先决条件 假设已经部署好hadoop集群并且在集群服务器上都已安装hive 首先需要启动hiveserver2服务:cd $HIVE_HOME/binhive --service hiveserver2查看hive.log确认hive2启动成功: 二、安装并配置SQuirrel 1)官网地址: http://www.squirrelsql.org/,我下载的版本是3.7.1 下载

2017-04-25 17:17:19 915

原创 Hive部署

一、集群规划 - 系统环境如下: - 操作系统:Linux - Hadoop 2.7.2 - Hive2.1.1 - MySQL 5.7.18 - JDK 1.7 hadoop集群各节点规划如下: IP 主机名 node hive metastore mysql 134.xx.3.81 master-hadoop nn1 hive metast

2017-04-20 19:21:32 436

原创 Hive部署——Linux安装mysql5.7

一、简介 我这里使用远程元存储来配置Hive Metastore,以下介绍下Hive Metasore相关概念(以下部分引用至:Hive安装配置指北(含Hive Metastore详解): (1) Hive Metastore有3种配置方式 a\ Embedded Metastore Database (Derby) 内嵌模式 b\ Local Me

2017-04-20 08:43:33 1615

原创 Hadoop关键配置参数解释

1、mapred-site.xml1)mapreduce.map.memory.mb:每个Map Task需要的内存量; 默认值;1024M;map任务的数量=yarn.nodemanager.resource.memory-mb / mapreduce.map.memory.mb2)mapreduce.reduce.memory.mb:每个Reduce任务需要的内存量; 默认值:

2017-04-19 08:28:34 460

原创 linux下Hadoop2.7.2集群部署日志

一、本人部署过程中踩到的一些雷,供参考,少走弯路: 1)集群所有服务器安装的hadoop路径必须一致(也就是slave服务器hadoop安装路径需要和master一致) 2)先处理好主机名和hosts文件,部署hadoop 3)需要往hadoop-env.sh文件重新引入JAVA_HOME路径 4)需要在$HADOOP_HOME/etc/hadoop路径下,创建或修改slaves文件,加

2017-04-07 11:44:29 474

原创 MapReduce处理xml文件(使用旧API)

1)MapReduce项目引入jar包:hadoop-streaming-2.6.5.jar 2)main函数主要代码段:JobConf jobconf = new JobConf(new Configuration(), MreMroParser.class);jobconf.setJobName("xmlParser");//这里标记使用流式输入jobconf.set("stream.r

2017-04-01 09:17:24 1512

RESTful.Web.Services中文版(高清&带目录)

介绍restful非常棒的一本书,实体书目前没得卖了,这本书是高清的且带目录,方便大家研读,你绝对应该保留一份以作为参考

2016-06-28

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除