Hadoop
普天&同庆
这个作者很懒,什么都没留下…
展开
专栏收录文章
- 默认排序
- 最新发布
- 最早发布
- 最多阅读
- 最少阅读
-
Hadoop伪分布式部署
部署JDK 配置JDK环境变量 部署Hadoop伪分布式 配置Hadoop环境变量 配置Hadoop进程配置文件 配置无密登录 数据格式化 检查进程(一)部署JDK解压JDK压缩文件到安装目录下 tar -zxvf jdk-xxxx.tar.gz -C /soft 创建软连接 ln -s /soft/jdk-xxxx /soft/jdk(二)配置JDK环境变量...原创 2019-03-25 15:33:07 · 4317 阅读 · 0 评论 -
HDFS存储原理
根据Maneesh Varshney的漫画改编,以简洁易懂的漫画形式讲解HDFS存储机制与运行原理,非常适合Hadoop/HDFS初学者理解。京东大数据微信公众号。一、角色出演如上图所示,HDFS存储相关角色与功能如下:Client:客户端,系统使用者,调用HDFS API操作文件;与NN交互获取文件元数据;与DN交互进行数据读写。Namenode:元数据节点,是系统唯一的管理...转载 2019-04-04 13:45:30 · 5182 阅读 · 0 评论 -
Hadoop 完整分布式
完全分布式和伪分布式类似,区别在于伪分布式只有一个节点,然而完全分布式可以有多个节点,各节点的配置相同.完全分布式的部署如下更改数据持久物理层目录 高可用namenode 分散datanode 格式化namenode 启动集群 验证进程 启动WEB UI(一) 配置core-site.xml,更改数据持久层目录,默认目录在tmp临时目录下<?xml version...原创 2019-03-28 11:09:13 · 4482 阅读 · 0 评论 -
通过hadoop api写HDFS(JAVA版)
代码如下:package com.hadoop.cluster;import org.apache.hadoop.conf.Configuration;import org.apache.hadoop.fs.FSDataOutputStream;import org.apache.hadoop.fs.FileSystem;import org.apache.hadoop.fs.Pat...原创 2019-04-01 18:25:21 · 4402 阅读 · 0 评论 -
解决HDFS目录无法创建777权限
通过API创建目录 检查目录权限 填坑思路 处理方法(一) 通过API创建目录用JAVA代码调用HADOOP API创建目录,代码如下: public class HdfsOps { /** * Public static function */ public static FileSystem iniCo...原创 2019-04-03 14:08:39 · 7765 阅读 · 0 评论 -
Hive数据库操作
-- 创建数据库, 数据库名称不分大小写CREATE DATABASE IF NOT EXISTS mydb;-- 创建数据库,添加描述信息CREATE DATABASE IF NOT EXISTS mydb COMMENT "MY DATABASE";-- 创建数据库,指定路径,修改默认位置CREATE DATABASE IF NOT EXISTS mydb COMMENT...原创 2019-05-15 15:08:59 · 4615 阅读 · 0 评论
分享