
hadoop
文章平均质量分 57
boyideyt
这个作者很懒,什么都没留下…
展开
-
大数据基础MR/HBase实验
大数据基础已上线实验课程:大数据实战课程-HDFS实战:https://cloud.tencent.com/edu/learning/course-1862 大数据实战课程-MapReduce实战:https://cloud.tencent.com/edu/learning/course-1865 大数据实战课程-Hive实战:https://cloud.tencent.com/edu/learning/course-1877 大数据实战课程-MapReduce实现TopN操作实战:http...原创 2020-09-17 11:40:21 · 348 阅读 · 0 评论 -
hadoop离线计算与storm实时计算的细分对比
一、资源调度对比Hadoop MapReduceV2(Yarn) 框架 Hadoop从 0.23.0 版本开始,Hadoop 的 MapReduce 框架完全重构,发生了根本的变化。新的 Hadoop MapReduce 框架命名为 MapReduceV2 或者叫 Yarn。新旧Hadoop计算框架变化参考链接:https://www.ibm.com/developer...原创 2018-08-30 20:48:45 · 1556 阅读 · 0 评论 -
hadoop格式化(hadoop format)的注意事项
格式化命令:关于hdfs的格式化首次启动需要进行格式化 格式化本质是进行文件系统的初始化操作 创建一些自己所需要的文件 格式化之后 集群启动成功 后续再也不要进行格式化 格式化的操作在hdfs集群的主角色(namenode)所在机器上操作hdfs namenode–format hadoop namenode –format格式化后返回的信息DEPRECATE...原创 2018-08-28 22:46:41 · 45971 阅读 · 4 评论 -
HIVE分区入门踩坑
HIVE-静态分区入门踩坑概念在先: 1: 静态分区是把一个目录下面的很多【文件】分类存放起来,底层不执行mr程序 2: 静态分区只能细化到【文件】,但是细化不到内容 3: 目的是单表查询的时候缩小查询范围,提高单表的查询效率步骤:1.创建一个学生表create table t_student (id int,name string) partitioned by (sex...原创 2018-08-24 21:01:22 · 597 阅读 · 0 评论 -
阿里云ECS挂载镜像后,IP配置的修改
写篇文章缅怀多哥,多哥真的很优秀。1.问题背景在购买ECS并挂载第三方镜像市场的镜像时,往往新建实例还保留了原镜像中的IP,导致软件或服务异常。以Hadoop为例,如果我们在购买ECS时,选择了内置Hadoop的镜像。直接运行时会出现:当时还是linux小白的我慌得很。2.解决方案2.1 把/etc/hosts里过期的IP删掉在查看hosts时,我们可以2.2 ...原创 2019-06-13 09:35:22 · 1004 阅读 · 0 评论