
hadoop
文章平均质量分 83
ZoeYen_
这个作者很懒,什么都没留下…
展开
-
【笔记】etc/profile和~/.bashrc的区别
在搭建单节点的hadoop集群时,jdk的环境变量是在~/.bashrc 文件中配置的而搭建三节点的hadoop集群时,是在root用户下的 etc/profile目录下配置的环境变量两者有什么区别呢?/etc/profile: 此文件为系统的每个用户设置环境信息,当用户第一次登录时,该文件被执行。是系统全局针对终端环境的设置,它是login时最先被系统加载的,是它调用了/etc/bashrc,以及原创 2017-11-17 14:26:17 · 10138 阅读 · 1 评论 -
【异常】Hadoop分布式集群之hadoop集群故障
一键停止hdfs相关进程,主节点提示 no namenode to stop。懵。。。。。 参考了一些资料,得出的结论是stop-dfs.sh找不到主节点的namenode的PID。pid是啥?就是输入jps命令后显示的进程号。各个进程的pid都默认保存在/tmp 目录下。 具体参考hadoop-daemon.sh中的信息。大意就是找不到pid就打印 no namenode/datanode..原创 2017-11-16 20:42:27 · 548 阅读 · 0 评论 -
【异常】启动hadoop 伪分布集群后 报错
报错信息如下:WARN util.NativeCodeLoader: Unable to load native-hadoop library for your platform... using builtin-java classes where applicable本地库找不到, 但是这个错误不影响集群的运行。 什么原因呢?网上的争议是hadoop支持的位数与linux的centos64bi原创 2017-09-23 20:34:20 · 829 阅读 · 0 评论 -
【配置】Hadoop单节点集群搭建
准备工作(电脑是Windows64位的操作系统) VMware Workstation(CentOS-6.5-x86_64-bin-DVD1.iso); Xshell; jdk-7u79-linux-x64.tar.gz; hadoop-2.6.0.tar.gz; 关闭防火墙重启之后查看防火墙状态 绑定hostname与IP[root@node4 ~]# vi /etc原创 2017-11-21 22:48:52 · 612 阅读 · 0 评论 -
【异常】在hadoop集群上编译类jar包,因jdk版本不同出现的异常
Exception in thread "main" java.lang.UnsupportedClassVersionError: com/fuben/hadoop/test/Test : Unsupported major.minor version 52.0可以看出是jdk版本不同产生的异常 分别查看liunux的jdk版本和编译器的jdk版本,两者版本一致 那么就是类jar包的版本不一致原创 2017-10-16 16:20:30 · 1005 阅读 · 0 评论 -
【配置】Hadoop三节点分布式集群搭建
一、集群规划1.主机规划2.软件规划jdk centos zookeeper hadoop3.用户规划 创建hadoop用户和用户组4.目录规划 所有软件目录: /home/hadoop/app 所有数据和日志目录: /home/hadoop/data二、安装前环境准备(所有节点)1.禁用防火墙[root@pc1 ~]#chkconfig iptables off[root@pc1 ~原创 2017-12-30 00:07:09 · 949 阅读 · 0 评论 -
收视率系统
一、项目背景对《中国好声音》、《快乐男声》、《最美和声》、《中国梦之声》等各种音乐选节目收视率的一个调查。依托北330万高清交互数字电视双向用户,从中随机抽取25000户作为样本进行统计。二、项目需求这里展示从节目的维度,统计每个节目的平均收视人数、平均到达人数、收视率、到达率和市场份额。我们根据每天抽样用户的收视数据,统计出每个节目按天、按小时、按分钟的上述5个收视指标。三、 ...原创 2018-02-11 22:04:27 · 2177 阅读 · 4 评论