
大数据
取个昵称真的难
Get up.Keep moving.
展开
-
Kettle在centos7下运行的坑(求解答)
Kettle在centos7下运行的坑(求解答)【前言】最近在工作中使用了Kettle,在windows下执行没有任何异常,但是在centos下执行资源库中的转换和任务时,疯狂报同一个错,查看了各种帖子也没有搞定,如果有大神恰巧看到这篇帖子,还请不吝赐教。下面来说说具体的错误:先上图:在centos7系统下执行文件资源库中的转化和作业时也可以正常执行,下面是我执行的命令:./pan.sh -rep=kettle -user=admin -pass=admin -trans=test./ki原创 2020-05-18 17:28:25 · 616 阅读 · 0 评论 -
2020大数据领域十大必读书籍
相信身边有很多应届毕业生以及想转行大数据的,状态大多都是:万脸懵逼。老司机教你:看书、写代码、多交流。2020你看了几本书呢?小编为大家精心挑选了大数据领域里十本有价值的书,先干掉这几本书,再和老司机谈大数据!不过,像《大数据时代》、《数据之巅》等这些经典到“烂大街”的书我就不一一推荐了,很多人都看过,没看过的也都听说过。 一、《Presto技术内幕》Presto是Facebook开发...转载 2020-02-09 13:10:22 · 3321 阅读 · 0 评论 -
CDH版本组件端口汇总
CDH版本组件端口汇总组件端口号端口用途HDFS50020DataNode 协议端口HDFS50010DataNode 收发器端口HDFS50075DataNode HTTP Web UI 端口HDFS50475安全 DataNode Web UI 端口HDFS14000REST端口HDFS14001管理端口HDF...原创 2020-02-05 16:55:36 · 2892 阅读 · 1 评论 -
大数据环境搭建卷五(scala+spark+kafka+flume+sqoop)
一、安装scala1.解压并重命名tar -zxvf scala-2.13.1.tgz -C /opt/module/cd /opt/module/mv scala-2.13.1/ scala21312.配置环境变量并开启测试vi /etc/profile//末行添加##SCALA_HOMEexport SCALA_HOME=/opt/module/scala2131expo...原创 2019-11-21 19:51:09 · 410 阅读 · 0 评论 -
大数据环境搭建卷四(mysql+hive)
一、安装hive1.解压hive,并重命名cd /opt/softwaretar -zxvf hive-1.1.0-cdh5.14.2.tar.gz -C /opt/module/cd /opt/modulemv hive-1.1.0-cdh5.14.2/ hive1102.(1)修改/opt/module/hive110/conf目录下的hive-env.sh.template名称...原创 2019-11-20 14:00:22 · 274 阅读 · 0 评论 -
大数据环境搭建卷三(Zookeeper和HBase安装)
【前言】本章是继一、二卷之后再hadoop集群安装Zookeeper和HBase,可在本人博客查看卷一卷二。【步骤】一、安装Zookeeper1.解压cd /opt/software //包放置的位置tar -zxvf zookeeper-3.4.6.tar.gz -C /opt/module/cd /opt/module/mv zookeeper-3.4.6 zk346cd zk...原创 2019-11-19 17:26:39 · 237 阅读 · 0 评论 -
大数据环境搭建卷二(hadoop集群搭建3台)
【前言】本章是在《大数据环境搭建(卷一)》的基础上进行,可参考大数据环境搭建(卷一)。【步骤如下】1)克隆两台按卷一搭建的伪集群,分别修改主机名和IP地址,以及etc/hosts中的IP与主机名:vi /etc/sysconfig/network-script/ifcfg-ens33TYPE="Ethernet"BOOTPROTO="static"DEFROUTE="yes"PEE...原创 2019-11-19 09:58:05 · 254 阅读 · 0 评论