
Hadoop
Mikowoo007
这个作者很懒,什么都没留下…
展开
-
在Ipython Notebook 运行 Python Spark 程序
安装AnacondaAnaconda各版本_官网Anaconda各版本_清华镜像下载wget https://mirrors.tuna.tsinghua.edu.cn/anaconda/archive/Anaconda2-2.5.0-Linux-x86_64.sh安装bash Anaconda2-2.5.0-Linux-x86_64.sh -b-b 是指batch,即批次安装,会自动省略阅读License条款,自动安装到 /home/hduser/anaconda2 路径添加环境变量s原创 2020-05-19 23:35:25 · 544 阅读 · 0 评论 -
python spark 安装
环境 :Ubuntu 14.04Scala 安装Spark 本身是用 Scala 语言开发的,所以必须要安装 scalaScala下网网页下载 scala_2_11_6 版本wget https://www.scala-lang.org/files/archive/scala-2.11.6.tgz解压文件tar xvf scala-2.11.6.tgz 把 解压文件 迁移至 /usr/local/scalasudo mv scala-2.11.6 /usr/local/scala原创 2020-05-17 19:53:47 · 361 阅读 · 0 评论 -
Hadoop MapReduce
MapReduce 是一种程序开发模式,可以使用大量服务器来并行处理。MapReduce 简单地说,Map就是分配工作,Reduce就是将工作结果汇总整理计算文件中每一个英文单词出现的次数创建 wordcount 目录cd 文档mkdir -p wordcount/inputcd wordcount编辑 WordCount.java程序代码在Hadoop说明文件中就具有WordCount.java的程序代码,在浏览器输入下列网址就可以看到原文的详细说明与源代码https://hadoo原创 2020-05-16 21:30:12 · 199 阅读 · 0 评论 -
Hadoop HDFS 命令
命令说明hadoop fs -mkdir创建HDFS目录hadoop fs -ls列出HDFS目录hadoop fs -copyFromLocal使用-copyFromLocal复制本地(local)文件到HDFShadoop fs -put使用-put复制本地(local)文件到HFDShadoop fs -cat列出HDFS目录下的文件内容hadoop fs -copyToLocal使用-copyToLocal将文HDFS上的文件复制到本地(...原创 2020-05-16 18:29:12 · 1081 阅读 · 0 评论 -
MAC_Virtual Box_ 安装 Hadoop Multi Node Cluster
Hadoop Multi Node Cluster 架构必须有4台实体服务器才能建立,以发挥多台计算机并行处理的优势使用 Virtual Box 创建4台虚拟机 master, data1, data2, data3把 Single Node Cluster 复制到 data1设置 VirtualBox 网卡网卡1 设置为“NAT网卡”, 可以通过Host主机【安装Virtual Box那台电脑】连接到外部网络(internet)网卡2 设置为“仅主机适配器”(这里的适配器指的是原创 2020-05-13 22:10:00 · 278 阅读 · 0 评论 -
Hadoop Single Node Cluster 安装
安装JDKsudo apt-get update系统就会开始获取最新更新的软件包、相关文件的对应列表sudo apt-get install default-jdk安装JDK查看Java版本java -version查看Java安装路径update-alternatives --display Java设置SSH无密码登陆安装 SSHsudo apt-get install ssh安装 rsyncsudo apt-get install rsync产生SSH Ke原创 2020-05-11 01:19:22 · 315 阅读 · 0 评论 -
Virtual Box 安装 Ubuntu 14.04系统
下载 Ubuntu 镜像Ubuntu 官网下载VirtualBox 创建 Ubuntu 虚拟机安装 Ubuntu小叉叉可以关闭安装增强功能解决分辨率不够解决鼠标停顿延迟【设备(Devices)】-> 【安装增强功能(Insert Guest Additions CD images)】设置默认输入法设置共享剪贴板【设备(Devices)】-> 【共享粘贴板(Shared Clipboard)】-> 【双向原创 2020-05-10 18:53:31 · 268 阅读 · 0 评论 -
mac_安装Virtual Box
Virtual Box 下载官网报安装失败 解决办法原创 2020-05-10 16:41:56 · 194 阅读 · 0 评论