大数据 环境搭建

1配置的需求

虚拟机:VMware Workstation
在这里插入图片描述
操作系统:CentOS-6.5-x86_64-bin-DVD1.iso
在这里插入图片描述

2环境搭建

(1)虚拟机安装

点击创建新的虚拟机

点击自定义,然后下一步

默认的wordstation10.0,然后点击下一步
在这里插入图片描述

选择稍后安装操作系统,下一步
在这里插入图片描述

客户操作系统选择:Linux(L),版本:centOS 64位,然后下一步
在这里插入图片描述

虚拟机名称:Hadoop002,存储位置选择,需注意选择 剩余内存大于几十G的磁盘,我是创建一个和虚拟机名称同步的文件夹进行放入,设置好然后点击下一步
在这里插入图片描述

默认,下一步
在这里插入图片描述

此处我配置的是最低2G,然后点击下一步
接下来4处默认系统配置,点击下一步,直到指定磁盘容量处,需进行选择
在这里插入图片描述

最大磁盘大小设置 40G ,选择将虚拟磁盘拆分成多个文件,然后点击下一步
在这里插入图片描述

点击下一步直至完成
在这里插入图片描述

完成如图
在这里插入图片描述

2 安装 ISO 镜像文件

点击编辑虚拟机设置
在这里插入图片描述

第一步点击CD/DVD,第二步点击使用ISO映像文件,浏览 找到你之前下载ISO镜像文件存放的位置,然后点击确定。
在这里插入图片描述

3 安装操作CentOs

点击开启虚拟化
在这里插入图片描述

选择 第一个(existing system),按enter 回车键
在这里插入图片描述

选择 skip 跳过检查,接下来再选择OK,然后耐心等待
在这里插入图片描述

直至出现此界面,选择NEXT下一步
在这里插入图片描述

选择语言,然后下一步选择us.English,下一步默认 直接 点击next下一步进入下个界面
在这里插入图片描述

问我们选择划分的40G里面还有其他文件,是否要。 我们选择YES,不要了,然后next下一步
在这里插入图片描述

设置机器名,我这里暂时不设置,选择next下一步
在这里插入图片描述

这里选择离本地时区最近的城市,我这里选择的是重庆,然后next下一步
在这里插入图片描述

设置管理员root账号的密码,两个地方都一样,然后next。
我是因为设置的密码过于简单,出现提示,选择use anyway
在这里插入图片描述

选择安装类型,选择最后一个,自定义部署
在这里插入图片描述

40G的磁盘空间进行划分,具体操作:
/boot:create——Standard partition——create——/boot——OK
swap:reate——Standard partition——create——file system type里选择swap——size(MB)设置成2048——OK
/(根目录):reate——Standard partition——create——mount point(填入/)——additional size options 选择fill to maximum allowable size 剩余的全部分配给根目录——OK
分别部署:/boot、swap、/三个文件夹如图完成后选择next下一步
在这里插入图片描述

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

问我们是否格式化,单击 format 格式化
在这里插入图片描述

问我们刚刚配置的是否写入磁盘,单击write changes to disk ,然后next下一步,耐心等待,进入下面界面
在这里插入图片描述

默认,点击next下一步
在这里插入图片描述

其他默认,标红处进行选择:立即安装,next下一步
在这里插入图片描述

正式开始安装,默认,点击next下一步
在这里插入图片描述

安装中,1098,耐心等待
在这里插入图片描述

welcome 欢迎你代表安装完毕,然后点击forward前进下一步
在这里插入图片描述

然后点击forward前进下一步
在这里插入图片描述

相对应的输入,然后点击forward前进下一步
在这里插入图片描述

我的密码过于简单,所以出现警示,点击YES进行下一步
在这里插入图片描述

设置当前时间,相对应的填入
在这里插入图片描述

将enable kdump前√去掉,然后点击下一步
在这里插入图片描述

点击YES
在这里插入图片描述

点击OK 接下来再次重启
在这里插入图片描述

到这 CentOS系统 安装完毕
在这里插入图片描述

3 环境参数配置

重要提醒:window,Linux相互切换
window进入Linux 鼠标左键 单击Linux 进入
Linux退回到window ctrl+alt

vi编辑:
1.按i键 进入insert编辑模式
2.正常内容增加删除修改
3.按ecs键退出 进入命令模式
4.按 shift+: 进入尾行模式 输入 wq 保存退出
5.按 回车键 结束

Tab快捷键使用:
按tab键 1次 自动补全
1次无响应——就按2次——会输出相关的所有匹配

(1)修改CentOS 主机名
A: vi /etc/sysconfig/network 编辑完 需重启后生效

B: hostname XXX 直接命名立即生效重开一个界面就能看到

C: vi /etc/hosts 进入编辑后输入外网IP和需修改的机器名,然后退出保存

4 CentOS 配置静态IP和可访问外网

(1) 关闭windows 防火墙
在这里插入图片描述
(2) 关闭CentOS 防火墙
在这里插入图片描述
(3)接下来输入:chkconfig iptables off iptables -F然后开启VMware两个服务 如若输入命令维度未跳入,自己到Windows找到 计算机管理 ,然后找到服务
在这里插入图片描述
在这里插入图片描述
(4) 无线网卡的网络(或者插网线的网络)上设置网络共享
在这里插入图片描述
(5) 使用 ipconfig -all 命令查看 DNS 、IPv4
在这里插入图片描述
在这里插入图片描述
(6) 配置 VM的选择使用配置 ip
在这里插入图片描述
(7) 进入 vm, 单击菜单栏的 编辑–>虚拟网络编辑器然后如图操作设置
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
(8) hadoop002 配置 NAT
在这里插入图片描述
(9) 进入hadoop002编辑,ifcfg-eth0

vi /etc/sysconfig/network-scripts/ifcfg-eth0
在这里插入图片描述
网络配置文件参数(参考)
在这里插入图片描述
(10) 将hadoop002网络重启
执行命令:service network restart
在这里插入图片描述

(11) 测试虚拟机是否可以连接外网,点击火狐浏览器,输入www.baidu.com
win ping ip测试网络是否通
外网无效不影响内网的使用

### 关于大数据环境搭建的实验报告或指南 #### 1. 大数据环境搭建的核心要素 构建大数据环境通常涉及多个关键技术栈的选择与集成,例如 Hadoop 生态系统的部署、配置以及优化。Hadoop 是当前主流的大数据处理框架之一,其核心组件包括 HDFS(分布式文件系统)、MapReduce(分布式计算模型),以及其他扩展工具如 Hive、HBase 和 Kafka 等[^1]。 #### 2. 单机/伪分布式的 Hadoop 安装指南 针对初学者而言,建议从单机模式或者伪分布式模式入手学习 Hadoop 的基本操作和配置方式。以下是一个基于 Ubuntu 平台的简单安装步骤概述: - **准备工作** - 更新操作系统包管理器缓存。 - 下载对应版本的 Hadoop 软件压缩包。 - **环境变量设置** 修改 `/opt/env.sh` 文件以正确配置 `JAVA_HOME`, `HADOOP_HOME` 及路径变量 PATH[^4]。 ```bash export JAVA_HOME=/usr/lib/jvm/java-8-openjdk-amd64 export HADOOP_HOME=/usr/local/hadoop export PATH=$PATH:$HADOOP_HOME/bin:$HADOOP_HOME/sbin ``` - **启动服务** 使用如下命令依次初始化 namenode, datanode, resourcemanager 等必要节点的服务状态。 ```bash $ hadoop namenode -format $ start-dfs.sh $ start-yarn.sh ``` 上述过程能够帮助用户快速建立基础版的大数据分析测试床[^2]。 #### 3. 扩展功能模块介绍 随着业务需求的增长,可能还需要引入更多高级特性来增强整个平台的能力。比如: - 数据仓库解决方案——Apache Hive 提供 SQL 查询接口访问存储在 HDFS 上结构化数据表; - NoSQL 数据库引擎——HBase 支持随机读写海量稀疏矩阵型数据集; - 流式消息队列中间件——Kafka 则适用于实时日志采集传输场景下的高吞吐率要求[^3][^4]。 #### 4. 注意事项 尽管理论知识很重要,但在实践过程中难免会遇到各种棘手问题。因此强烈推荐参考官方文档或其他权威资源深入理解每一步骤背后的逻辑关系,并及时排查错误信息记录下来便于后续改进[^2]。 --- ###
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值