- 博客(64)
- 收藏
- 关注
原创 十七、master 节点部署
五、编辑 MapReduce 配置文件(mapred-site.xml)三、编辑 HDFS 配置文件(hdfs-site.xml)四、编辑 YARN 配置文件(yarn-site.xml)二、修改环境变量(hadoop.sh)六、编辑 workers 配置文件。一、测试是否已安装Hadoop。
2025-11-10 11:55:54
335
原创 十六、配置免密登录(master、slave01、slave02)
首先,在 master 节点上创建秘钥然后,将秘钥拷贝到 master、slave01 和 slave02 上,完成免密登录配置。
2025-11-04 14:28:36
180
原创 十五、克隆新的节点 slave01、slave02(静态IP、主机名、hosts)
要注意的是:1、选择 master 快照,进行链接克隆;2、master 快照为安装 Java、Hadoop 后的。
2025-11-04 14:01:44
183
原创 十四、运行经典案例 wordcount
Hadoop 自带的 MapReduce 示例程序 JAR 包(版本号 3.2.1,需与实际 Hadoop 版本对应),其中包含了 wordcount 等经典示例。:指定要运行的示例程序类名,这里即词频统计程序,作用是统计输入文本中每个单词出现的次数。:HDFS 上的输出目录路径,程序运行成功后,统计结果会写入该目录(注意:该目录必须是。:Hadoop 提供的用于运行 JAR 包中 MapReduce 程序的命令。:HDFS 上的输入目录路径,该目录下存放待统计的文本文件(需提前通过。
2025-10-09 11:30:47
402
原创 十三、格式化 HDFS 文件系统、启动伪分布式集群
介绍了集群的基本情况,包括版本、集群 ID、安全模式、数据节点文件系统的容量和使用率、数据存储的路径等基本信息。包含了数据节点使用率柱状图、每个数据节点的磁盘使用率、运行中的节点、进入维护的节点列表、退役的节点列表等信息。),确保文件中有一行包含你主机的 IP 地址和主机名的映射关系。:表示 Yarn 集群管理的 CPU 的虚拟核心的总数,这个大小等于所有的。:包含了集群 DFS 存储系统的可视化浏览、各个集群组件的日志等信息。:表示 Yarn 集群管理的内存的总大小,这个内存总大小等于所有的。
2025-09-30 14:52:25
836
原创 十二、伪分布式配置
该默认目录在每次系统重启后会被删除,必须重新执行 Hadoop 文件系统格式化命令,否则运行 Hadoop 就会报错。此文件是 MapReduce 守护进程的配置项,包括作业历史服务器等。例如配置 HDFS 和 MapReduce 常用的 I/O 设置等。如果没有配置,则系统会使用默认的目录为其临时目录。该文件主要是配置 Hadoop 的环境变量。此文件是 Hadoop 核心的配置项,文件修改内容,如图 3.19 所示。设置文件的副本数,一份文件保存多少份;此文件是 YARN 守护进程的配置项,
2025-09-29 11:31:48
583
原创 十一、Hadoop 三种部署模式对比表 & 组件介绍
组件名称核心功能关键作用HDFS分布式文件系统,将大文件分块存储在多台服务器上为 Hadoop 生态提供高可靠、高吞吐量的分布式数据存储能力,支持海量数据的存储与访问YARN资源管理系统,负责集群资源的分配与调度统一管理集群的计算资源(如 CPU、内存等),为各类应用程序(包括 MapReduce 等)分配资源并进行任务调度,提高集群资源利用率MapReduce分布式计算框架,采用“分而治之”思想处理大规模数据。
2025-09-29 11:11:02
391
原创 八、安装 Hadoop
安装 Hadoop(1)将 Hadoop 软件包上传到虚拟机的 /opt/software 目录中(2)在 /opt/software 目录中查看软件包是否导入成功(3)将 Hadoop 软件包解压到 /opt/module 目录下(4)确认解压是否成功。
2025-09-28 14:42:58
507
原创 七、安装Java(在SingleNode上装)
查看目录 /opt 下的文件,有无 module 目录。若没有 software ,则新建 software。再次查看目录 /opt 下有无 module 目录。若没有 module ,则新建 module。再次查看目录 /opt 下的文件。查看 JAVA 环境是否配置成功。查看目录 /opt 下的文件。执行脚本,使配置生效。
2025-09-28 14:07:50
224
原创 六、配置免密登录
此时会在 /root/.ssh 目录下生成两个文件:id_rsa(公钥)、id_rsa.pub(私钥)。将秘钥拷贝到 localhost。
2025-09-28 14:01:30
201
原创 三、更新系统 并 安装工具软件
注意:重大版本升级(如从CentOS 7到CentOS 8)不能通过这种方式直接完成,需要使用专门的升级工具或重新安装系统。参数表示自动确认所有更新操作,无需手动输入yes。类似,但会移除过时的包。
2025-09-23 14:27:23
202
原创 二、更新源(阿里云)(更新成阿里云后,再执行上面的系统更新)
CentOS 7 官方源可能已停止维护,建议更换为国内镜像源(如阿里云):备份原有源配置下载阿里云源配置清理缓存并生成新缓存。
2025-09-23 14:26:14
319
原创 下载CentOS 7——从阿里云上下载不同版本的 CentOS 7
没有废话,直接上干货。跟着图片教程,一步一步来就行。想下载其它版本的,自己可以再选择其它的就行。
2025-09-09 10:52:51
385
原创 飞牛OS Nas,SSH安装宝塔后,smb文件不能共享问题
1,飞牛OS Nas,SSH安装宝塔后,宝塔面板可以使用,但是smb文件功能共享了,在局域网下的windows电脑挂载的网盘,看不到了。Samba 需要开放。
2025-09-02 21:38:43
895
原创 各个主要目录的功能 / Linux 常见指令
我们可以看到,这些指令基本是基于英文单词全称或简称组成的,如果你有一些英文基础,相信指令记起来会更加容易。大家需要注意,命令与选项,选项与选项,选项与操作对象,至于操作对象就是上方命令中的/boot,操作对象是可以有多个的,操作对象与操作对象他们之间是必须用空格分隔!这三部分构成了一个标准的Linux命令,其中命令部分需要输入命令的名称,选项部分定义命令的执行特性,这一特性可以有长短两个选项。多个短选项可以组合使用,例如:-h-l-a==-hla,,后面跟一个完整的单词,如--help;
2025-06-03 21:09:50
447
原创 6、在树莓派上安装 NTP(Network Time Protocol )服务的步骤
配置文件中有很多注释,可根据需求进一步设置,如设置日志文件位置等。在文件中,可以指定 NTP 服务器。如果返回结果中显示了 NTP 服务器相关信息,并且有。安装完成后,需要编辑 NTP 配置文件。类似字样,说明时间已成功同步。4. 检查时间同步状态。
2025-06-01 16:15:21
480
原创 6、修改和校正时间
如果这个时间不准,可以用这个命令校准一下。三、树莓派没有电池,断电后无法保存时间。四、如果还是不准,就用这个命令强制设置。二、如果显示时间比当前时间慢了。命令可以看到系统的日期时间。小时,那就要设置一下时区。
2025-06-01 16:10:09
259
原创 5、设置时区、链接wifi
注意没有 beijing 这个选项哦!然后回车就 OK了。输入以下命名打开raspbian系统的设置界面。每个系统版本不一样,选择就不一样,我的是在第。如下图,通过键盘上下键,移动到第。项,要仔细观察后选择正确。国家 -》 选择china。
2025-06-01 15:52:05
296
原创 3、禁止树莓派屏幕休眠,设置树莓派屏幕常亮
树莓派是微型电脑,系统自带休眠保护功能,但是有人可能会处理一些事务,想树莓派屏幕常亮,保证树莓派一直都处于活动状态,今天分享如何让树莓派屏幕常亮,禁止休眠的解决方案。桌面交互显示来达到屏幕常亮的目的。参数:设置屏幕保护不启动,桌面显示管理器,可以设置。参数:关闭电源节能管理。
2025-06-01 14:56:22
418
原创 2、中文显示\添加中文输入法
中改成中文,也不会显示中文,只会显示一堆方块。树莓派默认是采用英文字库的,而且系统里没有预装中文字库,所以即使你在。中文字库安装完成之后,还需要安装一个中文输入法。配置,里面可以修改输入法的配置信息,个性化这是必须的。远程桌面),我们可能还需要进行配置才可以显示成中文。来切换中文输入法(在输入法设置里可以自行修改)。树莓派有一个中文字体是免费开源使用的。退出设置后,提示这个证明设置成功。添加成功会显示在当前输入法列表里。稍等配置完成,完成后点击下面的。在中文输入法下,可以按。,会弹出提示重启,点击。
2025-06-01 14:46:10
715
原创 1、树莓派更换软件下载源
自带的是国外的软件源,在国内使用经常会遇到无法下载软件的问题。将初始化中的代码中默认的官方软件源注释掉。版本)的下载源改为阿里云软件源的方法。
2025-06-01 14:18:25
560
原创 通电自动启动(BIOS设置)——以升腾小主机C92为例子
3、选项:Power Off、Power On、Last State。4、默认选项:Power Off,选择POWER ON就行了。5、按 F10 保存,退出。1、按F2进入CMOS。
2025-04-29 00:32:47
1125
原创 ubuntu 安装docker
默认情况下,只有root用户和docker组的用户才能运行Docker命令。因为我们之前没有拉取过hello-world,所以运行命令后会出现本地没有该镜像,并且会自动拉取的操作。八、运行docker,我们可以通过启动docker来验证我们是否成功安装。注:运行命令后,可能会报错,如果遇到同样问题可以在评论区留言,也可以给出好的方法。但是ubuntu自带的docker版本太低,需要先卸载旧的再安装新的。十二、查看版本,我们可以通过下面的命令来查看docker的版本。注:只要能正常查看版本,即可。
2024-11-27 23:28:22
755
原创 centos 7 安装docker
这些命令应以 root 用户或使用 sudo 执行。每一步都需要网络连接以从 Docker 仓库下载所需的包。
2024-11-27 23:00:40
224
原创 CentOS 9 安装Apache
在Web浏览器中输入服务器的IP地址,您应该能看到Apache的默认欢迎页面。:如果您的服务器受防火墙保护,需要打开HTTP和HTTPS端口。:了解Apache配置文件的位置和结构,以便后续需要时进行修改。命令安装Apache HTTP服务器。:将Apache服务设置为开机自启动。:安装完成后,启动Apache服务。:验证Apache服务是否成功启动。
2024-11-22 10:39:25
377
原创 ubuntu(Debian)内网穿透zerotier安装使用
完成以上步骤后,ZeroTier应该已经成功安装并加入你的网络。为你的ZeroTier网络ID。
2024-10-28 23:45:05
1211
原创 08、【阶段总结】开网络\更新源\下载QQ\安装报错\安装
-------------------------------------1、开启网络(网卡被禁用)----------------------------------------------------------------------------5、安装(成功)----------------------------------------------------------------------------3、下载QQ--------------------------------------
2024-10-10 15:50:16
712
原创 06、【推荐】CentOS 安装QQ 下载、安装、解决报错、再安装 方法二
4、遇到报错,libXScrnSaver is needed by linuxqq-3.2.12_28418-1.x86_64。注:如果下载不成功,可能是QQ已经更新,地址要改。自己可以去QQ官网上去下载,不明白的可以联系我。一定要在 root 权限下运行以上命令。然后输入密码,获取 root 权限。2、下载 QQ 软件包。
2024-10-07 23:53:50
967
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人
RSS订阅