自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+
  • 博客(14)
  • 收藏
  • 关注

原创 HBase分布式数据库安装部署

本文详细介绍了HBase集群的安装配置与启动流程。首先通过XFTP传输安装包并解压,配置关键文件包括hbase-site.xml、regionservers和hbase-env.sh,设置Zookeeper集群节点、数据目录等参数。然后将配置好的HBase文件夹分发到各节点,并配置环境变量。启动时需按顺序先启动Zookeeper集群,再启动HDFS集群,最后启动HBase集群。启动后可通过jps命令检查进程状态,或在浏览器通过16010端口访问Web界面验证主备节点角色分配。整个过程涵盖了从软件部署到服务启

2026-01-03 09:03:54 910

原创 Zookeeper分布式集群搭建

本文详细介绍了Linux虚拟机克隆及Zookeeper集群部署的完整流程。主要内容包括:1)克隆前的准备工作,包括时钟同步设置和Zookeeper安装配置;2)克隆两台虚拟机(slave1、slave2)的具体步骤;3)克隆后的关键配置,包括IP地址修改、主机名设置、hosts文件配置、NTP时间同步服务部署等;4)Zookeeper集群的最终配置与启动,包括创建myid文件、设置服务编号以及验证集群状态。通过这一系列操作,可以成功搭建一个包含master、slave1、slave2三个节点的Zookeep

2026-01-02 07:49:03 545

原创 Hadoop完全分布式环境搭建

注意:我们对于集群配置的修改,可以先在一台机器上进行(如master),修改完成后把配置文件分发到其他机器上即可!!!

2026-01-02 07:48:49 882

原创 从零开始安装CentOS7.6全攻略

本文详细介绍了CentOS 7.6 Linux系统的安装过程。首先讲解了安装前的准备工作,包括选择合适的发行版、硬件需求评估以及虚拟化技术介绍。重点描述了在VMware中创建虚拟机的完整步骤,从虚拟机参数设置到CentOS系统安装,详细说明了分区方案(/boot、/、/home、swap)和软件包选择等关键配置。此外,还介绍了虚拟机快照创建和克隆的方法,便于系统备份和快速部署。整个安装过程涵盖了从准备到配置完成的各个环节,为Linux初学者提供了清晰的安装指南。

2026-01-01 15:21:50 845

原创 Linux终端操作与Vim编辑全攻略

本文介绍了Linux终端的基本操作与vim编辑器使用指南。主要内容包括:1)终端启动方式及shutdown关机命令;2)Linux命令语法结构;3)命令行操作技巧如自动补全、换行输入、终止命令等;4)vim编辑器的三种模式(命令/插入/末行)及转换方法;5)多文件编辑与区块操作。重点讲解了vim的移动光标、文本编辑、查找替换、保存退出等功能,以及多文件间的数据复制技巧。

2026-01-01 15:21:36 354

原创 Sqoop数据迁移工具的安装部署

本文详细介绍了Sqoop的安装配置流程:首先通过XFTP上传安装包到master主机并解压,配置环境变量和sqoop-env.sh文件,添加MySQL驱动包。测试阶段需确保Zookeeper、HDFS、YARN组件正常运行,使用sqoop help验证安装,测试MySQL连接,并可选配置MySQL远程访问权限。整个过程涵盖了从软件部署到功能验证的关键步骤,为数据迁移工作做好准备。

2025-12-31 13:12:44 293

原创 Flume日志采集系统的安装部署

可以直接使用以下Flume的默认配置启动Agent,该Agent的Source是一个序列生成器,Channel是内存,Sink是日志类型,直接打印到控制台。1、使用XFTP将Flume安装包apache-flume-1.9.0-bin.tar.gz发送到master机器的主目录。4、接着可以为其他机器都部署好Flume,使用scp -r命令把文件夹发送到另外两台机器,然后配置环境变量即可。的配置可以在任意地方编写,只需在执行启动命令时,指定该配置即可。

2025-12-31 13:12:31 208

原创 Kafka分布式消息系统的安装部署

本文介绍了Kafka集群的安装配置与测试流程。首先详细说明了安装步骤:通过XFTP传输安装包,解压后修改配置文件(包括ZooKeeper、消费者、生产者和服务器配置),并将配置好的Kafka分发到各节点。接着描述了集群启动测试方法,强调需先启动ZooKeeper再启动Kafka。最后通过创建Topic、查看Topic列表、启动消费者和生产者等操作进行功能测试,验证消息生产和消费功能是否正常。整个流程涵盖了Kafka集群从安装到验证的全过程,为分布式消息系统的部署提供了完整指导。

2025-12-30 09:52:11 331

原创 Flink的安装部署

摘要:本文详细介绍了Flink的三种部署模式配置方法。单机模式包括安装包传输、解压配置、环境变量设置等步骤;Standalone集群模式涵盖配置文件修改、节点配置、Hadoop依赖添加及集群启动流程;YARN模式则主要说明环境变量配置方法。三种模式均包含具体操作命令和关键参数配置说明,为搭建不同规模的Flink运行环境提供了完整指导方案。

2025-12-30 09:51:59 385

原创 Davinci数据可视化工具的安装部署

本文详细介绍了Davinci数据可视化工具的安装配置流程。首先通过XFTP上传安装包到主节点,依次安装Phantomjs和Davinci,并配置环境变量。接着创建MySQL数据库并设置权限,修改Davinci初始化脚本和配置文件application.yml,特别注意yml文件的格式要求。配置包含服务端参数、数据库连接、邮件服务(需获取SMTP授权码)和截图功能等。测试阶段启动服务端后,通过浏览器访问8080端口,首次使用需邮箱注册并激活账号。整个过程涵盖了从软件安装到系统初始化的完整步骤,重点强调了配置文

2025-12-29 00:01:56 889

原创 分布式系统核心详解

ZooKeeper是分布式协调服务,支持Master选举、分布式锁等功能。Hadoop集群包含NameNode、DataNode等核心组件,通过主备机制实现高可用。Flume由Source、Channel、Sink三部分组成,实现数据采集传输。YARN提供FIFO、容量、公平三种调度器。ZooKeeper节点分持久和临时两种类型,支持顺序编号。Hadoop和HBase通过主备切换、数据副本等机制保障高可用。SecondaryNameNode定期合并元数据文件以减轻NameNode负担。

2025-12-29 00:00:58 699

原创 hadoop伪分布式集群的搭建

hdfs-site.xml:HDFS相关进程的配置项,包括 NameNode、SecondaryNameNode、DataNode等。--配置NodeManager执行MapReduce任务的方式为Shuffle混洗-->--配置hdfs NameNode的地址,9000是RPC通信的端口-->--配置namenode节点存储fsimage的目录位置-->--配置datanode 节点存储block的目录位置-->--指定运行mapreduce的环境为YARN-->

2025-12-28 22:08:27 1021

原创 如何在阿里云ECS服务器部署MongoDB副本集

本文介绍了在阿里云ECS服务器上部署MongoDB副本集的完整流程。主要内容包括:1)环境准备与服务器配置,包括创建ECS实例、系统初始化;2)MongoDB安装与副本集配置,详细说明配置文件修改和副本集初始化步骤;3)安全加固措施,如创建管理员用户和启用认证;4)备份恢复方案和故障排查方法。文章提供了从服务器创建到副本集部署的全流程指导,包含具体命令和配置示例,适合在阿里云平台搭建高可用MongoDB服务的用户参考。

2025-12-28 13:00:59 1465 1

原创 MongoDB分片实战:集群部署全攻略

本文详细介绍了基于Docker的MongoDB分片集群搭建与SpringBoot应用开发的全过程。主要内容包括:1)分片集群架构设计,包含Config Server、Shard Server和Mongos路由;2)Docker环境配置与容器部署;3)分片策略实现,基于电影评分字段建立分片键;4)SpringBoot应用开发,提供完整的CRUD接口和统计分析功能;5)数据迁移方案,支持复杂JSON数据的批量导入;6)阿里云ECS部署与测试方案。项目实现了高性能的电影数据管理,支持软删除、跨分片查询和负载均衡等

2025-12-27 16:33:46 1648 1

Hadoop和jdk的安装包

Hadoop和jdk的安装包

2025-12-28

数据库基于MongoDB分片架构的电影数据管理系统设计与实现:分片策略、Spring Boot应用集成及阿里云部署方案

内容概要:本文详细介绍了基于Docker部署MongoDB分片集群的完整流程,涵盖架构设计、环境准备、分片与配置服务器搭建、Mongos路由启动、分片策略配置及Spring Boot应用集成。通过构建包含Config Server、Shard副本集和Mongos路由的服务体系,实现了数据的水平扩展与高效查询。同时,文档提供了Spring Boot项目开发中的实体建模、仓库接口、服务逻辑与REST控制器实现,并支持软删除、分页、聚合统计等功能,结合mongoimport工具完成大规模JSON数据导入,最终在阿里云ECS上进行外网发布与测试。; 适合人群:具备一定Docker、MongoDB和Spring Boot开发经验的中高级后端研发人员,尤其是从事高并发、大数据量系统设计与运维的技术人员。; 使用场景及目标:①掌握MongoDB分片集群的搭建与管理;②实现基于分片键(如评分)的数据分布优化;③开发支持分片环境的Spring Boot应用;④完成生产级数据迁移、导入与外网服务部署; 阅读建议:建议按照文档顺序逐步操作,重点关注分片键选择、索引优化、数据导入脚本与Spring Boot配置适配,结合实际业务调整分片策略,并利用提供的监控与修复脚本保障集群稳定性。

2025-12-27

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除