- 博客(7)
- 收藏
- 关注
原创 hadoop虚拟环境搭建
(2)修改“/etc/sysconfig/network-scripts/ifcfg-eth0”,将其中的DEVICE、HWADDR中的值改成上一步查看到的内容,修改IPADDR后面的IP。需要注意的是192.168.22是网络前缀,需要根据你自己的虚拟机来修改,如下图所示,我的前缀是192.168.22,所以上面的都是192.168.22,如果你的是其他的前缀要修改。ssh-keygen用来生成RSA类型的密钥以及管理该密钥,参数“-t”用于指定要创建的SSH密钥的类型为RSA。
2025-11-15 17:26:43
1913
原创 综合数据流处理
LOG.info("文件处理完成: {},新增处理记录数: {}", file.getName(), processedCount);LOG.info("检测到文件事件: {} - 文件: {}", kind.name(), fullPath);// 目标Kafka主题。LOG.warn("UTF-8编码读取文件失败,尝试GBK编码: {}", file.getName(), e);
2025-11-09 20:49:46
913
原创 实时数据流处理-Flink
System.out.println("【准备写入MySQL】" + tuple.f0 + ":" + tuple.f1 + "," + tuple.f2);System.out.println("【准备写入MySQL】" + tuple.f0 + ":" + tuple.f1 + "," + tuple.f2);System.out.println("【解析失败】数据:" + line + ",错误:" + e.getMessage());在使用 Flink 之前,需要使用 maven 导入依赖。
2025-11-08 10:34:23
971
原创 ZooKeeper中如何实现leader与follower节点数据同步,并分析可能存在的数据丢失情况。
一是集群初始化或新 Leader 选举后,Follower 会向 Leader 报告自身最新事务 ID(zxid),Leader 根据对比结果决定是否同步 —— 若数据一致则无需操作,若缺失部分事务则增量同步日志,若缺失过多(日志已清理)则全量同步快照及后续日志,同步完成后集群进入正常服务状态。网络分区导致集群分裂为两个子集群,各自产生 Leader 处理请求,网络恢复后旧 Leader 降级,其分区内未被新 Leader 集群认可的事务会被覆盖丢失。
2025-11-07 23:32:49
324
原创 数据流传输基础-Kafka
在kafka.yml所在目录下定义kafka-data文件夹,这里面再定义broker01,broker02,broker03文件夹,然后修改挂载路径(kafka.yml文件下的三个kafka中volumes下的:/bitnami/kafka:rw前面一部分改成定义的路径。E. `ports`: 指定了要映射的端口,格式为 `<host_port>:<container_port>`。B. `kafka1:`、`kafka2:` 和 `kafka3:`:这些是要创建的 Kafka 服务的配置。
2025-11-07 23:30:17
1068
原创 Docker 管理平台安装
2)接下来还需要在 Windows 中安装一个 Linux 子系统,我是直接在powershell里面以管理员身份运行,使用wsl --update安装的子系统。A. Hyper-V(本指导书使用的 windows11 - 专业版,这个可能在 Windows - 家。有就不勾选,以下容器选项也是相同),Hyper-V 这个功能其实在 Windows。- 家庭版中也是有的,只不过专业版中的功能更全,有一个专门的勾选项,庭版中没有,只有在专业版或者其他更改版本中有,但没有也没有关系,没。
2025-10-21 20:32:30
179
3
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人
RSS订阅