- 博客(3)
- 收藏
- 关注
原创 Hive 常用内置函数
本文整理了Hive常用内置函数,包含字符串、日期、数值、条件判断、窗口函数等8大类使用场景。字符串函数重点介绍了concat_ws、split等数据清洗常用工具;日期函数推荐使用year/month等专用函数;窗口函数详细解析了排名、聚合、偏移等核心用法;还涵盖了JSON解析、多维聚合、列转行等实用技巧。每个函数都配有可执行的SQL示例,适合数据开发人员日常参考和面试复习使用,能有效提升Hive数据处理效率。
2026-07-02 19:56:47
236
3
原创 HDFS文件的读写流程
HDFS(Hadoop分布式文件系统)采用主从架构,由NameNode、DataNode和客户端组成。文件被切分为128MB的块,默认存储3个副本。读流程:客户端从NameNode获取元数据后直接连接最近的DataNode读取数据,自动校验完整性。写流程:客户端通过NameNode分配DataNode建立传输管道,采用流水线方式写入3副本,收到确认后完成写入。整个过程确保数据可靠性和高效传输,支持大文件存储与分布式处理。
2026-06-30 19:57:39
674
原创 HDFS常用指令
本文汇总了Hadoop HDFS常用文件操作命令,主要包括三大类功能:1.目录文件操作(34个命令),如ls查看目录、mkdir创建目录、rm删除文件、上传下载文件等基础操作;2.快照管理(4个命令),包括创建/删除/重命名快照及差异对比;3.权限与属主管理(3个命令),涉及修改文件权限、所有者及用户组。每个命令均配有简明语法说明和示例,涵盖文件查看、传输、属性设置、空间统计等日常运维场景,是HDFS文件系统操作的实用速查指南。
2026-06-30 19:20:05
207
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人
RSS订阅