山大软工实践hive(1)-配置,规划

六本重塑工程管理认知的实战书单:从技术执行到系统设计 工程管理不是对人的简单调度,而是对复杂协作系统的持续设计与优化。其核心原理在于理解团队作为动态系统的行为规律、识别影响交付效能的真实杠杆(如部署频率与变更前置时间)、区分控制与影响的本质差异,并将心理安全视为技术决策质量的前提。这类能力无法通过流程模板速成,而需重构管理者对人、系统与价值流动的底层直觉。本文聚焦工程师转型管理者过程中的典型认知断层,结合《The Manager’s Path》《Accelerate》等六本高影响力著作,提供可验证的原理阐释、数据驱动的度量方法及适配现代研发场景的落地路径,帮助 阅读详情

2021SC@SDUSC

hive配置

虚拟机:CentOS+VMware WorkStation
hadoop安装参考教程:hadoop安装
hive安装参考:尚硅谷大数据技术之Hive文档系列

运行时截图如下

请添加图片描述

关于源码

在hive官网下载,在本地读取,而不在虚拟机上

规划

宏观理解与分工

通过阅读其他博客知道,ql、serde、metastore包最重要。而metastore包代码内容不多,不足以分配任务。
引用图片
而我们重点关注ql包。这个包实现将Hql(hive的类似sql的语句)转化为语法树、转化为查询块等一系列转化变成可执行的MapReduce任务。下面任务流程图。
任务流程
而我们小组关注前面四部分,每人分别拿走一块任务
1.将HQL转化成抽象语法书AST
2.将抽象语法树AST转换成查询块QB
3.将查询块QB转换成逻辑查询计划(OP Tree)
4.对OP Tree进行逻辑优化

我负责第四部分

关于任务量

我们并不能确认任务量的多少,毕竟东西太多了,比如任务2任务3,我分别找到SemanticAnalyzer,LogicalPlanGenerator(与任务2任务3相关的类),前一个14000行,后一个20000多行;而任务4还是未知状态。并且源码里有很多包很多类,无法确定我们能做多少。同时也不排除有人的内容不足,所以找其他部分的看的可能性。

后续

关于我的任务,在分任务时我还没找到详细的描述,所以我需先确认相关包、类、功能,再确认上一阶段传给我的’逻辑查询计划’是什么东西。然后才能开始正式分析。

DSSAT模型实战:从基础配置到气候情景模拟 本文详细介绍了DSSAT模型在农业模拟中的应用,从基础配置到气候情景模拟的全流程实战指南。通过土壤-植物-大气连续体的动态关系建模,DSSAT能精准预测作物产量,误差率低至8%。文章涵盖气象数据处理、土壤参数配置、管理措施调控等核心技巧,并提供了Python脚本和可视化方法,助力农业科研与决策。 阅读详情

相关推荐

保姆级教程:在Zynq UltraScale+ EV系列FPGA上,用VCU IP核搞定4K60帧H265视频解码与HDMI2.0输出

本文提供在Zynq UltraScale+ EV系列FPGA上使用VCU IP核实现4K60帧H265视频解码与HDMI2.0输出的全流程指南。从开发环境准备、Vivado工程配置到PetaLinux系统定制,详细解析硬件选型、IP核参数设置及性能优化技巧,帮助开发者快速构建高效视频处理系统。

weixin_30800987的博客 432

从技术突破到场景落地:大模型发展图谱与DeepSeek创新应用【中山大学】

DeepSeek通过“技术突破-场景适配-生态共建”的三维路径,成为大模型商业化落地的标杆。

石榴姐yyds 1256

一文详解脉搏血氧测量原理与方法

本文摘要:血氧饱和度(SpO2)是评估人体氧合功能的重要指标,反映血红蛋白携氧能力。其测量基于光电容积描记法(PPG),利用红光(660nm)和红外光(940nm)通过组织时的吸收差异计算。脉搏波特征与心血管状态相关,动脉硬化会影响波形特征。Masimo公司的信号提取技术(SET)通过并行算法有效解决了传统血氧仪在运动、弱灌注情况下的测量误差问题,显著提升了临床监测的准确性和可靠性。该技术已成为血氧监测的金标准,在降低误报率、缩短响应时间方面具有显著优势。

m0_50146396的博客 2015

无法从套接字读取更多的数据 oracle_神州优车大数据平台建设实践分享

作者:卢彪(神州优车技术专家)介绍大数据平台建设经验的文章已经不在少数,再次发表该类文章是因为我们觉得:条条大路通罗马,形形色色景不同。本文主要介绍了神州优车大数据平台(只介绍离线平台并且侧重于基础架构部分)的一些建设经验,希望能给同仁们带来一些帮助。文章将从4个方面展开介绍,分别是建设目标、总体架构、深入讲解和总结规划,介绍过程中将直抒其意,不会对行业术语和专有名词进行解释,如有疑问可自行百科。...

weixin_39805883的博客 2999

VirtualLab初学者教程-1.用户界面

目录前言一、VirtualLab Fusion简介1.软件2.内置工具箱:二、用户界面认识1.上方菜单栏2.右侧面主窗口3.底部窗口附 前言 感觉做VirtualLab的资料不是特别多,可能用的朋友也比较少吧,笔者最近也因为大创需要刚刚开始入门,把网上有的英文资料整理了一下,加了一点自己的内容发出来希望帮助更多在学习中的朋友,有用词不当之处还请多多包涵。 一、VirtualLab Fusion简介 因为是第一讲,简单啰嗦一下软件本身,参考官方介绍。 1.软件 VirtualLab是由德国LightTran

ClaireTang1的博客 2万+

VFIO框架源码分析(二十二)- IOMMUFD 的脏页跟踪与 Dirty Bits 读取

在虚拟化热迁移(Live Migration)的场景中,脏页追踪(Dirty Page Tracking)是最具挑战性的环节之一。它的核心任务是实时捕获设备(DMA)对内存的写操作,以便 VMM(如 QEMU)知道哪些内存页需要被重新传输到目标主机。在强耦合与粗粒度:脏页追踪是绑定在 Container 上的。这意味着,如果一个 Container 内有多个设备,哪怕只有一个设备在写内存,脏页追踪也会影响 Container 内的所有设备。软件模拟开销大。

qq_36071928的博客 1045

写公众号的计划与进展

写的历程 我最早的文章是用WordPress搭建的博客,叫做www.apt-get.cn,后来迁移到blog.lixiaohei.cn,也在freebuf专栏上发了几篇文章,奈何排版太难...

weixin_47208161的博客 260

802.1x之EAP-TLS测试方法

CA证书一般是由权威的认证机构发出,用来验证该机构签名的证书,持有CA证书的设备可以验证对端的证书是否由自己信任的机构颁发的。在我们内部使用证书时,我没可以自己充当CA认证机构,管理私钥和CA证书,使用他们签名服务器、客户端证书。2、使用证书请求文件server_csr.pem、CA私钥、CA公钥生成服务器证书(正常情况下自己不拥有CA私钥,是把证书请求文件发给认证机构,由认证机构返回证书)进行802.1x EAP-TLS认证时需要IPC、服务器分别存储CA证书、设备证书、私钥,通过交换证书实现身份验证。

写作是为了更好的思考 2164

【2026届计算机毕设项目推荐】基于Hadoop+Spark的江西景区数据分析系统源码 毕业设计 选题推荐 毕设选题 数据分析

系统利用Python爬虫获取的江西省景区数据为基础,采用Hadoop HDFS进行数据存储,并借助强大的分布式计算框架Spark对数据进行清洗、聚合与深度分析。后端服务基于Django框架实现,负责业务逻辑处理与API接口提供。前端则通过Vue.js及Echarts图表库,将分析结果以14种直观的图表形式进行动态展示。项目成功实现了对景区地理分布、主题类型、热门排行、票价水平、关联性及聚类分群等多维度的综合分析,为用户提供了一个探索江西旅游资源的数据洞察平台,验证了大数据技术在区域旅游分析领域的应用价值。

W:JSJBCZDS 计算机编程指导师,擅长解答计算机java、python、小程序、大数据等编程、项目、文档、代码、答辩等问题 887

tsfknn 预测R语言中的时间序列

rolling参数应该设置为FALSE,这使得最后的18个观测值成为测试集,其余的作为训练集;如果我们将rolling参数设置为默认值TRUE,那么测试集就不会是一个恒定的向量。lag 滞后参数表示时间序列数据的滞后值。在这个例子中,由于我们的时间序列数据是月度的,我们将参数设置为1:12。作为药品福利计划的一部分,澳大利亚健康保险委员会记录的属于ATC代码A10的产品的每月政府支出(百万美元)。我们将使用tsfknn包,它可以用来预测R语言中的时间序列。格式:ts类别的月度时间序列。

Mrrunsen的博客 323

服务器搭建原神私服教程

项目的稳定版分支提供了编译好的服务端程序,但是博主觉得还是用dev版本的比较好。dev版本需要自己编译的,不要听到编译这两个字就头大,相反,这个服务端的编译相当简单。把文件中的两个IP地址127.0.0.1修改为你服务器的地址,修改完成后按 esc 输入 :wq。Mongodb作为服务端的数据库使用,我们这里安装最新版的Mongodb5。注意:如果想要使用最新版的服务端,必须安装>=17版本的java。tmux可以保证你关掉控制台的时候,程序依然继续运行。至此,服务端所需要的运行环境全部配置完成。

用最简单的方式说最重要的事!服务器、存储、云计 算、A智能的大数据产品、游戏开发技术。致力于广 大开发者、政企用户、各项机构等,构建云上世界提供全方位云计算解决方案。旨在打造差异化的开放式闭环生态系统帮助用户快速构建稳定、安全的云计算环境。 1万+

解决 java.lang.NoSuchMethodError 报错

NoSuchMethodError 是 Spring Boot 项目中因编译与运行时类版本不一致引发的典型链接错误。本质是方法签名在运行时缺失,常见于依赖冲突、框架升级或缓存残留。排查需定位实际加载类路径,通过 ProtectionDomain 或 Arthas 工具(sc、sm、jad)确认类来源与方法存在性,再结合依赖树分析(如 mvn dependency:tree)排除版本冲突,最终强制统一依赖版本解决。

小李同学的博客 271

OpenClaw Windows 安装指南

好的,我来一步一步带你在 Windows 上安装 OpenClaw。

m0_60605453的博客 550

【SQL 数据分析知识点:Hive 差异、窗口函数】

本文通过5张表的小型数据集,系统梳理数仓开发中的高频陷阱与核心技能:分区字段遗漏导致全表扫描(Hive vs MySQL差异)、GROUP BY与窗口函数的本质区别(行数不变、贴列计算)、排序三件套(ROW_NUMBER/RANK/DENSE_RANK)的适用场景,并提炼出“开窗→过滤→聚合”的通用解题骨架,涵盖分组TopN、连续登录等五类经典题型,强调真实业务中排序兜底、口径对齐的重要性,助力高效精准的数据分析。

春风若有怜花意,可否许我再少年 315

汉书HE8,好用的汇编代码编写工具

汉书HE8,好用的汇编代码编写工具早期编写汇编代码所用功能强大

计算机控制技术及应用

《计算机控制技术及应用》通过总结作者的科研成果和吸收国内外的先进理论、方法和技术,以计算机控制系统的网络化、开放化、智能化和集成化发展趋势为主线索,主要介绍计算机控制系统的基本概念和计算机控制系统的典型形式,计算机控制系统的数学描述与基本分析方法,以及数字PID控制器、最少拍控制系统、达林算法、状态变量设计法等设计方法及其各种改进算法。重点突出计算机控制系统输入输出通道接口的设计方法和典型控制系统的设计案例与实现方法等。

【大数据处理与分析】数据仓库Hive:09 Hive 编程实践

本文介绍Hive的数据类型(基本类型与ARRAY、MAP、STRUCT集合类型)和基本操作,并通过WordCount实例说明Hive编程比MapReduce更简洁易用。

Morse_Chen的博客 266

pscad IEEE标准系统搭建说明

pscad IEEE标准系统搭建说明,包含典型的IEEE 9节点、14节点、30节点、39节点和118节点系统。内含标准测试系统的原始数据和潮流结果。

HiVe-Mem 深度解析:多模态智能体记忆的“二维“解法——横向扩召回,纵向省 Token

HiVe-Mem提出多模态智能体记忆的“二维”解法:横向通过文本与视觉锚点构建轻量亲和图,扩召回漏检的相邻记忆;纵向用3层MLP选择器逐条决策证据暴露粒度(摘要/裁剪图/原图等),实现精准降本。在三个2026新基准上,F1与LJ均达第一,Token消耗较最优基线降低90%以上,兼顾性能与效率。

ChesterXue的博客 308

jre9下载 jdk9

(Java SE Runtime Environment 9.0) 9.0u175 官方最新版 【x86|x64】

服务器和windows客户端重启后,发现agent连不上lightmem和hive mcp了

服务器重启后,lightmem无法连接PostgreSQL(192.168.0.88:18444),日志显示connectECONNREFUSED。排查发现PG服务正常、jail运行中、bridge0成员齐全,但netstat -Iepair10a -b显示收包为0、错误计数持续增长,且arp无响应。最终定位为FreeBSD vnet jail的epair虚拟网卡在重启后“二次入狱”,导致跨vnet转发失效。修复方法:销毁并重建epair对,确保ifconfig epairXa up。同时发现lightme

skywalk8163的专栏 711

hive 集群连环故障根治 —— 工作总结报告 (运维记录/集群无主根 治_20261110.md)

2026年11月10日,针对hive集群频繁无主问题,定位并修复5大根因:主锁饥饿导致周期性假死(优化锁机制与批量提交)、选主逻辑僵化(引入四级择优链替代多数票约束)、生产与开发环境混用(实现守护进程与隔离部署)、网络单向不通阻碍迁移、文档与实际不符。通过重构选举策略、强化容错、完善文档与术语规范,集群稳定性显著提升,已成功推至远端,实现长期稳定运行。

skywalk8163的专栏 374

JSP 与 Servlet 结合开发:原理、协作方式与实战示例

JSP与Servlet结合是传统JavaWeb开发的核心模式:Servlet负责业务逻辑与流程控制,JSP专注页面渲染,实现MVC分离。JSP本质为Servlet的模板写法,通过请求转发(forward)共享request作用域数据,确保高效协作。实战中,Servlet处理数据并转发至JSP,JSP使用EL和JSTL动态展示,提升可读性与维护性。推荐将JSP置于WEB-INF下,避免直接访问,保障安全可控。掌握此模式,为理解SpringMVC等现代框架奠定基础。

xyouyuweizhu的博客 314

JitArchives,一款基于JitWord协同AI文档打造的企业级电子档案系统

本文拆解JitArchives智能电子档案系统,针对传统档案“检索难、关联难、溯源难”痛点,提出以证据驱动的AI架构:基于SQLite实现轻量化部署,融合档案Agent与知识图谱,支持自然语言问答、全文检索与关系挖掘,强调后端强校验、权限隔离与可追溯审计。系统不依赖向量库,通过FTS5+TF-IDF实现高效安全的智能化管理,适用于中小企事业单位私有化落地,推动档案从“存得下”迈向“用得好”。

趣谈前端 325

Hive的多机 AI Agent 协同看板实战:跨机留言、任务搁置、计划跟踪的三个设计取舍

本文介绍多机AI Agent协同系统Hive的三项关键设计取舍:跨机留言采用内存+本地文件存储,避免Git版本冲突与延迟;搁置状态主动释放资源并保留历史,通过按钮而非新增列管理,保持看板简洁;任务计划以Tab形式聚合任务,实现项目级进度追踪。核心原则是“能用文件解决就不加数据库,能复用界面就不新增层级”,所有功能均在零依赖前提下实现高可用与易用性。附带一次/api/plans 404排查,揭示了配置与路由匹配的深层陷阱,具有普遍参考价值。

skywalk8163的专栏 543

Hive任务调优

实测下来,对于小文件多的表,开启CombineHiveInputFormat后Map数量能降一个数量级,任务时间直接砍半。对于大任务而言,200 个分区往往不够,会导致每个分区的数据量过大、GC 压力升高。其原理是:Hive 在运行时检测到某些 key 的数据量超过阈值,就把这些 key 单独拆出来做 MapJoin,从而避免在 Reduce 端出现倾斜。在企业级场景下,这套自动计算经常不太靠谱。存在多个 Join 时,优化器可能调整关联顺序,让小表或过滤后的数据先参与 Join,从而降低中间结果规模。

weixin_45746689的博客 186

archive 归档文件

是编译后的库归档,不是项目压缩包,不能用“Existing Projects into Workspace → Select archive file”来导入项目。归档文件里应当包含 S32DS 能识别的项目结构,比如项目根目录下有。在 S32 Design Studio 导入项目的语境里,,IDE 会读取压缩包里的项目并导入到工作空间。它通常还带压缩,方便备份、传输和分发。否则 IDE 可能扫描不到项目。一个项目文件夹 → 打包成一个。时,你可以直接选中这个。

mingtiauigena的博客 57

ZArchiver安卓压缩解压缩工具下载安装

ZArchiver是一款功能强大的安卓文件压缩工具,支持7z、zip、rar、tar、iso等多种格式的压缩与解压,兼容Unicode文件名(UTF-8),完美显示中文不乱码。具备多线程加速、密码保护、分卷压缩包处理等功能,可创建和解压带密码的压缩文件,优化多核处理器性能,适用于日常高效管理文件。

hflmwl的博客 566

ubuntu安装hive

本文介绍基于Hive 4.0.1、Java 8与MapReduce的Hive分布式环境搭建流程:在master节点安装Hive、MySQL并配置元数据存储,通过HDFS保存数据;worker节点复用现有YARN资源。重点包括环境准备、Java 8与MySQL安装、Hive下载配置、JDBC驱动部署、Hive-site.xml连接设置及元数据库初始化。全程以dyl用户操作,确保兼容Hadoop 3.4.3,最终实现单机Hive服务运行,为后续分布式查询验证奠定基础。

qq_43592674的博客 294

大数据与应用服务赛题复现-Hive 3.1.3 安装与元数据

漏掉 guava 替换时,schematool 与 hive CLI 都会抛 NoSuchMethodError: com.google.common.base.Preconditions.checkArgument,现象是“命令能跑但一启动就崩”,很容易误判为 Hive 装坏。Hive 3.1.3 的安装、元数据库初始化与服务启动过程,覆盖 jar 依赖修正、hive-site.xml 配置、metastore 与 HiveServer2 的启动身份,以及安装完成后的检查点。执行后无输出即为成功。

lightningyang的博客 258
下一篇: 山大软工实践hive(2)-解析输入(OPTree是什么)
meloneatingguy
博客等级 码龄7年 1粉丝 15原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值