
Hadoop
文章平均质量分 91
AcceptedLin
ACC
展开
-
什么是中间件?常见中间件有哪些?
中间件是介于操作系统和应用软件之间,为应用软件提供服务功能的软件,有消息中间件,交易中间件,应用服务器等。由于介于两种软件之间,所以,称为中间件。转载 2023-02-07 15:30:44 · 5226 阅读 · 0 评论 -
三种恢复 HDFS 上删除文件的方法
三种恢复 HDFS 上删除文件的方法我们每天都可能会操作 HDFS 上的文件,这就很难避免误操作,比如比较严重的误操作就是删除文件。本文针对这个问题提供了三种恢复误删除文件的方法,希望对大家的日常运维有所帮助。通过垃圾箱恢复HDFS 为我们提供了垃圾箱的功能,也就是当我们执行hadoop fs -rmr xxx命令之后,文件并不是马上被...转载 2020-03-15 15:37:45 · 601 阅读 · 0 评论 -
Mac hive 配置和安装
Mac hive 配置和安装Mac hive 配置和安装安装brew install hive该命令默认安装的版本较新,我的是 hive2.3.1,安装位置:/usr/local/Cellar/hive/ 2. 环境变量,修改的是当前用户 vim ~/.bash_profileexpor...转载 2019-08-25 15:33:13 · 159 阅读 · 0 评论 -
Hive 查询数据导出到本地目录或 hdfs 的方法
Hive 查询数据导出到本地目录或 hdfs 的方法说明在最近的项目中,需要将最终生成的 Hive 表数据导出到文件中,具体实现请参见下方 SQL。查询结果导入到 hdfs 文件一般方式:insert overwrite directory '/hive/test_data' select * from test; 自定义输出样式方式:...转载 2019-08-25 15:08:55 · 1247 阅读 · 0 评论 -
【Hive】解析json(get_json_object)
【Hive】解析json(get_json_object)get_json_object(string json_string, string path)说明:第一个参数填写json对象变量,第二个参数使用$表示json变量标识,然后用 . 或 [] 读取对象或数组;如果输入的json字符串无效,那么返回NULL。每次只...转载 2019-08-19 18:17:51 · 5143 阅读 · 0 评论 -
hadoop job -kill 与 yarn application -kii
hadoop job -kill 与 yarn application -kii问题详情解决办法 有时候上述这样kill做下来,并不管用,得再来...转载 2019-08-19 17:13:18 · 1044 阅读 · 0 评论 -
Hadoop Shell命令
Hadoop Shell命令FS Shell调用文件系统(FS)Shell命令应使用bin/hadoop fs <args>的形式。 所有的的FS shell命令使用URI路径作为参数。URI格式是scheme://authority/path。对HDFS文件系统,scheme是h...转载 2019-07-28 16:28:43 · 154 阅读 · 0 评论 -
hive 和sql的不同点
hive 和sql的不同点1 建表不一样,hive有按行分割,按字段分割,sql没有.2 hive 不支持等值连接,sql支持等值连接,比如 SQL中对两表内联可以写成:select * from dual a,dual b where a.key = b.key;Hive中应为:select * fr...转载 2019-07-04 17:12:46 · 5134 阅读 · 0 评论 -
Hive学习之建表、插入数据、查询
Hive学习之建表、插入数据、查询hive> use hive ;OKTime taken: 0.024 secondshive> show tables;OKTime taken: 0.057 secondshive> create table if not exists student(name string,ag...原创 2019-02-11 14:29:55 · 13943 阅读 · 0 评论 -
分布式计算框架
分布式计算框架Hadoop是基础,其中的HDFS提供文件存储,Yarn进行资源管理。在这上面可以运行MapReduce、Spark、Tez等计算框架。MapReduce:是一种离线计算框架,将一个算法抽象成Map和Reduce两个阶段进行处理,非常适合数据密集型计算。Spark:Spark是UC Berkele...转载 2019-02-11 11:55:06 · 7792 阅读 · 0 评论