自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+
  • 博客(17)
  • 收藏
  • 关注

原创 Flink集成Hive案例

Flink集成Hive案例

2022-10-13 00:08:50 1035 1

原创 flink on yarn 问题记录3

提交flink任务到yarn上执行,发现提交一个任务会启动两个job

2022-09-02 11:19:23 770

原创 flink on yarn 问题记录2

flinkon yarn 问题记录

2022-09-02 11:05:19 1719

原创 flink on yarn 问题记录1

flink on yarn 报错处理

2022-08-21 21:44:05 4270

原创 spark3.0.1 on yarn 配置参数

spark3.0.1 on yarn 配置参数

2022-08-05 17:16:55 599

原创 集群磁盘空间不足问题排查

集群磁盘空间不足问题排查

2022-08-05 15:22:56 437

原创 spark on yarn 提交参数

spark on yarn 提交参数

2022-08-01 17:18:07 225

原创 linux 中声明全局环境变量文件路径

当我们配置完集群一键启动事,向随时在任何目录下执行命令。需要声明全局的环境变量。

2022-07-16 23:37:21 732

原创 重装VM导致虚拟机联网失败

NetworkManager和network两种网络管理工具,两种都配置,会引起冲突。最后还要检查一下虚拟网路编辑器和window上的网段是否一致。关闭NetworkManager服务并且关闭开机自启。再来执行ifconfig命令,发现正常了。重装后发现联网失败,百度了好多发现没啥用.用于显示或配置网络设备(网络接口卡)的命令。启动network服务。接下来ping一下看看。...

2022-07-16 23:24:12 514

原创 IDEA scala/spark导包位置在main代码块中如何解决

Scala import位置不正确

2022-06-18 23:09:59 268

原创 提交flink任务失败记录

提交flink任务失败记录

2022-06-17 17:59:43 510

原创 FLUME启动遇到的坑

首先我的环境hadoop版本: 3.1.x版本flume版本: 1.9.0安装启动配置source,channel,sink启动flume消费kafkaTopic中的数据,将数据上传到hdfs报错:如下出现该问题有可能是三种情况:一、环境变量未配置在安装了flume的所有机器上,首先都需要配置hadoop环境变量 配置环境变量即可二、flume安装目录中lib文件夹下的guava-11.0.2.jar的版本不兼容hadoop3.0.x上hadoop/sha..

2022-03-11 11:34:38 4974 2

原创 hive日期函数各种用法

1. 获取当前时间:yyyy-mm-ddSELECT CURRENT_DATE();current_date()2021-12-302. 获取当月第一天时间:yyyy-mm-ddselect date_sub(current_date,dayofmonth(current_date)-1);date_sub(current_date(), (dayofmonth(current_date()) - 1))2021-12-013. 获取下个月第一天时间:yyyy-mm-dd

2021-12-30 16:32:56 1571

原创 Hive中分号[ ; ]报错问题

今天开发过程中遇到一个问题想使用regexp_replace()函数来将字段中的分号替换成逗号代码如下:SELECT regexp_replace(baidu_lat_lng,";",",") as baidu_lat_lngFROM ods_land_info_df_test;报错信息:后来百度发现,原来hive对分号的识别问题所以我们以后遇到可以使用分号的二进制来[ "\073" ]代替修正后的代码SELECT baidu_lat_lng...

2021-10-15 22:44:23 648

原创 Hive常用函数

1.书写顺序-select-from-join-on-where-group by-having-order by-limit2.执行顺序- from - where - join - on - select - group by - having - distinct - order by - limit- union / union on

2021-10-10 21:09:00 1863

原创 HiveSQL语句解析流程

流程图地址https://cwiki.apache.org/confluence/display/Hive/Design#Design-HiveArchitecture一丶上图英文注释DRIVER---------------->驱动COMPILER-------------->编译器METASTORE------------->元数据JOBTRACKER------------>job服务器EXECCUTIONENGINE------>执行引擎met..

2021-09-29 18:02:31 691

原创 美团/得物sql面试题

1.美团面试图解题思路:1.找出uid不同的但是买过pro_id相同的商品的用户 [自连接] select a.uid, b.pro_id from tb_order a join tb_order b on a.pro_id = b.pro_id where a.uid <> b.uid -- 找出uid不同的但是pro_id相同的商品2.对uid和pro_id进行分组select a.uid, a.p.

2021-09-28 15:20:57 1974

空空如也

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除