
➹➹➹⑧大数据踩坑填坑记录
爱是与世界平行
努力钻研学习中................
展开
-
Kafka踩坑填坑记录
Kafka踩坑填坑记录一、kafka通过Java客户端,消费者无法接收消息,生产者发送失败消息二、一、kafka通过Java客户端,消费者无法接收消息,生产者发送失败消息在虚拟机上,搭建了3台集群,然后,在虚拟机上,测试kafka,通过创建topic,生成者发送消息,消费者接收消息,全部正常;但是,改用Java客户端在进行测试时,生产者发送的消息,无法发送到虚拟机上,消费者也无法接收到任何消...原创 2019-06-17 15:17:44 · 2912 阅读 · 11 评论 -
Spark Dataset DataFrame 操作
Spark Dataset DataFrame 操作一、Spark2 Dataset DataFrame空值null,NaN判断和处理1.1 显示前10条数据1.2 删除所有列的空值和NaN1.3 删除某列的空值和NaN1.4 删除某列的非空且非NaN的低于10的1.5 填充所有空值的列1.6 对指定的列空值填充1.7 查询空值列1.8 查询非空列二、Dataset行列操作和执行计划2.1 常用包...转载 2019-08-14 16:10:50 · 1021 阅读 · 0 评论 -
Spark踩坑填坑-聚合函数-序列化异常
Spark聚合函数一、Spark聚合函数特殊场景二、spark sql group by一、Spark聚合函数特殊场景在对数据进行统计分析时,如果对指标进行聚合运算,而待查询的字段中还包含了维度,则原则上我们还需要按照维度字段进行分组。倘若这个聚合运算为sum函数,分组之后就相当于分类汇总了。有一种特殊场景是我们对指标执行了sum聚合,查询字段也包含了维度,但我们不希望对维度分组。例如:se...原创 2019-08-22 16:25:13 · 4290 阅读 · 1 评论 -
Phoenix踩坑填坑记录
Phoenix踩坑填坑记录Phoenix建表语句如何添加二级索引判断某表是否存在判断索引是否存在Date类型日期,条件判断杂项记录Phoenix开发过程中的填坑记录。部分原文地址:phoenix 常见问题与总结Phoenix建表语句CREATE TABLE IF NOT EXISTS BUS_INFO_GPS_DATA(busno VARCHAR(10) not null,gpsTime ...原创 2019-09-16 20:18:27 · 1791 阅读 · 0 评论