
Spark
文章平均质量分 59
spark知识总结
day_ue
这个作者很懒,什么都没留下…
展开
-
Spark的开发环境配置
这里主要记录一下,我们常用的maven配置,方便后期开发配置环境,避免每次都从零开始配置工程。原创 2024-06-04 23:14:26 · 665 阅读 · 1 评论 -
spark操作ES中数据出现的问题
Spark读取Es空字符串问题问题描述:order_tp在Es中存储为空字符串,读取到Spark中会出现各种意想不到的问题。ES中存储格式{ "_index": "dwd_monitor_yuepengfei_test", "_type": "doc", "_id": "15", "_score": 1, "_source": { "chnl_cd": "10", "order_tp": "" }}原创 2021-10-27 14:20:29 · 585 阅读 · 0 评论 -
cache、persist和checkpoint
cache、persist、checkpoint、spark原创 2021-10-11 23:18:22 · 175 阅读 · 0 评论 -
spark的shuffle机制
spark的shuffe及其演化发展过程原创 2021-09-28 20:46:18 · 523 阅读 · 0 评论