- 博客(5)
- 收藏
- 关注
原创 SPARK内存参数和优化
spark.shuffle.memoryFraction 该参数用于设置shuffle过程中一个task拉取到上个stage的task的输出后,进行聚合操作时能够使用的Executor内存的比例,默认是0.2。也就是说,Executor默认只有20%的内存用来进行该操作。(3)对于task的执行,可能会创建很多对象.如果内存比较小,可能会频繁导致JVM堆内存满了,然后频繁GC,垃圾回收 ,minor GC和full GC.(速度很慢).内存加大以后,带来更少的GC,垃圾回收,避免了速度变慢,性能提升。
2024-01-31 15:55:10
1128
原创 总结:IDEA项目打jar包
本文章内容是关于IDEA项目打包的一些经验,内容将会不断的总结并补充。一.IDEA中maven项目打包总结:1.点击IDEA工具栏file按钮选择project structure,或者点击右上方的快捷按钮2.选择artifacts,点击+号选择生成jar文件,选择从项目模块生成并包含依赖包3.填写jar包的配置信息:选择项目模块,main class,依赖的jar包的处理方式,最后点o...
2019-09-21 22:23:53
426
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人
RSS订阅