
Shuffle
文章平均质量分 78
重启试试..
喜欢钻研大数据、python、机器学习、人工智能...
展开
专栏收录文章
- 默认排序
- 最新发布
- 最早发布
- 最多阅读
- 最少阅读
-
MapReduce运行流程
MapReducer的执行流程MapReducer工作流程图:MapReducer工作流程:------------------------------------------------mapper的工作--------------------------------------------1.mapper开始运行,调用InputFormat组件读取文件逻辑切片(逻辑切片不是block块,切片大小默认和block块大小相同 可以是block大小的110%)2.经过inputformat组件处理原创 2020-05-23 13:29:38 · 231 阅读 · 0 评论 -
Saprk的shuffer详解
<Spark 的ShuffleManager>Spark 1.6 和 1.6之前的 有两种 ShuffleManager(1) hashShuffleManager 最原始的 Spark2.3 之前 都有 2.3之后就留下 SortBuffer(2) sortShuffleManager 1.2引入的 2.3之后只留下这一个 Buffer了《hashShuff...原创 2020-09-29 10:39:23 · 149 阅读 · 0 评论